タスク-アグノスティックロバスト表現学習【JST・京大機械翻訳】

Nguyen A. Tuan; Lim Ser Nam; Torr Philip

プレプリント

J-GLOBAL ID：202202203362413128 整理番号：22P0304246

タスク-アグノスティックロバスト表現学習【JST・京大機械翻訳】

Task-Agnostic Robust Representation Learning

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年03月14日プレプリントサーバーでの情報更新日： 2022年03月14日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

深層学習モデルは,その入力の小さいが意図的に選択された摂動に対して極めて脆弱であることが報告されている。特に,クリーン画像でのその近最適精度にもかかわらず,深いネットワークは,最悪ケースの画像を誤って分類するが,しかし,人間的に知覚できない摂動(いわゆる敵対例)を誤分類する。この問題に取り組むために,そのロバスト性を改善するために,ネットワークの訓練手順を研究するために大量の研究がなされてきた。しかしながら,今までのほとんどの研究は,教師つき学習の事例に焦点を合わせてきた。自己監督学習法の人気の増加とともに,下流タスクに関するそれらの結果表現のロバスト性を研究し,改善することも重要である。本論文では,タスク診断方法でラベルなしデータによるロバスト表現学習の問題を研究した。具体的には,まず,クリーンデータ上の損失とロバスト性正則化器を用いて,任意の下流タスクにおける予測モデル(学習表現に基づく)の敵対的損失に関する上限を導出した。さらに,正則化器はタスク非依存性であり,従って,下流予測モデルをよりロバストにするために,表現学習フェーズ中にそれを直接的に最小化することを提案する。広範な実験は,著者らの方法が関連するベースラインと比較して好ましい敵対性能を達成することを示した。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , , , 【Automatic Indexing@JST】

人工知能 , パターン認識

前のページに戻る