テキスト分類における分布外サンプルと敵対サンプルの理解,検出,および分離【JST・京大機械翻訳】

Chiang Cheng-Han; Lee Hung-yi

プレプリント

J-GLOBAL ID：202202205876595686 整理番号：22P0328880

テキスト分類における分布外サンプルと敵対サンプルの理解,検出,および分離【JST・京大機械翻訳】

Understanding, Detecting, and Separating Out-of-Distribution Samples and Adversarial Samples in Text Classification

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (2件)： ,
資料名：
発行年： 2022年04月09日プレプリントサーバーでの情報更新日： 2022年04月09日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

本論文では,テキスト分類モデルのパフォーマンスを浪費する,統計的に分布外(OOD)サンプルと敵対(Adv)サンプルの間の差異と共通性を研究した。入力特徴,モデルの各層における隠れ表現,および分類器の出力確率分布の3つの側面から,2種類の異常(OODとAdvサンプル)を分布(ID)のものと比較する。OOD試料は最初の層から始まる収差を露出するが,Adv試料の異常はモデルのより深い層まで現れないことを見出した。また,Advサンプルに対するモデルの出力確率は,より不整合である傾向があることを示した。この観測に基づき,隠れ表現とモデルの出力確率を用いてID,OOD,およびAdvサンプルを分離する簡単な方法を提案した。ID,OODデータセット,およびAdv攻撃の多重組合せにおいて,提案手法はID,OOD,およびAdvサンプルを識別する例外的な結果を示した。【JST・京大機械翻訳】

, , , , , , , , ,
, , , 【Automatic Indexing@JST】

人工知能 , 数値計算

, , , ,

前のページに戻る