敵対単語置換に対するロバスト性の定量化【JST・京大機械翻訳】

Yang Yuting; Huang Pei; Ma FeiFei; Cao Juan; Zhang Meishan; Zhang Jian; Li Jintao

プレプリント

J-GLOBAL ID：202202219392313504 整理番号：22P0026066

敵対単語置換に対するロバスト性の定量化【JST・京大機械翻訳】

Quantifying Robustness to Adversarial Word Substitutions

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (7件)： , , , , , ,
資料名：
発行年： 2022年01月11日プレプリントサーバーでの情報更新日： 2022年01月11日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

深層学習ベースNLPモデルは単語置換摂動に対して脆弱であることが分かる。それらが広く採用される前に,ロバスト性の基本的問題は対処する必要がある。このラインに沿って,単語レベルロバスト性を評価するための形式的フレームワークを提案した。最初に,モデルのための安全な領域を研究するために,著者らは,モデルが任意の摂動に耐えることができる境界であるロバスト性半径を導入した。最大ロバスト性半径の計算は計算上困難であるので,その上限と下限を推定した。著者らは,よりタイトな上限のための擬似動的計画法アルゴリズムを設計して,上限を追求する方法として攻撃方法を再目的とする。次に,検証方法を下限のために利用した。さらに,安全な半径の外側の領域のロバスト性を評価するために,他の見解からロバスト性を再調査した。厳密な統計的保証によるロバスト性計量を導入し,安全半径の外の摂動に対するモデルの感受性を示す敵対例の定量化を測定した。計量は,BERTのような最先端のモデルが,少数の単語置換によって容易に統合できるが,実世界雑音の存在下でよく一般化できる理由を,著者らに助ける。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , , 【Automatic Indexing@JST】

パターン認識 , 人工知能 , データ保護

, , , ,

前のページに戻る