Fool変圧器ベースのテキスト分類器に対するブロックスパース敵対攻撃【JST・京大機械翻訳】

Sadrizadeh Sahar; Dolamic Ljiljana; Frossard Pascal

プレプリント

J-GLOBAL ID：202202218823484097 整理番号：22P0302598

Fool変圧器ベースのテキスト分類器に対するブロックスパース敵対攻撃【JST・京大機械翻訳】

Block-Sparse Adversarial Attack to Fool Transformer-Based Text Classifiers

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年03月11日プレプリントサーバーでの情報更新日： 2022年03月11日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

最近,異なる分野における深いニューラルネットワークの重要な性能にもかかわらず,それらは敵対例に対して脆弱であることが示されている。本論文では,変圧器ベーステキスト分類器に対する勾配ベース広告攻撃を提案した。提案手法における敵対的摂動は,ブロックスパース性であり,その結果,得られた敵対的用例は,少数の単語だけにおいて元の文章と異なった。テキストデータの離散的な性質のため,提案最適化問題の最小値を見つけるため勾配投影を行った。実験結果は,著者らの敵対攻撃が文章の意味論を維持する一方,異なるデータセット(AGニュース,MNLI,およびYelpレビュー)において,GPT-2の精度を5%未満に減らすことができることを証明した。さらに,提案した最適化問題のブロックスパース制約は,敵対例における小さな摂動をもたらす。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , , , 【Automatic Indexing@JST】

データ保護 , 人工知能

, , ,

前のページに戻る