感情解析モデルにおける敵対攻撃を軽減するためのランダム摂動の利用【JST・京大機械翻訳】

Swenor Abigail; Kalita Jugal

プレプリント

J-GLOBAL ID：202202208199416809 整理番号：22P0288370

感情解析モデルにおける敵対攻撃を軽減するためのランダム摂動の利用【JST・京大機械翻訳】

Using Random Perturbations to Mitigate Adversarial Attacks on Sentiment Analysis Models

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (2件)： ,
資料名：
発行年： 2022年02月11日プレプリントサーバーでの情報更新日： 2022年02月11日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

深い学習モデルに関する攻撃は,しばしば同定するのが困難であり,従って保護するのは難しい。この問題は,使用前に手動で検査されない公共データセットの使用により悪化する。本論文では,試験中に,必要な場合,ランダム同義語による置換,あるいは単語を単純に滴下するような,スペリング補正のようなランダム摂動を用いて,この脆弱性に対する解決策を提供した。これらの摂動をランダム文章のランダム単語に適用して,敵対攻撃に対するNLPモデルを防御した。攻撃前のモデルの類似精度に攻撃されたモデルを回復するのに,ランダム摂動防御と増加ランダム性防御法が成功する。本研究で使用したモデルの元の精度は,感情分類に対して80%であった。攻撃を受けた後,精度は0%と44%の間の精度に低下した。防衛法を適用した後,モデルの精度は,統計的有意性内で元の精度に戻った。【JST・京大機械翻訳】

, , , , , , , , ,
, , , , , 【Automatic Indexing@JST】

人工知能

, , , ,

前のページに戻る