知覚可能なバックドアトリガによる連続学習者における偽記憶形成【JST・京大機械翻訳】

Umer Muhammad; Polikar Robi

プレプリント

J-GLOBAL ID：202202202330254412 整理番号：22P0287091

知覚可能なバックドアトリガによる連続学習者における偽記憶形成【JST・京大機械翻訳】

False Memory Formation in Continual Learners Through Imperceptible Backdoor Trigger

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (2件)： ,
資料名：
発行年： 2022年02月09日プレプリントサーバーでの情報更新日： 2022年02月09日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

本短報では,連続(増分)学習モデルに対して提示された新しい情報を順次学習することは,新しいセキュリティリスクを導入する:知的敵対は,訓練中に,特定のタスクまたはクラスの意図的忘却を引き起こすために,訓練中のモデルに対して少量の誤情報を導入することができ,その結果,タスクに関する「偽記憶」を創造する。MNISTの連続的学習ベンチマーク変異体と,より挑戦的なSVHNとCIFAR10データセットを用いて,通常使用される生成再生と正則化に基づく連続学習アプローチに「バックドア」攻撃サンプルを注入することによって,モデルの制御を想定するそのような敵対能力を実証した。おそらく最も損傷するのは,この脆弱性が非常に急性で,例外的に効果的であることを示す:著者らの攻撃モデルにおけるバックドアパターンは,人間の眼に不感性であり,任意の時点で提供でき,単一タスクの訓練データに追加でき,単一タスクの全訓練データセットのわずか1%で達成できる。【JST・京大機械翻訳】

, , , , , , , , , , , ,
, , , 【Automatic Indexing@JST】

人工知能 , データ保護

, , , ,

前のページに戻る