文献

J-GLOBAL ID：202002219005530106   整理番号：20A2471991

分類器に対するデータ中毒攻撃に対するスケーラブルな混合モデルベース防御【JST・京大機械翻訳】

A Scalable Mixture Model Based Defense Against Data Poisoning Attacks on Classifiers

著者 (4件)： Li Xi (School of EECS, The Pennsylvania State University, University Park, PA, USA) ,  Miller David J. (School of EECS, The Pennsylvania State University, University Park, PA, USA) ,  Xiang Zhen (School of EECS, The Pennsylvania State University, University Park, PA, USA) ,  Kesidis George (School of EECS, The Pennsylvania State University, University Park, PA, USA)
資料名： Lecture Notes in Computer Science  (Lecture Notes in Computer Science)
巻： 12312  ページ： 262-273  発行年： 2020年 
JST資料番号： H0078D  ISSN： 0302-9743  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： ドイツ (DEU)  言語： 英語 (EN)

抄録/ポイント： 分類器,例えばNaive Bayes,サポートベクトルマシン,またはニューラルネットワークでさえ,データ中毒攻撃に対して非常に感受性が高い。攻撃目的は,訓練セットに悪意のある(ラベル付き)サンプルを埋め込むことにより分類精度を劣化させることである。そのような攻撃は,アウトソーシングプロセス(データ収集または訓練のための)を通して,または能動的学習の間,知覚できる。ある場合には,非常に少量の被毒が分類精度の劇的な減少をもたらす。データ被毒攻撃は,主に悪意のある注入サンプルが崩壊したクラスのデータ分布を著しく歪めるので,成功する。そのような攻撃サンプルは,一般に,データ異常値であり,そして,クリーンサンプルから原理的に分離できる。一般化,スケーラブル,動的データ駆動防御システムを提案する。1)混合モデルを用いて,(潜在的マルチモーダル)データによく適合し,混合成分の小さなサブセットにおける攻撃試料を分離する可能性を与えた。2)これらの成分内のどの成分およびどのサンプルが被毒されているかを決定する仮説検定を行い,訓練セットからパージした同定毒化物を持つ。提案アプローチは,敵対サンプルが初期訓練セットに埋め込まれた未知の部分集合である攻撃シナリオに対処し,任意のタイプの分類器の訓練に対する前駆体としてのデータ衛生化を実行するのに使用できる。TREC05スパムコーパスとアマゾンレビューの極性データセットに関する実験に対する有望な結果は,著者らの防御戦略の有効性を示す。Copyright Springer Nature Switzerland AG 2020 Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 学習 ,  ニューラルネットワーク ,  感受性 ,  仮説検定 ,  衛生 ,  前駆体 ,  多モード ,  異常値 ,  データ収集 ,  有効性 ,  *サポートベクトルマシン
準シソーラス用語： 分類精度 ,  *混合モデル ,  データ駆動 ,  Naive Bayes , 【Automatic Indexing@JST】

著者キーワード (6件)： 敵対的学習 ,  データ中毒発作 ,  混合モデリング ,  節約混合物 ,  スパムフィルタ ,  感情分析

分類 (2件)： 人工知能  (JE08000Z) ,  データ保護  (JD01020V)

タイトルに関連する用語 (5件)： 分類器 ,  中毒 ,  攻撃 ,  混合モデル ,  防御