文献

J-GLOBAL ID：202202213383285535   整理番号：22A0771863

より強力なデータ中毒はデータサニタリゼーション防御を攻撃する【JST・京大機械翻訳】

Stronger data poisoning attacks break data sanitization defenses

著者 (3件)： Koh Pang Wei (Department of Computer Science, Stanford University, Stanford, USA) ,  Steinhardt Jacob (Department of Statistics, UC Berkeley, Berkeley, USA) ,  Liang Percy (Department of Computer Science, Stanford University, Stanford, USA)
資料名： Machine Learning  (Machine Learning)
巻： 111  号： 1  ページ： 1-47  発行年： 2022年 
JST資料番号： W2199A  ISSN： 0885-6125  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： ドイツ (DEU)  言語： 英語 (EN)

抄録/ポイント： 外界からのデータで訓練された機械学習モデルは,モデル訓練セットに悪意のある点を注入するデータ被毒攻撃によって破壊される。これらの攻撃に対する一般的な防御は,データ衛生化である:まず,モデルを訓練する前に,異常訓練点をフィルタリングする。本論文では,最近傍,訓練損失,および特異値分解に基づく異常検出器を含む,広範囲の一般的データ消毒防御を迂回できる3つの攻撃を開発した。ちょうど3%の被毒データを加えることによって,著者らの攻撃は,Enron spam検出データセットの試験誤差を3から24%まで,IMDB感情分類データセットを12から29%まで首尾よく増加させる。対照的に,これらのデータ消毒防御を明示的に考慮しない既存の攻撃は,それらによって除かれている。著者らの攻撃は2つのアイデアに基づいている。(i)この攻撃を互いに近接した点に配置し,(ii)各攻撃を制約付き最適化問題として定式化し,制約付き点が検出を回避できるように設計された制約を持つ。この最適化は高価なバイレベル問題を解決するので,この3つの攻撃は,影響関数に基づいてこの問題を近似する異なる方法に対応する。ミニマックス双対性;およびKarus-Kuhn-Tucker(KKT)条件。著者らの結果は,データ中毒攻撃に対するよりロバストな防御を開発する必要性を強調する。Copyright The Author(s), under exclusive licence to Springer Science+Business Media LLC, part of Springer Nature 2021 Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 検出 ,  最適化 ,  双対性 ,  データ ,  フィルタリング ,  消毒 ,  衛生 ,  問題 ,  定式化 ,  ロバスト性 ,  制約付最適化問題 ,  機械学習 ,  特異値分解 ,  *サイバー攻撃
準シソーラス用語： 異常検出 , 【Automatic Indexing@JST】

著者キーワード (4件)： データ中毒 ,  データ消毒 ,  異常検出 ,  セキュリティ

分類 (1件)： 人工知能  (JE08000Z)

タイトルに関連する用語 (3件)： 中毒 ,  防御 ,  攻撃