真実血清:その秘密を明らかにするための中毒機械学習モデル【JST・京大機械翻訳】

Tramer Florian; Shokri Reza; Joaquin Ayrton San; Le Hoang; Jagielski Matthew; Hong Sanghyun; Carlini Nicholas

プレプリント

J-GLOBAL ID：202202202283520125 整理番号：22P0323529

真実血清:その秘密を明らかにするための中毒機械学習モデル【JST・京大機械翻訳】

Truth Serum: Poisoning Machine Learning Models to Reveal Their Secrets

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (7件)： , , , , , ,
資料名：
発行年： 2022年03月31日プレプリントサーバーでの情報更新日： 2022年10月06日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

機械学習モデルに新しいクラスの攻撃を導入した。訓練データセットを被毒できる敵対は,このデータセットで訓練されたモデルを引き起こし,他の関係者に属する訓練点の重要な個人の詳細を漏れることを示した。アクティブ推論攻撃は,機械学習訓練データの完全性とプライバシーをターゲットとする2つの独立した作業を接続する。著者らの攻撃は,メンバーシップ推論,属性推論,およびデータ抽出を通して効果的である。例えば,著者らの目標攻撃は,1から2桁の推論攻撃の性能を上げるために,訓練データセットの<0.1%を被毒することができた。さらに,訓練データ(例えば,50%)のかなりの部分を制御する敵対は,他のすべてのユーザのそうでないデータポイントで8xのより正確な推論を可能にする非標的攻撃を打ち出すことができる。この結果は,もし,もし,その訓練データの共有を任意に選択できるならば,この結果が,機械学習のためのマルチパーティ計算プロトコルにおける暗号プライバシー保証の適切性に関する疑問【JST・京大機械翻訳】

, , , , , , , , , , ,
, , , 【Automatic Indexing@JST】

人工知能 , データ保護

, , , ,

前のページに戻る