機械(非)学習における削除推論,再構成およびコンプライアンス【JST・京大機械翻訳】

Gao Ji; Garg Sanjam; Mahmoody Mohammad; Vasudevan Prashant Nalini

プレプリント

J-GLOBAL ID：202202200069012683 整理番号：22P0286072

機械(非)学習における削除推論,再構成およびコンプライアンス【JST・京大機械翻訳】

Deletion Inference, Reconstruction, and Compliance in Machine (Un)Learning

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2022年02月07日プレプリントサーバーでの情報更新日： 2022年02月07日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

機械学習モデルに対するプライバシー攻撃は,そのようなモデルを訓練するために使用されるデータを同定することを目的とする。伝統的にそのような攻撃は,一度訓練され,敵対によってアクセスできる静的モデルに関して研究されている。新しい法的要求に適合する動機として,多くの機械学習法が,最近,機械非学習をサポートするために拡張され,例えば,特定の用例がそれらの訓練集合から取り除かれ,新しい法的要求を満たしているならば,更新モデルを更新する。しかし,プライバシー攻撃は,攻撃者が削除前の元のモデルおよび欠失後の新しいモデルの両方にアクセスすることができるので,この新設定においてより壊滅的になる可能性がある。実際,欠失の非常に行動は,削除された記録をプライバシー攻撃により脆弱にするかもしれない。暗号定義と微分プライバシーフレームワークに触発されて,著者らは機械非学習のプライバシー含意を形式的に研究する。(多様な形式の)欠失推論と欠失再構成攻撃を定式化し,そこでは,その記録がどの記録が削除されるか,または,削除された記録を再構成するか(おそらく,)を再構成するかどうかを狙った。次に,分類,回帰および言語モデルのような様々な機械学習モデルおよびタスクに対して,成功した削除推論および再構成攻撃を提示した。最後に,提案方式が(Garg,Goldwaser,およびVasudevan,Eurocryp’20)の方式を満たすならば,攻撃がおそらく排除されることを示す。【JST・京大機械翻訳】

, , , , , , , , , , , ,
, , 【Automatic Indexing@JST】

人工知能 , データ保護

, , , ,

前のページに戻る