ラベルのみのモデル反転攻撃:最小情報を必要とする攻撃【JST・京大機械翻訳】

Ye Dayong; Zhu Tianqing; Zhou Shuai; Liu Bo; Zhou Wanlei

プレプリント

J-GLOBAL ID：202202200050961242 整理番号：22P0303205

ラベルのみのモデル反転攻撃:最小情報を必要とする攻撃【JST・京大機械翻訳】

Label-only Model Inversion Attack: The Attack that Requires the Least Information

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (5件)： , , , ,
資料名：
発行年： 2022年03月12日プレプリントサーバーでの情報更新日： 2022年03月12日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

モデルインバージョン攻撃において,モデル出力のみを用いて,目標モデルを訓練するために,データ記録を再構成する敵対的試みを行った。現代のモデル反転攻撃を打ち上げて,議論された戦略は,一般に,予測信頼度スコアベクトル,すなわち,ブラックボックス攻撃,あるいは,ターゲットモデル,すなわち,ホワイトボックス攻撃のパラメータに基づいている。しかし,実世界では,モデル所有者は,通常,予測ラベルのみを与える。信頼スコアベクトルとモデルパラメータは,そのような攻撃を防ぐための防御機構として隠されている。残念ながら,出力ラベルのみに基づく入力データ記録を再構成できるモデル反転法を見出した。これは,成功する最小情報を必要とする攻撃であり,従って,最良の適用性を持つと信じる。重要なアイデアは,目標モデルの誤差率を利用して,データ記録の集合から目標モデルの決定境界までの中央値距離を計算した。次に,距離を,データ記録を再構成するために攻撃モデルを訓練するために採用される信頼スコアベクトルを生成するために使用する。実験結果は,高い認識可能なデータ記録が既存の方法よりはるかに少ない情報で再構成できることを示した。【JST・京大機械翻訳】

, , , , , , , ,
, , , , , , 【Automatic Indexing@JST】

データ保護 , 人工知能

, , ,

前のページに戻る