Markov連鎖モンテカルロベースのマシン・アンラーニング:忘れられたことを忘れないこと【JST・京大機械翻訳】

Nguyen Quoc Phong; Oikawa Ryutaro; Divakaran Dinil Mon; Chan Mun Choon; Low Bryan Kian Hsiang

プレプリント

J-GLOBAL ID：202202208251785508 整理番号：22P0296197

Markov連鎖モンテカルロベースのマシン・アンラーニング:忘れられたことを忘れないこと【JST・京大機械翻訳】

Markov Chain Monte Carlo-Based Machine Unlearning: Unlearning What Needs to be Forgotten

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (5件)： , , , ,
資料名：
発行年： 2022年02月28日プレプリントサーバーでの情報更新日： 2022年02月28日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

※このプレプリント論文は学術誌に掲載済みです。なお、学術誌掲載の際には一部内容が変更されている可能性があります。

機械学習(ML)モデルの利用は,多くの実世界アプリケーションでますます普及しているので,モデル保全のために取り組む必要がある実用的挑戦がある。1つの課題は,モデルの訓練に用いるデータセットの特定部分集合の影響である。この特定の部分集合は,攻撃者によって注入された悪意のあるまたは敵対的データを含み,それはモデル性能に影響を及ぼす。もう一つの理由は,ユーザのプライバシーに関する特定のユーザに関連するデータを除去するサービスプロバイダの必要性であるかもしれない。両事例において,問題は,スクラッチから全体のモデルを再訓練する高価な手順を起こさずに訓練されたモデルから訓練データの特定の部分集合を「unlearn」することである。この目標に向けて,本論文はMarkov連鎖モンテカルロベースマシン非学習(MCU)アルゴリズムを提示した。MCUは訓練データセットの部分集合から訓練されたモデルを効果的かつ効率的に学習するのを助ける。さらに,MCUを用いて,モデル予測に対する訓練データセットの部分集合の影響を説明できることを示した。したがって,MCUは,除去されるべき敵対データを同定するために,データのサブセットを調べるのに有用である。同様に,MCUは,訓練されたMLモデルからユーザの個人データの系統を消去するために使用可能であり,その結果,利用者の「権利を忘れる」を上回る。実世界フィッシングと糖尿病データセットに関する提案MCUアルゴリズムの性能を経験的に評価した。結果は,MCUが訓練データセットの部分集合の影響を効率的に除去することによって望ましい性能を達成し,残りのデータセットを利用する既存のアルゴリズムより優れていることを示した。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , , 【Automatic Indexing@JST】

人工知能

前のページに戻る