文献

J-GLOBAL ID：201702245402457878   整理番号：17A1913676

Generative Adversarial Networksを用いた確率的識別モデルから訓練データ生成分布の推定

Estimation of Training Data Distribution from Probabilistic Classifier using Generative Adversarial Networks

著者 (3件)： 草野光亮 (筑波大 大学院システム情報工学研究科) ,  佐久間淳 (筑波大 大学院システム情報工学研究科) ,  佐久間淳 (理研 革新知能統合研究セ)
資料名： 電子情報通信学会技術研究報告  (IEICE Technical Report (Institute of Electronics, Information and Communication Engineers))
巻： 117  号： 293(IBISML2017 35-89)  ページ： 301-308  発行年： 2017年11月02日 
JST資料番号： S0532B  ISSN： 0913-5685  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 機械学習を利用したサービスにおいて,オフライン環境で予測を行う場合など,モデルを第三者に公開しなければならない場合が存在する。しかし,訓練データやその生成分布が秘密情報である場合,公開されたモデルから訓練データ生成分布が推定される恐れがある。本稿では,この攻撃を定式化しClassifier-to-Generator攻撃と命名する。加えて,Generative Adversarial Networksを用いた攻撃アルゴリズムを提案する。実験により,第三者が推定対象のラベルのサンプルを知識として持っておらずとも,いくつかの条件下において,訓練データ生成分布を推定でき,推定対象のラベルのサンプルを生成することができることを示した。(著者抄録)

シソーラス用語： 機械学習 ,  *データ ,  モデル ,  情報 ,  攻撃行動 ,  *情報セキュリティ ,  プライバシー ,  予測モデル ,  *推定 ,  確率モデル ,  認識 ,  サイバー攻撃 ,  深層学習 ,  生成モデル ,  個人認証 ,  数学モデル
準シソーラス用語： *訓練データ ,  個人識別 ,  攻撃【情報】 ,  秘密情報 ,  *分布推定

分類 (2件)： データ保護  (JD01020V) ,  人工知能  (JE08000Z)

引用文献 (16件)：

• I. J. Goodfellow: ′′NIPS 2016 tutorial: Generative adversarial networks′′, CoRR, abs/1701.00160, (2017).
• A. Radford, L. Metz and S. Chintala: ′′Unsupervised representation learning with deep convolutional generative adversarial networks′′, CoRR, abs/1511.06434, (2015).
• M. Fredrikson, E. Lantz, S. Jha, S. Lin, D. Page and T. Ristenpart: ′′Privacy in pharmacogenetics: An end-to-end case study of personalized warfarin dosing′′, 23rd USENIX Security Symposium (USENIX Security 14), San Diego, CA, USENIX Association, pp. 17-32 (2014).
• M. Fredrikson, S. Jha and T. Ristenpart: ′′Model inversion attacks that exploit confidence information and basic countermeasures′′, Proceedings of the 22Nd ACM SIGSAC Conference on Computer and Communications Security, CCS '15, New York, NY, USA, ACM, pp. 1322-1333 (2015).
• A. Mahendran and A. Vedaldi: ′′Understanding deep image representations by inverting them′′, IEEE Conference on Computer Vision and Pattern Recognition, CVPR 2015, Boston, MA, USA, June 7-12, 2015, pp. 5188-5196 (2015).

タイトルに関連する用語 (6件)： 確率 ,  識別 ,  モデル ,  訓練データ ,  分布 ,  推定