文献

J-GLOBAL ID：201802223346027612   整理番号：18A2207123

オンライン予測システムのためのモデル反転攻撃:非機密属性の知識なしに

Model Inversion Attacks for Online Prediction Systems: Without Knowledge of Non-Sensitive Attributes

著者 (6件)： HIDANO Seira (KDDI Research, Inc.) ,  MURAKAMI Takao (National Institute of Advanced Industrial Science and Technology (AIST)) ,  KATSUMATA Shuichi (National Institute of Advanced Industrial Science and Technology (AIST)) ,  KATSUMATA Shuichi (University of Tokyo) ,  KIYOMOTO Shinsaku (KDDI Research, Inc.) ,  HANAOKA Goichiro (National Institute of Advanced Industrial Science and Technology (AIST))
資料名： IEICE Transactions on Information and Systems (Web)  (IEICE Transactions on Information and Systems (Web))
巻： E101.D  号： 11  ページ： 2665-2676(J-STAGE)  発行年： 2018年 
JST資料番号： U0469A  ISSN： 1745-1361  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 英語 (EN)

抄録/ポイント： 機械学習(ML)アルゴリズムを使用するITサービスの数は,連続的かつ急速に成長しているが,多くは個人データからいくつかのタイプの予測を行うために実際に使用されている。当然のことながら,MLのこの突然のブームにより,MLシステムでの個人データの処理方法は,以前には考慮されていなかった深刻なプライバシー問題を起こし始めている。最近,Fredriksonら[USENIX2014][CCS2015]は,ターゲットユーザの機密属性値を推測することを目的とするモデル反転攻撃と呼ばれるMLシステムに対する新しい攻撃法を提案した。彼らの研究では,モデル反転攻撃が成功するためには,攻撃者は攻撃の前にターゲットユーザに関する2種類の情報すなわち,MLシステムの出力値(つまり予測)と出力の学習に使用するすべての非機密値を取得する必要があった。従って,この攻撃によって新たなプライバシーの問題を引き起こすが,攻撃者はすべての非機密値を事前に知っておく必要があるため,攻撃によってどれだけのリスクが生じるのか完全には明らかではなかった。特に,ユーザがこれらの値を機密ではないと見なしても,攻撃者が攻撃前に機密ではない属性値をすべて取得することは困難である可能性があり,攻撃は無効になる。目標ユーザの非機密属性を攻撃者が利用できない場合のモデル反転攻撃のリスクを定量化することを本論文の目的とした。この目的のために,著者らは最初に,攻撃者に利用可能な補助情報の量をモデル化する一般的モデルインバージョン(GMI)フレームワークを提案した。著者らのフレームワークは,特別なケースとしてFredriksonらのモデル反転攻撃を捉え,一方,非機密属性の知識なしで機密属性を推論するモデル反転攻撃を捉えた。後者の攻撃に対して,著者らは,非機密属性の知識なしで,目標ユーザの機密属性を推論する方法に関する一般的方法論を提供した。高レベルで著者らは,非機密属性の知識なしにモデル反転攻撃を実行することを可能にする特別なタイプのMLモデルである,ターゲットMLモデルに用いる内部MLモデルを修正するために,概念的に斬新な方法でデータポイズニングパラダイムを使用して悪意のあるデータをMLシステムに注入した。最後に,筆者らの一般的方法に従い,線形回帰モデルを内部的に使用したMLシステムをGMIフレームワークにキャストし,非機密属性の知識を必要としないモデル反転攻撃のための具体的アルゴリズムを提案した。著者らは,2種類の実データセットを用いた実験評価により,このモデル反転攻撃の有効性を示した。(翻訳著者抄録)

シソーラス用語： *システム ,  *回線接続 ,  モデル ,  機械学習 ,  保護 ,  属性 ,  性質 ,  *行為 ,  *サイバー攻撃
準シソーラス用語： *オンライン ,  プライバシー保護 ,  機密性 ,  属性情報 ,  *予測システム

著者キーワード (4件)： ブラックボックス ,  モデル反転 ,  データ中毒 ,  オンラインMLシステム

分類 (2件)： データ保護  (JD01020V) ,  計算機網  (JC03000K)

引用文献 (34件)：

• [1] S. Hidano, T. Murakami, S. Katsumata, S. Kiyomoto, and G. Hanaoka, “Model inversion attacks for prediction systems: Without knowledge of non-sensitive attributes,” Proc. 15th International Conference on Privacy, Security and Trust (PST 2017), pp.1-10, 2017.
• [2] X. Su and T.M. Khoshgoftaar, “A survey of collaborative filtering techniques,” Advances in Artificial Intelligence, vol.2009, no.4, pp.1-19, 2009. 10.1155/2009/421425
• [3] G. Linden, B. Smith, and J. York, “Amazon.com recommendations: Item-to-item collaborative filtering,” IEEE Internet Comput., vol.7, no.1, pp.76-80, 2003. 10.1109/mic.2003.1167344
• [4] Y. Koren, R. Bell, and C. Volinsky, “Matrix factorization techniques for recommender systems,” Computer, vol.42, no.8, pp.30-37, 2009. 10.1109/mc.2009.263
• [5] A.Y. Xue, R. Zhang, Y. Zheng, X. Xie, J. Huang, and Z. Xu, “Destination prediction by sub-trajectory synthesis and privacy protection against such prediction,” Proc. 2013 IEEE International Conference on Data Engineering (ICDE 2013), pp.254-265, 2013. 10.1109/icde.2013.6544830

タイトルに関連する用語 (8件)： オンライン ,  予測システム ,  モデル ,  反転 ,  攻撃 ,  機密 ,  属性 ,  知識