研課題
J-GLOBAL ID:202104019498419540  研究課題コード:21447657

機械学習技術の脆弱性を外部からブラックボックス的に検証するツールの試作

体系的課題番号:JPMJTM20T0
実施期間:2021 - 2021
実施機関 (1件):
研究代表者: ( , 学術研究院 理工学域工学系, 教授 )
DOI: https://doi.org/10.52926/JPMJTM20T0
研究概要:
機械学習器の誤認識を意図的に生じさせる敵対的攻撃の技術を利用し,機械学習システムの脆弱性を発見するツール/サービスを開発する.本技術は,対象システムの内部情報を利用せずに,外部から脆弱性を検証できる点に特徴があり,商用システム/サービスへの適用が可能である.また,一般的な敵対的攻撃では発見できない脆弱性を発見できる点にも特徴がある.さらに,本技術の実現により,脆弱性を含むモデルに対して,有効な防御技術を提案することが可能となる.本課題では,広く利用されている画像認識器における未知の脆弱性を100種類程度明らかにするとともに,対象器の頑健性を高める防御手法の組み合わせを提案できることを示す.
研究制度:
研究所管機関:
国立研究開発法人科学技術振興機構

前のページに戻る