機械学習技術の脆弱性を外部からブラックボックス的に検証するツールの試作

National award number：JPMJTM20T0
Study period：2021 - 2021
Organization (1)：
Principal investigator： ( , 学術研究院理工学域工学系, 教授 )
DOI： https://doi.org/10.52926/JPMJTM20T0
Research overview：

機械学習器の誤認識を意図的に生じさせる敵対的攻撃の技術を利用し,機械学習システムの脆弱性を発見するツール/サービスを開発する.本技術は,対象システムの内部情報を利用せずに,外部から脆弱性を検証できる点に特徴があり,商用システム/サービスへの適用が可能である.また,一般的な敵対的攻撃では発見できない脆弱性を発見できる点にも特徴がある.さらに,本技術の実現により,脆弱性を含むモデルに対して,有効な防御技術を提案することが可能となる.本課題では,広く利用されている画像認識器における未知の脆弱性を100種類程度明らかにするとともに,対象器の頑健性を高める防御手法の組み合わせを提案できることを示す.

, , , , ,

Research program：＞＞＞＞
Organization with control over the research：

Japan Science and Technology Agency

Return to Previous Page