文献

J-GLOBAL ID：202302241243172317   整理番号：23A2814396

音声認識システムへの攻撃に対する防御機構の開発

A Defense Method against Attacks on Speech Recognition Systems

著者 (1件)： 樽谷優弥 (岡山大 工)
資料名： Annual Report of the Okayama Foundation for Science and Technology  (Annual Report of the Okayama Foundation for Science and Technology)
号： 32  ページ： 52-54  発行年： 2023年10月10日 
JST資料番号： F2025A  資料種別： 逐次刊行物 (A)
記事区分： 短報  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 機械学習技術により音声認識の認識精度が向上し,スマートスピーカをはじめとした音声認識システムを用いた機器の需要が高まっている。一方で,音声認識システムはセキュリティ面で脆弱であることが懸念されている。特に,機械学習技術の脆弱性であるAdversarial Exampleにより,音声認識システムに誤認識を引き起こさせるAudio Adversarial Exampleが問題視されている。本稿では,Audio Adversarial Exampleによる音声認識システムへの攻撃の防御方法として,音声加工を用いた方法を提案する。提案手法は入力音声に正常音声の認識に影響のない微小な加工をすることで誤認識を防ぐことを目指す。本研究では,速度加工と周波数加工の2つの加工方法を用いて検証を行った。評価の結果,提案手法によって正常音声の認識率を約85%に保ちつつ,攻撃音声の攻撃成功率を約1%に抑えることができることを明らかにした。(著者抄録)

シソーラス用語： *音声認識 ,  *機械学習 ,  *精度 ,  人工知能 ,  *コンピュータセキュリティ ,  脆性 ,  攻撃行動 ,  *データ保護 ,  比率 ,  マルウェア ,  加工 ,  微細加工 ,  耐性 ,  *誤認識 ,  人工知能スピーカ ,  機械的性質
準シソーラス用語： *認識精度 ,  *AIを騙す攻撃 ,  スマートスピーカ ,  認識率 ,  音声データ加工 ,  音声加工 ,  微小加工 ,  速度加工 ,  周波数加工 ,  敵対的サンプル ,  攻撃耐性

分類 (3件)： パターン認識  (JE07000S) ,  データ保護  (JD01020V) ,  音声処理  (JE05000E)

引用文献 (2件)：

• N. Carlini and D. Wagner, ′′Audio adversarial examples: Targeted attacks on speech-to-text,′′ in 2018 IEEE Security and Privacy Workshops (SPW), pp. 1-7, IEEE, 2018.
• N. Carlini, P. Mishra, T. Vaidya, Y. Zhang, M. Sherr, C. Shields, D. Wagner, and W. Zhou, ′′Hidden voice commands,′′ 25th USENIX Security Symposium (USENIX Security 16), pp. 513-530, 2016

タイトルに関連する用語 (4件)： 音声認識システム ,  攻撃 ,  防御 ,  開発