文献

J-GLOBAL ID：202202232021366021   整理番号：22A2382906

確率的オートマトンとn-gramに基づくRNNに対するバグ限局

Fault Localization for RNNs based on Probabilistic Automata and n-grams

著者 (4件)： 石本優太 (九大) ,  近藤将成 (九大) ,  鵜林尚靖 (九大) ,  亀井靖高 (九大)
資料名： 電子情報通信学会技術研究報告(Web)  (IEICE Technical Report (Web))
巻： 122  号： 138(SS2022 1-20)  ページ： 55-60 (WEB ONLY)  発行年： 2022年07月21日 
JST資料番号： U2030A  ISSN： 2432-6380  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 近年深層学習モデルは自動運転や医療画像解析などの様々な分野で適用されている.深層学習モデルが誤動作すると,重大な事故が発生する可能性がある.この誤動作を特定し修正するために,既存研究では誤動作の原因となるモデルの構成要素(ニューロンなど)を特定し,それらを修正するアプローチが提案されてきた.しかし,これらのアプローチは入力によって変化する動的な内部状態を持つモデルであるRNN(リカレントニューラルネットワーク)には適用できない.本研究では,RNNの誤動作の原因を特定するため,RNNから抽出した確率的オートマトン上のn-gramに着目したバグ限局(PAFL:Probabilistic Automaton-based Fault Localization)を提案する.PAFLは,確率的オートマトンの状態のn-gramを利用した疑惑値を計算することで,RNNの誤動作の原因を正確に特定できる.さらに,この疑惑値を利用することで,RNNの誤動作と強く関連するデータサンプルを抽出する手法も提案する.本研究の実験により,PAFLはランダムな選択アプローチと比較して,誤動作に強く関連するデータサンプルを統計的有意に抽出できることが示された.具体的には,予測の難しい2つのデータセット(RTMR,IMDB)において,83%の割合でPAFLはランダムに抽出したデータサンプルよりもRNNの予測精度が低いデータサンプルを抽出できる.実験結果から,PAFLはRNNのバグ限局手法として有用であることが示された.(著者抄録)

シソーラス用語： *確率オートマトン ,  *インデクシング【計算機】 ,  ニューラルネットワーク ,  回帰モデル ,  機械学習 ,  誤動作 ,  故障点標定 ,  *デバッギング ,  *Nグラム ,  深層学習
準シソーラス用語： RNN

分類 (2件)： 計算機システム開発  (JD02010R) ,  ニューロコンピュータ  (JC06010Q)

引用文献 (19件)：

• Rui Abreu, Peter Zoeteweij, and Arjan J.c. Van Gemund. An evaluation of similarity coefficients for software fault localization. In Proceedings of the 12th Pacific Rim International Symposium on Dependable Computing, pp. 39-46,2006.
• Mariusz Bojarski, Davide Del Testa, Daniel Dworakowski, Bernhard Firner, Beat Flepp, Prasoon Goyal, Lawrence D Jackel, Mathew Monfort, Urs Muller, Jiakai Zhang, et al. End to end learning for self-driving cars. arXiv preprint arXiv:1604.07316, 2016.
• Chenyi Chen, Ari Seff, Alain Kornhauser, and Jianxiong Xiao. Deepdriving: Learning affordance for direct perception in autonomous driving. In Proceedings of the IEEE international conference on computer vision, pp. 2722-2730,2015.
• Norman Cliff. Dominance statistics: Ordinal analyses to answer ordinal questions. Psychological bulletin, Vol. 114, No. 3, p. 494, 1993.
• Guoliang Dong, Jingyi Wang, Xinyu Wang, and Xingen Wang. Towards interpreting recurrent neural networks through probabilistic abstraction. In Proceedings of the 35th IEEE/ACM International Conference on Automated Soft-ware Engineering, pp. 499-510, 2020.

タイトルに関連する用語 (5件)： 確率 ,  オートマトン ,  N-gram ,  RNN ,  バグ