文献

J-GLOBAL ID：202102262951627888   整理番号：21A0841597

RNNの抽象化モデルに対するバグ限局とその評価

著者 (4件)： 石本優太 (九大) ,  松井健 (九大) ,  鵜林尚靖 (九大) ,  亀井靖高 (九大)
資料名： 情報処理学会研究報告(Web)  (IPSJ Technical Report (Web))
巻： 2021  号： SE-207  ページ： Vol.2021-SE-207,No.2,1-8 (WEB ONLY)  発行年： 2021年02月22日 
JST資料番号： U0451A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 近年,深層学習モデルを取り入れたシステムの開発が広がっており,安全性向上のため,深層学習モデルのバグ(誤動作)の原因を特定する研究が行われている.しかし,既存研究の多くは画像処理を扱う深層学習モデルを対象としており,自然言語処理などを行うRNN(Recurrent Neural Network)を対象とした研究はあまり行われていない.そこで本研究では,RNNを対象として間接的にバグの原因を特定する手法を提案する.具体的には,RNNを抽象化した確率モデルを抽出し,そのモデルに対してプログラムのバグ限局(Fault Localization)の手法を応用する.初期実験として,映画レビュー文や人工言語のデータセットを用いて,抽出した確率モデルに対するバグ限局によりRNNのバグの原因を効果的に特定できるかを評価した.その結果,提案手法のバグ限局を利用することで,RNNのバグに関係するデータを訓練データから抽出できることが明らかになった.映画レビュー文のデータセットについては,抽出したデータの精度はランダムに選んだデータよりも平均で19%低い.(著者抄録)

シソーラス用語： *神経回路網 ,  機械学習 ,  *故障点標定 ,  確率モデル ,  データ ,  集合 ,  *データ抽象化 ,  データセット ,  深層学習 ,  *リカレントニューラルネットワーク ,  数学モデル
準シソーラス用語： *リカレント神経回路網 ,  訓練データ ,  *事故点標定

分類 (1件)： 人工知能  (JE08000Z)

引用文献 (15件)：

• https://pytorch.org/.
• Guoliang Dong, Jingyi Wang, Xinyu Wang, and Xingen Wang. Towards interpreting recurrent neural networks through probabilistic abstraction. In Proceedings of the 35th IEEE/ACM International Conference on Automated Software Engineering, pp. 499-510, 2020.
• X. Du, Y. Li, X. Xie, L. Ma, Y. Liu, and J. Zhao. Marble : Model-based robustness analysis of stateful deep learning systems. In Proceedings of the 35th IEEE/ACM International Conference on Automated Software Engineering, pp. 423-435, 2020.
• Hasan Ferit Eniser, Simos Gerasimou, and Alper Sen. DeepFault: Fault localization for deep neural networks. In Proceedings of the 22nd Fundamental Approaches to Software Engineering, pp. 171-191, 2019.
• Tameru Hailesilassie. Rule extraction algorithm for deep neural networks: A review. arXiv preprint arXiv:1610.05267, 2016.

タイトルに関連する用語 (5件)： RNN ,  抽象化 ,  モデル ,  バグ ,  評価