誤りに Surる興奮:興奮性ニューロンに基づく深層学習試験フレームワーク【JST・京大機械翻訳】

Jin Haibo; Chen Ruoxi; Zheng Haibin; Chen Jinyin; Cheng Yao; Yu Yue; Liu Xianglong

プレプリント

J-GLOBAL ID：202202206096473020 整理番号：22P0290076

誤りに Surる興奮:興奮性ニューロンに基づく深層学習試験フレームワーク【JST・京大機械翻訳】

Excitement Surfeited Turns to Errors: Deep Learning Testing Framework Based on Excitable Neurons

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (7件)： , , , , , ,
資料名：
発行年： 2022年02月12日プレプリントサーバーでの情報更新日： 2022年11月20日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

印象的な能力と優れた性能にもかかわらず,深いニューラルネットワーク(DNN)は,それらの頻繁に発生する誤った挙動のため,セキュリティ問題に関する増加する公衆の懸念を捉えている。したがって,実世界アプリケーションに展開する前に,DNNの系統的試験を行う必要がある。既存の試験法は,ニューロンカバレッジに基づく細粒計量を提供し,そのようなメトリックを改善するために様々なアプローチを提案した。しかし,より高いニューロンカバレッジは,誤差に導く欠陥の同定において,より良い能力を表すことを徐々に実現した。さらに,カバレッジ誘導法は,故障訓練手順による誤差を隠すことができない。従って,これらの試験例による再訓練によるDNNのロバスト性改善は不十分である。この課題に取り組むために,Shapley値に基づく励起可能ニューロンの概念を導入し,DNN,すなわちDeepSensorのための新しいホワイトボックス試験フレームワークを設計した。小さな摂動によるモデル損失変化に対するより大きな責任を持つニューロンは,潜在的欠陥による不正確なコーナーケースに関連する可能性が高いことを,著者らの観察によって動機づけた。モデルの様々な誤った行動に関する興奮性ニューロンの数を最大化することにより,DeepSensorは,敵対的入力,汚染データおよび不完全訓練により,より多くの誤差を効果的にトリガする試験例を生成することができる。画像分類モデルと話者認識モデルの両方に関する広範な実験は,DeepSensorの優位性を実証した。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , , , 【Automatic Indexing@JST】

ニューロコンピュータ , 人工知能

, , , , ,

前のページに戻る