文献

J-GLOBAL ID：202202277350466315   整理番号：22A0714433

Neural Network Consoleによる説明可能なAI

著者 (4件)： 鈴木健二 (ソニーグループ R&Dセ) ,  小林由幸 (ソニーグループ R&Dセ) ,  大渕愉希夫 (ソニーグループ R&Dセ) ,  成平拓也 (ソニーグループ R&Dセ)
資料名： ViEWビジョン技術の実利用ワークショップ講演論文集(CD-ROM)  (ViEW講演論文集(CD-ROM))
巻： 2021  ページ： ROMBUNNO.IS2-06  発行年： 2021年11月26日 
JST資料番号： L4705C  資料種別： 会議録 (C)
記事区分： 短報  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 説明可能なAIとは,ブラックボックスと言われるAIを人間が理解できるようにする技術である.本論文は,社会的に必要とされている説明可能なAIについて,専門的なスキルを必要とせず,直観的に利用できるツールを提案する.この提案ツールを使うことで,専門的なスキルを持たない人でも,画像分類における判断根拠の可視化を簡便に利用できる.また,この提案ツールは,画像分類においてデータがAIモデルへ与える影響度も明らかにすることもできる.(著者抄録)

シソーラス用語： *ニューラルネットワーク ,  *人工知能 ,  パラメータ ,  変数 ,  ブラックボックス ,  自動分類 ,  可視化
準シソーラス用語： *AI【人工知能】 ,  画像分類 ,  説明パラメータ

分類 (2件)： ニューロコンピュータ  (JC06010Q) ,  人工知能  (JE08000Z)

引用文献 (11件)：

• Ramprasaath R. Selvaraju, Michael Cogswell, Abhishek Das, Ramakrishna Vedantam, Devi Parikh, Dhruv Batra. Grad-CAM: Visual explanations from deep networks via gradient-based localization. Proceedings of the IEEE International conference on computer vision, pages 618-626, 2017.
• Marco Tulio Riberio, Sameer Singh, and Carlos Guestrin. ′′Why shoud I trust you?′′ Explaining the predictions of any classifier. Proceedings of the 22nd ACM SIGKDD International conference on knowledge discovery and data mining, pages 1135-1144, 2016.
• Scott M Lundberg and Su-In Lee. A Unified Approach to Interpreting Model Predictions. In Advances in Neural Information Processing Systems 30, pages 4768-4. 2017.
• Daniel Smilkov, Nikhil Thorat, Been Kim, Fernanda Viegas, and Martin Wattenberg. SmoothGrad: removing noise by adding noise. arXiv:1706.03825, 2017.
• Neural Network Console URL: https://dl.sony.com/ja/

タイトルに関連する用語 (2件)： 説明 ,  AI