文献

J-GLOBAL ID：202002227921031126   整理番号：20A0662247

AI活用のリアルとリスク AIリスクを理解して,活用する ブラックボックス問題とは何か

著者 (1件)： 長尾智晴 (横浜国大 大学院環境情報研究院)
資料名： リスクマネジメントToday  (Risk Management Today)
巻： 23  号： 1  ページ： 14-17  発行年： 2020年03月15日 
JST資料番号： F2061A  資料種別： 逐次刊行物 (A)
記事区分： 解説  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： ・深層学習など現在主流のAI手法は,精度は高いが著しく低い説明力。
・企業に対するリスクの観点から見た問題点:1)入力から出力を導く処理の中身がわからず,説明不可,2)未学習の未知データに対する挙動の保証不可,3)部分的特許の存在,4)膨大な教師データを用意する必要性や人材確保の必要性,5)説明不可能な処理内容によって生じるリスク・不利益の脅威。
・機械学習は深層学習ばかりでなく,説明可能なホワイトボックス系(決定木,ランダムフォレスト等)の利用が適切な場合も多く,ブラックとホワイトの中間に位置するのはサポートベクトルマシン。

シソーラス用語： 人工知能 ,  *ブラックボックス ,  *機械学習 ,  神経回路網 ,  *認識 ,  責任 ,  データ ,  行為
準シソーラス用語： AI【人工知能】 ,  *リスク認識 ,  教師データ ,  *深層学習 ,  人材確保 ,  説明責任

分類 (2件)： 人工知能  (JE08000Z) ,  安全管理  (KB06000D)

タイトルに関連する用語 (5件)： AI ,  活用 ,  リスク ,  理解 ,  ブラックボックス