機械学習モデルはどこにCluelessか?【JST・京大機械翻訳】

Yousefzadeh Roozbeh; Cao Xuenan

プレプリント

J-GLOBAL ID：202202215713941221 整理番号：22P0308781

機械学習モデルはどこにCluelessか?【JST・京大機械翻訳】

Should Machine Learning Models Report to Us When They Are Clueless?

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (2件)： ,
資料名：
発行年： 2022年03月22日プレプリントサーバーでの情報更新日： 2022年04月28日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

AI説明可能性は,研究コミュニティと政策決定におけるコンセンサスとして統合されている。しかし,説明可能性の鍵となる構成要素は欠落している:外挿は,AIモデルが不慣れなサンプル(すなわち,それらの訓練セットの凸包外のサンプル)に遭遇するとき,どのAIモデルが手がかりレスになるかを説明する。著者らは,AIモデルが,頻繁に,そして,ユーザと利害関係者を通知すること無しに,それらの範囲外のデータを外挿することを報告する。モデルが外挿されたかどうかを知ることは,透明性と説明可能性に有利なAIモデルの説明に含まれなければならない基本的洞察である。マイナスに居住する代わりに,AI透明性の促進における道路ブロックを明確にする方法を示した。著者らの分析は,米国における国立AIイニシアティブ法や欧州委員会によるAI法のようなAI規制に含まれるのに有用な実践的節理を伴う。【JST・京大機械翻訳】

, , , , , , ,
, , , , 【Automatic Indexing@JST】

人工知能

前のページに戻る