対話型注意アラインメントによる人間と深層ニューラルネットワークの間の眼の整列【JST・京大機械翻訳】

Gao Yuyang; Sun Tong; Zhao Liang; Hong Sungsoo

プレプリント

J-GLOBAL ID：202202212237260190 整理番号：22P0285450

対話型注意アラインメントによる人間と深層ニューラルネットワークの間の眼の整列【JST・京大機械翻訳】

Aligning Eyes between Humans and Deep Neural Network through Interactive Attention Alignment

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2022年02月06日プレプリントサーバーでの情報更新日： 2022年02月06日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

深層ニューラルネットワーク(DNN)は,それらの強力な自動化を通して,ほとんどあらゆる分野における主要な革新を導いているが,著者らは,自動ラリズム,性バイアス,および敵対的バイアスのようなバイアスの形として,自動化の背後のパールを wらす。DNNの社会的影響が成長するので,DNNを人間精神モデルで整列させるための効果的な方法を見つけることは,公正で説明可能なモデルの実現に不可欠である。人間操縦可能深層ニューラルネットワーク(DNN)の実現を目的とする対話型注意アラインメント(IAA)の新しいフレームワークを提案した。IAAは,人間が偏ったモデル注意の事例を明らかにし,注意を直接調整するために使用できる対話型媒体として,DNNモデル説明法を利用する。人間生成調整注意を用いたDNNの改善において,著者らは,注意品質と予測精度を共同で最大化する新しい計算パイプラインであるGRADIAを導入した。性別分類問題における研究2における研究1およびGRADIAにおけるIAAフレームワークを評価した。IAA適用による研究1は,ヒト眼からのモデル注意の知覚品質を著しく改善できる。研究2では,GRADIAを用いて,モデル注意の知覚品質を著しく改善し,(2)訓練サンプルが制限されるシナリオにおけるモデル性能を著しく改善することを見出した。著者らは,ヒト-アラインメント可能AIに対する将来の対話型ユーザインタフェイス設計の意味を示した。【JST・京大機械翻訳】

, , , , ,
, , , , , , , , , 【Automatic Indexing@JST】

人工知能 , パターン認識

, , , , , ,

前のページに戻る