人間の価値と無理性を学習するアルゴリズムの危険【JST・京大機械翻訳】

Gorman Rebecca; Armstrong Stuart

プレプリント

J-GLOBAL ID：202202205874101406 整理番号：22P0296597

人間の価値と無理性を学習するアルゴリズムの危険【JST・京大機械翻訳】

The dangers in algorithms learning humans' values and irrationalities

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (2件)： ,
資料名：
発行年： 2022年02月28日プレプリントサーバーでの情報更新日： 2022年03月01日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

人工知能(AI)はヒト値(またはヒト選好)と整列するので,まずこれらの値を学ぶ必要がある。人間行動で訓練されたAIシステムは,人間価値として人間の不合理性を誤って,次に,これらの不合理性のために最適化する。単に学習する人間の価値は,リスクをまだ持った:AI学習は,人間不合理性と人間行動/ポリシーに関する情報を必然的に獲得する。これら両方は危険である:人間の政策を知ることはAIが一般的により強力になる(全て,部分的に整列または整列しない)ことを可能にし,一方,人間の不合理性を学習することは,リターンに価値を提供する必要なしに人間を活用することを可能にする。本論文では,人間不合理性と人間政策について学習する人工知能の開発における危険を分析し,人間バイアス,人間政策,および人間価値に関する様々なレベルの情報を有するモデル推薦システムを構築した。結論として,AIの電力と知識に関わらず,ヒト値よりも人間の不合理性を知ることは,より危険である。従って,AIが人間のバイアスを学習し,それから行動から値を推論するよりも,人間値を直接的に学習するのは,より良好である。【JST・京大機械翻訳】

, , , , , , , , , , , ,
, 【Automatic Indexing@JST】

人工知能

, , ,

前のページに戻る