CommonsenseQA2.0:ゲーミフィケーションによるAIの限界の露出【JST・京大機械翻訳】

Talmor Alon; Yoran Ori; Bras Ronan Le; Bhagavatula Chandra; Goldberg Yoav; Choi Yejin; Berant Jonathan

プレプリント

J-GLOBAL ID：202202216297469697 整理番号：22P0027557

CommonsenseQA2.0:ゲーミフィケーションによるAIの限界の露出【JST・京大機械翻訳】

CommonsenseQA 2.0: Exposing the Limits of AI through Gamification

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (7件)： , , , , , ,
資料名：
発行年： 2022年01月14日プレプリントサーバーでの情報更新日： 2022年01月14日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

現代の自然言語理解モデルの能力を試験するベンチマークを構築することは,人間のパリティを達成するために,ベンチマークにおいてアーチファクトを利用するが,しかし,敵対的用例に関してまだ失敗し,そして,一般的意味の欠如を示す誤りを,まだ失敗する。本研究では,データ構築のためのフレームワークとしてゲーム化を提案する。ゲームにおけるプレーヤーの目標は,余分なポイントのために特定のフレーズを使用する間,ライバルAIを誤リードする質問を構成することである。ゲーム環境は,ユーザエンゲージメントを強化し,同時に収集したデータに対してゲーム設計者制御を与え,スケールにおける高品質データを収集することを可能にした。提案手法を用いて,著者らは14,343yes/no質問を含む共通センスQA2.0を作成し,ゲーム自体で使用されるAIよりも桁大きいモデルに対するその困難性を実証した。最良のベースライン,11Bパラメータを持つT5ベースUnicornは70.2%の精度を達成し,数ショット推論セットアップにおいてGPT-3(52.9%)よりも実質的に高かった。両方のスコアは,94.1%である人間のパフォーマンスを下回った。【JST・京大機械翻訳】

, , , , , , ,
, , , , , , , 【Automatic Indexing@JST】

人工知能

, ,

前のページに戻る