直列生殖連鎖によるBERTの先験の探索【JST・京大機械翻訳】

Yamakoshi Takateru; Griffiths Thomas L.; Hawkins Robert D.

プレプリント

J-GLOBAL ID：202202203059134666 整理番号：22P0294838

直列生殖連鎖によるBERTの先験の探索【JST・京大機械翻訳】

Probing BERT's priors with serial reproduction chains

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年02月24日プレプリントサーバーでの情報更新日： 2022年03月18日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

サンプリングは,どの生成モデルが言語について学んだかを曝露するための有望なボトムアップ法であるが,BERTのような一般的なマスク言語モデル(MLM)から代表的なサンプルを生成する方法は不明である。MLMの目的は,一貫した条件付き分布の保証のない依存性ネットワークをもたらし,ナイーブアプローチの問題を提起する。認知科学における反復学習の理論から,著者らは,BERTの先物からサンプルへの連続再生チェーンの使用を調査した。特に,著者らは,地上トラスジョイント分布のユニークで一貫した推定子が,各ステップでマスクと再構成にトークンをランダムに選択する,生成確率ネットワーク(GSN)サンプラによって与えられることを観察した。GSNチェーンからの文の語彙と構文統計は,地上のコーパス分布に密接に整合し,自然性判断の大規模コーパスにおいて他の方法より良好に機能することを示した。著者らの知見は,ボトムアッププロービングのためのより堅固な理論的基礎を確立し,ヒト先物からのより豊富な偏差を強調する。【JST・京大機械翻訳】

, , , , , , , , , , , ,
, , , 【Automatic Indexing@JST】

パターン認識 , 人工知能

, , , ,

前のページに戻る