NAS-Bench-NLP:自然言語処理のためのニューラルアーキテクチャ探索ベンチマーク【JST・京大機械翻訳】

Klyuchnikov Nikita; Trofimov Ilya; Artemova Ekaterina; Salnikov Mikhail; Fedorov Maxim; Burnaev Evgeny

プレプリント

J-GLOBAL ID：202202218236530272 整理番号：22P0158443

NAS-Bench-NLP:自然言語処理のためのニューラルアーキテクチャ探索ベンチマーク【JST・京大機械翻訳】

NAS-Bench-NLP: Neural Architecture Search Benchmark for Natural Language Processing

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (6件)： , , , , ,
資料名：
発行年： 2020年06月12日プレプリントサーバーでの情報更新日： 2020年06月12日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

ニューラルアーキテクチャ検索(NAS)は有望で急速に発展する研究分野である。多数のニューラルネットワークの訓練は例外的な計算電力を必要とし,それは,高性能クラスタとスーパーコンピュータへのアクセスを制限または全く持たない研究者にとって,NASを到達できないものにする。この問題を克服し,より再現性のある実験を確保するために,事前計算ニューラルアーキテクチャ性能を有するいくつかのベンチマークが最近導入された。しかし,これらのベンチマークはコンピュータビジョン領域のみであり,画像データセットと畳込み導出アーキテクチャから構築される。本研究では,自然言語処理(NLP)のコアである言語モデリングタスクを活用することにより,コンピュータビジョン領域の外側をステップする。主な貢献は以下の通りである。テキストデータセット上の再帰ニューラルネットワークの探索空間を提供し,その内の14kアーキテクチャを訓練した。意味的関連性と言語理解評価のデータセットを用いて訓練されたモデルの本質的および外因性評価を実施した。最後に,いくつかのNASアルゴリズムを試験し,事前計算結果がどのように利用できるかを示した。これらの結果は,NASとNLPコミュニティの両方に対する使用の高い可能性を有すると信じる。【JST・京大機械翻訳】

, , , , , , , , , , , , ,
, 【Automatic Indexing@JST】

人工知能 , ニューロコンピュータ

, , , ,

前のページに戻る