文献

J-GLOBAL ID：202102265518063885   整理番号：21A1423180

同期注意制約を与えた依存構造に基づくTransformer NMT

著者 (3件)： 出口祥之 (愛媛大) ,  田村晃裕 (同志社大) ,  二宮崇 (愛媛大)
資料名： 言語処理学会年次大会発表論文集(Web)  (Proceedings of the Annual Meeting of the Association for Natural Language Processing (Web))
巻： 27th  ページ： ROMBUNNO.P7-9 (WEB ONLY)  発行年： 2021年03月 
JST資料番号： U0384A  ISSN： 2188-4420  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： ・機械翻訳分野において,原言語文と目的言語文の依存構造をそれぞれエンコーダとデコーダの自己アテンションで捉えるTransformerニューラル機械翻訳モデルについて記述。
・このモデルに同期注意制約を組み込み,言語間対応を持たせた依存構造に基づくニューラル機械翻訳モデルを提案。
・また,従来の同期注意制約に関わる計算において,モデルの順伝播時に得られる計算結果を利用することで注意の重みを別途求める必要のない手法を提案。

シソーラス用語： *機械翻訳 ,  依存性 ,  同期 ,  制約条件 ,  損失関数 ,  実験 ,  符号器 ,  復号器 ,  *機械学習 ,  アテンション機構 ,  深層学習 ,  評価実験
準シソーラス用語： Transformer【機械学習モデル】 ,  エンコーダ ,  デコーダ ,  ニューラル機械翻訳

分類 (2件)： 自然語処理  (JE06000L) ,  人工知能  (JE08000Z)

タイトルに関連する用語 (4件)： 注意 ,  制約 ,  Transformer ,  NMT