文献

J-GLOBAL ID：202202257314733875   整理番号：22A0904964

中国語NERのための依存構文誘導BERT-BiLSTM-GAM-CRF【JST・京大機械翻訳】

Dependency syntax guided BERT-BiLSTM-GAM-CRF for Chinese NER

著者 (5件)： Li Daiyi (College of Computer Science and Technology, Nanjing University of Aeronautics and Astronautics, Nanjing, China) ,  Yan Li (College of Computer Science and Technology, Nanjing University of Aeronautics and Astronautics, Nanjing, China) ,  Yang Jianzhong (College of Computer Science and Technology, Nanjing University of Aeronautics and Astronautics, Nanjing, China) ,  Ma Zongmin (College of Computer Science and Technology, Nanjing University of Aeronautics and Astronautics, Nanjing, China) ,  Ma Zongmin (Collaborative Innovation Center of Novel Software Technology and Industrialization, Nanjing, China)
資料名： Expert Systems with Applications  (Expert Systems with Applications)
巻： 196  ページ： Null  発行年： 2022年 
JST資料番号： W0178A  ISSN： 0957-4174  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： オランダ (NLD)  言語： 英語 (EN)

抄録/ポイント： 深層学習(DL)から導かれた伝統的名称エンティティ認識(NER)法は,しばしば単語間の長距離構文依存関係を無視する。そのような方法において,中国語単語ベクトルの表現は,多義性の問題を解明するのに簡単である。これらの欠点に対処するために,本論文は中国語NERのための構文依存性誘導BERT-BiLSTM-GAM-CRFモデルを提案した。最初に,依存性構文解析ツリーによって誘導される自己注意方法を,BERTモデルの変圧器計算フレームワークに埋め込んだ。これは単語の文脈情報に従って単語の深い双方向言語表現を得るだけでなく,単語間の長距離構文依存関係をより良く表現できる。第二に,訓練された単語ベクトルシーケンスをグローバル注意機構(GAM)に埋め込まれたBiLSTM層に入力して,次に,文章における最も重要な全体の状況意味情報を得る。最後に,CRFを用いて,隣接ラベル間の依存性関係を学習し,最良の文章レベルラベルシーケンスを得た。CLUENER-2020コーパス,MSRAコーパス,WeiboコーパスおよびOntoNotes4コーパスに関する多数の実験は,構築したモデルが中国のNERタスクに対して良い結果を有して,F1値がそれぞれ81.08%,94.97%,63.60%および75.64%であることを証明した。Copyright 2022 Elsevier B.V., Amsterdam. All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： ベクトル ,  データ ,  構文分析 ,  多義性 ,  *中国語 ,  モデル ,  文章 ,  単語 ,  機械学習 ,  コーパス
準シソーラス用語： 構文木 ,  文脈情報 ,  言語表現 ,  意味情報 ,  エンティティ ,  *構文 ,  深層学習 , 【Automatic Indexing@JST】

著者キーワード (5件)： 名前認識 ,  深層学習 ,  依存性構文解析 ,  BiLSTM ,  注意機構

分類 (1件)： 自然語処理  (JE06000L)

タイトルに関連する用語 (5件)： 中国 ,  構文 ,  誘導 ,  BERT ,  CRF