文献

J-GLOBAL ID：202002239665184677   整理番号：20A0945988

NWJC-BERT:多義語に対するヒトと文脈化単語埋め込みの類似性判断の対照分析

著者 (4件)： 浅原正幸 (国語研) ,  西内沙恵 (国語研) ,  西内沙恵 (筑波大) ,  加藤祥 (国語研)
資料名： 言語処理学会年次大会発表論文集(Web)
巻： 26th  ページ： ROMBUNNO.B4-4 (WEB ONLY)  発行年： 2020年 
JST資料番号： U0384A  ISSN： 2188-4420  資料種別： 会議録 (C)
記事区分： 解説  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： ・単語埋め込みは各単語の意味をベクトル表現化する技術で,コサインなどの類似度により2単語の意味的な近さの計算や,語義の合成・分解が可能。
・本稿では,多層文脈化単語埋め込みテキストに付与することを想定して構築した,事前学習モデルBERTの訓練済みデータNWJC-BERTについて紹介。
・NWJC-BERTモデルの構築作業について概説し,多義語に対するヒトの類似性判断とBERTによって得られる文脈化単語埋め込みの文単位・単語単位における類似度の対照分析結果を提示。
・クラウドソーシングによる語義調査と対照し,NWJC-BERTで評価できる形式の類似性と,評価できない語義の類似性について確認。

シソーラス用語： *自然言語処理 ,  *埋込み【写像】 ,  表現 ,  *類似性 ,  意味論 ,  *機械学習 ,  学習モデル ,  コーパス ,  日本語 ,  *文脈 ,  一対比較法 ,  判断 ,  *分散表現 ,  *深層学習
準シソーラス用語： *意味的類似性 ,  事前学習 ,  転移学習 ,  Webコーパス

分類 (2件)： 自然語処理  (JE06000L) ,  人工知能  (JE08000Z)

タイトルに関連する用語 (6件)： BERT ,  ヒト ,  文脈 ,  単語 ,  埋め込み ,  類似性