文献

J-GLOBAL ID：202102258351852678   整理番号：21A1031030

建設と分解による離散文表現の学習【JST・京大機械翻訳】

Learning Discrete Sentence Representations via Construction & Decomposition

著者 (3件)： Song Haohao (College of Computer Science, Chongqing University, Chongqing, China) ,  Zou Dongsheng (College of Computer Science, Chongqing University, Chongqing, China) ,  Li Weijia (College of Computer Science, Chongqing University, Chongqing, China)
資料名： Lecture Notes in Computer Science  (Lecture Notes in Computer Science)
巻： 12532  ページ： 786-798  発行年： 2020年 
JST資料番号： H0078D  ISSN： 0302-9743  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： ドイツ (DEU)  言語： 英語 (EN)

抄録/ポイント： 本論文では,実数値ベクトルの低次元離散表現の学習問題に取り組んだ。類似性行列構築と分解(C&D)と呼ばれる新しいアルゴリズムを提案した。調製段階において,一貫性のある,不偏で包括的なアンカーベクトルの集合を建設的に生成して,PCAによってそれらの低次元形態を得た。C&Dアルゴリズムはバッチにおけるベクトルの離散表現を学習する。入力ベクトルのバッチに対して,まず,それらとアンカーベクトルの間の類似性行列を構築し,次に,類似性行列分解からそれらの離散表現を学習し,そこでは,アンカーベクトルの低次元形式を類似性行列の固定因子と見なした。マトリックス分解は混合整数最適化問題である。数学的導出で各ビットに対する最適解を得て,次に離散座標降下法を用いてそれを解く。C&Dアルゴリズムは入力ベクトルから直接離散表現を学習せず,それを他の離散学習アルゴリズムから区別する。文章埋込み圧縮タスクに関するC&Dアルゴリズムを評価した。広範な実験結果は,C&Dアルゴリズムが最新の4方法より優れ,最先端技術に達することを明らかにした。詳細な解析とアブレーション研究は,C&Dアルゴリズムの合理性をさらに検証した。Copyright Springer Nature Switzerland AG 2020 Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： アルゴリズム ,  ベクトル ,  *学習 ,  最適化問題 ,  自然言語処理 ,  実数 ,  類似性 ,  アブレーション ,  次元縮小 ,  学習アルゴリズム
準シソーラス用語： 最適解 ,  二値化 ,  低次元 ,  行列分解 , 【Automatic Indexing@JST】

著者キーワード (4件)： 自然言語処理 ,  文表現 ,  二値化 ,  次元縮小

分類 (1件)： 人工知能  (JE08000Z)

タイトルに関連する用語 (5件)： 建設 ,  分解 ,  文 ,  表現 ,  学習