文献

J-GLOBAL ID：201902237849286428   整理番号：19A2171873

鏡映変換に基づく埋め込み空間上の単語属性変換

著者 (4件)： 石橋陽一 (奈良先端科学技術大学院大) ,  須藤克仁 (奈良先端科学技術大学院大) ,  吉野幸一郎 (奈良先端科学技術大学院大) ,  中村哲 (奈良先端科学技術大学院大)
資料名： 情報処理学会研究報告(Web)  (IPSJ Technical Report (Web))
巻： 2019  号： NL-241  ページ： Vol.2019-NL-241,No.9,1-7 (WEB ONLY)  発行年： 2019年08月22日 
JST資料番号： U0451A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 本研究では鏡映変換に基づく埋め込み空間上の単語の属性変換を提案する.自己相互情報量(PMI)に基づく単語埋め込みは,king-man+woman≒queenといったアナロジーが成立することが知られている.このアナロジーを用いて入力単語xを“king”から“queen”に,また“queen”から“king”に変換することが可能である.一方,アナロジーによる変換はxが男性か女性かどうかで演算が変わるため,xの属性に関する知識が必要となるが,そのような知識は無数にあるため全て付与することは不可能である.そこで本研究では,そのような知識を用いることなく特定の属性を持つ単語を変換するため,理想的な性質を持つ写像である鏡映変換を導入する.鏡映変換は同じ写像でベクトルの位置を相互に反転させる変換であるため,入力単語ベクトルが目的の属性を持つかどうかにかかわらず変換できる.性別属性を変換する実験の結果,提案手法は属性の知識を用いることなく,性別単語を45.8%の精度で相互に変換できることが示された.また性別属性を持たない単語に鏡映変換を適用した結果,最大で99.9%が変換されず,鏡映変換は目的属性を持つ単語のみを変化させる非常に高い安定性を持つことが示唆された.(著者抄録)

シソーラス用語： データ変換 ,  *単語 ,  属性 ,  相互情報量 ,  *写像 ,  類推 ,  ベクトル ,  表現 ,  *自然言語処理 ,  評価試験 ,  類似性 ,  計算言語学 ,  多層パーセプトロン ,  安定性 ,  *分散表現
準シソーラス用語： アナロジ ,  *鏡映変換 ,  自己相互情報量 ,  *単語属性変換

分類 (1件)： 自然語処理  (JE06000L)

引用文献 (30件)：

• Hinton, G. E., McClelland, J. L., Rumelhart, D. E. et al.: Distributed representations, Carnegie-Mellon University Pittsburgh, PA (1984).
• Mikolov, T., Chen, K., Corrado, G. and Dean, J.: Efficient estimation of word representations in vector space, arXiv preprint arXiv:1301.3781 (2013).
• Mikolov, T., Sutskever, I., Chen, K., Corrado, G. S. and Dean, J.: Distributed representations of words and phrases and their compositionality, Advances in neural information processing systems, pp. 3111-3119 (2013).
• Pennington, J., Socher, R. and Manning, C.: Glove: Global vectors for word representation, Proceedings of the 2014 conference on empirical methods in natural language processing (EMNLP), pp. 1532-1543 (2014).
• Church, K. W. and Hanks, P.: Word association norms, mutual information, and lexicography, Computational linguistics, Vol. 16, No. 1, pp. 22-29 (1990).

タイトルに関連する用語 (4件)： 鏡映 ,  埋め込み ,  単語 ,  属性