文献

J-GLOBAL ID：201902236756175948   整理番号：19A1979598

言語モデル向けニューロン接続自動学習手法【JST・京大機械翻訳】

Automatic learning method of neuron connections for language models

著者 (6件)： Jiang Yufan (東北大学計算机科学与工程学院,自然語言処理実験室,遼寧沈陽110819) ,  Li Bei (東北大学計算机科学与工程学院,自然語言処理実験室,遼寧沈陽110819) ,  Lin Ye (東北大学計算机科学与工程学院,自然語言処理実験室,遼寧沈陽110819) ,  Li Yinqiao (東北大学計算机科学与工程学院,自然語言処理実験室,遼寧沈陽110819) ,  Xiao Tong (東北大学計算机科学与工程学院,自然語言処理実験室,遼寧沈陽110819) ,  Zhu Jingbo (東北大学計算机科学与工程学院,自然語言処理実験室,遼寧沈陽110819)
資料名： Xiamen Daxue Xuebao. Ziran Kexue Ban  (Xiamen Daxue Xuebao. Ziran Kexue Ban)
巻： 58  号： 2  ページ： 225-230  発行年： 2019年 
JST資料番号： W1452A  ISSN： 0438-0479  CODEN： HMHHAF  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： 中国 (CHN)  言語： 中国語 (ZH)

抄録/ポイント： 自然言語処理において,ニューラルネットワークの構造は人工的設計を必要とするので,複雑なニューラルネットワーク構造には冗長性がある。冗長性を減らすため、人々はしばしば剪定などのモデル圧縮方法を採用しているが、このような方法は訓練過程と無関係な指標により、直接にモデルの裁断を行う時に、性能損失を招く。そこで,ニューラルネットワークにおけるニューロン接続の自動学習法を検討し,訓練中にニューロン接続を動的に成長し,削除する方法により,ネットワーク接続を動的に操作し,よりコンパクトで効率的なネットワーク構造を得た。この方法を用いて,神経言語モデル上で自動成長と消去を行い,ネットワーク性能を保証することなく,ネットワーク規模は49%縮小できる。Data from Wanfang. Translated by JST.【JST・京大機械翻訳】

シソーラス用語： ニューラルネットワーク ,  自然言語処理 ,  ネットワーク ,  ネットワーク構造 ,  *ニューロン ,  *言語モデル ,  冗長性 ,  *モデル ,  *学習
準シソーラス用語： ネットワーク性能 ,  神経 , 【Automatic Indexing@JST】

分類 (5件)： 数値計算  (JE02000J) ,  計算機シミュレーション  (JE11000H) ,  光学情報処理  (BD03060T) ,  原価管理  (KA05020P) ,  破壊力学一般  (HC04010A)

タイトルに関連する用語 (4件)： 言語モデル ,  ニューロン ,  学習 ,  手法