次元性と精密縮小による知識ベースインデックス圧縮【JST・京大機械翻訳】

Zouhar Vilem; Mosbach Marius; Zhang Miaoran; Klakow Dietrich

プレプリント

J-GLOBAL ID：202202219784883813 整理番号：22P0327328

次元性と精密縮小による知識ベースインデックス圧縮【JST・京大機械翻訳】

Knowledge Base Index Compression via Dimensionality and Precision Reduction

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2022年04月06日プレプリントサーバーでの情報更新日： 2022年04月18日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

最近,質問回答のような知識集約型NLPタスクに対するニューラルネットワークベースのアプローチは,神経検索者と読者の組合せに大きく依存し始めた。検索は,特にスケールアップするとき,重要なメモリと計算資源を必要とする大きなテキスト知識ベース(KB)上で典型的に実行される。ホットスポットQAでは,次元(スパースランダム射影,PCA,オートエンコーダ)および数値精度低減により,KB指数のサイズを,系統的に調査した。その結果,PCAは,非常に少ないデータを必要とする容易な解であり,より不安定であるオートエンコーダよりわずかに悪いことを示した。すべての方法は前処理と後処理に敏感であり,データは次元縮小の前後の両方で常に中心であり,正規化するべきである。最後に,PCAを1ビット/次元で組み合わせることが可能であることを示した。全体として,75%の100×圧縮と,92%の元の検索性能を有する24×圧縮を達成した。【JST・京大機械翻訳】

, , , , , , , , , , , ,
, , 【Automatic Indexing@JST】

自然語処理

, , , ,

前のページに戻る