T-Basis:ニューラルネットワークのためのコンパクトな表現【JST・京大機械翻訳】

Obukhov Anton; Rakhuba Maxim; Georgoulis Stamatios; Kanakis Menelaos; Dai Dengxin; Van Gool Luc

プレプリント

J-GLOBAL ID：202202207907675970 整理番号：21P0039564

T-Basis:ニューラルネットワークのためのコンパクトな表現【JST・京大機械翻訳】

T-Basis: a Compact Representation for Neural Networks

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (6件)： , , , , ,
資料名：
発行年： 2020年07月13日プレプリントサーバーでの情報更新日： 2021年07月13日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

ニューラルネットワークでしばしば見られる任意の形状のテンソルの集合のコンパクトな表現のための新しい概念であるT-Basisを導入した。集合におけるテンソルの各々は,Tensor Ringsを用いてモデル化されるが,概念は他のTensorネットワークに適用される。Tensor Ringsの図表表記におけるノードのT形に対する名前の名称により,T-Basisは,Tensor Ringノードを表現するために使われる等しく形状の3次元テンソルのリストである。そのような表現は,少数のパラメータ(T-Basisテンソルの係数)を有するテンソル集合をパラメータ化することを可能にし,集合における各テンソルのサイズで対数的にスケーリングし,T-Basisの次元と線形的にスケーリングする。ニューラルネットワーク圧縮のタスクに関する提案アプローチを評価し,許容できる性能低下で高い圧縮速度に達することを実証した。最後に,圧縮ネットワークのメモリと動作要求を分析し,T-Basisネットワークが,資源制約環境における訓練と推論,およびエッジデバイスの使用に等しく適していると結論した。【JST・京大機械翻訳】

, , , , , , ,
, , 【Automatic Indexing@JST】

人工知能

前のページに戻る