文献

J-GLOBAL ID：201702269031789134   整理番号：17A0690304

低ランク近似行列によるCNNにおける畳み込み演算の最適化

著者 (6件)： 本山義史 (東京工大) ,  遠藤敏夫 (東京工大) ,  松岡聡 (東京工大) ,  横田理央 (東京工大) ,  福田圭祐 (東京工大) ,  佐藤育郎 (デンソーアイティーラボラトリ)
資料名： 情報処理学会研究報告(Web)  (IPSJ Technical Report (Web))
巻： 2017  号： HPC-158  ページ： Vol.2017-HPC-158,No.25,1-7 (WEB ONLY)  発行年： 2017年03月01日 
JST資料番号： U0451A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 機械学習による画像認識の分野において,Convolutional Neural Network(CNN)を用いた優れた認識結果が報告されている。データセットが巨大であるため,学習には非常に大きな時間がかかり,また,必要となるメモリ量は大きくなる。そこで我々は,DLの計算におけるメモリ量の削減を図るため,畳み込みの演算の約7割を占める行列積計算に対し,低ランク近似行列を用いることを提案する。CNNアプリケーション中の行列に対し,SVDと階層型行列を適用し,評価した。特に,SVDを用いた時,圧縮率と精度とのトレードオフにおいて,認識精度をほとんど落とさず,サイズが特に大きいimage行列で最大約9割程のメモリ量削減に成功した。(著者抄録)

シソーラス用語： 畳込み ,  ニューラルネットワーク ,  *近似法 ,  行列 ,  *機械学習 ,  特異値分解
準シソーラス用語： *低ランク近似 ,  行列積 ,  *深層学習

分類 (1件)： 人工知能  (JE08000Z)

引用文献 (13件)：

• Krizhevsky, I. Sutskever, and G. Hinton.: ImageNet classification with deep convolutional neural networks, In NIPS, 2012.
• Harris, M.: New Features in CUDA 7.5. https://devblogs.nvidia.com/parallelforall/new-features-cuda-7-5/.
• G. Blellcoh and G. Narlikar.: A practical comparison of n-body algorithms, Technical report, Wright Laboratory, 1991.
• UNC Chapel Hill Vision Lab. ILSVRC2015 Results. http://image-net.org/challenges/LSVRC/2015/results
• ILSVRC2016: http://image-net.org/challenges/LSVRC/2016/

タイトルに関連する用語 (5件)： 低ランク近似 ,  行列 ,  CNN ,  畳み込み ,  最適化