文献

J-GLOBAL ID：202202210819237317   整理番号：22A0884594

深層の学習済み重みを利用したCNNの計算量削減に関する初期検討

著者 (2件)： 黒田大貴 (名古屋工大) ,  津邑公暁 (名古屋工大)
資料名： 情報処理学会研究報告(Web)  (IPSJ Technical Report (Web))
巻： 2022  号： ARC-248  ページ： Vol.2022-ARC-248,No.12,1-7 (WEB ONLY)  発行年： 2022年03月03日 
JST資料番号： U0451A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 画像認識等において,CNN(Convolutional Neural Network)と呼ばれるニューラルネットワークが高い認識精度を示し,広く利用されているが,計算量が大きく,この計算量を削減することが,CNNの大きな課題となっている.計算量削減手法として,ランダムな値によるパラメータ固定化を行った先行研究としてLBCNNがある.また,これに対し我々は,CNNが1層目の畳み込み層で単純な特徴パターンの抽出を行うという特性に基づきパラメータ固定化を行う,Functionally-Predefined Kernelを提案している.しかし,複雑な特徴パターンの抽出を行う2層目以降の畳み込み層に含まれるカーネルは固定できておらず,計算量の削減が十分ではない.そこで本稿では,学習が十分に行われたCNNの,2層目以降の畳み込み層に含まれるカーネルに,共通して存在する特徴を機械的に分析し,抽出する方法を検討する.CNNの2層目の畳み込み層に含まれるカーネルを事前定義することで,先行研究で達成される認識精度を維持したまま,更に計算量を削減する方法について考察・検討する.(著者抄録)

シソーラス用語： *機械学習 ,  *ニューラルネットワーク ,  *計算量 ,  精度 ,  重みづけ ,  量子化 ,  情報 ,  特徴抽出
準シソーラス用語： CNN ,  畳込みニューラルネットワーク ,  深層学習 ,  特徴量 ,  認識精度

分類 (2件)： ディジタル計算機方式一般  (JC02010O) ,  人工知能  (JE08000Z)

引用文献 (9件)：

• Juefei-Xu, F., Boddeti, V. N. and Savvides, M.: Local Binary Convolutional Neural Networks, arXiv:1608.06049 [cs.LG] (2016).
• Inouchi, Y., Yamaki, H., Miwa, S. and Tsumura, T.: Functionally-Predefined Kernel: a Way to Reduce CNN Computation, Proc. IEEE Pacific Rim Conf. on Communications, Computers and Signal Processing (PacRim 2019), pp. 1-6 (2019).
• Mahendran, A. and Vedaldi, A.: Understanding Deep Image Representations by Inverting Them, arXiv:1412.0035 (2014).
• Rastegari, M., Ordonez, V., Redmon, J. and Farhadi, A.: Xnor-net: Imagenet classification using binary convolutional neural networks, European Conference on Computer Vision, Springer, pp. 525-542 (2016).
• LeCun, Y., Bottou, L., Bengio, Y. and Haffner, P.: Gradient-based Learning Applied to Document Recognition, Proc. of the IEEE, Vol. 86, pp. 2278-2324 (1998).

タイトルに関連する用語 (5件)： 深層 ,  学習 ,  CNN ,  計算量 ,  初期