文献

J-GLOBAL ID：202202235028515158   整理番号：22A0881480

深層学習を利用した超解像のINT8実装に関する調査と考察

著者 (5件)： 廣瀬翔太 (早稲田大) ,  和田直己 (早稲田大) ,  SUN Heming (早稲田大 理工学術院総合研) ,  甲藤二郎 (早稲田大) ,  甲藤二郎 (早稲田大 理工学術院総合研)
資料名： 電子情報通信学会技術研究報告(Web)  (IEICE Technical Report (Web))
巻： 121  号： 346(IE2021 27-33)  ページ： 9-14 (WEB ONLY)  発行年： 2022年01月17日 
JST資料番号： U2030A  ISSN： 2432-6380  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 固定小数点は,深層学習において,重みや中間層の数値を整数として扱う技術である.一般に深層学習のモデルでは,それぞれの重みを32bitの浮動小数点として保持しているため,重みを8bitの整数として保存することによって,モデルの大きさをおよそ4分の1に削減することができる.さらに,メモリ使用量を削減することができるほか,可能であれば計算機支援によって推論を高速化することができる.一方で,固定小数点では,重みや中間層の数値のダイナミックレンジが狭くなることによって,モデルの精度が低下する.そのため,TensorRTやTensorFlow Liteなどの推論フレームワークでは,量子化を行う時に,入力データと中間層の数値の分布を考慮することによって,量子化による精度の低下を抑えるためのキャリブレーションという機能が提供されている.この論文ではTensorRTを利用して,超解像を行う学習済みモデルを量子化した後,速度と精度を計測し,両者のトレードオフについて確認する.また,キャリブレーションの効果について,ポストトレーニング量子化と量子化認識トレーニングの精度の比較を行う.結果として,量子化認識トレーニングが精度の保持に有効であることを確認する.(著者抄録)

シソーラス用語： 量子化 ,  *超解像 ,  *機械学習 ,  固定小数点演算 ,  計算機プログラム ,  ダイナミックレンジ ,  キャリブレーション ,  精度 ,  高速化 ,  トレードオフ ,  *推論マシン ,  ニューラルネットワーク ,  携帯端末 ,  *深層学習
準シソーラス用語： 整数化

分類 (1件)： 図形・画像処理一般  (JE04010I)

引用文献 (10件)：

• Chao Dong, Chen Change Loy, Kaiming He, Xiaoou Tang, “Image Super-Resolution Using Deep Convolutional Networks”, TPAMI 2015,May 2015.
• Wenzhe Shi, Jose Caballero, Ferenc Huszar , Johannes Totz, Andrew P. Aitken, Rob Bishop, Daniel Rueckert, Zehan Wang: “Real-Time Single Image and Video Super-Resolution Using an Efficient Sub-Pixel Convolutional Neural Network” , IEEE CVPR 2016, June 2016.
• Yulun Zhang, Kunpeng Li, Kai Li, Lichen Wang, Bineng Zhong, Yun Fu, “Image Super-Resolution Using Very Deep Residual Channel Attention Networks”, ECCV 2018, September 2018.
• Computer Vision Laboratory, ETH Zurich: Accessed on Nov. 30, 2021. [Online] Available: https://ai-benchmark.com/workshops/mai/2021/.
• NVIDIA: “NVIDIA TensorRT | NVIDIA Developer”, https://developer.nvidia.com/tensorrt.

タイトルに関連する用語 (4件)： 深層学習 ,  超解像 ,  実装 ,  調査