超低精度超解像ネットワークのための動的二重訓練可能限界【JST・京大機械翻訳】

Zhong Yunshan; Lin Mingbao; Li Xunchao; Li Ke; Shen Yunhang; Chao Fei; Wu Yongjian; Ji Rongrong

プレプリント

J-GLOBAL ID：202202208766614420 整理番号：22P0300494

超低精度超解像ネットワークのための動的二重訓練可能限界【JST・京大機械翻訳】

Dynamic Dual Trainable Bounds for Ultra-low Precision Super-Resolution Networks

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (8件)： , , , , , , ,
資料名：
発行年： 2022年03月07日プレプリントサーバーでの情報更新日： 2022年07月03日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

軽量超解像(SR)モデルは,モバイルデバイスにおけるサービス性に対してかなりの注目を集めている。多くの努力は,SRモデルを圧縮するためにネットワーク量子化を採用する。しかし,これらの方法は,SRモデルを超低精度(例えば,2ビットと3ビット)に量子化するとき,低コスト層別量子化器で,厳しい性能劣化に悩まされる。本論文では,性能低下が,SRモデルにおける層ごとの対称量子化器と高度に非対称な活性化分布の間の矛盾から生じることを同定した。この矛盾は,量子化レベル上の廃棄物または再構成画像における詳細損失をもたらす。したがって,活性化の非対称性を収容するために,動的二重訓練可能結合(DDTB)と呼ばれる新しい活性化量子化器を提案する。特に,DDTBは,以下のように革新する。1)高度に非対称な活性化に取り組むために,訓練可能な上界と下界を持つ層別量子化器。2)動的ゲート制御装置は,異なるサンプルで劇的に変化する活性化範囲を克服するために,ランタイムで上限と下限を適応的に調整する。余分なオーバーヘッドを減らすために,動的ゲート制御装置を2ビットに量子化し,導入した動的強度に従ってSRネットワークの一部に適用した。広範な実験は,著者らのDDTBが超低精度において顕著な性能改善を示すことを実証した。例えば,著者らのDDTBは,EDSRを2ビットに量子化し,出力画像をx4にスケールアップするとき,都市100ベンチマーク上で0.70dBのPSNR増加を達成した。コードは,ウルル{https://github.com/zysxmu/DDTB}である。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , , 【Automatic Indexing@JST】

人工知能

, ,

前のページに戻る