INSTA-BNN:INSTANCEを意識した閾値を持つ二値ニューラルネットワーク【JST・京大機械翻訳】

Lee Changhun; Kim Hyungjun; Park Eunhyeok; Kim Jae-Joon

プレプリント

J-GLOBAL ID：202202208348995531 整理番号：22P0332727

INSTA-BNN:INSTANCEを意識した閾値を持つ二値ニューラルネットワーク【JST・京大機械翻訳】

INSTA-BNN: Binary Neural Network with INSTAnce-aware Threshold

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2022年04月15日プレプリントサーバーでの情報更新日： 2023年10月19日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

バイナリニューラルネットワーク(BNNs)は,メモリフットプリントを減らし,深いニューラルネットワークのコストを計算する有望な解決策として浮上しているが,それらは,活性化と重みが2値に制約されるため,自由度の欠如による品質劣化に悩まされている。精度低下を補償するために,著者らは,入力依存またはインスタンス意識的に量子化閾値を動的に制御するINSTAness認識閾値(INSTA-BNN)を有する二値ニューラルネットワークと呼ばれる新しいBNN設計を提案した。著者らの観察によると,高次統計は入力分布の特性を推定するための代表的な計量である。INSTA-BNNは,高次統計量を含む様々な情報を考慮して閾値を動的に調整するために設計されているが,実際のデバイスで最小オーバヘッドを実現するためにも,賢明に最適化される。著者らの広範囲な研究は,INSTA-BNNが,比較可能な計算コストで,画像Net分類タスクにおいて,ベースラインより3.0%と2.8%優れており,ResNet-18とMobileNetV1ベースのモデルに関して,それぞれ,68.5%と72.2%のトップ-1精度を達成することを示した。【JST・京大機械翻訳】

, , , , , , , , ,
, , , , 【Automatic Indexing@JST】

人工知能

, , ,

前のページに戻る