教師つきロバスト性保存データフリーニューラルネットワーク枝刈り【JST・京大機械翻訳】

Meng Mark Huasong; Bai Guangdong; Teo Sin Gee; Dong Jin Song

プレプリント

J-GLOBAL ID：202202216226071170 整理番号：22P0324280

教師つきロバスト性保存データフリーニューラルネットワーク枝刈り【JST・京大機械翻訳】

Supervised Robustness-preserving Data-free Neural Network Pruning

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2022年04月02日プレプリントサーバーでの情報更新日： 2022年11月01日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

実世界アプリケーションにおける事前訓練ニューラルネットワークモデルを展開するとき,モデル消費者はモバイルおよびスマートデバイスのような資源制約プラットフォームにしばしば遭遇する。それらは,通常,モデルのサイズと複雑性を減らすために,剪定技術を使用して,より少ない資源消費で軽いものを作り出す。それにもかかわらず,ほとんどの既存の剪定法は,剪定後のモデルが,元の訓練データに基づいて微調整または再訓練される機会を持つという前提で提案されている。これは,データコントローラがしばしば元のデータでモデル消費者を提供するので,実際には現実的ではない。本研究では,予測において正確であるだけでなく,オープンワールド展開における望ましくない入力に対してロバストである軽量モデルを生成することを目的として,データフリーコンテキストにおけるニューラルネットワーク剪定を研究した。誤操作ユニットを固定できる微調整と再訓練の不在を考慮して,従来の攻撃的ワンショット戦略を,進行性プロセスとして剪定を扱う保守的なものに置き換えた。枝刈りプロセスを導くためにロバスト性関連計量を使用する確率的最適化に基づく剪定法を提案した。この方法をPythonプログラムとして実装し,多様なニューラルネットワークモデルに関する一連の実験で評価した。実験結果は,それがロバスト性保存と精度に関して既存のワンショットデータフリー剪定方式を著しく凌ぐことを示した。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , , , , 【Automatic Indexing@JST】

人工知能 , ニューロコンピュータ

, , ,

前のページに戻る