抄録/ポイント：
抄録/ポイント
文献の概要を数百字程度の日本語でまとめたものです。
部分表示の続きは、JDreamⅢ(有料)でご覧頂けます。
J-GLOBALでは書誌(タイトル、著者名等)登載から半年以上経過後に表示されますが、医療系文献の場合はMyJ-GLOBALでのログインが必要です。
本論文では,Mutual Information(MI)と呼ばれる統計的測度を用いた,情報Bottleneck理論ベースのフィルタ剪定法を提案した。フィルタとクラスラベル間のMIも,フィルタの活性化マップとアノテーションを用いて計算する。高い関連性(HRel)を有するフィルタは,より重要であると考えられる。その結果,クラスラベルによるより低い相互情報を持つ最小重要フィルタは,剪定される。既存のMIベースの剪定法とは異なり,提案方法は,クラスラベルとの対応する活性化マップの関係に基づいて,フィルタの有意性を純粋に決定する。LeNet-5,VGG-16,ResNet-56{,ResNet-110およびResNet-50のようなアーキテクチャを用いて,MNISTT,CIFAR-10およびImageNetデータセット上での提案剪定法の有効性を実証した。提案方法は,LeNet-5,VGG-16,ResNet-56,ResNet-110,およびResNet-50アーキテクチャのための最先端の剪定結果を示す。実験では,LeNet-5,VGG-16,ResNet-56,ResNet-110,およびResNet-50からのFloating Point Operation(FLOP)のそれぞれ97.98%,84.85%,76.89%,76.95%,および63.99%を剪定した。提案するHRel剪定法は最近の最先端のフィルタ剪定法より優れている。LeNet-5の畳み込み層からフィルタを剪定した後でさえ,(それぞれ20,50から2,3),わずか0.52%の小さい精度の低下が観察された。特に,VGG-16に対して,94.98%のパラメータは,0.36%のトップ-1精度の低下と共に減少した。{ResNet-50は,剪定に加えて,FLOPの66.42%を剪定した後に,トップ-5精度において1.17%のドロップを示し,そして,情報Bottleneck理論の情報計画力学を,剪定の影響によって,種々の畳込みニューラルネットワークアーキテクチャのために解析した。【JST・京大機械翻訳】
