抄録/ポイント：
抄録/ポイント
文献の概要を数百字程度の日本語でまとめたものです。
部分表示の続きは、JDreamⅢ(有料)でご覧頂けます。
J-GLOBALでは書誌(タイトル、著者名等)登載から半年以上経過後に表示されますが、医療系文献の場合はMyJ-GLOBALでのログインが必要です。
ロゼットマケット仮説(LTH)は,高密度モデルが,完全精度を整合するために隔離で訓練できる高度にスパースなサブネットワーク(すなわち,ウィンニングマケット)を含むことを示した。多くの刺激的努力がなされてきたが,1つの”共通センス”が,反復的マグニチュード剪定(IMP)によって発見され,従って,結果としての剪定されたサブネットワークが,非構造化スパース性だけを持つ。このギャップは,非常に不規則なスパースパターンがハードウェア上で加速するのが難しいので,実際には勝利 tickのアピールを制限する。一方,IMP損傷性能における非構造化剪定のための構造化剪定を直接置換することは,より激しく,そして,通常,ウィンニングマケットを位置付けることができない。本論文では,構造的にスパースなウィンニングマケットが,一般的に効果的に見出されるという最初の肯定的な結果を示す。コアアイディアは,(非構造化)IMPの各ラウンド後に「後処理技術」を付加し,構造的スパース性の形成を強制することである。具体的には,まず,いくつかのチャネルに戻された要素を「再充填」し,柔軟なグループワイズ構造パターンを作成するための「再グループ」非ゼロ要素である。著者らが同定したチャネルおよびグループワイズ構造サブネットワークの両者は,既存のハードウェアによって容易にサポートされる実質的な推論高速化によって,ロッテリを勝っている。多重ネットワークバックボーンを横断する多様なデータセット上で行われた広範な実験は,著者らの提案を一貫して検証し,LTHのハードウェア加速道路ブロックが現在除去されることを示している。特に,構造ウィンニングマケットは,{CIFAR,Tiny-ImageNet,ImageNet}で{36%~80%,74%,58%}スパース性で,{64.93%,64.84%,60.23%}の実行時間節約を取得し,一方,同等の精度を維持した。コードはhttps://github.com/VITA Group/Structure LTHである。【JST・京大機械翻訳】
