抄録/ポイント:
抄録/ポイント
文献の概要を数百字程度の日本語でまとめたものです。
部分表示の続きは、JDreamⅢ(有料)でご覧頂けます。
J-GLOBALでは書誌(タイトル、著者名等)登載から半年以上経過後に表示されますが、医療系文献の場合はMyJ-GLOBALでのログインが必要です。
ビジョン変圧器は,最近,様々なコンピュータビジョンタスクで大きな成功を得ている。それにもかかわらず,それらの高いモデル複雑性は,資源制約デバイスに展開するのを困難にする。量子化は,モデルの複雑さを低減するための効果的なアプローチであり,データフリー量子化は,モデル展開中のデータプライバシーとセキュリティの懸念に対処することができ,広く興味を浴びている。残念なことに,BN正則化のようなすべての既存の方法は,畳み込みニューラルネットワークのために設計され,著しく異なるモデルアーキテクチャを有する視覚変圧器に適用できない。本論文では,量子化パラメータを較正するための視覚変圧器のユニークな特性に基づく「現実的」サンプルの生成を可能にするために,Vision変換機のためのPatch類似性アウェアデータフリー量子化フレームワークであるPSAQ-ViTを提案した。特に,自己注意モジュールの性質を解析し,Gauss雑音と実画像の処理における一般的差異(パッチ類似性)を明らかにした。上記の洞察は,実際の画像を近似するためにGauss雑音を最適化するための相対値計量を設計し,次に量子化パラメータを較正するために利用した。PSAQ-ViTの有効性を検証するために,広範な実験とアブレーション研究を,実際のデータ駆動法よりも性能の高いPSAQ-ViTの有効性を検証するために行った。コードはhttps://github.com/zkkli/PSAQ ViTで利用可能である。【JST・京大機械翻訳】