文献

J-GLOBAL ID：202202245131125159   整理番号：22A1086568

圧縮アーチファクトとしてのステルスバックドア【JST・京大機械翻訳】

Stealthy Backdoors as Compression Artifacts

著者 (4件)： Tian Yulong (State Key Laboratory for Novel Software Technology, Nanjing University, Nanjing, China) ,  Suya Fnu (Department of Computer Science, University of Virginia, Charlottesville, VA, USA) ,  Xu Fengyuan (State Key Laboratory for Novel Software Technology, Nanjing University, Nanjing, China) ,  Evans David (Department of Computer Science, University of Virginia, Charlottesville, VA, USA)
資料名： IEEE Transactions on Information Forensics and Security  (IEEE Transactions on Information Forensics and Security)
巻： 17  ページ： 1372-1387  発行年： 2022年 
JST資料番号： W1570A  ISSN： 1556-6013  CODEN： ITIFA6  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： モデル圧縮は,多くの精度損失なしに,深い学習モデルのサイズを低減するための広く使用されたアプローチであり,資源制約付きデバイスでの使用のために,資源-ハンガリーモデルが圧縮される。本論文では,モデル圧縮がステルスバックドアを注入するための敵対する機会を提供できるリスクを研究した。機械学習モデルに対するバックドア攻撃において,敵対は,通常の入力でよく機能するモデルを生成するが,小さなトリガパターンを含む入力に関する目標誤分類を出力する。敵対によって解放されたフルサイズのモデルが,バックドア(最先端の技法を用いてテストされたとき)から自由であるように見えるように,ステルスのバックドア攻撃を設計するが,モデルが圧縮されたとき,それは高度に効果的なバックドアを示す。著者らは,2つの一般的モデル圧縮技術,すなわち,特別な圧縮が行われる方法の限られた知識を持つ設定において,モデル量子化とモデル量子化の-子を実行できることを示した。著者らの知見は,実際には予圧縮版に展開されないモデルに関するセキュリティ試験の実行の重要性を示す。著者らの実装はhttps://github.com/yulongtzzz/Stealthy-Backdoors-as-Compression-Artifactsで利用可能である。Copyright 2022 The Institute of Electrical and Electronics Engineers, Inc. All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 量子化 ,  学習モデル ,  モデル ,  *アーチファクト ,  セキュリティ ,  機械学習 ,  サイバー攻撃
準シソーラス用語： 予圧 ,  資源制約 ,  バックドア , 【Automatic Indexing@JST】

分類 (3件)： パターン認識  (JE07000S) ,  音声処理  (JE05000E) ,  人工知能  (JE08000Z)

タイトルに関連する用語 (1件)： アーチファクト