文献

J-GLOBAL ID：202002259923019513   整理番号：20A2277090

高固有次元性は敵対攻撃を促進する:理論的証拠【JST・京大機械翻訳】

High Intrinsic Dimensionality Facilitates Adversarial Attack: Theoretical Evidence

著者 (8件)： Amsaleg Laurent (Inria, CNRS, IRISA, Campus de Beaulieu, Univ Rennes, Rennes, France) ,  Bailey James (School of Computing and Information Systems, The University of Melbourne, Parkville, VIC, Australia) ,  Barbe Amelie (Laboratoire de Physique, E ́cole Normale Supe ́rieure de Lyon, Lyon, France) ,  Erfani Sarah M. (School of Computing and Information Systems, The University of Melbourne, Parkville, VIC, Australia) ,  Furon Teddy (Inria, CNRS, IRISA, Campus de Beaulieu, Univ Rennes, Rennes, France) ,  Houle Michael E. (National Institute of Informatics, Tokyo, Japan) ,  Radovanovic Milos (Faculty of Sciences, University of Novi Sad, Novi Sad, Serbia) ,  Nguyen Xuan Vinh (NVIDIA Corporation, Santa Clara, CA, USA)
資料名： IEEE Transactions on Information Forensics and Security  (IEEE Transactions on Information Forensics and Security)
巻： 16  ページ： 854-865  発行年： 2021年 
JST資料番号： W1570A  ISSN： 1556-6013  CODEN： ITIFA6  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： 機械学習システムは敵対攻撃に対して脆弱である。入力オブジェクトを入力オブジェクトに適用することにより,小さな,注意深く設計された摂動,分類器は不正確な予測を作成できる。この現象は,それを説明する多くの試みで,広い興味を引いている。しかし,完全な理解はまだ現れていない。本論文では,分類にまだ関連する,わずかに異なる視点を採用した。検索は,出力が,k-最近傍の集合に対応して,ユーザ-供給問い合わせオブジェクトと最も類似したオブジェクトの集合であると考える。質問に関してオブジェクトのランキングに対する敵対的摂動の影響を調べた。理論解析を通して,実験によってサポートして,著者らは,データドメインの固有次元が上がると,近傍ランキングを反転するのに必要な摂動の量が減少し,敵対攻撃への脆弱性が増加することを示した。クエリの摂動の2つのモード,すなわち,ターゲット点に対する‘近い子,またはそれからの‘遠者のいずれかを調べた。また,2つの展望,すなわち,クエリーの近傍ランキングに対する摂動の影響を検討し,また,目標の近傍集合におけるクエリ点のランキングを考慮して,ΔΣターゲット中心性を検討した。すべての4つのケースは,分類と検索を含む実際のシナリオに対応する。Copyright 2020 The Institute of Electrical and Electronics Engineers, Inc. All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 等級づけ ,  *摂動 ,  機械学習 ,  敵意
準シソーラス用語： 脆弱性 ,  クエリー ,  理論解析 , 【Automatic Indexing@JST】

分類 (2件)： パターン認識  (JE07000S) ,  人工知能  (JE08000Z)

タイトルに関連する用語 (7件)： 固有 ,  次元 ,  敵対 ,  攻撃 ,  促進 ,  理論 ,  証拠