ポリシークリーン:強化学習におけるバックドア検出と緩和【JST・京大機械翻訳】

Guo Junfeng; Li Ang; Liu Cong

プレプリント

J-GLOBAL ID：202202220103767282 整理番号：22P0286221

ポリシークリーン:強化学習におけるバックドア検出と緩和【JST・京大機械翻訳】

PolicyCleanse: Backdoor Detection and Mitigation in Reinforcement Learning

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年02月07日プレプリントサーバーでの情報更新日： 2023年09月14日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

強化学習の実世界アプリケーションは普及しているが,RLシステムのセキュリティとロバスト性は,より多くの注目と探査に値する。特に,最近の研究では,マルチエージェントRL環境において,バックドアトリガ行動が犠牲エージェント(a.k.a.Trojanエージェント)に注入され,それがバックドアトリガ行動を見るとすぐに破滅的故障をもたらすことができることを明らかにした。悪意のあるバックドアに対するRLエージェントのセキュリティを確保するために,本研究では,Trojanエージェントの検出と対応する潜在的トリガ行動,さらにそれらのTrojan挙動を緩和する試みの目的で,マルチエージェント競合強化学習システムにおけるバックドア検出の問題を提案した。この問題を解決するため,著者らは,活性化Trojanエージェントが蓄積された報酬をいくつかの時間ステップ後に著しく劣化させるという性質に基づく,政策Cleanseを提案する。また,ポリシーCleinseと共に,検出されたバックドアを効果的に緩和できるマシン非学習ベースアプローチを設計した。広範な実験は,提案した方法がTrojanエージェントを正確に検出でき,既存のバックドア緩和ベースラインアプローチを,様々なタイプのエージェントと環境を横断して,少なくとも3%に勝ることを示した。【JST・京大機械翻訳】

, , , , , , , , , , ,
, , , 【Automatic Indexing@JST】

人工知能

, , ,

前のページに戻る