抄録/ポイント:
抄録/ポイント
文献の概要を数百字程度の日本語でまとめたものです。
部分表示の続きは、JDreamⅢ(有料)でご覧頂けます。
J-GLOBALでは書誌(タイトル、著者名等)登載から半年以上経過後に表示されますが、医療系文献の場合はMyJ-GLOBALでのログインが必要です。
強化学習の実世界アプリケーションは普及しているが,RLシステムのセキュリティとロバスト性は,より多くの注目と探査に値する。特に,最近の研究では,マルチエージェントRL環境において,バックドアトリガ行動が犠牲エージェント(a.k.a.Trojanエージェント)に注入され,それがバックドアトリガ行動を見るとすぐに破滅的故障をもたらすことができることを明らかにした。悪意のあるバックドアに対するRLエージェントのセキュリティを確保するために,本研究では,Trojanエージェントの検出と対応する潜在的トリガ行動,さらにそれらのTrojan挙動を緩和する試みの目的で,マルチエージェント競合強化学習システムにおけるバックドア検出の問題を提案した。この問題を解決するため,著者らは,活性化Trojanエージェントが蓄積された報酬をいくつかの時間ステップ後に著しく劣化させるという性質に基づく,政策Cleanseを提案する。また,ポリシーCleinseと共に,検出されたバックドアを効果的に緩和できるマシン非学習ベースアプローチを設計した。広範な実験は,提案した方法がTrojanエージェントを正確に検出でき,既存のバックドア緩和ベースラインアプローチを,様々なタイプのエージェントと環境を横断して,少なくとも3%に勝ることを示した。【JST・京大機械翻訳】