展開深いモデルのためのBias軽減に向けた公平性を意識した敵対摂動【JST・京大機械翻訳】

Wang Zhibo; Dong Xiaowei; Xue Henry; Zhang Zhifei; Chiu Weifeng; Wei Tao; Ren Kui

プレプリント

J-GLOBAL ID：202202200240813258 整理番号：22P0298234

展開深いモデルのためのBias軽減に向けた公平性を意識した敵対摂動【JST・京大機械翻訳】

Fairness-aware Adversarial Perturbation Towards Bias Mitigation for Deployed Deep Models

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (7件)： , , , , , ,
資料名：
発行年： 2022年03月03日プレプリントサーバーでの情報更新日： 2022年03月03日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

公平性の優先順位付けは人工知能(AI)システム,特にそれらの社会的応用,例えば,ハイリングシステムは異なる人口統計グループから同等に応用者を推薦するべきであり,リスク評価システムは犯罪的正義におけるracismを除外しなければならない。AIシステムの倫理的開発に向けた既存の努力は,訓練セットにおけるバイアスを緩和し,訓練プロセスに公平性原理を導入するためのデータ科学を活用してきた。しかし,展開されたAIシステムでは,実際には再訓練や調整を許さない。対照的に,公平性関連特徴,例えば性別と民族性に関するブラインド展開モデルに対して入力データを摂動するために学習する,より柔軟なアプローチ,すなわち公平性認識敵対摂動(FAAP)を提案した。重要な利点は,FAAPがパラメータおよび構造に関して展開モデルを改変しないことである。これを達成するために,著者らは,展開されたモデルから潜在表現に基づく公平性関連属性を区別するための識別器を設計した。一方,摂動発生器は識別器に対して訓練され,摂動入力から公平性関連特徴を抽出することができない。徹底的な実験的評価は,提案したFAAPの有効性と優れた性能を実証した。さらに,FAAPは実世界の商業展開(モデルパラメータにアクセスできない)で検証され,FAAPの伝達性を示し,ブラックボックス適応の可能性を予測した。【JST・京大機械翻訳】

, , , , , , , , , , ,
, , , , 【Automatic Indexing@JST】

人工知能 , データ保護

, , , , ,

前のページに戻る