予測感度によるテキスト分類器の公平性の測定【JST・京大機械翻訳】

Krishna Satyapriya; Gupta Rahul; Verma Apurv; Dhamala Jwala; Pruksachatkun Yada; Chang Kai-Wei

プレプリント

J-GLOBAL ID：202202220951965833 整理番号：22P0305320

予測感度によるテキスト分類器の公平性の測定【JST・京大機械翻訳】

Measuring Fairness of Text Classifiers via Prediction Sensitivity

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (6件)： , , , , ,
資料名：
発行年： 2022年03月16日プレプリントサーバーでの情報更新日： 2022年03月16日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

言語処理アプリケーションの急速な成長により,公平性はデータ駆動ソリューションにおける重要な考慮として浮上している。最近の文献では様々な公平性定義が検討されているが,システムの公平性を最も正確に反映するコンセンサスの欠如がある。本研究では,入力特徴における摂動に対するモデル予測感度に基づく機械学習モデルにおける公平性を測定するACCUMULATED PREDICTION SENSITIVITYの新しい定式化を提案した。単一予測が保護された属性に依存する程度を定量化するためのメトリック試みは,保護された属性が保護グループにおける個人のメンバーシップ状態を符号化する。計量はグループ公平性(統計的パリティ)と個々の公平性の特定の概念と理論的にリンクできることを示した。それはまた,公平性の人間の認知と良く相関した。2つのテキスト分類データセット(JIGSAW TOXICITY,BIAS IN BIOS)に関する実験を行い,モデルが公正な結果を生成するかどうかについて,計量と手動注釈間の相関を評価した。予測感度に基づく提案した公平性メトリックは,既存の対抗的公平性メトリックよりも,人間アノテーションと統計的に有意に相関することを観測した。【JST・京大機械翻訳】

, , , , , , , , ,
, , , , , 【Automatic Indexing@JST】

人工知能 , オペレーティングシステム , 計算機網

, , ,

前のページに戻る