文献

J-GLOBAL ID：201702268394854137   整理番号：17A0213749

間接的影響のための監査ブラックボックスモデル【Powered by NICT】

Auditing Black-Box Models for Indirect Influence

著者 (7件)： Adler Philip ,  Falk Casey ,  Friedler Sorelle A. ,  Rybeck Gabriel ,  Scheidegger Carlos ,  Smith Brandon ,  Venkatasubramanian Suresh
資料名： IEEE Conference Proceedings  (IEEE Conference Proceedings)
巻： 2016  号： ICDM  ページ： 1-10  発行年： 2016年 
JST資料番号： W2441A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： データ訓練された予測モデルが普及を見るが,大部分は予測またはスコアを出力するブラックボックスとして使用されている。モデル挙動のより深い理解,特に異なる特徴はモデル予測にどのように影響するかを獲得することは困難である。複雑なモデルの挙動を解釈する,またはある種の問題のある属性(人種や性別のような)は,過度に影響決定されていないことを主張場合これは重要である。本論文では,監査ブラックボックスモデルのための技術,既存のモデルは,データセットの特徴を利用して,モデルはどのように作用するかを知ることなく程度を調べることを要求することを示した。著者らの研究は,間接的な影響:いくつかの方法の特徴は,他の関連する特徴による転帰に間接的に影響を与える可能性の問題に焦点を当てた。結果として,著者らは,モデルのさらなる直接検査に,属性は全くモデルにより言及されない場合でも属性の影響を見出すことができる。我々のアプローチは,ブラックボックスモデルを再訓練する必要はない。(例えば)モデルをAPIによりアクセス可能なのみであり,特徴選択のような特徴の影響を調べる他の方法と本研究と対照をなす場合これは重要である。種々の公開利用可能データセットとモデルを用いてこの方法の有効性の実験的証拠を提示した。も解釈可能な学習と特徴選択からだけでなく,他のブラックボックス監査手順に対する技術を用いてこの方法を検証した。Copyright 2017 The Institute of Electrical and Electronics Engineers, Inc. All Rights reserved. Translated from English into Japanese by JST【Powered by NICT】

シソーラス用語： 予測モデル ,  特徴選択 ,  情報公開 ,  *ブラックボックス
準シソーラス用語： 転帰 ,  性別 ,  人種 ,  モデル予測 ,  スコア , 【Automatic Indexing@JST】

分類 (1件)： 人工知能  (JE08000Z)

タイトルに関連する用語 (4件)： 間接 ,  監査 ,  ブラックボックス ,  モデル