文献

J-GLOBAL ID：201902281084351104   整理番号：19A0492263

中間確率変数を用いた相乗情報の定量化【JST・京大機械翻訳】

Quantifying Synergistic Information Using Intermediate Stochastic Variables

著者 (5件)： Quax Rick (Computational Science Lab, University of Amsterdam, 1098 XH Amsterdam, The Netherlands) ,  Har-Shemesh Omri (Computational Science Lab, University of Amsterdam, 1098 XH Amsterdam, The Netherlands) ,  Sloot Peter M. A. (The Institute for Advanced Study, University of Amsterdam, Oude Turfmarkt 147, 1012 GC Amsterdam, The Netherlands) ,  Sloot Peter M. A. (Advanced Computing Lab, ITMO University, Kronverkskiy pr. 49, 197101 Saint Petersburg, Russia) ,  Sloot Peter M. A. (Complexity Institute, Nanyang Technological University, 639673 Singapore, Singapore)
資料名： Entropy (Web)  (Entropy (Web))
巻： 19  号： 2  ページ： 85  発行年： 2017年 
JST資料番号： U7179A  ISSN： 1099-4300  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： スイス (CHE)  言語： 英語 (EN)

抄録/ポイント： 確率変数間の相乗効果を定量化することは,情報理論における重要なオープン問題である。複数のソースが単一ソース予測の和よりも良好に結果変数を予測するとき,情報の相乗効果が生じる。それは,ニューロンネットワークや細胞制御プロセスのような生物学における本質的現象であり,そこでは,異なる情報フローが統合されて,単一応答を生成するが,機械学習における統計的推論タスクにおいても同様に,社会的協調プロセスにおいても統合される。ここでは,第一原理からの相乗エントロピーと相乗情報の計量を提案した。提案した測度は,個々のソース変数に関するゼロ相互情報を持つが,ソース変数の完全集合に関する非ゼロ相互情報を持つように構築されたいわゆる相乗的ランダム変数(SRVs)に依存する。限界と加成性特性を含む著者らの測度のいくつかの基本的で望ましい特性を証明した。さらに,異なるタイプの相乗情報が変数の同じ集合間に共存するという事実を含めて,この測度のいくつかの重要な結果を証明した。数値実装を提供し,相乗効果が雑音に対する回復力と関連することを実証した。著者らの測度は,多変量情報理論とその多くの応用の研究において,顕著なステップとなる可能性がある。Copyright 2019 The Author(s) All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 第一原理 ,  加成性 ,  神経回路網 ,  エントロピー ,  相乗作用 ,  雑音 ,  機械学習 ,  予測 ,  *測度 ,  統計的推定 ,  情報理論
準シソーラス用語： 多変量 ,  ランダム変数 ,  情報フロー ,  *確率変数 , 【Automatic Indexing@JST】

著者キーワード (6件)： 相乗効果 ,  相乗情報 ,  相乗エントロピー ,  情報理論 ,  確率変数 ,  高次情報

分類 (2件)： 信号理論  (ND02020G) ,  人工知能  (JE08000Z)

引用文献 (20件)：

• Shannon, C.E.; Weaver, W. Mathematical Theory of Communication; University Illinois Press: Champaign, IL, USA, 1963.
• Watanabe, S. Information theoretical analysis of multivariate correlation. IBM J. Res. Dev. 1960, 4, 66-82.
• Williams, P.L.; Beer, R.D. Nonnegative decomposition of multivariate information. arXiv 2010.
• Timme, N.; Alford, W.; Flecker, B.; Beggs, J.M. Synergy, redundancy, and multivariate information measures: An experimentalist’s perspective. J. Comput. Neurosci. 2014, 36, 119-140.
• Schneidman, E.; Bialek, W.; Berry, M.J. Synergy, redundancy, and independence in population codes. J. Neurosci. 2003, 23, 11539-11553.

タイトルに関連する用語 (2件)： 確率変数 ,  定量化