文献

J-GLOBAL ID：202202214656427177   整理番号：22A0825784

情報量の下界に基づく逐次的及び並列的な制約付きベイズ最適化

Constrained Bayesian Optimization through Optimal-value Entropy

著者 (5件)： TAKENO Shion (Nagoya Inst. of Technol.) ,  TAMURA Tomoyuki (Nagoya Inst. of Technol.) ,  SHITARA Kazuki (Osaka Univ.) ,  SHITARA Kazuki (Japan Fine Ceramics Center) ,  KARASUYAMA Masayuki (Nagoya Inst. of Technol.)
資料名： 電子情報通信学会技術研究報告(Web)  (IEICE Technical Report (Web))
巻： 121  号： 321(IBISML2021 18-29)  ページ： 9-16 (WEB ONLY)  発行年： 2022年01月10日 
JST資料番号： U2030A  ISSN： 2432-6380  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 英語 (EN)

抄録/ポイント： Max-value Entropy Search(MES)はベイズ最適化法におけるstate-of-the-artの一つとして知られ,相互情報量に基づき獲得関数を定義する.本稿では,MESの考え方をベースに,相互情報量に基づく「制約付き」Black-box最適化問題のためのベイズ最適化法を提案する.MESでは最適値に関する相互情報量が用いられるが,制約付き最適化問題では制約を満たす解がそもそも存在しない可能性もある.そこでまず,実行可能解がない場合には負の無限大を取る値として最適値を定義しなおす.この非常にシンプルな変更により,実行可能解の存在の有無に関する不確かさも考慮する相互情報量が定義できる.さらに,この相互情報量は直接的には計算が難しいため,簡単な切断分布を用いた下界を導出し,そのモンテカルロ推定量を指標として用いる.この推定量について,従来法では保証されない非負性や低分散性などの良い性質を導くことができる.また,条件付き相互情報量を用いることで,観測を並列に行うことのできる状況へ容易に拡張できることを示す.最後に,ベンチマーク関数や実問題を通じて提案法の有効性を示す.(著者抄録)

シソーラス用語： Bayes推定 ,  *最適化手法 ,  最適化 ,  *相互情報量 ,  推定量 ,  エントロピー ,  *情報理論 ,  実験 ,  並列処理
準シソーラス用語： Bayes最適化 ,  Bayes理論 ,  数値実験 ,  制約付最適化

分類 (1件)： 数値計算  (JE02000J)

引用文献 (31件)：

• J. Gardner, M. Kusner, Zhixiang, K. Weinberger, and J. Cunningham, “Bayesian optimization with inequality constraints,” Proceedings of the 31st International Conference on Machine Learning, vol.32, pp.937-945, PMLR, 2014.
• M.A. Gelbart, J. Snoek, and R.P. Adams, “Bayesian optimization with unknown constraints,” Proceedings of the 30th Conference on Uncertainty in Artificial Intelligence, p.250-259, AUAI Press, 2014.
• M. Schonlau, W.J. Welch, and D.R. Jones, “Global versus local search in constrained optimization of computer models,” vol.34, pp.11-25, Lecture Notes-Monograph Series, Institute of Mathematical Statistics, 1998.
• J. Snoek, Bayesian Optimization and Semiparametric Models with Applications to Assistive Technology, University of Toronto, 2013.
• Z. Wang and S. Jegelka, “Max-value entropy search for efficient Bayesian optimization,” Proceedings of the 34th International Conference on Machine Learning, vol.70, pp.3627-3635, PMLR, 2017.

タイトルに関連する用語 (5件)： 情報量 ,  下界 ,  逐次 ,  制約 ,  ベイズ最適化