文献

J-GLOBAL ID：201902287489385422   整理番号：19A0953756

人工蜂コロニーアルゴリズムによるランダムフォレストとサポートベクトルマシンのハイパーパラメータの最適化と特徴選択

Optimization of Hyperparameters and Feature Selection for Random Forests and Support Vector Machines by Artificial Bee Colony Algorithm

著者 (2件)： 近藤久 (茨城大学工学部知能システム工学科) ,  浅沼由馬 (茨城大学大学院理工学研究科知能システム工学専攻)
資料名： 人工知能学会論文誌(Web)  (TJSAI (Web))
巻： 34  号： 2  ページ： G-I36_1-11(J-STAGE)  発行年： 2019年 
JST資料番号： U0128A  ISSN： 1346-8030  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 学習アルゴリズムのためのハイパーパラメータ最適化と与えられたデータからの特徴選択は機械学習における重要な問題であり,分類精度に大いに影響する。ランダムフォレストとサポートベクトルマシンは,最も一般的な学習アルゴリズムのいくつかの中にある。比較的少ないハイパーパラメータを持つランダムフォレストは特徴選択の必要なく,それらのパラメータを最適化することによってより正確な分類を行うことができる。ランダムフォレストと同じく,サポートベクトルマシンも少ないハイパーパラメータを持つ。しかし,それらのパラメータの最適化と同時に,特徴選択を実行するかどうかが分類精度に大きく影響する。通常,ハイパーパラメータを最適化するためにグリッドサーチ法を用いる。しかし,この探索法はあらかじめ定められたグリッド上で実行されるので,きめ細かい最適化は実現できない。本論文では,ハイパーパラメータを最適化し,より正確な特徴選択を行うために,人工蜂コロニー(ABC)アルゴリズムを導入した。ABCアルゴリズムは蜜蜂の採餌行動に着想を得た,最適化問題を解くために用いられる群知能アルゴリズムの1つである。ネットワーク侵入検出分類のベンチマークであるKDD Cup1999データを用いたところ,実験結果は本方法の有効性を実証した。提案法は群知能をハイパーパラメータ最適化と特徴選択に用いた既存の方法よりも,同じデータに対する分類精度において優れていた。また,本方法はPythonのオープンソース機械学習ライブラリであるscikit-learnによって提供されたデフォルトパラメータ値を用いて学習される,ランダムフォレストとSVMの分類精度よりも優れた性能を示した。(翻訳著者抄録)

シソーラス用語： コロニー ,  *サポートベクトルマシン ,  *計算機アルゴリズム ,  *機械学習 ,  学習アルゴリズム ,  パラメタリゼーション ,  特徴選択 ,  *最適化 ,  自動分類 ,  格子 ,  ベンチマーク ,  性能評価 ,  精度 ,  評価試験 ,  人工ハチコロニー ,  *改変
準シソーラス用語： *ランダムフォレスト ,  分類精度

著者キーワード (10件)： ハイパーパラメータ最適化 ,  特徴選択 ,  人工蜂コロニーアルゴリズム ,  ランダムフォレスト ,  サポートベクトルマシン ,  ハイパーパラメータ最適化 ,  特徴選択 ,  人工蜂コロニーアルゴリズム ,  ランダムフォレスト ,  サポートベクトルマシン

分類 (4件)： ニューロコンピュータ  (JC06010Q) ,  計算理論  (JB02000A) ,  人工知能  (JE08000Z) ,  その他のオペレーションズリサーチの手法  (KA03070E)

引用文献 (28件)：

• [Bosman 17] Bosman, P. A. N.: GECCO '17:Proceedings of the Genetic and Evolutionary Computation Conference, ACM (2017)
• [Breiman 01] Breiman, L.: Random forests, Machine Learning, Vol.45, No.1, pp. 5-32 (2001)
• [Cortes 95] Cortes, C. and Vapnik, V.: Support-vector networks, Machine Learning, Vol.20, No.3, pp. 273-297 (1995)
• [Criminisi 11] Criminisi, A., Shotton, J. and Konukoglu, E.: Decision forests for classification, regression, density estimation, manifold learning and semi-supervised learning, Technical Report MSR-TR-2011-114, Microsoft Research (2011)
• [Eberhart 95] Eberhart, R. and Kennedy, J.: A new optimizer using particle swarm theory, Proceedings of the Sixth International Symposium on Micro Machine and Human Science, 1995, MHS'95, pp.39-43, IEEE (1995)

タイトルに関連する用語 (6件)： 人工蜂コロニーアルゴリズム ,  ランダムフォレスト ,  サポートベクトルマシン ,  ハイパーパラメータ ,  最適化 ,  特徴選択