文献

J-GLOBAL ID：202202282278314342   整理番号：22A1102142

AdaSwarm:スウォーム知能による深層学習における勾配ベース最適化器の増強【JST・京大機械翻訳】

AdaSwarm: Augmenting Gradient-Based Optimizers in Deep Learning With Swarm Intelligence

著者 (6件)： Mohapatra Rohan (Center for AstroInformatics (Astrirg), Bengaluru, India) ,  Saha Snehanshu (Deptartment of Computer Science and Information Systems and APPCAIR, BITS Pilani, Pilani, India) ,  Coello Carlos A. Coello (Department of Computer Science, CINVESTAV-IPN, Mexico City, Mexico) ,  Bhattacharya Anwesh (Department of Physics and CSIS, BITS Pilani, Pilani, India) ,  Dhavala Soma S. (ML Square, Bengaluru, India) ,  Saha Sriparna (Department of Computer Science and Engineering, Indian Institute of Technology Patna, Patna, India)
資料名： IEEE Transactions on Emerging Topics in Computational Intelligence  (IEEE Transactions on Emerging Topics in Computational Intelligence)
巻： 6  号： 2  ページ： 329-340  発行年： 2022年 
JST資料番号： W2473A  ISSN： 2471-285X  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： 本論文では,ニューラルネットワークで採用されたAdam最適化器よりも,類似または優れた性能を持つ新しい勾配フリー最適化器AdaSウォームを紹介した。提案したAdaSウォームをサポートするために,新しい指数関数的加重モーメントパーティクルスウォーム最適化器(EMPSO)を提案した。最適化問題に取り組むAdaSウォームの能力は,良好な勾配近似を実行する能力に起因する。EMPSOのパラメータを用いて,任意の関数の勾配,微分可能,あるいはそうではないことを示した。これは,数値解法とスウォーム知能の間の境界にあるGDをシミュレートする新しい技術である。生成された勾配近似の数学的証明も提供した。AdaSウォームは,いくつかの最先端の(SOTA)最適化器と密接に競合する。また,AdaSウォームは,最大絶対誤差(MAE)を含むバックプロパゲーション中の様々な損失関数を扱うことができることも示した。Copyright 2022 The Institute of Electrical and Electronics Engineers, Inc. All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 関数 ,  *最適化 ,  数値解法 ,  最適化問題 ,  損失関数 ,  ニューラルネットワーク ,  指数関数 ,  近似法 ,  微分 ,  モーメント ,  パラメータ ,  *スウォーム ,  逆伝搬法
準シソーラス用語： 粒子群最適化 ,  *深層学習 , 【Automatic Indexing@JST】

分類 (1件)： 人工知能  (JE08000Z)

タイトルに関連する用語 (6件)： スウォーム ,  知能 ,  深層学習 ,  勾配 ,  最適化 ,  増強