文献

J-GLOBAL ID：202202287057170607   整理番号：22A0741537

ハイパーパラメータ最適化のための効率的勾配計算【JST・京大機械翻訳】

Efficient gradient computation for optimization of hyperparameters

著者 (2件)： Xu Jingyan (Department of Radiology, Johns Hopkins University, United States of America) ,  Noo Frederic (Department of Radiology and Imaging Sciences, University of Utah, United States of America)
資料名： Physics in Medicine and Biology  (Physics in Medicine and Biology)
巻： 67  号： 3  ページ： 03NT01 (11pp)  発行年： 2022年 
JST資料番号： D0324A  ISSN： 0031-9155  CODEN： PHMBA7  資料種別： 逐次刊行物 (A)
記事区分： 短報  発行国： イギリス (GBR)  言語： 英語 (EN)

抄録/ポイント： 教師つき設定における凸目的関数におけるハイパーパラメータの学習に関心がある。凸問題に対する入力データと望ましいハイパーパラメータの間の複雑な関係を,ニューラルネットワークによってモデル化することができた。ハイパーパラメータとデータは凸最小化問題を駆動し,その解を訓練ラベルと比較した。著者らの以前の研究(XuとNoo 2021 Phys.Med.Biol.6619NT01)において,著者らは最適化ベースのシノグラム平滑化+FBP再構成フレームワークにおけるこの学習戦略のプロトタイプを評価した。この設定において生じる問題は,最適化問題の解からエンドツーエンド訓練を可能にするハイパーパラメータへの勾配をいかに効率的に計算するかである。本研究では,まず,凸問題の部分集合,すなわち,近位マッピングに対する勾配逆伝搬のための一般式を開発した。一般式の価値を説明し,それらを利用する方法を実証するために,解が動的計画法(DP)アルゴリズムを許容する1D二次平滑化(雑音除去)の特定例を考察した。一般式は,ハイパーパラメータの勾配の正確な計算のための別のDPアルゴリズムを導く。著者らの数値研究は,深い学習ライブラリにおける自動識別に依存する代わりに,カスタム勾配を提供することによって,55%-65%の計算時間節約を実証した。著者らの議論は1D二次平滑化に焦点を絞ったが,著者らの初期結果(提示されていない)は,一般公式と計算戦略が,解がDPによって正確に計算できる簡単なグラフに関するTVまたはHuber平滑化問題と等しくよく適用されるという記述を支持する。Please refer to the publisher for the copyright holders. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： アルゴリズム ,  *最適化 ,  学習 ,  動的計画法 ,  ラベル ,  ニューラルネットワーク ,  最小化問題 ,  平滑化 ,  エンドツーエンド方式 ,  一次元 ,  目的関数 ,  *パラメータ ,  一般式 ,  雑音除去
準シソーラス用語： 自動認識 ,  *ハイパーパラメータ , 【Automatic Indexing@JST】

分類 (3件)： 人工知能  (JE08000Z) ,  ニューロコンピュータ  (JC06010Q) ,  数値計算  (JE02000J)

タイトルに関連する用語 (4件)： ハイパーパラメータ ,  最適化 ,  勾配 ,  計算