Toeplitz行列理論を用いた畳込み層のLipschitz正則化について【JST・京大機械翻訳】

Araujo Alexandre; Negrevergne Benjamin; Chevaleyre Yann; Atif Jamal

プレプリント

J-GLOBAL ID：202202221162565290 整理番号：22P0159384

Toeplitz行列理論を用いた畳込み層のLipschitz正則化について【JST・京大機械翻訳】

On Lipschitz Regularization of Convolutional Layers using Toeplitz Matrix Theory

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2020年06月15日プレプリントサーバーでの情報更新日： 2020年11月07日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

本論文は,畳込みニューラルネットワークのLipschitz正則化の問題に取り組んだ。リプシッツの規則性は,訓練安定性,一般化,敵対例に対するロバスト性などの意味を持つ現代の深層学習の重要な特性として確立されており,ニューラルネットワークのLipschitz定数の正確な値の計算はNP困難であることが知られている。文献からの最近の試みは,この定数を近似するために上限を導入し,しかし,効率的ではあるが,正確ではあるが,計算的に高価である。本研究では,Toeplitz行列の理論を活用することにより,計算が容易かつ容易である畳み込み層に対する新しい上限を導入した。この結果に基づいて,Lipschitz正則化畳込みニューラルネットワークを訓練するアルゴリズムを考案した。【JST・京大機械翻訳】

, , , , , , , , , ,
, , 【Automatic Indexing@JST】

ニューロコンピュータ

, , ,

前のページに戻る