特許
J-GLOBAL ID：201803005731904348
バッチ正規化レイヤ
発明者：
,
出願人/特許権者：
代理人 (3件)：
村山 靖彦
, 実広 信哉
, 阿部 達彦
公報種別：公表公報
出願番号（国際出願番号）：特願2017-539561
公開番号（公開出願番号）：特表2018-508879
出願日： 2016年01月28日
公開日（公表日）： 2018年03月29日
要約：
バッチ正規化レイヤを含むニューラル・ネットワーク・システムを用いて入力を処理するための、コンピュータ記憶媒体で符号化されたコンピュータ・プログラムを含む方法、システム、および装置である。前記方法の1つは、前記バッチ内のトレーニング例ごとにそれぞれの第1のレイヤ出力を受信するステップと、前記第1のレイヤ出力からの前記バッチに対する複数の正規化統計値を計算するステップと、前記正規化統計値を用いて各第1のレイヤ出力の各成分を正規化して、前記バッチ内のトレーニング例ごとにそれぞれの正規化されたレイヤ出力を生成するステップと、前記正規化されたレイヤ出力からの前記トレーニング例の各々に対するそれぞれのバッチ正規化レイヤ出力を生成するステップと、前記バッチ正規化レイヤ出力を入力として前記第2のニューラル・ネットワーク・レイヤに提供するステップとを含む。
請求項（抜粋）：
1つまたは複数のコンピュータにより実装されるニューラル・ネットワーク・システムであって、
第1のニューラル・ネットワーク・レイヤと第2のニューラル・ネットワーク・レイヤの間のバッチ正規化レイヤであって、前記第1のニューラル・ネットワーク・レイヤは複数の成分を有する第1のレイヤ出力を生成する、バッチ正規化レイヤを備え、
前記バッチ正規化レイヤは、トレーニング例のバッチ上の前記ニューラル・ネットワーク・システムのトレーニング中に、
前記バッチ内のトレーニング例ごとにそれぞれの第1のレイヤ出力を受信し、
前記第1のレイヤ出力からの前記バッチに対する複数の正規化統計値を計算し、
前記正規化統計値を用いて各第1のレイヤ出力の各成分を正規化して、前記バッチ内のトレーニング例ごとにそれぞれの正規化されたレイヤ出力を生成し、
前記正規化されたレイヤ出力からの前記トレーニング例の各々に対するそれぞれのバッチ正規化レイヤ出力を生成し、
前記バッチ正規化レイヤ出力を入力として前記第2のニューラル・ネットワーク・レイヤに提供する
ように構成される、ニューラル・ネットワーク・システム。
IPC (1件)：
FI (1件)：
引用特許：
前のページに戻る
