特許
J-GLOBAL ID:201903018420328191

固定小数点量子化ニューラルネットワークのための方法及び装置

発明者:
出願人/特許権者:
代理人 (3件): 伊東 忠重 ,  伊東 忠彦 ,  大貫 進介
公報種別:公開公報
出願番号(国際出願番号):特願2018-144829
公開番号(公開出願番号):特開2019-032833
出願日: 2018年08月01日
公開日(公表日): 2019年02月28日
要約:
【課題】 ニューラルネットワークのパラメータを量子化する方法及び該装置を提供する。【解決手段】 ニューラルネットワークのパラメータを量子化する方法及び該装置は、事前に訓練されたニューラルネットワークのデータから浮動小数点タイプのパラメータ値に係わるチャネル別統計分布を分析し、チャネル別パラメータの固定小数点表現を決定し、バイアス及びチャネル別ウェートのフラクション長を決定し、決定されたフラクション長のバイアス及びチャネル別ウェートを有する固定小数点タイプの量子化されたニューラルネットワークを生成する。【選択図】 図8
請求項(抜粋):
固定小数点に基づく量子化を利用するニューラルネットワークのための方法において、 浮動小数点を利用して事前に訓練されたニューラルネットワークのデータから、フィーチャマップ及びカーネルのそれぞれに含まれる各チャネルで利用される浮動小数点タイプのパラメータ値に係わるチャネル別統計分布を分析する段階と、 前記チャネル別統計分布に基づいて、前記パラメータ値の分布範囲を統計的にカバーする前記チャネル別パラメータの固定小数点表現を決定する段階と、 前記チャネル別固定小数点表現のパラメータでコンボリューション演算を行った結果に基づいて、バイアス及び前記チャネル別ウェートのフラクション長を決定する段階と、 前記決定されたフラクション長の前記バイアス及び前記チャネル別ウェートを有する固定小数点タイプの量子化されたニューラルネットワークを生成する段階と、を含む方法。
IPC (1件):
G06N 3/10
FI (1件):
G06N3/10
引用特許:
出願人引用 (1件) 審査官引用 (1件)
引用文献:
出願人引用 (2件)
  • Acoustic model training based on node-wise weight boundary model increasing speed of discrete neural
  • Hardware-oriented Approximation of Convolutional Neural Networks
審査官引用 (1件)
  • Acoustic model training based on node-wise weight boundary model increasing speed of discrete neural

前のページに戻る