Pat

J-GLOBAL ID：201903018420328191

固定小数点量子化ニューラルネットワークのための方法及び装置

Inventor： 李 俊 行 ,  李 承 遠 ,  河 相 源 ,  李 ▲うぉん▼ 祚
Applicant, Patent owner： 三星電子株式会社
Agent (3)： 伊東 忠重 ,  伊東 忠彦 ,  大貫 進介
Gazette classification：公開公報
Application number (International application number)：2018144829
Publication number (International publication number)：2019032833
Application date： Aug. 01, 2018
Publication date： Feb. 28, 2019
Summary：

【課題】 ニューラルネットワークのパラメータを量子化する方法及び該装置を提供する。【解決手段】 ニューラルネットワークのパラメータを量子化する方法及び該装置は、事前に訓練されたニューラルネットワークのデータから浮動小数点タイプのパラメータ値に係わるチャネル別統計分布を分析し、チャネル別パラメータの固定小数点表現を決定し、バイアス及びチャネル別ウェートのフラクション長を決定し、決定されたフラクション長のバイアス及びチャネル別ウェートを有する固定小数点タイプの量子化されたニューラルネットワークを生成する。【選択図】 図8

Claim (excerpt)：

固定小数点に基づく量子化を利用するニューラルネットワークのための方法において、 浮動小数点を利用して事前に訓練されたニューラルネットワークのデータから、フィーチャマップ及びカーネルのそれぞれに含まれる各チャネルで利用される浮動小数点タイプのパラメータ値に係わるチャネル別統計分布を分析する段階と、 前記チャネル別統計分布に基づいて、前記パラメータ値の分布範囲を統計的にカバーする前記チャネル別パラメータの固定小数点表現を決定する段階と、 前記チャネル別固定小数点表現のパラメータでコンボリューション演算を行った結果に基づいて、バイアス及び前記チャネル別ウェートのフラクション長を決定する段階と、 前記決定されたフラクション長の前記バイアス及び前記チャネル別ウェートを有する固定小数点タイプの量子化されたニューラルネットワークを生成する段階と、を含む方法。

IPC (1)：

G06N 3/10

FI (1)：

G06N3/10

Patent cited by the Patent：

Cited by examiner (1)

• スパースニューラルネットワークを構成すること
  Gazette classification：公表公報   Application number：特願2016-547855   Applicant：クゥアルコム・インコーポレイテッド

Article cited by the Patent：

Cited by examiner (1)

• Acoustic model training based on node-wise weight boundary model increasing speed of discrete neural