基本関数の高精度推定

発明者： ,
出願人/特許権者：
代理人 (1件)：坂口博 (外1名)
公報種別：公開公報
出願番号（国際出願番号）：特願平11-008926
公開番号（公開出願番号）：特開平11-288411
出願日： 1999年01月18日
公開日（公表日）： 1999年10月19日
要約：

【要約】 (修正有)【課題】コンピュータ・システムにおいて入力値の平方根、逆平方根、及び逆数を推定する改良された方法。【解決手段】入力値は正規化された後、テーブルから定数のペアを選択するのに用いられる。定数は、所与の区間についての最大誤差値を減らすためにオフセットが取られた、入力値の各区間に対する関数の線形近似にもとづく。推定された関数は、正規化された入力値の一部と第1定数との積を第2定数に加えるか、または第2定数から引くことによって計算される。ある実施例で入力値は1≦x<2の範囲内で正規化され、区間サイズが1/32の1つのルックアップ・テーブルが用いられる。別の好適な実施例では乗算と加算の演算に仮数の下位部だけが用いられ、必要なビット数が少なくされる(仮数の上位部はテーブルから定数を選択するのに用いられる)。

請求項（抜粋）：

プロセッサを持つコンピュータ・システムにおいて入力値の逆数を推定する方法であって、前記入力値を正規化するステップと、所与の区間についての最大誤差値を少なくするためにオフセットが取られた、前記区間の左端及び右端を用いる、関数1/xの線形近似にもとづく第1定数及び第2定数を前記正規化された入力値をもとに、複数の区間を持つテーブルから選択するステップと、前記プロセッサを用いて、前記正規化された入力値と前記第1定数との積を前記第2定数と組み合わせることによって推定逆数を計算するステップと、を含む、方法。

IPC (3件)：

G06F 17/17 , G06F 7/544 , G06F 7/552

FI (3件)：

G06F 15/353 , G06F 7/544 Z , G06F 7/552 B

引用特許：

審査官引用 (6件)

特開昭61-026174
特開昭63-163630
逆数の計算方法と、該方法を実施するためのコンピユータ
公報種別：公開公報出願番号：特願平3-083163 出願人：ビユルソシエテアノニム

全件表示

前のページに戻る