特許

J-GLOBAL ID：200903063490287407

数値計算処理装置

発明者： 竹重 和明 ,  赤間 世紀
出願人/特許権者： 富士通株式会社
代理人 (1件)： 井桁 貞一
公報種別：公開公報
出願番号（国際出願番号）：特願平3-221963
公開番号（公開出願番号）：特開平5-061641
出願日： 1991年09月03日
公開日（公表日）： 1993年03月12日
要約：

【要約】【目的】 関数値の数値計算処理に関し、比較的小さなテーブルで繰り返し計算の精度を維持することができる数値計算処理装置を目的とする。【構成】 計算処理部1は、所与の数値の所定の関数値を計算するために、該数値から定まる所定の整数値と、所定の端数値とを求め、該整数値から定まる該関数値と、該端数値の該関数値とに基づいて該計算値を生成する計算処理を実行し、該計算処理の過程には該整数値によって定まる回数の所定の繰り返し計算を含み、誤差テーブル2は、所要の大きさの範囲に含まれる各該整数値ごとに補正値を保持し、補正処理部3は、計算処理部1が該繰り返し計算を実行した場合に、該繰り返し計算に使用した該整数値に対応する該補正値を誤差テーブル2から索引し、該繰り返し計算の結果の数値に該検索した補正値による所定の補正を行った結果によって、当該繰り返し計算の結果を置き換えるように構成する。

請求項（抜粋）：

計算処理部(1)と、誤差テーブル(2)と、補正処理部(3)とを有し、該計算処理部(1)は、所与の数値の所定の関数値を計算するために、該数値から定まる所定の整数値と、所定の端数値とを求め、該整数値から定まる該関数値と、該端数値の該関数値とに基づいて該計算値を生成する計算処理を実行し、該計算処理の過程には該整数値によって定まる回数の所定の繰り返し計算を含み、該誤差テーブル(2)は、所要の大きさの範囲に含まれる、所要の各該整数値ごとに対応して、所定の補正値を保持し、該補正処理部(3)は、該計算処理部(1)が該繰り返し計算を実行した場合に、該繰り返し計算に使用した該整数値に対応する該補正値を該誤差テーブル(2)から索引し、該繰り返し計算の結果の数値に該検索した補正値による所定の補正を行った結果によって、当該繰り返し計算の結果を置き換えるように構成されていることを特徴とする数値計算処理装置。

IPC (2件)：

G06F 7/38 ,  G06F 7/544