特許

J-GLOBAL ID：200903099601915431

低誤差計算処理装置

発明者： 石井 宏幸
出願人/特許権者： 富士通株式会社
代理人 (1件)： 井桁 貞一
公報種別：公開公報
出願番号（国際出願番号）：特願平4-182721
公開番号（公開出願番号）：特開平6-028153
出願日： 1992年07月10日
公開日（公表日）： 1994年02月04日
要約：

【要約】【目的】数値データの記憶、演算において、誤差を低減することのできる低誤差計算処理装置に関し、有理数、無理数をそのままの形で記憶し、演算処理の最終段階で数値データに変換することにより、誤差の発生の少ない低誤差計算処理装置を実現することを目的とする。【構成】入力装置10と、演算装置20と、記憶装置30と、出力装置40と、制御装置50からなる計算処理装置において、記憶装置30の中に、無理数、分数等の数字を記号として記憶する記号記憶装置31を設け、演算装置20における数値演算の途上で、無理数、分数等の無限の桁数を有する数字が発生した際、有限の桁数の数字には変換せず、そのままの形で記号として、記号記憶装置31の中に記憶しておき、演算の最終段階で、記号記憶装置31の中に記憶している記号を、有限の桁数の数値に変換して演算を行うように構成する。

請求項（抜粋）：

入力装置(10)と、演算装置(20)と、記憶装置(30)と、出力装置(40)と、制御装置(50)からなる計算処理装置において、前記記憶装置(30)の中に、無理数、分数等の数字を記号として記憶する記号記憶装置(31)を設け、前記演算装置(20)における数値演算の途上で、無理数、分数等の無限の桁数を有する数字が発生した際、その数字を有限の桁数の数字には変換せず、そのままの形で記号として前記記号記憶装置(31)の中に記憶しておき、演算の最終段階で、前記記号記憶装置(31)の中に記憶している記号を、有限の桁数の数値に変換して演算を行うことを特徴とする低誤差計算処理装置。

IPC (4件)：

G06F 7/00 ,  G06F 7/38 ,  G06F 15/02 330 ,  G06F 15/31