逆数の計算方法と、該方法を実施するためのコンピユータ

発明者： ,
出願人/特許権者：
代理人 (1件)：越場隆
公報種別：公開公報
出願番号（国際出願番号）：特願平3-083163
公開番号（公開出願番号）：特開平5-094280
出願日： 1991年03月22日
公開日（公表日）： 1993年04月16日
要約：

【要約】【目的】逆数の計算方法と、該方法を実施するためのコンピュータ【構成】本発明は、数Dの逆数Iを計算するためにデジタルコンピュータで使用することのできる方法に関する。本発明では、逆数は、逆数表を基に得られる第1の値I0 に基づいた線形近似により得られる近似値に相補訂正Cjlを適用した後I2 により概算される。訂正値Cjlは、縮小された寸法の表に記憶される予備設定データCBl およびHj から得られる。本発明はまた上記の方法を実施するためのデジタルコンピュータに関する。

請求項（抜粋）：

a)与えられた数Dを2進数に変換し且つ正規化し、b)入力値Xj =1/2+(j×2-n)(ただし、jは0から2n-1 -1までの整数)に対応する数Dのn個の上位ビットに基づいて、数Dの逆数の第1の近似値Ioを逆数表T1中で検索し、c)値Dをその区間内に含む区間ij=〔Xj ,Xj+i〕(但しi=2-n)での逆数偏差勾配GO=ΔIO/iを偏差表T2で検索し、d)線形近似により、アルゴリズムI1 =I0 +(d×G0 )(但し、d=D-Xj で、G0 は代数値として入力される)を用いて第2の値I1 を決定し、e)基本区間iB =〔XjB,XjB+i〕での偏差E=I-I1 を表す、符号付あるいは符号付でない、予め設定した基本訂正値CBl をdに基づいて訂正表T3で検索し、f)Xj に基づいてスケールファクタHj をスケール表T4で検索し、g)訂正値Cjl=CBl ×Hj を決定し、h)第3の近似値I2 =I1 +Cjlを決定する各操作を含むことを特徴とする数Dの逆数Iを計算する方法。

IPC (2件)：

G06F 7/52 320 , G06F 7/552

引用特許：

審査官引用 (5件)

特開昭60-142738
特開昭63-163630
特開昭60-181924

全件表示

前のページに戻る