特許
J-GLOBAL ID:200903079624872658

近似値を丸める方法

発明者:
出願人/特許権者:
代理人 (1件): 中村 稔 (外6名)
公報種別:公開公報
出願番号(国際出願番号):特願平6-059043
公開番号(公開出願番号):特開平7-049771
出願日: 1989年01月27日
公開日(公表日): 1995年02月21日
要約:
【要約】【目的】 除算または平方根の計算の最終的な近似値を丸める方向を素早く決定する方法を得ること。【構成】 除算または平方根の計算の最終的な近似値を丸める方向を素早く決定するために比較回路120を設ける。平方根の場合、平方根の最終的な近似値を自乗し、演算数と比較する。丸めをどうするかは、演算数と近似された平方根との大小に基づく。除算では、商の最終的な近似値に除数を乗じ、被除数と比較する。被除数と計算された積との大小に基づいて丸めの方向が決定される。
請求項(抜粋):
演算数の平方根の計算で平方根の近似値を丸める方法において、平方根の近似値を自乗して近似演算数を求め、該近似演算数を演算数と比較し、近似演算数が演算数より小さい場合、演算数の近似値を切上げ、近似演算数が演算数より大きい場合、演算数の近似値を切下げる工程を含む方法。
IPC (3件):
G06F 7/52 320 ,  G06F 7/38 ,  G06F 7/552
引用特許:
審査官引用 (2件)
  • 特開昭55-116143
  • 特開昭61-243532

前のページに戻る