特許
J-GLOBAL ID:200903033679000471
演算方法およびグラフィックス表示装置
発明者:
,
,
,
出願人/特許権者:
代理人 (1件):
高橋 明夫 (外1名)
公報種別:公開公報
出願番号(国際出願番号):特願平8-125569
公開番号(公開出願番号):特開平9-305789
出願日: 1996年05月21日
公開日(公表日): 1997年11月28日
要約:
【要約】【課題】浮動小数点法によらずに、取り得る値の範囲が広いパラメータを高速且つ高精度に演算する。【解決手段】ビット数レジスタ14は、仮数部レジスタ25内の同一のビット数を設定されている。レジスタ11〜13にパラメータa,b,cがセットされると、最大値判定器15で最大値が求められる。桁数演算器16は最大値のビット数をビットカウンタ17にセットする。また、最大値のビット数とビット数レジスタ14の固定ビット数を比較し、前者が大きい場合に、その差分ビット数(桁数)eを桁数部レジスタ18にセットする。シフタ19〜21は、a,b,cを取り込んで桁数eだけ右シフトしたa’,b’,c’を、仮数部のレジスタ22〜24にセットする。積和演算部10は、仮数a’,b’,c’を取り込んで、図示していない入力値、例えば座標値X,Yとの間で、所定の積和演算を行なう。演算結果は、桁シフト部26で、桁数eだけ左シフトされる。
請求項(抜粋):
複数のパラメータの2値データを基に、パラメータ間またはパラメータと他の変数による所定の演算を固定のビット容量で行なう演算方法において、前記2値データの最大値の有効数字を前記ビット容量で保証するように桁数を求め、前記2値データの各々を前記桁数だけシフトした仮数部と桁数部によって表して、前記所定の演算を行なうことを特徴とする演算方法。
IPC (5件):
G06T 15/00
, G06F 7/02
, G06T 11/00
, G09G 5/36 510
, G09G 5/36 530
FI (5件):
G06F 15/72 450 A
, G06F 7/02 M
, G09G 5/36 510 V
, G09G 5/36 530 C
, G06F 15/72 A
前のページに戻る