演算方法および装置

発明者：
出願人/特許権者：
代理人 (1件)：森下賢樹
公報種別：公開公報
出願番号（国際出願番号）：特願2004-248395
公開番号（公開出願番号）：特開2006-065633
出願日： 2004年08月27日
公開日（公表日）： 2006年03月09日
要約：

【課題】浮動小数点数の演算の処理量を抑えつつ、精度を向上させる。【解決手段】第2変換部32は、関数に応じて定められた指数部の変換規則によって、指数部12に含まれた指数部を変換する。記憶部38は、関数に応じて定められた仮数部の変換規則によって、仮数部14を変換した値をテーブルとして予め記憶する。取得部34は、仮数部14を構成する23ビットから上位8ビットを抽出することによって、テーブルのインデックスを導出する。さらに、取得部34は、上位8ビットによって近似した仮数部14に対して1を加え。ふたつ目のインデックスを導出する。導出部36は、仮の戻り値Aと仮の戻り値Bをそれぞれ導出する。さらに、導出部36は、仮の戻り値Aと仮の戻り値Bに補間演算を施して関数の戻り値208を導出する。【選択図】図2

請求項（抜粋）：

指数部と仮数部を含んだ浮動小数点形式で表現された関数の引数を入力する入力部と、関数に応じて定められた指数部の変換規則によって、入力した引数に含まれた指数部を変換する変換部と、関数に応じて定められた仮数部の変換規則によって、引数に含まれる仮数部を変換した値をテーブルとして予め記憶する記憶部と、入力した引数のうちの少なくとも仮数部を近似することによって、前記記憶部に記憶したテーブルの複数のインデックスをそれぞれ導出し、導出した複数のインデックスにもとづいて、前記記憶部に記憶したテーブルから複数の値をそれぞれ取得する取得部と、変換した指数部と取得した複数の値にもとづいて、引数と同様の浮動小数点形式で表現された関数の戻り値を導出して出力する導出部とを備え、前記記憶部には、引数のうちの少なくとも仮数部の近似値がとりうる値の総数に1を加えた数が、前記テーブルのインデックスの数として規定されていることを特徴とする演算装置。

IPC (2件)：

G06F 7/52 , G06F 7/552

FI (2件)：

G06F7/52 320G , G06F7/552 B

Fターム (5件)：

5B016AA02 , 5B016BA07 , 5B016BB05 , 5B016CA01 , 5B016CD01

引用特許：

審査官引用 (4件)

非線形関数発生装置およびフォーマット変換装置
公報種別：公開公報出願番号：特願平6-038589 出願人：三菱電機株式会社
特開平3-286212
特開平4-314126

全件表示

前のページに戻る