特許

J-GLOBAL ID：200903046641668163

端数処理装置

発明者： 吉見 知明
出願人/特許権者： 株式会社データアクション
代理人 (1件)： 三枝 英二 (外6名)
公報種別：公開公報
出願番号（国際出願番号）：特願平8-243816
公開番号（公開出願番号）：特開平10-091398
出願日： 1996年09月13日
公開日（公表日）： 1998年04月10日
要約：

【要約】【課題】 有効桁数の指定が可能な端数処理ソフトを提供すること及び、JIS規格に定められている数値丸めを行うことができる端数処理ソフトを提供すること。【解決手段】 端数処理前数値xと有効桁数nとを入力し(ステップS501)、入力された有効桁数nを記憶し、入力された数値xをA×10aの形式で表現した場合の整数Aと指数aとを算出し(ステップS502)、算出された指数a及び整数Aを記憶し(ステップS503、S504)、整数Aと有効桁数nとを用いて整数Aを有効数字n桁で端数処理して整数Bを算出し(ステップS505からS511)、算出された整数Bと記憶されたaとを用いてB×10aを計算し(ステップS512、S513)、演算結果を出力する(ステップS514)ことを特徴とする端数処理装置。

請求項（抜粋）：

端数処理前数値xと有効桁数nとを入力する入力手段と、入力された有効桁数nを記憶するn記憶手段と、前記入力手段によって入力された数値xをA×10aの形式(Aが最下位桁に0を含まず、また0以外の数が小数点以下に存しないように、元の数値を10のべき数10aとの積で表す)で表現した場合の整数Aと指数aとを算出する整数部指数部演算手段と、整数部指数部演算手段によって算出された指数aを記憶する指数部記憶手段と、整数部指数部演算手段によって算出された整数Aを記憶する整数部記憶手段と、整数部記憶手段に記憶された整数Aとn記憶手段に記憶された有効数字nとを用いて整数Aを有効数字n桁で端数処理して整数Bを算出する端数処理手段と、端数処理手段によって算出された整数Bと指数部記憶手段に記憶された指数aとを用いてB×10aを計算する桁復元手段と、桁復元手段による演算結果を有効数字n桁で出力する出力手段とを備えたことを特徴とする端数処理装置。