特許
J-GLOBAL ID：200903060094029730
端数処理装置及びその方法並びに該端数処理を実行するプログラムを記録した記録媒体
発明者：
出願人/特許権者：
代理人 (1件)：
三枝 英二 (外10名)
公報種別：公開公報
出願番号（国際出願番号）：特願平11-019982
公開番号（公開出願番号）：特開2000-222173
出願日： 1999年01月28日
公開日（公表日）： 2000年08月11日
要約：
【要約】【課題】 丸めの幅をそのまま用いて端数処理を行うことができる端数処理装置等を提供する。【解決手段】 入力部1により端数処理される数値xと丸めの幅wとを入力し、入力された数値xを各桁毎に数値記憶部21に記憶し、入力された丸めの幅wを丸め幅記憶部22に記憶し、下位数値抽出部31により数値記憶部21に記憶されている数値xのうち、丸め幅記憶部22に記憶されている丸めの幅wに対応する桁より下位の桁から構成される下位数値yを抽出し、端数処理部4により丸め幅記憶部22に記憶されている丸めの幅wと下位数値抽出部31により抽出された下位数値yを2倍した数値とを比較した結果に基づいて、数値記憶部21に記憶されている数値xを、丸め幅記憶部22に記憶されている丸めの幅wの整数倍の系列の中から選んだ数値に置き換える。
請求項（抜粋）：
端数処理される数値xと丸めの幅wとを入力するための入力手段と、入力された数値xを各桁毎に記憶する数値記憶手段と、入力された丸めの幅wを記憶する丸め幅記憶手段と、前記数値記憶手段に記憶されている数値xのうち、前記丸め幅記憶手段に記憶されている丸めの幅wに対応する桁より下位の桁から構成される下位数値yを抽出する下位数値抽出手段と、前記丸め幅記憶手段に記憶されている丸めの幅wと前記下位数値抽出手段により抽出された下位数値yを2倍した数値とを比較した結果に基づいて、前記数値記憶手段に記憶されている数値xを、前記丸め幅記憶手段に記憶されている丸めの幅wの整数倍の系列の中から選んだ数値に置き換える端数処理手段とを備える端数処理装置。
IPC (3件)：
G06F 7/38
, G06F 5/01
, G06F 7/00
G06F 7/38 B
, G06F 7/00 101 N
5B016AA01
, 5B016BB02
, 5B022AA00
, 5B022BA00
, 5B022DA07
, 5B022FA12
