文献

J-GLOBAL ID：201702280053680508   整理番号：17A0125735

IEEE754に基づく数値計算の誤差の推定

著者 (1件)： 吉田有一郎 (東芝インフォメーションシステムズ)
資料名： 日本機械学会計算力学講演会論文集(CD-ROM)  (日本機械学会計算力学講演会(CD-ROM))
巻： 28th  ページ： ROMBUNNO.172  発行年： 2015年10月09日 
JST資料番号： L0203B  ISSN： 2424-2799  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 本報告では非線形素子を有する電子回路の電流計算の収束判定に,計算機で表現できる最小の数値(マシンエプシロン)と数式の全微分を用いて数式の計算誤差を評価する方法及びIEEE754の丸め操作切替えに基づく誤差評価法を適用し,有用な結果が得られることを示す。さらに,有限要素法の線形構造解析においてもIEEE754の丸め操作切替えに基づく方法が有用であることを示した。(著者抄録)

シソーラス用語： 推定 ,  電子回路 ,  収束 ,  検証 ,  ソフトウェア ,  *誤差 ,  Newton-Raphson法 ,  データフォーマット ,  有限要素法 ,  IEEE規格
準シソーラス用語： Newton法 ,  丸め誤差 ,  誤差推定 ,  反復 ,  非線形 ,  浮動小数点 ,  離散化誤差

分類 (1件)： 数値計算  (JE02000J)

タイトルに関連する用語 (3件)： 数値計算 ,  誤差 ,  推定