CFDにおける高精度誤差を補正するための深層ニューラルネットワーク【JST・京大機械翻訳】

Haridas Akash; Vadlamani Nagabhushana Rao; Minamoto Yuki

プレプリント

J-GLOBAL ID：202202213283887586 整理番号：22P0286845

CFDにおける高精度誤差を補正するための深層ニューラルネットワーク【JST・京大機械翻訳】

Deep Neural Networks to Correct Sub-Precision Errors in CFD

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年02月08日プレプリントサーバーでの情報更新日： 2022年09月24日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

※このプレプリント論文は学術誌に掲載済みです。なお、学術誌掲載の際には一部内容が変更されている可能性があります。

離散化偏微分方程式を解くとき,数値物理シミュレーションにおける情報損失は様々な源から生じる。特に,等価64ビットシミュレーションと比較して,低精度16ビット浮動小数点演算を用いてシミュレーションを行うとき,数値精度(”サブ精度誤差”)に関連する誤差は,関心のある量に蓄積できる。一方,低精度計算は高精度計算よりも少ない資源集約である。最近提案されたいくつかの機械学習技術は,粗い空間離散化による誤り訂正に成功した。本研究では,低数値精度で行ったCFDシミュレーションを改善するために,これらの技術を拡張した。Kolmogorov強制乱流試験事例で蓄積した精度関連誤差を定量化した。続いて,著者らは,緊密に結合されたML-CFDハイブリッドソルバを学習するために16ビット演算を実行する完全微分可能数値ソルバと共に畳込みニューラルネットワークを採用した。16ビットソルバと比較して,著者らは,シミュレーションの統計的およびポイント的精度に関連する様々なメトリックを改善するハイブリッドソルバの有効性を実証した。【JST・京大機械翻訳】

, , , , , , , ,
, , , , , , , 【Automatic Indexing@JST】

数値計算 , 計算機シミュレーション

前のページに戻る