Pat
J-GLOBAL ID:200903074555935578

シストリックアレイプロセッサの構成方法

Inventor:
Applicant, Patent owner:
Agent (1): 草野 卓 (外1名)
Gazette classification:公開公報
Application number (International application number):1999103580
Publication number (International publication number):2000293510
Application date: Apr. 12, 1999
Publication date: Oct. 20, 2000
Summary:
【要約】【課題】 固定小数点演算によるboundary cell の演算において、β<SP>2 </SP>x≪δ<SB>in</SB>|z|<SP>2</SP> かつ|z|≪1の時、|s|=1/|z|の除算で桁あふれが生じないようにする。【解決手段】 boundary cell の演算でu<SB>in</SB><min、又はδ<SB>in</SB><min、あるいはβ<SP>2 </SP>x+δ<SB>in</SB>|z|<SP>2</SP> <minであれば、x=β<SP>2 </SP>x,s=0,z=u<SB>in</SB>,δ<SB>out </SB>=δ<SB>in</SB>を演算し、上記以外ではz=u<SB>in</SB>,x′=β<SP>2 </SP>x+δ<SB>in</SB>|z|<SP>2</SP> ,c=β<SP>2 </SP>x/x′,s=δ<SB>in</SB>z/x′,x=x′,δ<SB>out </SB>=cδ<SB>in</SB>を演算する。minは例えば0.0001とする。
Claim (excerpt):
バウンダリーセルとインターナルセルとファイナルセルの各セルで演算を繰り返すことで逐次最小二乗アルゴリズムの計算を行うシストリックアレイプロセッサの構成方法において、前記バウンダリーセルで演算を行う際の条件文にしきい値を設けることを特徴とするシストリックアレイプロセッサの構成方法。
F-Term (4):
5B056AA04 ,  5B056BB21 ,  5B056BB28 ,  5B056GG05
Patent cited by the Patent:
Cited by examiner (2)

Return to Previous Page