図9-4 混合精度行列解法の模式図
連立一次方程式Ax=bの反復行列解法を示します。行列Aの近似解を求める前処理計算に「富岳」で新たに利用可能となった16bit演算(緑)を適用して4倍の演算数を同時処理することで計算を加速します。これ以外の反復行列解法計算には64bit演算(青)を用います。
ブラウザの閉じるを実行するか、右の閉じるボタンをクリックしてください。
≪閉じる