2013-05-11から1日間の記事一覧

浮動小数点数の(より)正確な mod (その2)

桁落ちと情報落ち ここで今更(前回の説明で盛大に使っている)ではありますが「桁落ち」と「情報落ち」について確認します。 桁落ち 有効数字に制限のある計算において、たとえば、 141.4214 - 141.4213 = 0.0001 のように、値が何桁も一致する数の減算を行…