2013-05-01から1ヶ月間の記事一覧

浮動小数点数の(より)正確な mod (その2)

桁落ちと情報落ち ここで今更(前回の説明で盛大に使っている)ではありますが「桁落ち」と「情報落ち」について確認します。 桁落ち 有効数字に制限のある計算において、たとえば、 141.4214 - 141.4213 = 0.0001 のように、値が何桁も一致する数の減算を行…

浮動小数点数の(より)正確な mod (その1)

浮動小数点演算で mod なんか計算するのか? と思うかもしれませんが、たとえば sin(10000.0) のような計算をする時、よくできている浮動小数点演算の処理系では、10000.0 `mod` 2π を計算してから、近似式で結果を求めています(細かく言うと、最終的には -…