2013-05-09から1日間の記事一覧

浮動小数点数の(より)正確な mod (その1)

浮動小数点演算で mod なんか計算するのか? と思うかもしれませんが、たとえば sin(10000.0) のような計算をする時、よくできている浮動小数点演算の処理系では、10000.0 `mod` 2π を計算してから、近似式で結果を求めています(細かく言うと、最終的には -…