桁落ちと情報落ち ここで今更(前回の説明で盛大に使っている)ではありますが「桁落ち」と「情報落ち」について確認します。 桁落ち 有効数字に制限のある計算において、たとえば、 141.4214 - 141.4213 = 0.0001 のように、値が何桁も一致する数の減算を行…
引用をストックしました
引用するにはまずログインしてください
引用をストックできませんでした。再度お試しください
限定公開記事のため引用できません。