« 加地先生の橋本知事応援歌 2 | Main | ザ・マジックアワー »

06/27/2008

JISの数値の丸め方が変わっていた!

JISの数値の丸め方は四捨五入とは違います。小数第(n+1)位の数字が 5 で,小数第(n+2)位以下の数値が不明なとき,あるいは 0 であるときは,小数第n位が偶数のとき,切り捨て、小数第n位が奇数のときは切り上げます。

例えば23.45を小数第2位で丸める場合、23.5でなく23.4となります。この理由は 23.445~23.450と23.450~23.455に分けて考えればわかります。

後者は小数第2位以下が5よりも大きいので四捨五入で切り上げてよいのですが,前者の小数第2位以下は5よりも小さいので、本来切り捨てなければならないのです。これをどちらも切り上げると、数値を大きく見積もる可能性が大きくなってしまいます。

測定値23.45を見ただけではどちらに該当するのかが分かりませんから、丸めようとする桁のひとつ上,この場合小数第1位を利用します。偶数なので切り捨てることになり,最終結果は23.4となります。(新潟大学木村勇雄氏の解説による)

ところが・・・JISはISOに合わせて1999に変更になっていました。知りませんでしたねえ・・・
rounding intervalなる概念の導入によって「有効数字」という言葉がなくなり「丸めた数値」を定める過程が大きく異なっていますが、規則Aの結果は従来のJISと同じです。規則Bの方式は、コンピュータの丸め方です。

|

« 加地先生の橋本知事応援歌 2 | Main | ザ・マジックアワー »