小清水さんとコンピューター数学

コンピューター・数学 に関することを書きます (特に丸め誤差の話が多いです。)

2017-02-05から1日間の記事一覧

計算環境の精度を当てる ― 解説編 ―

小清水 です。 (@curekoshimizu) 前回の記事は 「計算環境の精度を当てる ― Intel CPU と Excel への応用 ―」というタイトルで、 進 桁浮動小数点環境 の 基数 と 精度 を当てる! という話でした。 (一部 Excel の謎挙動を紹介) math-koshimizu.hatenablog.…