小清水さんとコンピューター数学

コンピューター・数学 に関することを書きます (特に丸め誤差の話が多いです。)

2017-01-22から1日間の記事一覧

計算環境の精度を当てる ― Intel CPU と Excel への応用 ―

小清水 (@curekoshimizu) です。 計算ツールに対して その 計算精度 がわかると便利ではないでしょうか? 例えば、コンピュータにのっている その Excel はどのくらいの精度 で計算してくれる? こうしたアプリケーションだけでなく、 そのコンピュータの中…