小清水さんとコンピューター数学

コンピューター・数学 に関することを書きます (特に丸め誤差の話が多いです。)

2017-01-01から1ヶ月間の記事一覧

計算環境の精度を当てる ― Intel CPU と Excel への応用 ―

小清水 (@curekoshimizu) です。 計算ツールに対して その 計算精度 がわかると便利ではないでしょうか? 例えば、コンピュータにのっている その Excel はどのくらいの精度 で計算してくれる? こうしたアプリケーションだけでなく、 そのコンピュータの中…

expm1 や pow などの 指数・対数函数 への考察

小清水 (@curekoshimizu) です。 今日は の 乗、 について考えてみたいと思います。 この定義ってどのように習いましたでしょうか? と を定義した後に により定義していたかと思います。 この記事ではいったん複素数のことは忘れましょう。 多価関数が...と…