読者です 読者をやめる 読者になる 読者になる

小清水さんとコンピューター数学

コンピューター・数学 に関することを書きます

最近接偶数方向丸めの統計的性質を調べてみた

小清水 (@curekoshimizu) です。 以前のこちらの記事では、 math-koshimizu.hatenablog.jp 浮動小数点の丸め について説明しました! 今回は 「絶対誤差」・「相対誤差」の性質 について紹介したいと思います。 簡単に復習 この記事で登場した RN(x) : 最近…

計算環境の精度を当てる ― 解説編 ―

小清水 です。 (@curekoshimizu) 前回の記事は 「計算環境の精度を当てる ― Intel CPU と Excel への応用 ―」というタイトルで、 進 桁浮動小数点環境 の 基数 と 精度 を当てる! という話でした。 (一部 Excel の謎挙動を紹介) math-koshimizu.hatenablog.…

計算環境の精度を当てる ― Intel CPU と Excel への応用 ―

小清水 (@curekoshimizu) です。 計算ツールに対して その 計算精度 がわかると便利ではないでしょうか? 例えば、コンピュータにのっている その Excel はどのくらいの精度 で計算してくれる? こうしたアプリケーションだけでなく、 そのコンピュータの中…

expm1 や pow などの 指数・対数函数 への考察

小清水 (@curekoshimizu) です。 今日は の 乗、 について考えてみたいと思います。 この定義ってどのように習いましたでしょうか? と を定義した後に により定義していたかと思います。 この記事ではいったん複素数のことは忘れましょう。 多価関数が...と…

素数大富豪だけじゃなく HEX もやろう! ― 紹介編―

小清水 です。 (@curekoshimizu) twitter 上で 素数大富豪 が大変流行ってるのを目撃しております! 素数大富豪アドベントカレンダー もつくられており楽しそうです! HEX の提案! そんな数学コミュニティに流行って欲しいゲームがあります。 それが HEX で…

Newton法でつながるコンピューターと数学の隙間

小清水 (@curekoshimizu) です。 この記事は 日曜数学 Advent Calendar 2016 の 15日目の記事になります。 日曜数学 ということばを各所で聞いて、 僕も数学科時代の わくわく数学 を社会人になっても 感じたい・伝えたい! そう思うようになりました! 現在…

Excelでおかしな計算結果になった問題の正解値を求める

小清水 (@curekoshimizu) です。 以前紹介した記事に math-koshimizu.hatenablog.jp がありました。この内容はざっくりいいますと の場合の の値を Excel で計算すると 1.17260394... 真の解は -0.827396... であると紹介しました。 正しい結果の計算方法を…

コンピュータでおかしなことになる計算例 (3) ―たった1度の型変換―

小清水 です。(@curekoshimizu) 今回は C言語のsin関数 で遊んでみましょう。 最後のオチまで気づかない人がいるかも!? というわけで、 あーなるほどねと思っても読み進めて欲しいです! 今回紹介する例 sinf は 単精度用 (float) の sin関数 sin は倍精度…

コンピュータでおかしなことになる計算例 (2) ― 三角函数を定義通りに ―

小清水 (@curekoshimizu) です。 以前の記事に Excelで計算が破綻する例 を紹介しました。 math-koshimizu.hatenablog.jp 紹介した数式は次でしたが、 実に 人工的 な感じがします。 Abstract 今回紹介する話は 数学上自然な定義 なのに それが うまくいかな…

浮動小数点の丸めの方向と性質 (1)

小清水です。 前回の記事では 浮動小数点数による計算のため に、 計算が はちゃめちゃ・わやくちゃ になる例を紹介しました。 math-koshimizu.hatenablog.jp Abstract 今回は そんな浮動小数点数 に もう少し踏み込んだ話をするための準備記事になります。 …

コンピュータでおかしなことになる計算例 (1)

小清水です。初ブログになります。 カタストロフィックに 計算結果がおかしくなる 例を紹介したいと思います。 Excel を使用した例と C言語の例です。 お膳立て:(飛ばしてOK) コンピュータの中で 実数 は一般にどのように表されているのでしょうか? 浮動小…