小清水さんとコンピューター数学

コンピューター・数学 に関することを書きます (特に丸め誤差の話が多いです。)

2016-01-01から1年間の記事一覧

素数大富豪だけじゃなく HEX もやろう! ― 紹介編―

小清水 です。 (@curekoshimizu) twitter 上で 素数大富豪 が大変流行ってるのを目撃しております! 素数大富豪アドベントカレンダー もつくられており楽しそうです! HEX の提案! そんな数学コミュニティに流行って欲しいゲームがあります。 それが HEX で…

Newton法でつながるコンピューターと数学の隙間

小清水 (@curekoshimizu) です。 この記事は 日曜数学 Advent Calendar 2016 の 15日目の記事になります。 日曜数学 ということばを各所で聞いて、 僕も数学科時代の わくわく数学 を社会人になっても 感じたい・伝えたい! そう思うようになりました! 現在…

Excelでおかしな計算結果になった問題の正解値を求める

小清水 (@curekoshimizu) です。 以前紹介した記事に math-koshimizu.hatenablog.jp がありました。この内容はざっくりいいますと の場合の の値を Excel で計算すると 1.17260394... 真の解は -0.827396... であると紹介しました。 正しい結果の計算方法を…

コンピュータでおかしなことになる計算例 (3) ―たった1度の型変換―

小清水 です。(@curekoshimizu) 今回は C言語のsin関数 で遊んでみましょう。 最後のオチまで気づかない人がいるかも!? というわけで、 あーなるほどねと思っても読み進めて欲しいです! 今回紹介する例 sinf は 単精度用 (float) の sin関数 sin は倍精度…

コンピュータでおかしなことになる計算例 (2) ― 三角函数を定義通りに ―

小清水 (@curekoshimizu) です。 以前の記事に Excelで計算が破綻する例 を紹介しました。 math-koshimizu.hatenablog.jp 紹介した数式は次でしたが、 実に 人工的 な感じがします。 Abstract 今回紹介する話は 数学上自然な定義 なのに それが うまくいかな…

浮動小数点の丸めの方向と性質 (1)

小清水です。 前回の記事では 浮動小数点数による計算のため に、 計算が はちゃめちゃ・わやくちゃ になる例を紹介しました。 math-koshimizu.hatenablog.jp Abstract 今回は そんな浮動小数点数 に もう少し踏み込んだ話をするための準備記事になります。 …

コンピュータでおかしなことになる計算例 (1)

小清水です。初ブログになります。 カタストロフィックに 計算結果がおかしくなる 例を紹介したいと思います。 Excel を使用した例と C言語の例です。 お膳立て:(飛ばしてOK) コンピュータの中で 実数 は一般にどのように表されているのでしょうか? 浮動小…