小清水さんとコンピューター数学

コンピューター・数学 に関することを書きます (特に丸め誤差の話が多いです。)

FMA (Fused Multiply-Add) について色んな観点でまとめてみた

小清水 (@curekoshimizu) です。 本日は FMA についてお話したいと思います。 FMA とは? FMA とは Fused Multiply-Add ことで の演算のことです。 ここで は の丸めを表しました。 本当にただこれだけの内容なのですが、 今回の記事は、この FMA について熱…

逆数の近似命令と精度補正について (その1)

小清水 (@curekoshimizu) です。 久しぶりの投稿になります。 長期にわたり転職活動をしており、 かなり投稿に時間が空いてしまいました。 今回の記事は に関する内容です! 逆数の近似から精度を高めたい!!! の近似値 が与えられたときに 精度を高めたい…

丸め誤差界の Hello World 的定理 -- Sterbenz の定理

小清水 (@curekoshimizu) です。 昨日は 数学カフェ に初めて参加させていただき、 機械学習について刺激を受けました! connpass.com その中で、 コイン投げは確率界の Hello World というフレーズを聞いて なるほどなるほど!と感じました。 そして、 そう…

エイプリルフールだし「1=2」を別の方法で証明してみた

小清水(@curekoshimizu) です。 久々のブログ投稿になります! 今日は ロマンティック数学ナイトボーイズ がありました! そこで 2進数フレンズ という内容で発表させていただきまして、 その発表資料はこちらです: 今日はこの発表資料をつかって、 「1 = 2…

計算環境の精度を当てる ― 解説編 ―

小清水 です。 (@curekoshimizu) 前回の記事は 「計算環境の精度を当てる ― Intel CPU と Excel への応用 ―」というタイトルで、 進 桁浮動小数点環境 の 基数 と 精度 を当てる! という話でした。 (一部 Excel の謎挙動を紹介) math-koshimizu.hatenablog.…

計算環境の精度を当てる ― Intel CPU と Excel への応用 ―

小清水 (@curekoshimizu) です。 計算ツールに対して その 計算精度 がわかると便利ではないでしょうか? 例えば、コンピュータにのっている その Excel はどのくらいの精度 で計算してくれる? こうしたアプリケーションだけでなく、 そのコンピュータの中…

expm1 や pow などの 指数・対数函数 への考察

小清水 (@curekoshimizu) です。 今日は の 乗、 について考えてみたいと思います。 この定義ってどのように習いましたでしょうか? と を定義した後に により定義していたかと思います。 この記事ではいったん複素数のことは忘れましょう。 多価関数が...と…

素数大富豪だけじゃなく HEX もやろう! ― 紹介編―

小清水 です。 (@curekoshimizu) twitter 上で 素数大富豪 が大変流行ってるのを目撃しております! 素数大富豪アドベントカレンダー もつくられており楽しそうです! HEX の提案! そんな数学コミュニティに流行って欲しいゲームがあります。 それが HEX で…

Newton法でつながるコンピューターと数学の隙間

小清水 (@curekoshimizu) です。 この記事は 日曜数学 Advent Calendar 2016 の 15日目の記事になります。 日曜数学 ということばを各所で聞いて、 僕も数学科時代の わくわく数学 を社会人になっても 感じたい・伝えたい! そう思うようになりました! 現在…

Excelでおかしな計算結果になった問題の正解値を求める

小清水 (@curekoshimizu) です。 以前紹介した記事に math-koshimizu.hatenablog.jp がありました。この内容はざっくりいいますと の場合の の値を Excel で計算すると 1.17260394... 真の解は -0.827396... であると紹介しました。 正しい結果の計算方法を…

コンピュータでおかしなことになる計算例 (3) ―たった1度の型変換―

小清水 です。(@curekoshimizu) 今回は C言語のsin関数 で遊んでみましょう。 最後のオチまで気づかない人がいるかも!? というわけで、 あーなるほどねと思っても読み進めて欲しいです! 今回紹介する例 sinf は 単精度用 (float) の sin関数 sin は倍精度…

コンピュータでおかしなことになる計算例 (2) ― 三角函数を定義通りに ―

小清水 (@curekoshimizu) です。 以前の記事に Excelで計算が破綻する例 を紹介しました。 math-koshimizu.hatenablog.jp 紹介した数式は次でしたが、 実に 人工的 な感じがします。 Abstract 今回紹介する話は 数学上自然な定義 なのに それが うまくいかな…

浮動小数点の丸めの方向と性質 (1)

小清水です。 前回の記事では 浮動小数点数による計算のため に、 計算が はちゃめちゃ・わやくちゃ になる例を紹介しました。 math-koshimizu.hatenablog.jp Abstract 今回は そんな浮動小数点数 に もう少し踏み込んだ話をするための準備記事になります。 …

コンピュータでおかしなことになる計算例 (1)

小清水です。初ブログになります。 カタストロフィックに 計算結果がおかしくなる 例を紹介したいと思います。 Excel を使用した例と C言語の例です。 お膳立て:(飛ばしてOK) コンピュータの中で 実数 は一般にどのように表されているのでしょうか? 浮動小…