@curekoshimizu です。 仕事でExcelを使っていて不思議な気持ちになったので、とても久々に記事を更新しました。 お題となる計算 正しい計算方法 当然ながら このように、指数部分から計算します。 間違って から計算して、 としてはいけないというお話にな…
小清水 (@curekoshimizu) です。 仕事が忙しくなかなか更新する余力がありませんでしたが一年半振りにブログを更新します! エラーフリー変換とは? 浮動小数点数の計算というのは、このブログで何度も紹介していますが、 丸め誤差 を伴います。 簡単な とい…
小清水 (@curekoshimizu) です。 本日は FMA についてお話したいと思います。 FMA とは? FMA とは Fused Multiply-Add ことで の演算のことです。 ここで は の丸めを表しました。 本当にただこれだけの内容なのですが、 今回の記事は、この FMA について熱…
小清水 (@curekoshimizu) です。 久しぶりの投稿になります。 長期にわたり転職活動をしており、 かなり投稿に時間が空いてしまいました。 今回の記事は に関する内容です! 逆数の近似から精度を高めたい!!! の近似値 が与えられたときに 精度を高めたい…
小清水 (@curekoshimizu) です。 昨日は 数学カフェ に初めて参加させていただき、 機械学習について刺激を受けました! connpass.com その中で、 コイン投げは確率界の Hello World というフレーズを聞いて なるほどなるほど!と感じました。 そして、 そう…
小清水(@curekoshimizu) です。 久々のブログ投稿になります! 今日は ロマンティック数学ナイトボーイズ がありました! そこで 2進数フレンズ という内容で発表させていただきまして、 その発表資料はこちらです: 2進数フレンズ from shugo manabe www.…
小清水 です。 (@curekoshimizu) 前回の記事は 「計算環境の精度を当てる ― Intel CPU と Excel への応用 ―」というタイトルで、 進 桁浮動小数点環境 の 基数 と 精度 を当てる! という話でした。 (一部 Excel の謎挙動を紹介) math-koshimizu.hatenablog.…
小清水 (@curekoshimizu) です。 計算ツールに対して その 計算精度 がわかると便利ではないでしょうか? 例えば、コンピュータにのっている その Excel はどのくらいの精度 で計算してくれる? こうしたアプリケーションだけでなく、 そのコンピュータの中…
小清水 (@curekoshimizu) です。 今日は の 乗、 について考えてみたいと思います。 この定義ってどのように習いましたでしょうか? と を定義した後に により定義していたかと思います。 この記事ではいったん複素数のことは忘れましょう。 多価関数が...と…
小清水 です。 (@curekoshimizu) twitter 上で 素数大富豪 が大変流行ってるのを目撃しております! 素数大富豪アドベントカレンダー もつくられており楽しそうです! HEX の提案! そんな数学コミュニティに流行って欲しいゲームがあります。 それが HEX で…
小清水 (@curekoshimizu) です。 この記事は 日曜数学 Advent Calendar 2016 の 15日目の記事になります。 日曜数学 ということばを各所で聞いて、 僕も数学科時代の わくわく数学 を社会人になっても 感じたい・伝えたい! そう思うようになりました! 現在…
小清水 (@curekoshimizu) です。 以前紹介した記事に math-koshimizu.hatenablog.jp がありました。この内容はざっくりいいますと の場合の の値を Excel で計算すると 1.17260394... 真の解は -0.827396... であると紹介しました。 正しい結果の計算方法を…
小清水 です。(@curekoshimizu) 今回は C言語のsin関数 で遊んでみましょう。 最後のオチまで気づかない人がいるかも!? というわけで、 あーなるほどねと思っても読み進めて欲しいです! 今回紹介する例 sinf は 単精度用 (float) の sin関数 sin は倍精度…
小清水 (@curekoshimizu) です。 以前の記事に Excelで計算が破綻する例 を紹介しました。 math-koshimizu.hatenablog.jp 紹介した数式は次でしたが、 実に 人工的 な感じがします。 Abstract 今回紹介する話は 数学上自然な定義 なのに それが うまくいかな…
小清水です。 前回の記事では 浮動小数点数による計算のため に、 計算が はちゃめちゃ・わやくちゃ になる例を紹介しました。 math-koshimizu.hatenablog.jp Abstract 今回は そんな浮動小数点数 に もう少し踏み込んだ話をするための準備記事になります。 …
小清水です。初ブログになります。 カタストロフィックに 計算結果がおかしくなる 例を紹介したいと思います。 Excel を使用した例と C言語の例です。 お膳立て:(飛ばしてOK) コンピュータの中で 実数 は一般にどのように表されているのでしょうか? 浮動小…