小清水 (@curekoshimizu) です。 本日は FMA についてお話したいと思います。 FMA とは？ FMA とは Fused Multiply-Add ことで の演算のことです。 ここで は の丸めを表しました。 本当にただこれだけの内容なのですが、 今回の記事は、この FMA について熱…

小清水 (@curekoshimizu) です。 久しぶりの投稿になります。 長期にわたり転職活動をしており、 かなり投稿に時間が空いてしまいました。 今回の記事は に関する内容です！ 逆数の近似から精度を高めたい！！！ の近似値 が与えられたときに 精度を高めたい…

小清水 (@curekoshimizu) です。 昨日は 数学カフェ に初めて参加させていただき、 機械学習について刺激を受けました！ connpass.com その中で、 コイン投げは確率界の Hello World というフレーズを聞いて なるほどなるほど！と感じました。 そして、 そう…

小清水(@curekoshimizu) です。 久々のブログ投稿になります！ 今日は ロマンティック数学ナイトボーイズ がありました！ そこで 2進数フレンズ という内容で発表させていただきまして、 その発表資料はこちらです： 今日はこの発表資料をつかって、 「1 = 2…

小清水 です。 (@curekoshimizu) 前回の記事は 「計算環境の精度を当てる ― Intel CPU と Excel への応用 ―」というタイトルで、 進 桁浮動小数点環境 の 基数 と 精度 を当てる！ という話でした。 (一部 Excel の謎挙動を紹介) math-koshimizu.hatenablog.…

小清水 (@curekoshimizu) です。 計算ツールに対して その 計算精度 がわかると便利ではないでしょうか？ 例えば、コンピュータにのっている その Excel はどのくらいの精度 で計算してくれる？ こうしたアプリケーションだけでなく、 そのコンピュータの中…

小清水 (@curekoshimizu) です。 今日は の 乗、 について考えてみたいと思います。 この定義ってどのように習いましたでしょうか？ と を定義した後に により定義していたかと思います。 この記事ではいったん複素数のことは忘れましょう。 多価関数が...と…