小清水さんとコンピューター数学

コンピューター・数学 に関することを書きます (特に丸め誤差の話が多いです。)

2016-11-27から1日間の記事一覧

コンピュータでおかしなことになる計算例 (1)

小清水です。初ブログになります。 カタストロフィックに 計算結果がおかしくなる 例を紹介したいと思います。 Excel を使用した例と C言語の例です。 お膳立て:(飛ばしてOK) コンピュータの中で 実数 は一般にどのように表されているのでしょうか? 浮動小…