2020-10-01から1ヶ月間の記事一覧

浮動小数点 なぜ誤差が起こるのか

今更も今更、小数計算でなぜ誤差が起こるのか。そして、その対策って何すればいいのだろうかというお話です。 そもそも小数は「正確」に表現できていない。 まず、コンピュータは数字を二進数で保持しているかと思います。 たとえば、56だと 56 = 111000とな…