少数の丸め誤差をまとめてみる(ruby)
少数を使ったプログラムでたま〜にバグを生み出してしまってイライラしていたので、まとめてみました。
なぜこんなことが起きるのかという話は情報工学の分野になるので少々割愛しますが、要は我々人間は数字を10進数で捉えますが、コンピュータは2進数で全てのデータを捉えていて、そこにギャップが生まれています。(詳しく知りたい方は基本情報技術者試験の勉強をしてみてください!)
これによって、if文などで「あれ〜?」みたいなことになる初心者プログラマーがかつての自分でした...
- 解決策
Rationalクラスを使いましょう!
これによって、無限小数となっていた少数が有理数(分数)で捉えられるようになります。
これでもう大丈夫!