大学生がプログラマーを目指すはなし

ruby, python, AIの話が多いです

2019-01-20から1日間の記事一覧

少数の丸め誤差をまとめてみる(ruby)

少数を使ったプログラムでたま〜にバグを生み出してしまってイライラしていたので、まとめてみました。 0.1 * 0.2 # => 0.020000000000000004 0.1 * 0.2 == 0.02 # -> false 0.1* 0.2 > 0.02 # => true なぜこんなことが起きるのかという話は情報工学の分野…