2021年12月 一覧

float加算時の誤差を調べてみる

物理学科で学んでいる1号から「0.1ずつたして4.0で止まるループのはずなのに、4.1までやっちゃうんだけどどうして?」という相談を受けた。...

記事を読む