タグ

ネタとmod_poppoに関するmohnoのブックマーク (1)

  • decimal型(十進小数)に夢を見ている輩が多すぎる - Qiita


    SNS (decimal)  decimal 1.0 / 3.0 * 3.0  1.0  C# C# decimal  1.0 / 3.0 * 3.0 
    decimal型(十進小数)に夢を見ている輩が多すぎる - Qiita
    mohno
    mohno 2024/06/09
    そこまで夢を見てる人を知らんが、コンピュータ内部では、日常的に使う10進法ではなく、2進法で計算するので「2のべき乗の組み合わせでない数は正確に表現できない」という話。そんなに3で割らなくていいよ(←オイ)
  • 1