タグ

sinに関するmohnoのブックマーク (1)

  • サイン、コサインをインテルの CPU で計算すると少しバグっているらしい


       鹿    http://nlab.itmedia.co.jp/nl/articles/1508/28/news145.html 使 調CPU sin(x)  
    サイン、コサインをインテルの CPU で計算すると少しバグっているらしい
    mohno
    mohno 2017/06/05
    Pentiumバグじゃなくて:-O 多項式で計算してるのに速い(くらいCPUの処理って遅い)んだ。
  • 1