アカウント名:
パスワード:
昔のCの処理系ではdoubleの方がfloatより速かったりして、floatを使うのは止めろというアドバイスをよく見かけました。
一方、最近ではグラフィック用にfloatを使うことが多くなり、「科学技術計算」なのに半精度(16bit)を使うケースを目にしたり、最先端の人工知能で8bitなんて言われるのは不思議な感じです。
メモリ効率とのトレードオフやね
当時のdouble対floatは確かにメモリ効率の話ですが、最近は精度を下げて演算器の面積を節約するのがトレンドのようです。幅を半分にすると面積が1/4以下になることもあるので、同じ面積で計算速度が4倍以上になるなんてこともあり得ます。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
あつくて寝られない時はhackしろ! 386BSD(98)はそうやってつくられましたよ? -- あるハッカー
floatを使ってると注意されたものですが (スコア:0)
昔のCの処理系ではdoubleの方がfloatより速かったりして、floatを使うのは止めろというアドバイスをよく見かけました。
一方、最近ではグラフィック用にfloatを使うことが多くなり、「科学技術計算」なのに半精度(16bit)を使うケースを目にしたり、最先端の人工知能で8bitなんて言われるのは不思議な感じです。
Re: (スコア:0)
メモリ効率とのトレードオフやね
Re:floatを使ってると注意されたものですが (スコア:0)
当時のdouble対floatは確かにメモリ効率の話ですが、最近は精度を下げて演算器の面積を節約するのがトレンドのようです。
幅を半分にすると面積が1/4以下になることもあるので、同じ面積で計算速度が4倍以上になるなんてこともあり得ます。