アカウント名:
パスワード:
数値演算の精度を端折って高速化したと。
浮動小数点演算で、64ビットのdouble型演算の代わりに、可能な限り32ビットのfloat型の演算を使用することで、大幅にその演算速度が向上したという。
数値演算の精度が問題になる場面で、不具合が起きなければいいが・・・Officeスウィート系のWebアプリは怖くて使えんなあ。
インテル系のCPUなら倍精度もハードウェアで処理するから単精度に置き換えたところで速度がそれほど変わるとは思えないのですが。
確か前見たデータでは数%から数百%まで差があったけど下回ってるのは無かったな
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
Stay hungry, Stay foolish. -- Steven Paul Jobs
数値演算の精度が問題になることないの? (スコア:0)
数値演算の精度を端折って高速化したと。
浮動小数点演算で、64ビットのdouble型演算の代わりに、可能な限り32ビットのfloat型の演算を使用することで、大幅にその演算速度が向上したという。
数値演算の精度が問題になる場面で、不具合が起きなければいいが・・・Officeスウィート系のWebアプリは怖くて使えんなあ。
Re: (スコア:1)
インテル系のCPUなら倍精度もハードウェアで処理するから
単精度に置き換えたところで速度がそれほど変わるとは
思えないのですが。
Re:数値演算の精度が問題になることないの? (スコア:0)
従来のFPUを(というか、FPUとして)使い続けるなら、確かに、むしろ、倍精度の方が速いことの方が多いでしょう。
Re: (スコア:0)
確か前見たデータでは数%から数百%まで差があったけど下回ってるのは無かったな