アカウント名:
パスワード:
浮動小数点演算の規格IEEE754では複数の丸めモードが定義されているが、同じ丸めモードだったら処理結果は完全に一致するのではないのか?それともIEEE754とは無関係に独自実装したのか?
「異なる桁で複数回四捨五入してはいけません」今50台の日本人なら中学生までには習っているはずだが、ゆとり世代を通過してもう教わらなくなったのかしら。
とりあえず #3423345 は人の命やお金にかかわるプログラミングをしてはいけません。技術者からも足を洗ったほうが良い。
このコメントに今年の残念なおっさん大賞をあげよう。
こういうの技術屋として最高に恥ずかしいね。 [hardware.srad.jp]
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
コンピュータは旧約聖書の神に似ている、規則は多く、慈悲は無い -- Joseph Campbell
設計がおかしいのか? (スコア:1)
浮動小数点演算の規格IEEE754では複数の丸めモードが定義されているが、同じ丸めモードだったら処理結果は完全に一致するのではないのか?
それともIEEE754とは無関係に独自実装したのか?
double-rounding (スコア:-1)
「異なる桁で複数回四捨五入してはいけません」
今50台の日本人なら中学生までには習っているはずだが、ゆとり世代を通過してもう教わらなくなったのかしら。
とりあえず #3423345 は人の命やお金にかかわるプログラミングをしてはいけません。技術者からも足を洗ったほうが良い。
Re: (スコア:0)
このコメントに今年の残念なおっさん大賞をあげよう。
Re:double-rounding (スコア:0)
こういうの技術屋として最高に恥ずかしいね。 [hardware.srad.jp]