アカウント名:
パスワード:
表示上は2に見えるが、内部的には「1.99999999999999999989317180305609」という値になっており
のが気になる。計算結果を表示するまでに値に対して何らかのロジック(バイアス？)が介在してるってこと？
一番上の発言https://srad.jp/comment/3389277 [srad.jp]でも指摘されてますがhttp://verifiedby.me/adiary/097 [verifiedby.me]市販の電卓でも表示桁数より内部桁数が多いのは普通にあります。そして表示では四捨五入します。
質問です。
>そして表示では四捨五入します。
本当に四捨五入ですか？いや、JISの数値丸めで四捨五入が使えるようになったのが近年でして。計算機で都合の良い丸め方などあるのでしょうか？
四捨五入では切り上げ方向に偏りがでてしまうので、最近接偶数丸めを使うことが多いです。
そうなんですね。因みに高校で五捨五入と習いました。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
吾輩はリファレンスである。名前はまだ無い -- perlの中の人
計算結果＝表示内容では無いって (スコア:0)
のが気になる。計算結果を表示するまでに値に対して何らかのロジック(バイアス？)が介在してるってこと？
Re: (スコア:0)
一番上の発言
https://srad.jp/comment/3389277 [srad.jp]
でも指摘されてますが
http://verifiedby.me/adiary/097 [verifiedby.me]
市販の電卓でも表示桁数より内部桁数が多いのは普通にあります。
そして表示では四捨五入します。
Re: (スコア:1)
質問です。
>そして表示では四捨五入します。
本当に四捨五入ですか？
いや、JISの数値丸めで四捨五入が使えるようになったのが近年でして。
計算機で都合の良い丸め方などあるのでしょうか？
Re: (スコア:0)
四捨五入では切り上げ方向に偏りがでてしまうので、
最近接偶数丸めを使うことが多いです。
Re:計算結果＝表示内容では無いって (スコア:1)
そうなんですね。
因みに高校で五捨五入と習いました。