アカウント名:
パスワード:
関連ストーリーを置いておきますね。つ Excelの統計機能は不正確 [srad.jp]
ROUND関数では駄目なんですか?指定した桁数で四捨五入出来ますが。有効数字桁数を指定というのと、どう違うのかよく判りませんので、的外れなら済みません。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
人生の大半の問題はスルー力で解決する -- スルー力研究専門家
現在の王者に敬意を表して (スコア:1, 興味深い)
関連ストーリーを置いておきますね。
つ Excelの統計機能は不正確 [srad.jp]
Re:現在の王者に敬意を表して (スコア:3, おもしろおかしい)
Re: (スコア:0)
Re: (スコア:0)
乱数の均一性までは要求しないが (スコア:3, すばらしい洞察)
#前者は四捨五入、後者はJISの銀行式丸め。
科学計算で使われる数値処理 (スコア:1)
具体的には、簡単かつ一般的と思われるところで、
・有効数字桁数を指定した四捨五入の関数
・指数を使わない表示における、有効桁数を指定した表示書式
・小数点揃えで表示するための書式
が欲しい。
マクロを使ったユーザ関数でこれらを作ったこともあるが、
式を別ブックにコピーしたら表示されない、と言った文句が来た。
Re:科学計算で使われる数値処理 (スコア:1)
ROUND関数では駄目なんですか?指定した桁数で四捨五入出来ますが。
有効数字桁数を指定というのと、どう違うのかよく判りませんので、
的外れなら済みません。
Re:科学計算で使われる数値処理 (スコア:2, 参考になる)
「上から~桁の有効数字」という意味です。
Round関数で、桁数指定の部分にlogとintを組み合わせた式を入れれば一応できますが、
ゼロや大きい数の処理を考えると、普通の人にあまり勧められません。