アカウント名:
パスワード:
関連ストーリーを置いておきますね。つ Excelの統計機能は不正確 [srad.jp]
ROUND関数では駄目なんですか?指定した桁数で四捨五入出来ますが。有効数字桁数を指定というのと、どう違うのかよく判りませんので、的外れなら済みません。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
UNIXはただ死んだだけでなく、本当にひどい臭いを放ち始めている -- あるソフトウェアエンジニア
現在の王者に敬意を表して (スコア:1, 興味深い)
関連ストーリーを置いておきますね。
つ Excelの統計機能は不正確 [srad.jp]
科学計算で使われる数値処理 (スコア:1)
具体的には、簡単かつ一般的と思われるところで、
・有効数字桁数を指定した四捨五入の関数
・指数を使わない表示における、有効桁数を指定した表示書式
・小数点揃えで表示するための書式
が欲しい。
マクロを使ったユーザ関数でこれらを作ったこともあるが、
式を別ブックにコピーしたら表示されない、と言った文句が来た。
Re: (スコア:1)
ROUND関数では駄目なんですか?指定した桁数で四捨五入出来ますが。
有効数字桁数を指定というのと、どう違うのかよく判りませんので、
的外れなら済みません。
Re:科学計算で使われる数値処理 (スコア:2, 参考になる)
「上から~桁の有効数字」という意味です。
Round関数で、桁数指定の部分にlogとintを組み合わせた式を入れれば一応できますが、
ゼロや大きい数の処理を考えると、普通の人にあまり勧められません。