アカウント名:
パスワード:
逆です. Excelがそういった現実の数値データを取り扱うのに必要な, 有効桁という概念が無いから使えないのです(最近のバージョンはもしかしたら有るかもしれないけど). 少数以下2桁(有効桁数3桁)で加減乗除すればいいような課題は, 4桁以上の数は出す必要が無いのではなく, 出してはいけないのです. すなわち実験データ処理や統計のソフトで「精度が要求される」と言った場合, 有効桁数を多くする以外に有効桁数を考慮した計算(例えば有効桁数の異なる数値の積では結果の有効桁数を小さいほうに合わせるとか)が必要になります.
さらにExcelでは表示桁数を設定しても内部で保持しているデータは表示とは別になっているので, 例
それは A1: =ROUNDDOWN(10/3, 0) A2: =ROUNDDOWN(10/3, 0) A3: =A1+A2 といったように、明示的に「切り捨てる」(または ROUNDUP で切り上げたり、ROUND で丸めたり) する、という事を入力者自身がサボっているからでしょう?
単に「表示桁数」だけいじって満足しているのが悪いのでは。
# 「表示形式」を変更したら「値も変更された」なんて方が問題アリアリだと思う。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
物事のやり方は一つではない -- Perlな人
つーか (スコア:0)
世の中にはだいたいの傾向が分かりゃそれで十分な課題もたくさんあるしな。
少数以下2桁くらいで加減乗除すればいいような課題には十分過ぎるくらいだろ。
例えばソフトウェア工学上の統計で精度が要求される課題ってどんなのがあるかな?
Re: (スコア:1)
逆です. Excelがそういった現実の数値データを取り扱うのに必要な, 有効桁という概念が無いから使えないのです(最近のバージョンはもしかしたら有るかもしれないけど). 少数以下2桁(有効桁数3桁)で加減乗除すればいいような課題は, 4桁以上の数は出す必要が無いのではなく, 出してはいけないのです. すなわち実験データ処理や統計のソフトで「精度が要求される」と言った場合, 有効桁数を多くする以外に有効桁数を考慮した計算(例えば有効桁数の異なる数値の積では結果の有効桁数を小さいほうに合わせるとか)が必要になります.
さらにExcelでは表示桁数を設定しても内部で保持しているデータは表示とは別になっているので, 例
Re:つーか (スコア:2, 興味深い)
それは
A1: =ROUNDDOWN(10/3, 0)
A2: =ROUNDDOWN(10/3, 0)
A3: =A1+A2
といったように、明示的に「切り捨てる」(または ROUNDUP で切り上げたり、ROUND で丸めたり) する、という事を入力者自身がサボっているからでしょう?
単に「表示桁数」だけいじって満足しているのが悪いのでは。
# 「表示形式」を変更したら「値も変更された」なんて方が問題アリアリだと思う。