プロが教える店舗&オフィスのセキュリティ対策術

偏差を合計するとゼロになるので、偏差の2乗を求めて、その合計から分散や標準偏差を求めていく ということを習いました。
しかし、エクセルで計算をしてみたら、偏差の合計がゼロにならずに、変な表記なりました(エラー?)。
これはなぜですか?
どなたか、詳しい解説お願いします。

A 回答 (3件)

#1 です。



>0にならないわけがありません

は、言いすぎでした。
 エクセルなど、コンピュータで数値処理をするときには精度の限界があるので、

-x.xxxxE-15

みたいな結果になることはあります。「変な表記」とはこのような物でしょうか?

 これは、x.xxxx かける 10の-15乗 ということで、0.000000……xxxx という、非常に小さい数値です。

コンピュータでの誤差の話については

http://oku.edu.mie-u.ac.jp/~okumura/software/exc …

などを参照してください。

ただ、これは、コンピュータの処理の限界の問題であって、「偏差を合計するとゼロになる」ということ自体に誤りはありません。
    • good
    • 1
この回答へのお礼

有難うございました。
大変参考になりました。

お礼日時:2008/06/29 22:24

こんにちは。



Excelをどう使ったか不明ですが、
それは、明らかに使い方を間違えてますね。

下記を丸写しして試してみてください。

データは、1,2,3,4,5,6,7,8,9,10 の10個です。
(平均は5.5、偏差の合計はのはずですよね。)

セルB2に 「平均」と文字記入
セルB3に =AVERAGE(D3:D12) と入力

セルD3に 「データ」 と文字記入
セルD4に 1 と入力
セルD5に 2 と入力
 ・・・・・
セルD13に 10 と入力

セルE3に 「偏差」 と文字記入
セルE4に =D4-$B$3 と入力
セルE4をセルE5~セルE13にコピー
(すると、D列の各データの偏差がE列に出現します。)

セルD15に 「偏差合計」 と文字記入
セルD16に =SUM(E4:E13) と入力
(おしまい)


ちなみに、セルE4に B3 ではなく、絶対座標の $B$3 と入力する理由は、
E5~E13を全部手で打つのが面倒くさいので、
E4からのコピーで発生させるためです。
(平均値としては、どのデータの偏差に対しても、全てセルB3を参照するので。)
    • good
    • 0

>エクセルで計算をしてみたら、偏差の合計がゼロにならずに、変な表記なりました



 どんな計算式であったか、具体的に書いてください。

 ちなみに「偏差」は、「平均値との差」ということですね?この偏差をそのまま合計すると0にならないわけがありません。
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!