標準偏差の算定におけるオーバーフロー

標準偏差を求めるために以下の計算を電卓で行いたいのですがオーバーフローします。
なんとか計算できるいい方法はないでしょうか。
ちなみに電卓は関数電卓でなく一般的な12桁対応のものです。

(0.2×(1700200-154000)の２乗)のルート。

No.2 ベストアンサー 回答者： rabbit_cat 回答日時： 2007/03/11 18:26

12桁あるなら

σ=100*√(0.2*(17002-1540)^2 + 0.8*(-300-1540)^2)
で計算できるか。

この回答へのお礼

ありがとうございます。
うまくいけました。

お礼日時：2007/03/11 18:56

No.3 回答者： inara 回答日時： 2007/03/11 18:26

σ=√(0.2×(1700200-μ)の２乗 + 0.8×(-30000-μ)の２乗)

= 10000×√(0.2×(1.7002-μ/10000)の２乗 + 0.8×(-3-μ/10000)の２乗)
=10000×√(0.2×(170.02-15.4)の２乗 + 0.8×(-3-15.4)の２乗)
です。これならオーバフローしないはずです。

この回答へのお礼

ありがとうございます。
うまくいけました。

お礼日時：2007/03/11 18:56

No.1 回答者： age_momo 回答日時： 2007/03/11 17:15

√{0.2×(1700200-154000)×(1700200-154000)}

を求めるのでしょうか？なら

(1700200-154000)×√0.2

で同じ値になります。

この回答への補足

すみません。算式を端折りすぎました。以下が正しい算式です。
もしよろしければこれで教えていただけますか？

μ=154000
σ=√(0.2×(1700200-μ)の２乗 + 0.8×(-30000-μ)の２乗)。

補足日時：2007/03/11 17:32

この回答へのお礼

ありがとうございます。
うまくいけました。

お礼日時：2007/03/11 18:57