windowsの電卓で計算していたら

windowsの電卓で計算していたら

windowsの電卓で0.000000001/600の計算をしたら
1.6666666666666666666666666666667e-12と結果が出たのですが、
e-12とは何ですか？

No.4 回答者： bunjii 回答日時： 2010/06/24 13:39

>e-12とは何ですか？

「×10の-12乗」です。（×は掛算の記号）
10の-2乗は0.01で、10の2乗は100です。
10の-3乗は0.001で、10の3乗は1,000です。
以上の規則を延長すれば0の桁数を省略した表示が出来るので電卓などの表示桁数が少ないものに応用されています。

この回答へのお礼

回答ありがとうございます。

お礼日時：2010/07/02 21:54

No.3 回答者： ikeda28 回答日時： 2010/06/24 08:29

こんにちは。

これは桁数の多い数値を表現する場合の表記法です。
指数部と仮数部とからなります。
e-12とは単純に言うと12回右にずらした値が本当の値ですってことです。
これを行わないとすごく小さな値が結果として出ますので0.00000000-(省略)-166
みたいに電卓の表示桁では表示できないわけです。

右に1回ずらすとは1.66を0.166とすることだと思ってください。
e+12の場合は左にずらすことになります。

この回答へのお礼

回答ありがとうございます。

お礼日時：2010/07/02 21:54

No.2 ベストアンサー 回答者： kmee 回答日時： 2010/06/24 08:13

コンピュータではよく使われる記述で e-12 → 10の-12乗 です

手計算すると
0.000000001 = 1.0e-9
600 = 6.0e+2
から
1.0e-9 / 6.0e+2
=1.0e-9 * (1/6)e-2
=(1.0*(1/6))e(-9-2)
=0.1666...e-11
=1.666...e-12

この回答へのお礼

回答ありがとうございます。

お礼日時：2010/07/02 21:53

No.1 回答者： noname#119957 回答日時： 2010/06/24 03:24

10のマイナス１２乗の桁で丸め（四捨五入）をしたという意味ではありませんか？

この回答へのお礼

回答ありがとうございます。

お礼日時：2010/07/02 21:53