アプリ版:「スタンプのみでお礼する」機能のリリースについて

統計ソフトtspを使って計算した結果で
-4.76837D-07
といった数値が出てきました
-07はおそらく10の-7乗という意味なのではと思っているのですが、Dの意味がわからないこともあり、はっきりしません
どなたかご教授の程よろしくお願いします

A 回答 (2件)

和合・伴『TSPによる経済データの分析』


のP227によれば

3.数値に関するルール
(d)1つのDまたはEがその後ろに符号のある、またはない1桁または2桁の整数値を伴って現れても良い。これは10を底とする指数表現です。例:1E2=100

です。
    • good
    • 0
この回答へのお礼

ありがとうございます
その本も探して参考にしたいと思います

お礼日時:2008/05/06 15:27

倍精度浮動小数点数(double precision)の意味。


単精度の場合はEを使用。

この回答への補足

早速の回答ありがとうございます
倍数度浮動小数点数のことについて調べたのですが、64ビットがどうこうというコンピューターのプログラミング関係の説明しかでてこないためいまいち読み方がわかりません
単純に
-4.76837D-07
はどのように読めばいいのでしょうか?
また、よろしければ64ビットどうこうについて噛み砕いて説明していただけないでしょうか?

補足日時:2008/05/06 03:52
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!