![](http://oshiete.xgoo.jp/images/v2/pc/qa/question_title.png?e8efa67)
お世話になります。
「ナンでそんなことをやるのか」という説明は伏せさせていただき、
以下のことについてお教え下さい。
80個のカウンターがあり、
3桁~7桁の整数が無秩序に入っています。
この総積数を求めたいのですが、
初め、「dim kekka as long」としたところ、オーバーフローしました。
(アトで当たり前かと思った次第ですが)
なので、
「dim kekka as double」としたところ、結果は出ましたが、
「9.5865~485E+36」の様な風に表示されます。
ココで質問ですが、
この結果は下1桁まで精度はあるのでしょうか。
それとも、これだけ大きいと丸められてしまっているのでしょうか。
下1桁まで精度があるなら良いのですが、
無い場合の対処法も教えていただけると有り難いのですが。
宜しくお願いします。
No.1ベストアンサー
- 回答日時:
doubleの精度は53bit、10進数で15桁くらいです。
答えが36桁の数値なようですので、一桁目までは精度はありません。一般に桁数の多い整数の計算は、多倍長整数演算といいます。検索するとExcel用の多倍長整数演算アドインなどあるようですので、そういうものを使ってみてはいかがでしょうか。
余談。
3桁以上の整数が80個だと積は36桁くらいではなく少なくとも160桁以上になると思われます。計算間違ってない?
早速有り難うございました。
やはり精度はないのですね、了解しました。
「多倍長整数演算」を探してみます。
>少なくとも160桁以上になると思われます。
済みません質問がいい加減でした。
80個の中に1桁も何個か混じっています。
表示された最後の「E+36」が桁数なのですね、
勉強になりました。
お世話になりました。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
【C++】double の計算結果がお...
-
浮動小数点の切り捨てで-0.5を-...
-
距離から緯度経度を求める方法
-
VB.net Double と...
-
VB6.0での小数点の扱いについて
-
c languageで 簡単な質問があ...
-
O(n log n)について2
-
大きな桁数の計算について
-
計算の丸め誤差の解消について
-
doubleの精度について
-
ExcelでPC(パソコン)によって...
-
ExcelのINT関数の計算結果がお...
-
パソコンで階乗を計算
-
PICで小数点の演算
-
16進数 加算 減算 C言語
-
AtCoderABC135の問題Cについて
-
信頼区間の1.96や1.65ってどこ...
-
マイナスからプラスへ転じた時...
-
C言語での引数の省略方法
-
「Aに対するBの割合」と「Aに対...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
O(n log n)について2
-
c languageで 簡単な質問があ...
-
VB.net Double と...
-
16進数 加算 減算 C言語
-
ExcelでPC(パソコン)によって...
-
三菱シーケンサ(Aシリーズ)で...
-
有効数字について 以前質問をし...
-
除算を使わずに10で割りたい。
-
ExcelのINT関数の計算結果がお...
-
VB6.0での小数点の扱いについて
-
”/”を使わずに割り算したいんで...
-
2進数の足し算(C言語)
-
EXCELの関数"STDEV(標準偏差)"...
-
floatの有効桁数
-
VBAでミリ秒まで出力する方法
-
VB6のFIX関数での誤差について
-
Log関数に関する質問
-
100桁の計算ができなくて困って...
-
距離から緯度経度を求める方法
-
VBAでの割り算の余りの求め方
おすすめ情報