![](http://oshiete.xgoo.jp/images/v2/pc/qa/question_title.png?8acaa2e)
![](http://oshiete.xgoo.jp/images/v2/common/profile/M/noimageicon_setting_01.png?8acaa2e)
ASP VBScript
割るとオーバーフローを起す計算式があるとして(たとえばイメージ的に下記のような)、
例)kekka = 46.6944444444444 / 87.3666666666667
オーバーフローを起させずに結果を出すことはできるのでしょうか。
基本的な疑問は下記と同じなのですが、結局のところsplitを使用したら、どうやって計算したのか、どのように解決しているかわかりません。
http://oshiete1.goo.ne.jp/qa500869.html
私の今行っているプログラムでは、結果は小数点第5位以下は切り捨て
てもいいのですが、結果表示以外はできるだけ、小数点を切り捨てず、まじめに計算した結果に近い数値をだしたいのです。
よろしくお願いいたします。
No.1ベストアンサー
- 回答日時:
オーバーフローを起させずに結果を出すことはできるのでしょうか。
理論上不可能です・・・・
コンピュターで計算するとき、有効桁数すがありますのでこれを超える計算はできません
注意:複雑なプログラムも組めば・・有効桁数を増やすことは可能です
πの計算で100万桁けたとか有限になるのも・有効桁数数に限界があるからです、しいて言えば・・計算時間を気にしなければメモリー(補助記憶装置含む)より有効桁数の決まります
実際にπの計算で有効桁数100万桁は、複雑なプログラムにより有効桁数を増やしていますので・・・
No.2
- 回答日時:
最近ではそういうのもオーバーフローと言うようになったのでしょうか?
あおりでなく疑問です。
オーバーフローというとたとえば 2.0 ^ 1024 とか計算させたときの現象だと
思っていたのですが。
オーバーフローとは 【overflow】 - 意味・解説 : IT用語辞典 e-Words
http://e-words.jp/w/E382AAE383BCE38390E383BCE383 …
それはおいといて、小数点以下5桁まで生かして結果を求めるということですが
一般的なコンピューターでの浮動小数点演算では有効桁数は十進数で15桁くらいですから、
整数部にも5桁使うとしても気にするほどの誤差は出ないと思います。
#間違った計算の仕方をしなければ
例に挙げられている
> 46.6944444444444 / 87.3666666666667
は小数点以下15桁(ってこれPCでの普通の浮動小数点数で表現できる数字じゃないですね)ですから、
小数点以下5桁求めればいいところに持ってくるにはオーバーすぎるでしょう。
せいぜい6桁目か7桁目くらいまで計算しとけば十分のはずです。
ところでπは無理数ですので、何桁用意しようが有限桁の有理数(≒小数)
で
表現することはできません。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- C言語・C++・C# C言語 3 2022/10/04 15:07
- Chrome(クローム) Chromeの描画領域を2分割して異なるスクロール位置を同時に表示させることはできますか 1 2023/03/01 16:53
- Excel(エクセル) エクセルのセルの書式設定・ユーザー定義の条件設定について 1 2022/08/17 21:56
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 数学 昔の日本人の身長表記の尺や海外の身長表記のフィートはcmに直すと小数点がつきますが、その小数点はフィ 2 2022/04/12 21:26
- 情報処理技術者・Microsoft認定資格 応用情報処理技術者試験のシステム利用率の計算について 2 2022/03/28 07:43
- C言語・C++・C# このプログラミングの問題を教えてほしいです。 キーボードからデータ数nとn個のデータを入力し、平均値 3 2022/12/19 22:51
- 統計学 不偏分散を計算するときに標準偏差和をn-1で割りますが、なぜ-1なのでしょうか? 「なぜnでなくn- 5 2022/07/04 14:54
- Excel(エクセル) エクセルのSUM関数について 4 2023/04/18 10:37
- Excel(エクセル) エクセル VBAでセル内容を別の列の最下行に転記したい 2 2022/11/29 08:47
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
O(n log n)について2
-
VB.net Double と...
-
c languageで 簡単な質問があ...
-
三菱シーケンサ(Aシリーズ)で...
-
100桁の計算ができなくて困って...
-
10次の多項式を求めるプログラ...
-
floatの有効桁数
-
powf を使わずにべき乗を計算
-
C言語のfloat型変数の値代入と...
-
floatの有効桁数がわからない
-
16進数 加算 減算 C言語
-
最大50桁の実数の和・差・積を...
-
z80について
-
浮動小数点の切り捨てで-0.5を-...
-
RSAとFFT
-
-2.18+2.11=-7.00000000000003E...
-
マイコン(AVR)で、ある式を記...
-
C言語プログラミングにて、arct...
-
8進数と16進数表現について
-
Log関数に関する質問
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
O(n log n)について2
-
16進数 加算 減算 C言語
-
c languageで 簡単な質問があ...
-
VB.net Double と...
-
”/”を使わずに割り算したいんで...
-
三菱シーケンサ(Aシリーズ)で...
-
ExcelのINT関数の計算結果がお...
-
有効数字について 以前質問をし...
-
ExcelでPC(パソコン)によって...
-
除算を使わずに10で割りたい。
-
EXCELの関数"STDEV(標準偏差)"...
-
floatの有効桁数
-
VBAでミリ秒まで出力する方法
-
100桁の計算ができなくて困って...
-
2進数の足し算(C言語)
-
VB6.0での小数点の扱いについて
-
VBAでの割り算の余りの求め方
-
BCD・HEX・BINについて
-
距離から緯度経度を求める方法
-
コンピューターは指数関数をど...
おすすめ情報