VB6です。 こんな現象初めてでびっくりしました。
変数A、h、mはLong型です。
A = 9 * 3600 + 54 * 60 ->オーバーフロー発生
A = 35640 ->オーバーフローにならない
h = 9 : m = 54
A = h * 3600 + m * 60 ->オーバーフローにならない
変数ではなく、実数で計算するとオーバーフローする意味がわかりません。また、計算結果を直接実数で代入した場合、なぜオーバーフローは
発生しないのかも意味不明です・・・
なぜ、オーバーフローが発生したりしなかったりするのでしょうか。
No.3
- 回答日時:
こんにちは。
A = 9 * 3600 + 54 * 60
Integer型の範囲が越えてしまうからです。
A = 9 * 3600 + 54 * 60&
と一つ、リテラル値を、Long型にすれば通ります。
ありがとうございました。
10年以上プログラミングはしているのに、独学とは恐ろしいものだと
実感しました。
実数の型なんて私の頭の辞書には載ってませんでした・・・
そういや、すべて実数で式をコーディングするのなんていままで無かったです・・・ 式の中に、longで宣言された変数があったので気がつかなかったってことなのでしょうね。
トホホ・・・・ です・・・
No.2
- 回答日時:
捕捉
最初からInteger型の範囲を超えていた場合には、Long型と
して計算を行いますが、それぞれの値がIntegerの範囲内で
あればInteger型として計算されます。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- C言語・C++・C# [至急]Project Euler:#13Large sum コード、入力、出力、解説 1 2022/09/24 02:30
- C言語・C++・C# [至急] Project Euler:#16 Power digit sumコード、入力、出力、解説 3 2022/09/24 02:35
- バイク車検・修理・メンテナンス エイプ50 キャブレターオーバーフロー PB14 5 2023/07/30 10:54
- 電気・ガス・水道 便器の水漏れを修理したい 5 2023/07/14 14:20
- Visual Basic(VBA) データベースから絞り込んでデータを読み込み 1 2023/02/21 19:51
- その他(コンピューター・テクノロジー) PIC16F1シリーズマイコンのNCO機能について 1 2023/04/18 08:41
- 環境学・エコロジー ため池の表面に茶色い膜が張ってプクプクと泡が出て来てます。気持ちが悪いので改善したいのですがどうした 2 2023/07/17 09:17
- バイク車検・修理・メンテナンス キャブ車のバイクのガソリン臭 最近愛車のfzr250rがガソリン臭いです。 具体的に言うと、キーオン 1 2022/04/11 00:53
- バイク車検・修理・メンテナンス キャブ車のバイクの燃料ポンプ キャブのバイクに乗ってるのですが、最近燃料ポンプが急に沢山動くようにな 2 2022/04/02 23:41
- リフォーム・リノベーション トイレの買い替え 3 2023/06/24 20:45
このQ&Aを見た人はこんなQ&Aも見ています
関連するカテゴリからQ&Aを探す
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
べき乗の計算が遅い理由
-
65536は2の何乗なのでしょうか?
-
排他的論理和 BCC(水平パリテ...
-
VBAの再計算が反映されない件に...
-
excelからdll呼び出し中に計算...
-
変化させるセルが変化しない
-
エクセル 再計算とVBA の...
-
MATLABの利点と欠点
-
Visual C++でdebugとreleaseで...
-
モジュラス103の計算とは何でし...
-
太陽の位置計算のプログラムを...
-
EXCELなどで「返す」という表現
-
ExcelのVBAで複素数は扱えない...
-
VBAでの勤務時間計算
-
VBAで一時的にオーバーフローを...
-
Java 電卓の連続計算
-
CとFORTRANの計算速度はどちら...
-
C# C1FlexGrid SUBTOTAL で計算式
-
三菱シーケンサー works2 の日...
-
階乗のマクロ
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
65536は2の何乗なのでしょうか?
-
VBAの再計算が反映されない件に...
-
排他的論理和 BCC(水平パリテ...
-
モジュラス103の計算とは何でし...
-
EXCELなどで「返す」という表現
-
バッチファイルでウインドウを...
-
VBAでの勤務時間計算
-
数値計算の高速化 (cos, sin, exp)
-
C# 計算処理中に実行中ウィン...
-
変化させるセルが変化しない
-
VBとVBAの違い
-
CRC8を教えてください
-
引き放し法による除算アルゴリ...
-
傾いた四角形内の範囲の条件式
-
タクシー料金の問題です
-
C言語についてです。 再帰を使...
-
CとFORTRANの計算速度はどちら...
-
VB6で正確なミリ秒を計測したい...
-
Date型の範囲を超える数値について
-
電卓でmodの計算
おすすめ情報