
VB6です。 こんな現象初めてでびっくりしました。
変数A、h、mはLong型です。
A = 9 * 3600 + 54 * 60 ->オーバーフロー発生
A = 35640 ->オーバーフローにならない
h = 9 : m = 54
A = h * 3600 + m * 60 ->オーバーフローにならない
変数ではなく、実数で計算するとオーバーフローする意味がわかりません。また、計算結果を直接実数で代入した場合、なぜオーバーフローは
発生しないのかも意味不明です・・・
なぜ、オーバーフローが発生したりしなかったりするのでしょうか。
No.3
- 回答日時:
こんにちは。
A = 9 * 3600 + 54 * 60
Integer型の範囲が越えてしまうからです。
A = 9 * 3600 + 54 * 60&
と一つ、リテラル値を、Long型にすれば通ります。
ありがとうございました。
10年以上プログラミングはしているのに、独学とは恐ろしいものだと
実感しました。
実数の型なんて私の頭の辞書には載ってませんでした・・・
そういや、すべて実数で式をコーディングするのなんていままで無かったです・・・ 式の中に、longで宣言された変数があったので気がつかなかったってことなのでしょうね。
トホホ・・・・ です・・・
No.2
- 回答日時:
捕捉
最初からInteger型の範囲を超えていた場合には、Long型と
して計算を行いますが、それぞれの値がIntegerの範囲内で
あればInteger型として計算されます。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- C言語・C++・C# [至急]Project Euler:#13Large sum コード、入力、出力、解説 1 2022/09/24 02:30
- C言語・C++・C# [至急] Project Euler:#16 Power digit sumコード、入力、出力、解説 3 2022/09/24 02:35
- バイク車検・修理・メンテナンス エイプ50 キャブレターオーバーフロー PB14 5 2023/07/30 10:54
- 電気・ガス・水道 便器の水漏れを修理したい 5 2023/07/14 14:20
- Visual Basic(VBA) データベースから絞り込んでデータを読み込み 1 2023/02/21 19:51
- その他(コンピューター・テクノロジー) PIC16F1シリーズマイコンのNCO機能について 1 2023/04/18 08:41
- 環境学・エコロジー ため池の表面に茶色い膜が張ってプクプクと泡が出て来てます。気持ちが悪いので改善したいのですがどうした 2 2023/07/17 09:17
- バイク車検・修理・メンテナンス キャブ車のバイクのガソリン臭 最近愛車のfzr250rがガソリン臭いです。 具体的に言うと、キーオン 1 2022/04/11 00:53
- バイク車検・修理・メンテナンス キャブ車のバイクの燃料ポンプ キャブのバイクに乗ってるのですが、最近燃料ポンプが急に沢山動くようにな 2 2022/04/02 23:41
- リフォーム・リノベーション トイレの買い替え 3 2023/06/24 20:45
このQ&Aを見た人はこんなQ&Aも見ています
関連するカテゴリからQ&Aを探す
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
65536は2の何乗なのでしょうか?
-
排他的論理和 BCC(水平パリテ...
-
Java 電卓の連続計算
-
CPUの役割
-
組み合わせを抽出するために使...
-
Javaプログラムソース(結果が10...
-
VBAの再計算が反映されない件に...
-
VBAについてです。 長方形積分∫...
-
VBAのループ処理について
-
VBAでベッセル関数を使う方法
-
Xwindowのプログラミング
-
順列のプログラムについて(VB)
-
C# 計算処理中に実行中ウィン...
-
EXCELなどで「返す」という表現
-
VB4でリサージュ図形の面積測定
-
VBAで関数をつくる
-
加速度から変位の変換について
-
関数を使わないで日付の計算を...
-
VBAの高速化に関しての質問
-
スパイダソリティアの問題
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
65536は2の何乗なのでしょうか?
-
VBAの再計算が反映されない件に...
-
排他的論理和 BCC(水平パリテ...
-
EXCELなどで「返す」という表現
-
変化させるセルが変化しない
-
エクセルで特定のセルのみを任...
-
CとFORTRANの計算速度はどちら...
-
モジュロ
-
バッチファイルでウインドウを...
-
Visual C++でdebugとreleaseで...
-
y=(x^2 +3x+1)^4を微分の定義を...
-
入射角反射角
-
スレッド処理からダイアログを...
-
60進数の四則計算
-
Javaと他言語比較について
-
VBAで関数をつくる
-
C言語 Σをつかったプログラム
-
CRC8を教えてください
-
C言語についてです。 再帰を使...
-
C言語について 下の画像は do-w...
おすすめ情報