(A * 100 /((B / C) * D) -0.05)
という式を作っています。
型は以下の通りになります。
A の型:DECIMAL(18,7)
B の型:DECIMAL(15,0)
C の型:DECIMAL(5,0)
D の型:DECIMAL(3,0)
結果を小数点第1まで表示したいけど、このままだとB がDECIMAL(15,0)の為小数点以下が出ないので、
とりあえずBをAと同じ型CAST(B as decimal(18,7))とうい風にキャストして小数点以下を出しています。
(A * 100 /((CAST(B as decimal(18,7))/ p_kadou_m) * p_kadou_to) -0.05)
今はうまく動作しているのですが、オーバーフローが出ないか心配しています。
オーバーフローを発生させないようにするにはどこを配慮したら良いのでしょうか。
CASTしているBの桁は今、桁は(18,7)にしているのですが、何が最適になるのでしょうか。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- Java Java 変数について 1 2022/11/22 16:10
- C言語・C++・C# C言語について。 5 2023/06/27 18:37
- その他(データベース) Accessフォームにて指定のフィールドの平均値を小数点第一位で表示できない 2 2022/08/30 17:19
- Excel(エクセル) エクセルのセルの書式設定・ユーザー定義の条件設定について 1 2022/08/17 21:56
- Visual Basic(VBA) VBAでのMATCH関数 3 2022/10/17 19:06
- C言語・C++・C# C言語について コマンドラインで >変数 12.00 (char型) と、小数点付きの値を共用体に渡 1 2022/04/22 16:56
- Access(アクセス) Accessテーブルの結合で別々のテーブルのフィールドを組み合わせて値を出す方法について 2 2022/07/20 19:43
- Visual Basic(VBA) リストポックスへの抽出方法 1 2022/08/10 17:58
- バイク車検・修理・メンテナンス 「原付 トゥデイ」に詳しい方、教えてください 0 2023/05/08 08:52
- Visual Basic(VBA) Excel VBA で End Subのところで「型が一致しません」のエラーとなります。 6 2022/07/27 19:58
関連するカテゴリからQ&Aを探す
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
ソフトの開発言語を調べる方法
-
PICでのI2C通信でのマスタ、ス...
-
void型のポインタで構造体の参照
-
【COBOL】小さい字を大きい字へ...
-
unsigned long long 型のフォー...
-
COBOLの論理演算子について
-
cc と gcc の違い
-
Visual Studio でmakefileを使...
-
python エラー
-
エクセルのエラーメッセージ「4...
-
<unistd.h>をVisualStudioでつ...
-
アプリケーションのDLLファイル...
-
HSP
-
実行後にコンパイルに失敗しま...
-
ステータスバーを作ろうとして...
-
エクセルでマクロを実行すると...
-
WIN10で常にフォームを手前に
-
math.hに含まれる関数が使えない
-
dllかlibか
-
<math.h>があるのにsqrtが・...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
unsigned long long 型のフォー...
-
ソフトの開発言語を調べる方法
-
C++でデスクトップGUIアプリ開...
-
組み込みソフト。ROM領域にデータ
-
cc と gcc の違い
-
printfなど、標準関数のソース...
-
パーサとコンパイラの違いって?
-
C言語の規格
-
C++Builder → Visual C++ 移植...
-
<conio.h>?
-
COBOLの論理演算子について質問...
-
Σの計算について
-
COBOLのALPHABET...
-
リリースモードとデバッグモー...
-
24bit サイズの変数
-
C言語はC言語でできている?
-
Visual Studio でmakefileを使...
-
VC++の/Zm オプションについて
-
C言語 main関数とsum関数の記...
-
VBでVC++の処理速さを実...
おすすめ情報