![](http://oshiete.xgoo.jp/images/v2/pc/qa/question_title.png?c9bd177)
(A * 100 /((B / C) * D) -0.05)
という式を作っています。
型は以下の通りになります。
A の型:DECIMAL(18,7)
B の型:DECIMAL(15,0)
C の型:DECIMAL(5,0)
D の型:DECIMAL(3,0)
結果を小数点第1まで表示したいけど、このままだとB がDECIMAL(15,0)の為小数点以下が出ないので、
とりあえずBをAと同じ型CAST(B as decimal(18,7))とうい風にキャストして小数点以下を出しています。
(A * 100 /((CAST(B as decimal(18,7))/ p_kadou_m) * p_kadou_to) -0.05)
今はうまく動作しているのですが、オーバーフローが出ないか心配しています。
オーバーフローを発生させないようにするにはどこを配慮したら良いのでしょうか。
CASTしているBの桁は今、桁は(18,7)にしているのですが、何が最適になるのでしょうか。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- Java Java 変数について 1 2022/11/22 16:10
- C言語・C++・C# C言語について。 5 2023/06/27 18:37
- その他(データベース) Accessフォームにて指定のフィールドの平均値を小数点第一位で表示できない 2 2022/08/30 17:19
- Excel(エクセル) エクセルのセルの書式設定・ユーザー定義の条件設定について 1 2022/08/17 21:56
- Visual Basic(VBA) VBAでのMATCH関数 3 2022/10/17 19:06
- C言語・C++・C# C言語について コマンドラインで >変数 12.00 (char型) と、小数点付きの値を共用体に渡 1 2022/04/22 16:56
- Access(アクセス) Accessテーブルの結合で別々のテーブルのフィールドを組み合わせて値を出す方法について 2 2022/07/20 19:43
- Visual Basic(VBA) リストポックスへの抽出方法 1 2022/08/10 17:58
- バイク車検・修理・メンテナンス 「原付 トゥデイ」に詳しい方、教えてください 0 2023/05/08 08:52
- Visual Basic(VBA) Excel VBA で End Subのところで「型が一致しません」のエラーとなります。 6 2022/07/27 19:58
関連するカテゴリからQ&Aを探す
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
unsigned long long 型のフォー...
-
ソフトの開発言語を調べる方法
-
cc と gcc の違い
-
C言語の関数の中身のソースコー...
-
<conio.h>?
-
おすすめのコンパイラ
-
char型の配列の初期化について
-
『独習C』第3版と第4版の違い
-
プログラミング言語の記法について
-
C言語のオススメのコンパイラを...
-
32ビットレジスタで64ビット空...
-
組み込みソフト。ROM領域にデータ
-
サイクルカウントの方法
-
組込みC開発
-
C言語の数学関数
-
Excel ・VBAについて、APIの格...
-
for文内での変数定義
-
C言語でのコンパイラの作成方法
-
COBOLのALPHABET...
-
パーサとコンパイラの違いって?
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
unsigned long long 型のフォー...
-
ソフトの開発言語を調べる方法
-
C++でデスクトップGUIアプリ開...
-
組み込みソフト。ROM領域にデータ
-
cc と gcc の違い
-
printfなど、標準関数のソース...
-
パーサとコンパイラの違いって?
-
C言語の規格
-
C++Builder → Visual C++ 移植...
-
<conio.h>?
-
COBOLの論理演算子について質問...
-
Σの計算について
-
リリースモードとデバッグモー...
-
COBOLのALPHABET...
-
C言語はC言語でできている?
-
24bit サイズの変数
-
Visual Studio でmakefileを使...
-
VC++の/Zm オプションについて
-
VBでVC++の処理速さを実...
-
C言語 main関数とsum関数の記...
おすすめ情報