
No.2ベストアンサー
- 回答日時:
MSの正式なコメントではありませんが、以下のサイトに
>An implementation decision was made to sacrifice some scale to gain more digits on the left side of the decimal point, up to a minimum of scale 6. So the numeric(77,20) is actually converted to numeric(38, 6). The same behavior happens for division.
というスタッフのコメントがあります。
「有効桁数38を超えた場合の切り詰め処理は小数点第6位までを限度に行う」という仕様みたいですね。
参考URL:http://www.bokebb.com/dev/english/2011/posts/201 …
「有効桁数38を超えた場合の切り詰め処理は小数点第6位までを限度に行う」という仕様があったのですね。
ありがとうございます。
しかし、なぜ6位までを限度にしているのでしょう?
それについての説明、
もしくは6位というのは規定値で、
それを設定するプロパティなどがあるのか、
どなたかお知りではないでしょうか?
No.1
- 回答日時:
RDBMSは、ここのカテゴリ通りSQL Serverですか?
バージョンは、何でしょうか?
マニュアルは、見ましたか?
http://msdn.microsoft.com/ja-jp/library/ms190476 …
この回答への補足
RDBMSは、ここのカテゴリ通りSQL Server2005です。
教えていただいたマニュアルを参考にしてみましたが、
小数点以下の丸めについては
「* 結果の有効桁数と小数点以下桁数の絶対最大値は 38 です。結果の有効桁数が 38 を超える場合、結果の整数部分が切り捨てられないように、対応する小数点以下桁数が減らされます。」
という記述があるたけで、どのように減らされるのかの説明がみつかりませんでした。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- Java Java 変数について 1 2022/11/22 16:10
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 化学 有効数字の問題にです 4 2022/08/02 22:33
- その他(教育・科学・学問) なぜ、0.50+0.50=1.0 になるのですか? 0.50も1.0も有効数字2桁ですので、計算結果 9 2022/11/17 18:12
- 大学受験 化学の問題で、計算結果が例えば33.2のとき、有効数字を2桁で答える場合、答えは「33」ですか?それ 2 2022/11/15 20:00
- 数学 有効数字について この問題の答えが60.0分となっていたのですが、有効数字が3桁なのはどこから判断し 1 2022/04/06 13:16
- 高校 化学で有効数字2桁で答える場合、 0.010を0.1×10の-2乗 と答えても問題ないですか? どち 3 2023/08/07 21:05
- 高校 高校化学有効数字計算 4 2023/02/26 09:09
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
エクセル:6E-05という表現は?
-
7で始まる電話番号?
-
3÷7のあまりは「3」ですか?
-
数値とアルファベットに分ける...
-
数学の階乗はどんな時に使うの...
-
3分の1とは何パーセントでしょ...
-
アナログの電力量計を見たとき ...
-
2進数の割り算が分かりません...
-
エクセル関数で桁数指定し数値...
-
EXCELで10万未満切捨ての...
-
計算をして有効数字2桁で答えな...
-
有効数字
-
エクセルのsumifの検索値
-
数字3桁の組み合わせの何通り...
-
大雪で小屋根の軒桁が外れた
-
web上の電話番号リンクの桁区切...
-
100!
-
次のような関数が作りたく、ど...
-
0.120は有効数字何桁ですか? ...
-
Excelで数値の丸め
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
エクセル:6E-05という表現は?
-
7で始まる電話番号?
-
数値とアルファベットに分ける...
-
数字3桁の組み合わせの何通り...
-
2進数の割り算が分かりません...
-
3÷7のあまりは「3」ですか?
-
数学の階乗はどんな時に使うの...
-
NUMBER(N,M) としたときの、格...
-
EXCELで10万未満切捨ての...
-
大雪で小屋根の軒桁が外れた
-
3分の1とは何パーセントでしょ...
-
電話番号のハイフンの入れ方
-
エクセル関数で桁数指定し数値...
-
関数電卓の表示方法を変更したい
-
Excelで数値の丸め
-
エクセルのsumifの検索値
-
好きな数字が並ぶ不思議?
-
【場合の数】 2桁の自然数で、2...
-
0以下の数字は何桁?
-
60進法と10進法
おすすめ情報