
No.4ベストアンサー
- 回答日時:
Doubleは俗に言う倍精度浮動小数点数と同じです。
精度重視したのか、Longより大きい値を表現できることを意識したのか、10進数型(Decimal)を使った理由(作者の意図)はこちらも良くわかりません。
Decimalを含むデータ型の説明は下記にあります。
データ型をクリックで詳細説明を参照できます。
http://msdn.microsoft.com/ja-jp/library/47zceaw7 …
No.3
- 回答日時:
Decimalの精度は28桁で精度が高いですが、範囲が狭い(最大値は7.9 × 10の28乗)です。
なお、小数点以下何桁まで正しいかは絶対値に寄って変わります。
また、10進数で表現できる数値は(精度の範囲内なら)誤差なく表せます。
(あらゆる誤差がないわけではありません。)
Decimalの演算パフォーマンスは悪いので、数値計算などには向きません。
10進数を誤差なく表現したい場合(財務計算とか)に使いましょう。
http://msdn.microsoft.com/ja-jp/library/xtba3z33 …
Decimalは基数が10の浮動小数点数ですが、
MSDNでは便宜のためか浮動小数点数型とは別扱いしてますね。
No.2
- 回答日時:
なぜDoubleとDecimalが混じっているかは、処理を見てみないと分かりません。
ただ、
・Doubleは8バイトであるのに対し、Decimalは16バイトで数値を表す
・Doubleは2進数の小数で数値を表すのに対し、Decimalは整数値と小数点位置の組み合わせで数値を表す
・小数の計算はDouble型が高速
など、違いがあります。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
このQ&Aを見た人はこんなQ&Aも見ています
-
VB.NETで小数点以下の桁数を取得したい
その他(ソフトウェア)
-
Double型について
Visual Basic(VBA)
-
VB.NETで DataRow()を利用して、値からコードを取得したい。
Visual Basic(VBA)
-
-
4
CloseとDisposeの違い
Visual Basic(VBA)
-
5
Ctrl + Cなど複数の入力キーの感知
Visual Basic(VBA)
-
6
visual studio でインデントを自動的に揃えるショートカットキー
その他(プログラミング・Web制作)
-
7
実数の整数部,小数部の取得
Visual Basic(VBA)
-
8
VBの画面サイズについて
Visual Basic(VBA)
-
9
FriendとPublicの違い。。。
Visual Basic(VBA)
-
10
VB.net 任意の例外を発生させるには・・・
Visual Basic(VBA)
-
11
Hideについて(.NET)
Visual Basic(VBA)
-
12
VBの「As String * 128」とは?
Visual Basic(VBA)
-
13
Chr(13)とChr(10)の違いは?
PowerPoint(パワーポイント)
-
14
DataGrdViewに関連付けたデータの更新
C言語・C++・C#
-
15
「タイプ初期化子が例外をスローしました」エラー何?
Visual Basic(VBA)
-
16
DateTimePickerでに年月までしか選択できないようにしたいです。
Visual Basic(VBA)
-
17
VB.netでメソッドからコントロールを取得
Visual Basic(VBA)
-
18
コントロールを移動できない
Visual Basic(VBA)
-
19
テキストボックスの中身をリセット(クリア)したい
Visual Basic(VBA)
-
20
データセットのレコード更新がしたい
Visual Basic(VBA)
関連するカテゴリからQ&Aを探す
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
有効数字について 以前質問をし...
-
c languageで 簡単な質問があ...
-
floatの有効桁数
-
2進数の足し算(C言語)
-
ExcelでPC(パソコン)によって...
-
色の判定
-
コンピューターは指数関数をど...
-
【C言語】RGBと輝度の計算に関して
-
CRCの計算方法について
-
BCD・HEX・BINについて
-
EXCELの関数"STDEV(標準偏差)"...
-
数値の誤差
-
除算を使わずに10で割りたい。
-
255の2の補数、B'00000001'が-...
-
VB6のFIX関数での誤差について
-
VB.net Double と...
-
-2.18+2.11=-7.00000000000003E...
-
C言語でセルオートマトンを作成...
-
C#にて電卓を作りたいのですが...
-
”/”を使わずに割り算したいんで...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
有効数字について 以前質問をし...
-
c languageで 簡単な質問があ...
-
ExcelでPC(パソコン)によって...
-
O(n log n)について2
-
2進数の足し算(C言語)
-
16進数 加算 減算 C言語
-
EXCELの関数"STDEV(標準偏差)"...
-
三菱シーケンサ(Aシリーズ)で...
-
VB.net Double と...
-
MATLABでの行列の全要素の和
-
除算を使わずに10で割りたい。
-
floatの有効桁数
-
”/”を使わずに割り算したいんで...
-
ExcelのINT関数の計算結果がお...
-
VBAでミリ秒まで出力する方法
-
VB6.0での小数点の扱いについて
-
Fortran において変数の定義
-
計算の丸め誤差の解消について
-
C言語について質問です。
-
CRCの計算方法について
おすすめ情報