No.2
- 回答日時:
なぜDoubleとDecimalが混じっているかは、処理を見てみないと分かりません。
ただ、
・Doubleは8バイトであるのに対し、Decimalは16バイトで数値を表す
・Doubleは2進数の小数で数値を表すのに対し、Decimalは整数値と小数点位置の組み合わせで数値を表す
・小数の計算はDouble型が高速
など、違いがあります。
No.3
- 回答日時:
Decimalの精度は28桁で精度が高いですが、範囲が狭い(最大値は7.9 × 10の28乗)です。
なお、小数点以下何桁まで正しいかは絶対値に寄って変わります。
また、10進数で表現できる数値は(精度の範囲内なら)誤差なく表せます。
(あらゆる誤差がないわけではありません。)
Decimalの演算パフォーマンスは悪いので、数値計算などには向きません。
10進数を誤差なく表現したい場合(財務計算とか)に使いましょう。
http://msdn.microsoft.com/ja-jp/library/xtba3z33 …
Decimalは基数が10の浮動小数点数ですが、
MSDNでは便宜のためか浮動小数点数型とは別扱いしてますね。
No.4ベストアンサー
- 回答日時:
Doubleは俗に言う倍精度浮動小数点数と同じです。
精度重視したのか、Longより大きい値を表現できることを意識したのか、10進数型(Decimal)を使った理由(作者の意図)はこちらも良くわかりません。
Decimalを含むデータ型の説明は下記にあります。
データ型をクリックで詳細説明を参照できます。
http://msdn.microsoft.com/ja-jp/library/47zceaw7 …
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
このQ&Aを見た人はこんなQ&Aも見ています
-
フォロワー20万人のアカウントであなたのあるあるを披露してみませんか?
あなたが普段思っている「これまだ誰も言ってなかったけど共感されるだろうな」というあるあるを教えてください
-
フォロワー20万人のアカウントであなたのあるあるを披露してみませんか?
あなたが普段思っている「これまだ誰も言ってなかったけど共感されるだろうな」というあるあるを教えてください
-
映画のエンドロール観る派?観ない派?
映画が終わった後、すぐに席を立って帰る方もちらほら見かけます。皆さんはエンドロールの最後まで観ていきますか?
-
海外旅行から帰ってきたら、まず何を食べる?
帰国して1番食べたくなるもの、食べたくなるだろうなと思うもの、皆さんはありますか?
-
天使と悪魔選手権
悪魔がこんなささやきをしていたら、天使のあなたはなんと言って止めますか?
-
VB.NETで小数点以下の桁数を取得したい
その他(ソフトウェア)
-
VB.NETで DataRow()を利用して、値からコードを取得したい。
Visual Basic(VBA)
-
VB.NET getとsetの概念がわかりません。
Visual Basic(VBA)
-
-
4
SPREAD(GrapeCity)のセルにフォーカスを設定するにはどうしたらいいのでしょうか?
Visual Basic(VBA)
-
5
VB初心者。小数点以下の表示でつまづいています(涙
Visual Basic(VBA)
-
6
String"から型'Double'への変換は無効です。 とエラーが出ます。
Visual Basic(VBA)
-
7
【VB】タブ切り替え時のイベント
Visual Basic(VBA)
-
8
実数の整数部,小数部の取得
Visual Basic(VBA)
-
9
PreviewKeyDownイベントが2回発生する
Visual Basic(VBA)
-
10
文字列で小数点以下の0を削除したい
Visual Basic(VBA)
-
11
VB.NET DataGridView 縦スクロールバーを常に表示
Visual Basic(VBA)
-
12
「タイプ初期化子が例外をスローしました」エラー何?
Visual Basic(VBA)
-
13
VB.netでメソッドからコントロールを取得
Visual Basic(VBA)
-
14
VB.NET Excelを読み込んでDataTableに格納し、DBにデータをINSERTする
Microsoft ASP
-
15
FORMが開いているかどうかの確認方法
Visual Basic(VBA)
-
16
BC30002: 型 'ListItem' が定義されていません となり動きません
Microsoft ASP
-
17
小数点を含む数値かどうか判断の判断方法
Visual Basic(VBA)
-
18
矢印(左右)キーでイベントを発生させたい。
Visual Basic(VBA)
-
19
Designer.vbは直接コードをいじってはだめ?
Visual Basic(VBA)
-
20
別フォームから戻ったときのイベント
Visual Basic(VBA)
関連するカテゴリからQ&Aを探す
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・街中で見かけて「グッときた人」の思い出
- ・「一気に最後まで読んだ」本、教えて下さい!
- ・幼稚園時代「何組」でしたか?
- ・激凹みから立ち直る方法
- ・1つだけ過去を変えられるとしたら?
- ・【あるあるbot連動企画】あるあるbotに投稿したけど採用されなかったあるある募集
- ・【あるあるbot連動企画】フォロワー20万人のアカウントであなたのあるあるを披露してみませんか?
- ・映画のエンドロール観る派?観ない派?
- ・海外旅行から帰ってきたら、まず何を食べる?
- ・誕生日にもらった意外なもの
- ・天使と悪魔選手権
- ・ちょっと先の未来クイズ第2問
- ・【大喜利】【投稿~9/7】 ロボットの住む世界で流行ってる罰ゲームとは?
- ・推しミネラルウォーターはありますか?
- ・都道府県穴埋めゲーム
- ・この人頭いいなと思ったエピソード
- ・準・究極の選択
- ・ゆるやかでぃべーと タイムマシンを破壊すべきか。
- ・歩いた自慢大会
- ・許せない心理テスト
- ・字面がカッコいい英単語
- ・これ何て呼びますか Part2
- ・人生で一番思い出に残ってる靴
- ・ゆるやかでぃべーと すべての高校生はアルバイトをするべきだ。
- ・初めて自分の家と他人の家が違う、と意識した時
- ・単二電池
- ・チョコミントアイス
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
ExcelでPC(パソコン)によって...
-
計算の丸め誤差の解消について
-
c languageで 簡単な質問があ...
-
三菱シーケンサ(Aシリーズ)で...
-
教えて小数点の比較!(C言語)
-
演算について
-
除算を使わずに10で割りたい。
-
VB.net Double と...
-
MATLABでの行列の全要素の和
-
計算機誤差
-
有効数字について 以前質問をし...
-
0.1の10000回の累積
-
”/”を使わずに割り算したいんで...
-
計算精度(限りなくゼロに近く)
-
ラズベリーパイ>MM-TXS03で温度...
-
スーパーコンピュータの処理速...
-
java 実数の割り算
-
Log関数に関する質問
-
最大50桁の実数の和・差・積を...
-
加算と減算で乗算と除算を表現...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
O(n log n)について2
-
VB.net Double と...
-
c languageで 簡単な質問があ...
-
ExcelのINT関数の計算結果がお...
-
有効数字について 以前質問をし...
-
ExcelでPC(パソコン)によって...
-
三菱シーケンサ(Aシリーズ)で...
-
除算を使わずに10で割りたい。
-
16進数 加算 減算 C言語
-
EXCELの関数"STDEV(標準偏差)"...
-
VB6.0での小数点の扱いについて
-
”/”を使わずに割り算したいんで...
-
距離から緯度経度を求める方法
-
VBAでミリ秒まで出力する方法
-
floatの有効桁数
-
コンピューターは指数関数をど...
-
時刻の比較
-
計算の丸め誤差の解消について
-
Double型について
-
powf を使わずにべき乗を計算
おすすめ情報