
A 回答 (2件)
- 最新から表示
- 回答順に表示
No.2
- 回答日時:
小数点以下の数値がつく型の数値を浮動小数点数といいます。
浮動小数点数は、その性質上、その値をきっちりとした数値で記録しているのはなく、
近似値で記憶しています。
https://ja.wikipedia.org/wiki/%E6%B5%AE%E5%8B%95 …
のIEEE方式(IEEE 754 形式)が一般的です。
そのため、必ず、演算には誤差が伴います。
従って、お金の計算で小数点が付いた場合(円未満の値)でも、
浮動小数点型のデータで計算を行うことは推奨されません。
VBAの場合は通貨型を使います。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
有効数字について 以前質問をし...
-
VB6.0での小数点の扱いについて
-
EXCELの関数"STDEV(標準偏差)"...
-
BCD・HEX・BINについて
-
VBAのINT関数について
-
VB6のFIX関数での誤差について
-
O(n log n)について2
-
MATLABでの行列の全要素の和
-
powf を使わずにべき乗を計算
-
ExcelでPC(パソコン)によって...
-
符号付整数の演算結果を答えよ ...
-
バタフライ演算
-
丸め誤差と桁落ちの違いとは
-
0~2πの範囲を十等分して…
-
VBAでの割り算の余りの求め方
-
CRCの計算方法について
-
符号誤り率の計算は例題でどの...
-
「Aに対するBの割合」と「Aに対...
-
DWORDの実際の型は何でしょうか
-
Aの値からBの値を除するとは??
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
有効数字について 以前質問をし...
-
c languageで 簡単な質問があ...
-
ExcelでPC(パソコン)によって...
-
O(n log n)について2
-
2進数の足し算(C言語)
-
EXCELの関数"STDEV(標準偏差)"...
-
16進数 加算 減算 C言語
-
三菱シーケンサ(Aシリーズ)で...
-
VB.net Double と...
-
MATLABでの行列の全要素の和
-
除算を使わずに10で割りたい。
-
floatの有効桁数
-
”/”を使わずに割り算したいんで...
-
ExcelのINT関数の計算結果がお...
-
VBAでミリ秒まで出力する方法
-
Fortran において変数の定義
-
VB6.0での小数点の扱いについて
-
計算の丸め誤差の解消について
-
C言語について質問です。
-
CRCの計算方法について
おすすめ情報