![](http://oshiete.xgoo.jp/images/v2/pc/qa/question_title.png?e8efa67)
A 回答 (5件)
- 最新から表示
- 回答順に表示
No.5
- 回答日時:
s_husky です。
昨晩は、型を示しただけでしたので補足します。
Double型を利用した場合、有効桁数=小数点以下第5位という考えを採用することになると思います。
そういう意味では、次のように小数点以下第6位、第7位の丸めが問題になります。
? Rounds(0.000015, 0, 5)' 0=四捨五入
0.00002
? Rounds(0.000019, 1, 5)' 1=切り捨て
0.00001
? Rounds(0.000011, 2, 5)' 2=切り上げ
0.00002
? Rounds(0.0000007, 1, 6)' 無条件切り捨て
0
? Rounds(Rounds(0.0000101, 1, 6), 2,5) <-- 7桁以下は切り捨て6桁を切り上げる
0.00001
Public Function Rounds(ByVal M As Double, _
ByVal A As Integer, _
Optional D As Integer = 0) As Variant
Rounds = Sgn(M) * Fix(Abs(M) * 10 ^ D + Abs((A = 0) * 0.5@ + (A = 2) * (Int(M * 10 ^ D) <> (M * 10 ^ D)))) / 10 ^ D
End Function
※Double型を使えば全てが解決する訳ではないので補足した次第です。
No.4
- 回答日時:
s_husky です。
Private Sub コマンド0_Click()
Dim dblA As Double
dblA = 0.11111
MsgBox dblA
End Sub
という手もあります。
No.3
- 回答日時:
Currency型にすると小数点第4桁までしかあつかえません
意味が判りません!
具体例で示してもらえますか?
この回答への補足
すみません
たとえば
Dim curA As Currency
curA = 0.11111
としても
curAには0.1111
しか入らないということです
これではcurAを
つかって正確な計算が出来ない
事が問題と言うことです
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 数学 常用対数の求め方 log10の2は約0.3010…ですがこの求め方を教えて下さい。0.1から順番に計 8 2022/12/27 04:02
- Visual Basic(VBA) VBAプログラミング 4 2023/01/14 00:38
- Excel(エクセル) 給与計算表で縦計(SUM関数)と合計が少し合わない(数円) 3 2022/07/04 10:13
- C言語・C++・C# numpyスライス機能を使った数値計算 2 2023/05/08 16:01
- 怪我 賞与計算における端数処理について 1 2022/06/27 14:34
- 数学 至急!研究の統計について 6 2023/07/12 00:38
- 医療事務・調剤薬局事務 入院会計のお仕事 1 2023/05/28 15:45
- 数学 『数は実在するのか』 6 2023/06/04 15:15
- Excel(エクセル) 分数をエクセルに入れる計算式について 4 2022/05/13 09:14
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
今投稿して解決したのですが 更...
-
COBOLの計算方法
-
5%割引の際の、小数点以下の扱...
-
数字の下二桁を削除したい
-
負の数の四捨五入の方法
-
端数処理における「小数以下」...
-
駐車場賃料の日割り計算について
-
数字の double 型 を int型...
-
ツェラーの公式について
-
ADOで算術型のRound関数を使いたい
-
雇用保険料の計算式について(E...
-
VBA
-
小数点切り上げって関数ですか?
-
なぜ消費税10%は×1.1なのですか...
-
電卓で指数計算できますか?
-
法人税・消費税修正申告納付の仕訳
-
高速料金を請求する場合の消費...
-
法人会年会費の消費税
-
時給制の業務委託時、請求書の...
-
480円の税込は何円ですか? 急...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
5%割引の際の、小数点以下の扱...
-
今投稿して解決したのですが 更...
-
端数処理における「小数以下」...
-
COBOLの計算方法
-
Access 1000以下を切り捨てる関数
-
Excel有効数字の丸め方「0捨1入」
-
右ビットシフト
-
負の数の四捨五入の方法
-
駐車場賃料の日割り計算について
-
エクセルでの小数点以下切り捨...
-
数字の double 型 を int型...
-
50銭以下切り捨て51銭以上切...
-
勤務の稼働時間の計算がわかり...
-
数字の下二桁を削除したい
-
ACCESSの切り上げ
-
売上の構成率の計算で、たとえ...
-
エクセル 小数点第2位を条件付...
-
切り捨てて百の位までのがい数...
-
小数点 第n位 を切り上げ,切り捨て
-
エクセルの関数について。 残業...
おすすめ情報