いつもお世話になります。
アクセス2000を使用しております。
テーブルに8.2と3600の数字が格納されています。
フィールドサイズは倍精度浮動小数点型です。
クエリーをつかって積を求めると、通常に計算すると29520が表示されます。その他の計算結果で少数点以下が出てきますので小数点以下を切り捨てたいのでINT関数を使うと29519と表示されます。
本来INT関数は、29520に対しては29520を返すと思うのですが、どうしたらいいのでしょうか。
小数点以下を切り捨てる方法を教えてください。
No.3ベストアンサー
- 回答日時:
>倍精度浮動小数点型ではなぜダメなのでしょうか。
少数というのは何進法の場合でも簡単に無限小数になります
(10進法の1/3みたいにね)
コンピュータではそれを大きさが限られたデータ型で扱わなければなりませんから
収容できない部分を丸めることになります
そのためごくわずかの誤差が生じてしまいます
その誤差がInt関数を使ったときに大きな違いとなって現れるわけです
(1.9999999999999999999が1になってしまう)
通貨型はこういう問題に対処するために考えられたデータ型で
小数点下4位までの精度が保障されるようになっています
ご回答ありがとうございます。
実は本日、図書館へ行ってきてデータ型について調べてみましたが、わかりませんでした。
明確なご説明をありがとうございました。
No.2
- 回答日時:
=ROUNDDOWN(数字,0)
とすると 少数点 以下は、切り捨てられます。
で、どうです ??。
ありがとうございます。
rounddown関数は、組み込み関数でアクセスにはありませんよね。
エクセル関数をVBAで使用できるようにすれば、いいのでしょうがもっと簡単に小数点の切り捨てが出来ないのでしょうか。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- C言語・C++・C# C言語 3 2022/10/04 15:07
- C言語・C++・C# 10人分の生徒の英語の点数{32,34,41,38,40,26,14,46,42,50} と数学の点 2 2022/05/26 21:31
- Excel(エクセル) エクセルのセルの書式設定・ユーザー定義の条件設定について 1 2022/08/17 21:56
- C言語・C++・C# このプログラミング誰か教えてくれませんか 1 2022/06/02 15:27
- Visual Basic(VBA) VBAプログラミング 4 2023/01/14 00:38
- C言語・C++・C# C言語 プログラミング 4 2022/05/22 11:53
- その他(データベース) Accessフォームにて指定のフィールドの平均値を小数点第一位で表示できない 2 2022/08/30 17:19
- C言語・C++・C# Cのdoubleの浮動小数点表示について 3 2023/04/17 13:14
- Visual Basic(VBA) Powerpointでランダムな数字の結果を表示するマクロ 2 2023/08/04 10:04
関連するカテゴリからQ&Aを探す
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
誤差率 理論値が0の時
-
有効数字が整数部分の一桁で表...
-
集積公差について教えて下さい。
-
データの相対誤差について
-
重み付き最小二乗法について
-
実験計画法、L18直交表への割り...
-
プラスマイナス1.5の範囲に...
-
最小二乗法は、なぜ「二乗」な...
-
回帰直線の傾きと切片の誤差
-
有効数字について 6×3.0だった...
-
最小二乗法の重みづけについて...
-
信号対雑音比について
-
計算機で乗数の逆算をするには?
-
Bland Altman について詳しい方...
-
相対誤差の問題
-
誤差の限界
-
ルンゲクッタ法の誤差
-
百分率の統計解析について
-
L9直交表の割り付けについて!
-
測定したデータの誤差を計算す...
おすすめ情報