No.1ベストアンサー
- 回答日時:
比較的言語を問わずそれを実現する方法としては、こういう手があります。
例:0.015を小数点3桁以降で切り捨てる(0.01となる)場合
1)値を100倍する。0.015*100=1.5
2)四捨五入したければ、ここで0.5を足す。切り捨てるならそのまま次へ
3)結果の小数部を切り捨てる。すると結果は1
4)これを100で割れば、0.01が得られる
この方法の欠点は、浮動小数点実数だと誤差を生ずる恐れがあることです。まあ、あまり厳密なことを言わなければ、これでも問題ないと思いますが。あとPascalだと型の違いにうるさいので、整数型と実数型は型変換せずにいきなり代入するとエラーになるでしょうから、注意が必要ですかね。
この回答への補足
すいません、補足です。
今行っている記載しています処理はsiremono2496さんが仰っている処理に近いのですが、
例えば
aaa:Currency
に11.11を入れて
aaa*10
をして
aaaを一度整数にしてしまい111が残ります。
そこにaaa/10で11.1を残すというのを記載しているのですが、
これでいいのかと疑問が残り質問しました。
やはりこういう遠まわしに処理していくしかないものでしょうか??
No.2
- 回答日時:
小数点なんだから、銀行丸めか、非対称丸めで、四捨五入しちゃえばいいのに。
そのための関数はあるけど。
小数点以下の切り捨ては、自作するしかないみたいですねー。
http://www.blackcatlab.com/article.php/Programin …
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- その他(データベース) Accessフォームにて指定のフィールドの平均値を小数点第一位で表示できない 2 2022/08/30 17:19
- 教育学 エクセルで小数点以下を四捨五入について教えてください。 2 2023/04/05 17:33
- 怪我 賞与計算における端数処理について 1 2022/06/27 14:34
- Access(アクセス) Excelの質問 3 2023/02/09 14:57
- 数学 以下の問題が分かりません。 8ビット浮動小数点数が、最上位ビットから順に符号1ビット、指数部3ビット 4 2023/07/22 16:06
- JavaScript useStateの分割代入について 1 2022/05/06 10:02
- Visual Basic(VBA) visual basic初心者です。 visual studioで電卓を作成しています。 実行時にテ 1 2023/02/08 00:18
- 環境学・エコロジー メタン 100 g を使って、コンバインドサイクル発電を行ったところ、34キロワット (34,000 2 2023/01/22 14:00
- 薬学 薬物の 90%が消化管で吸収され 30%が肝臓で初回通過効果をうけ、他に減少がない場 合の 2 2023/01/14 16:12
- 数学 至急!!大学2年の女子です。この高校レベルの問題が分からないので教えてください!お願いしますm(_ 2 2022/11/11 22:10
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
ANSYS (アンシス)で困ってい...
-
Calcの読み方
-
3D_CADのサーフェスモデルとソ...
-
ローン計算が合わないのですが...
-
耐震
-
エクセルで計算結果より小さい...
-
EXCELで括約できますか?
-
4G以上のデータをDVDに書き...
-
Excel 「入力規則」が消えて困...
-
エクセルの対象セルの1つしか...
-
Excelでファイル全体が読み込め...
-
EXCEL ページを指定してPDF出力...
-
R1C1参照形式変更後「名前の重...
-
Excelセル番地の表示の変更の仕...
-
エクセルで横列と縦列が数字に...
-
楽天ショップでの伝票番号入力...
-
Excel 数式を教えてください
-
エクセル 銀行休業日は日付を...
-
宛名職人へエクセルの住所録読...
-
Excelでの名前の定義
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
ANSYS (アンシス)で困ってい...
-
面積を計算するソフト
-
Calcの読み方
-
294÷6.02×10の23乗の答えを教え...
-
ローン計算が合わないのですが...
-
EXCELで括約できますか?
-
無限級数
-
F-BASICで計算中の実行が中途で...
-
【自動計算機能をホームページ...
-
映画の製作費(予算表)のテン...
-
エクセルで掛け算を四捨五入に...
-
エクセルで計算結果より小さい...
-
レイトレーシングとラジオシテ...
-
ファイルメーカーで集計
-
説明がわかりずらくてすみませ...
-
複数台のMTBFについて
-
3D_CADのサーフェスモデルとソ...
-
エクセルのような計算ソフト
-
ハードウェアの故障率、基準作...
-
カッコの2番で計算をした結果74...
おすすめ情報