![](http://oshiete.xgoo.jp/images/v2/pc/qa/question_title.png?5a7ff87)
No.3ベストアンサー
- 回答日時:
既出のように浮動小数点数の特性です。
「9491.299」と「9491.299000000001」はデータ上同じものです。
これを「9491.299000000001」でなく「9491.299」と表示したいとなると、最悪で2進1000桁を超す演算を行う面倒なプログラムになります。
普通はそのような面倒はしないので、入力した10進数とわずかに異なる表示が出ることを許容して使います。
四捨五入は、正しく行うのは不可能です。
今回は偶然正しい答えが出ていますが、浮動小数点数の小数点以下での四捨五入はどんな場合にも正しい答えが出るとは限りません。
まれに誤った答えが出ることを許容して使うか、あるいは整数だけを使うかするとよいでしょう。
No.1
- 回答日時:
これはSwiftに限らず,プログラムで浮動小数点を取り扱う場合には起こりえます。
「浮動小数点 誤差」などで検索してみてください。
表示上はそのように表されていますが,
最初の行では8バイトで表すことが可能な最も9491.299に近い値が入っています。
同様に最後の行では最も9491.300に近い値です。
正しく四捨五入できていますよ。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 教育学 エクセルで小数点以下を四捨五入について教えてください。 2 2023/04/05 17:33
- 数学 数学『データの分析』 √22を少数にする際 「4.6904…」だったので 4を四捨五入し0を切り捨て 5 2023/03/03 12:59
- 数学 昔の日本人の身長表記の尺や海外の身長表記のフィートはcmに直すと小数点がつきますが、その小数点はフィ 2 2022/04/12 21:26
- 小学校 がい数の問題の文章の意味 4 2022/11/21 14:25
- Excel(エクセル) 計算結果を1の位で四捨五入 1 2022/11/12 17:33
- 数学 四捨五入について。 23 2023/02/19 14:40
- 数学 積分の計算 2 2022/04/10 20:14
- 高校 x,yを正の数とする。x,3x+2yを少数第一位で四捨五入すると、それぞれ6,21になるという。yの 1 2023/04/05 23:32
- 数学 右の図で、BCの長さを四捨五入して、 小数第1位まで求めなさい。 図は三角形ABCで、∠Aが50度、 3 2022/07/28 01:17
- 統計学 統計学の問題 1 2022/10/09 20:01
関連するカテゴリからQ&Aを探す
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
5%割引の際の、小数点以下の扱...
-
負の数の四捨五入の方法
-
今投稿して解決したのですが 更...
-
数字の double 型 を int型...
-
Access 1000以下を切り捨てる関数
-
端数処理における「小数以下」...
-
切り捨てて百の位までのがい数...
-
エクセルでの小数点以下切り捨...
-
Excel有効数字の丸め方「0捨1入」
-
駐車場賃料の日割り計算について
-
ROUNDDOWNについて
-
なぜ消費税10%は×1.1なのですか...
-
高速料金を請求する場合の消費...
-
法人税・消費税修正申告納付の仕訳
-
協同組合に支払う会費&賦課金...
-
時給制の業務委託時、請求書の...
-
生産の「時間当たりの出来高」...
-
法人会年会費の消費税
-
電柱敷地使用料
-
アホな質問なのですが、30分を0...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
右ビットシフト
-
5%割引の際の、小数点以下の扱...
-
今投稿して解決したのですが 更...
-
Access 1000以下を切り捨てる関数
-
駐車場賃料の日割り計算について
-
COBOLの計算方法
-
数字の下二桁を削除したい
-
Excel有効数字の丸め方「0捨1入」
-
負の数の四捨五入の方法
-
エクセルでの小数点以下切り捨...
-
数字の double 型 を int型...
-
50銭以下切り捨て51銭以上切...
-
端数処理における「小数以下」...
-
勤務の稼働時間の計算がわかり...
-
雇用保険料の計算式について(E...
-
小数点 第n位 を切り上げ,切り捨て
-
四捨五入をするプログラムの書...
-
「未満と以上」使う範囲。
-
切捨てする関数はありますか?
-
四捨五入できますか?
おすすめ情報