No.3ベストアンサー
- 回答日時:
それは丸め誤差というもので、浮動小数点型を使っている限りは不回避なものです。
詳細は「丸め誤差」でググってみてください。簡単に言えば、浮動小数点型は整数型に比べて広い範囲の数値を表現しているため、使えるビット数ではどうしても表現できない値が存在します。これが計算時に誤差となって現れるのが丸め誤差です。
昔から良く引き合いに出されるのは「浮動小数点型で、1/10000*10000の結果が1ぴったりになると思うな」と言うことです。これが問題になる用途では固定小数点型を使うか、整数として計算してから後で小数に変換する、ということをします。
浮動小数点はANSIで規格化された方法があるんですが、処理系によって違う方法を使っている場合もあり得る(=丸め誤差の出方が変わる)ので、小数を扱う場合は注意が必要です。
No.2
- 回答日時:
お使いのC言語における実数の内部表現である浮動小数点数について学び,
なぜ内部で精度が落ちるのかを検証してください。
http://ja.wikipedia.org/wiki/浮動小数点数
の「浮動小数点数の精度」にしたがい,
1.001 が,お使いの言語内部ではどうなっちゃてるかを確かめてください。
もしもプログラムで a を float で宣言しているなら,
double ではどうなるかを確認してください。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- その他(プログラミング・Web制作) Pythonを用いたフラッシュ暗算ソフトの開発に必要なもの 2 2023/01/29 02:22
- Excel(エクセル) エクセルのセルの書式設定・ユーザー定義の条件設定について 1 2022/08/17 21:56
- Excel(エクセル) SUMIF関数について 4 2023/06/14 13:13
- C言語・C++・C# このプログラミングの問題を教えてほしいです。 キーボードからデータ数nとn個のデータを入力し、平均値 3 2022/12/19 22:51
- Java Java 年数計算 3 2023/01/28 10:52
- C言語・C++・C# C言語:数値の桁数指定についての質問です。 8 2022/05/26 23:53
- Visual Basic(VBA) A列にある値をB列・C列にVBAで切り出し 3 2022/04/09 19:20
- その他(ビジネス・キャリア) 今時の派遣社員って仕事が出来ないだけじゃなく計算も出来ないのか? 8 2022/07/22 20:53
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- Excel(エクセル) 電卓は正しいのに エクセルで計算させると間違った答えです。なぜ? 7 2022/08/11 07:04
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
3COINSのスマートウォッチを使...
-
言語の選択や国の選択をする時...
-
急に非通知着信がめちゃくちゃ...
-
iqoo neo 9と言うスマホがある...
-
「PC Helpsoft Driver Updated...
-
テレビみたいにリビングにモニ...
-
初めて中華ゲーム機を購入した...
-
良いワイヤレスイヤホン買いた...
-
メルカリの一つのアカウントで ...
-
皆さんのスマホのキャリアは・・
-
GPS機能がその時間帯に動いても...
-
ワイヤレスイヤホンを買ったん...
-
ルーターを初期化せず捨てた ど...
-
初めて質問します。 スマホ用等...
-
EOKIOのヘッドフォンのペアリン...
-
HDDがなくなって、SSDに置き換...
-
txtはワードで開くのは間違いで...
-
MAX7219で1つだけLEDを点灯する...
-
PS4のコントローラーを本体に有...
-
ゲーム機能付きのスマートウォ...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
3COINSのスマートウォッチを使...
-
メルカリで普通郵便で購入した...
-
「PC Helpsoft Driver Updated...
-
パソコンのWi-Fiについてご相談...
-
イヤホンについて教えてくださ...
-
パソコンのデータについてご相...
-
スマホ
-
GPS機能がその時間帯に動いても...
-
急に非通知着信がめちゃくちゃ...
-
メルカリでは、パーツが破損し...
-
ファミコンでゲームをしていた...
-
テレビの画面の故障を修理する...
-
会社や学校で比較的高価な備品...
-
スマホで撮った写真をUSBケ...
-
10年位前に使っていたパソコン...
-
i久しぶりにプレステ4で遊ぼう...
-
ps3のシステムアップデートをし...
-
100倍倍率双眼鏡は見にくいです...
-
ポータブル電源で使用電源量が...
-
ガレージバンドを開こうと思っ...
おすすめ情報