A 回答 (2件)
- 最新から表示
- 回答順に表示
No.2
- 回答日時:
なぜ計算途中で小数点第三位以下を四捨五入したのですか?
四捨五入せずに電卓で計算して確認してみましょう。
左から順に計算した場合
1.06 ×2.58 ×1.63x ×2.47x
=11.01057828 x²
2つに分けて計算する場合
1.06 ×2.58 =2.7348
1.63x ×2.47x =4.0261 x²
2.7348 ×4.0261 x² =11.01057828 x²
一方で
2.73 ×4.03 =11.0019
ということを踏まえて、
四捨五入せずにそのまま計算した場合
2.7348 ×4.0261 x²
=(2.73 +0.0048)×(4.03 -0.0039)x²
=(2.73 +0.0048)×(4.03 -0.0039)x²
=(2.73×4.03 -2.73×0.0039 +0.0048×4.03 -0.0048×0.0039)x²
=(2.73×4.03 -2.73×0.0039 +0.0048×4.03 -0.0048×0.0039)x²
=(11.0019 -0.010647 +0.019344 -0.00001872)x²
=(11.0019 +0.00867828)x²
=11.01057828 x²
計算途中で四捨五入したせいで、0.00867828の誤差が生じています。
数値が変わったのはそれが原因です。
----------
四捨五入などをする場合、計算の最後にしましょう。
途中で行うと丸め誤差が発生してしまい、答えが変わってしまうことがあります。
この回答へのお礼
お礼日時:2017/10/26 18:50
四捨五入が原因でしたか!
情報技術の問題で、関数電卓を使って小数点第2位まで という設定にしていたもので…。わかりやすい解説ありがとうございました!理解出来ました!
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- Java java 飾子を付けること(public static・・・) ・コンソールへの出力処理はmainメ 2 2022/06/16 19:34
- 教育学 なぜ8-11+4になるんですか? それとなぜ8+4-14になるんですか?左から順番に計算しなきゃいけ 4 2023/08/27 21:46
- 計算機科学 化学の計算の問題です。 (5.6×10の-8乗)3乗×4分の6.0×10の23乗の答えが26.4なの 5 2022/05/04 15:57
- 転職 給料計算の経験がありません。 どのような順番でどのような工程をふんで進めていきますか? システムを使 2 2023/04/05 17:54
- 数学 数学(数列) 二番の問題 模範解答では 二種類の一般項を出す→掛け合わせる→それをΣ計算する だった 4 2023/04/10 21:31
- 数学 算数の問題です。 7 2023/03/10 11:20
- 数学 数学(順列)(訳あり再質問) 男子3人と女子5人が1列に並ぶとき両端うち少なくとも一方は男子である並 1 2023/02/16 10:26
- Java javaの質問です 次の機能を有するメソッド4つを自クラスに作成し、実装したいです 【機能】 足し算 1 2022/06/15 17:49
- 数学 数学(順列) 男子3人と女子5人が1列に並ぶとき両端うち少なくとも一方は男子である並び方は 何通りあ 1 2023/02/15 21:09
- 数学 分数の計算の途中で約分することについて 6 2022/06/04 12:21
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
kDaからbpへの変換について
-
第2イオン化エネルギー
-
水、10mg/dL標準液、血清の終点...
-
20000円の3分の2の計算のしかた...
-
ガラス器具の許容範囲誤差と有...
-
小数第一位までのときは、第二...
-
有効数字について
-
高校化学の計算問題のコツを教...
-
高校数学 群数列 (n≧2のとき)...
-
有効数字についてですが、掛け...
-
±100×10の-6乗は何ppmですか?
-
電子天秤のメモリ
-
【高校化学】有効数字の指定が...
-
有効数字について
-
クエン酸水のpH
-
化学(原子量)の有効数字
-
単位格子の密度計算式の解き方...
-
Antoine式の定数について
-
ネルンストの式にあるlnが何か...
-
比交換容量について 乾燥したH...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
kDaからbpへの変換について
-
ガラス器具の許容範囲誤差と有...
-
20000円の3分の2の計算のしかた...
-
有効数字について
-
小数第一位までのときは、第二...
-
化学(原子量)の有効数字
-
計算結果の微妙なズレ(大学入試)
-
化学での有効数字について(途...
-
高校化学の計算問題のコツを教...
-
活性化エネルギーが負になって...
-
1.0×10のマイナス14乗÷2.0×10の...
-
ROUNDDOWNの計算が、合わないの...
-
o-,p-,m-次クロロベンゼンの双...
-
対数の誤差計算についての質問...
-
クエン酸水のpH
-
【高校化学】有効数字の指定が...
-
有効数字の計算についての質問...
-
有効数字についてですが、掛け...
-
Antoine式の定数について
-
活性化エネルギーの求め方が分...
おすすめ情報