5928.77÷((20.21×5.30+20.34×5.23)÷2)を計算し有効数字3桁で求めたいです。2は平均とってるだけなので2.00000… と考えてください。
答えは55.54111…となります。
なので55.5
ただ、(20.21×5.30+20.34×5.23)÷2=106.7456 で、
5桁目以降切り捨てて
5928÷106.7= にすると、55.5576…となり四捨五入すると、55.6になります。
n桁目で求める場合n+2桁目以降切り捨てと習いましたが、その場合でもずれることはあるということでしょうか。
A 回答 (7件)
- 最新から表示
- 回答順に表示
No.5
- 回答日時:
エクセルで計算できる時代には全くふさわしくない知識ですね。
各数字の最小桁は四捨五入によるものだとすると(5928.77±0.005)÷(((20.21±0.005)×(5.30±0.005)+(20.34±0.005)×(5.23±0.005))÷2)で
最小値は分子がマイナス、分母がすべてプラスで55.2396≒55.24
最大値は分子がプラス、分母がすべてマイナスで55.8485≒55.85
になり3桁の精度はありません。分母の測定値の精度が不足してます。
No.4
- 回答日時:
>計算し有効数字3桁で求めたい
原則的には、フルの桁数で計算して、
最終結果を 決められた有効桁数に します。
計算途中では 最終結果に影響しない範囲で、
有効桁数を多めにとる事は 出来ます。
どの位 多めにとるかは 実際に計算してみないと 分かりません。
「n桁目で求める場合n+2桁目以降切り捨てと習いましたが」
この +1桁で 以下切り捨ては 少し乱暴な計算です。
全ての計算が当てはまる 保証はありません。
一般的には +2~3桁で 計算することが多いです。
※ +2桁で 計算すれば 5928.7÷106.74=55.543… です。
+3桁で 計算すると 被除数はそのままで 除数が小さくなりますから、
答えは 実際より 大きくなります。
No.3
- 回答日時:
原則計算途中の丸めはご法度です。
最終有効桁数+2~3桁 は最低限確保して計算するのが常識の筈。
n+2桁以降切り捨てでは有効桁はn+1桁で余裕が―桁しかない。
又、特に先頭が1で始まる数値は精度が低くなるので要注意です。
#実質有効桁が1少ないとみて処理することが多いです。
これでは計算誤差が大き過ぎます。
No.2
- 回答日時:
「n桁目で求める場合n+2桁目以降切り捨てと習いました」って、そんなバカげたことを教えた教師を罷免してください。
今どき、64ビット長の倍精度演算を行うのが常識です。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 計算機科学 有効数字の計算法について、(152-157)/6.5のときの答えについてです。 まず、分子と分母の有 5 2023/09/27 23:47
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 薬学 薬物の 90%が消化管で吸収され 30%が肝臓で初回通過効果をうけ、他に減少がない場 合の 2 2023/01/14 16:12
- 高校 高校化学有効数字計算 4 2023/02/26 09:09
- 統計学 155.2、164.4といった数字で平均値を出す場合は、その数字を四捨五入で整数にしてから÷個数で求 13 2022/10/12 16:12
- 数学 小数点の計算についてです。 答えは与えられた数字の中で最も少ない桁に四捨五入で合わせるのですが、ひと 2 2023/04/04 15:19
- 数学 数学『データの分析』 √22を少数にする際 「4.6904…」だったので 4を四捨五入し0を切り捨て 2 2023/03/09 23:30
- 物理学 「NHKの時報の音は、振動数が440Hzです。この音の波長を求めましょう。ただし、音の伝わる速度を3 6 2023/03/02 18:24
- 物理学 「0℃,1atmで窒素の密度は、1.247g/Lである。このときの窒素の分子量を求めよ。」 という問 4 2023/11/17 10:59
- 化学 有効数字の問題にです 4 2022/08/02 22:33
このQ&Aを見た人はこんなQ&Aも見ています
-
プロが教える店舗&オフィスのセキュリティ対策術
中・小規模の店舗やオフィスのセキュリティセキュリティ対策について、プロにどう対策すべきか 何を注意すべきかを教えていただきました!
-
数学I アホらしい質問なのでそんなこと考えることは無駄などの解答は受け付けておりません。 また自分的
数学
-
確率の問題 数学と実生活と
数学
-
写真の様な解き方はおかしいですか? 何故おかしいのかも教えてくれると助かりますm(_ _)m
数学
-
-
4
小数点の引き算
数学
-
5
この数学の問題はどうやって解けば宜しいでしょうか?
数学
-
6
微分がムズいです。 新高二です。春休みに数学の先取りをしようと思って数Ⅲをやってます。数2の微分は何
数学
-
7
虚数の計算を教えてください
数学
-
8
計算手順について
数学
-
9
計算式の問題です。
数学
-
10
以前にも質問させていただいたのですが、理解することができなかったので再度質問させていただきます。 写
数学
-
11
数学の法則を発見しました
数学
-
12
5/1に数学の問題解いてるとします。分からなかった問題を5/2に復習しますよね。 そこで質問です。
数学
-
13
数学の質問です loge 3=1.1になる成り行き教えて欲しいです
数学
-
14
大学数学を勉強し始めて難しいので高校数学から また勉強し始めてるのですが、私が高校生だった時は三角関
数学
-
15
ピタゴラスの定理は辺の長さが虚数でも成り立ちますか
数学
-
16
n^2+n-4032はどうやって解くんですか? n=-64,63になるらしいですがそんなのどうやって
数学
-
17
なんでですか?
数学
-
18
数学I 三角形ABCにおいてbtanA=atanBが成り立っているとき、この三角形はどのような三角形
数学
-
19
写真のような図形の時、opとcpの長さが等しくなる理由を教えてください
数学
-
20
下の画像の中の三角形は正方形だ、と友達が言っていたのですが、その根拠のようなものはありますか? 二等
数学
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
「小数点以下第2位までで答えな...
-
小数第4位まで求めろと言われた...
-
1796.875 を有効数字3桁で表す...
-
7000g が 6500g になってしま...
-
約の範囲は一体どの位からなの...
-
四捨五入した数の合計が100.0%...
-
何万強とか何万弱というのはど...
-
小数点第1位切り上げ?
-
小数1位と小数1位止との違い
-
Excelで二捨三入したいのですが...
-
100枚弱とは何枚のことですか?
-
アクセスでの演算で少数点第1位...
-
利益率の計算などで・・
-
エクセルで有効桁を指定して丸...
-
Excelで構成比の各要素の合計を...
-
4年生 がい算
-
四捨五入でどこから切り上げる...
-
四捨五入って外国にあるのですか?
-
1.554・・・ の小数点以下第1位...
-
0.2349の3桁目を四捨五入し2桁...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
1796.875 を有効数字3桁で表す...
-
小数第4位まで求めろと言われた...
-
約の範囲は一体どの位からなの...
-
四捨五入した数の合計が100.0%...
-
何万強とか何万弱というのはど...
-
割合(%)を出すとき、小数第...
-
「小数点以下第2位までで答えな...
-
小数点第1位切り上げ?
-
7000g が 6500g になってしま...
-
エクセル関数の50円単位の四捨五入
-
Excelで二捨三入したいのですが...
-
Excelで構成比の各要素の合計を...
-
四捨五入でどこから切り上げる...
-
小数1位と小数1位止との違い
-
5928.77÷((20.21×5.30+20.34×5....
-
小数点以下「3桁で」四捨五入?...
-
身長159.9センチの場合、160セ...
-
エクセルでround関数を使わない...
-
EXCELで「有効3桁で四捨五入」
-
100枚弱とは何枚のことですか?
おすすめ情報