有効数字についてよく分からないところがあるので質問させてください。
例えば、最小目盛りが1 mmのものさしで、ある長方形の紙の縦と横の長さを測定し、面積を求めるとします。
測定は最小目盛りの1/10まで読み取るため、縦、横の長さの読み取りは0.1 mmまで読み取ります。
以下が測定した値とします。
縦の長さ・・・1.23 cm
横の長さ・・・98.76 cm
そして面積を求めると121.4748 cm^2となります。しかし有効数字を考えると縦は3桁、横は4桁であり、積は有効数字の小さいほうにあわせるのでこの場合は3桁にしなくてはならない、つまり面積は121 cm^2となる、ということでいいのでしょうか?
何かしっくりこないのです。
もっと極端に言うとものさしを使って長方形の紙の面積を求める際、縦が非常に長くて(1122334455667788.99cm)横が非常に短い場合(0.02 cm)
有効数字を考えると縦は18桁、横は1桁なので面積は有効数字1桁で表さなくてはならないということになってしまうのでしょうか。
これだったらせっかく縦を有効数字18桁まで測った意味はなくなるような気がします・・・。(結局面積は2*10^13 cm^2としか表せない)
これでいいのでしょうか?どなたかお教えいただけないでしょうか。お願いいたします。
No.1
- 回答日時:
実社会での「有効数字」は単なる数学上の概念ではなく、測定できる「精度」と密接な関係があります。
例えば具体的に100gまではかれる計量器の目量が0.1gであった場合、デジタル表示だと0.1g単位で表示されますので、この場合は「小数点以下一桁の有効数字」を計算することとなります。
同様に、長さを測定する場合、100mまで測定できるその計量器の目量が例えば1cmであれば、小数点以下二桁つまり0.01mまでの計算を行います。
ところが、あなたのおっしゃっている有効数字の例示の考え方には、実社会での測定精度のことが欠落しており、少々誤解があるように思えます。
No.2ベストアンサー
- 回答日時:
2*10^13 cm^2であっています。
なぜなら、0.02 cmは0.015~0.024の間の数と考えられるからです。
長方形の寸法値を細かく測定しても、横の寸法値は次のように幅があります。
最大寸法値のとき、
(0.024-0.02)/0.02*100=+20%
最小寸法値のずれは、
(0.015-0.02)/0.02*100=-25%
つまり、縦を一定としたとき、±45%ずれが起こりうるのです。
そのようなずれに対し、桁を細かく出しても、意味のない数字になってしまいますね。
多少、大雑把な点はありますが、有効数字とは、
意味の有る数字で丸めることになります。
確かにこんなにずれが起こるんだから桁を細かく出してもまったく意味がないですね。有効数字について理解が深まりました。
回答していただき本当にありがとうございました。
No.3
- 回答日時:
1.23 cm
98.76 cm
121.4748
有効数字を考えると、121.47の気がするのですが。
縦も横も小数点2桁まで正確なので、面積も小数点2桁までは求めなくては。
うーん、すいません、よく分かりません。
有効数字3桁×4桁なら答えは有効数字が小さい3桁にあわせるのではないのでしょうか?
縦と横は最小目盛り1 mmのものさしで測っているので小数点2桁目は正確とはいいがたいような気がするのですが・・・
No.4
- 回答日時:
NO.2さんと同じことですが。
質問者さんが最初に書かれた方で計算してみましょう。
小数点2桁目は、目で読み取っているので、プラマイ1くらいの誤差はあるでしょう。ということで、縦は1.23プラスマイナス0.01 cm、横は98.76プラスマイナス0.01 cmということにします。
ものさしの場合はどうか知りませんけど、化学で使うビュレットなどではこれくらいの誤差を計算にもちこんだと思います。
さて、このとき面積の最大値と最小値を計算してみると、
マックスは122.47 cm^2、ミニマムは120.47 cm^2
となります。
ずれが生じないのは2桁目までで、3桁目以降にはずれがでてますね。
ですから、3桁目以降を議論しても意味はないということになります。
面積としては1.21プラスマイナス0.01 X10^2 cm^2ということですか。
なるほど、よく分かりました。
後、ビュレットでもこのくらいの誤差があるのですか。特にビュレットの誤差を意識せずに使ってました・・・。
回答していただきありがとうございました。
No.5
- 回答日時:
横レスですが。
>ビュレットの誤差
結局、最小目盛りの1/10のとこは目で読んでいるので。
目盛り自体はちゃんとしているでしょうが。
経験をつんだ人ならそれくらいの誤差でしょうが、あまりなれていない人だと誤差はもっと大きくなると思います。
すいません、ビュレットとホールピペットを勘違いしてました・・・。
確かにビュレットは1/10まで読みますね。自分の場合はまだ経験が浅いので誤差はかなり大きいです、というか見方によってどうにでも見えてしまうような感じです。
再び回答していただきありがとうございました。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
- その他(動画サービス) VLCメディアプレーヤーについて 1 2022/11/29 14:19
- 建築士 建築士製図試験での縦距離の数値の書き方を教えて下さい 3 2023/07/16 11:36
- その他(教育・科学・学問) なぜ、0.50+0.50=1.0 になるのですか? 0.50も1.0も有効数字2桁ですので、計算結果 9 2022/11/17 18:12
- 教育・学術・研究 実験の測定結果について。 実験で、345.8と343.3という値が出てきたとして、その平均をとるとき 1 2022/10/17 20:33
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
- Word(ワード) 最高裁判所から通達がある Wordの書式設定。所謂 裁判所に提出するすべての書類のことです。 A4縦 2 2022/12/23 15:00
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 数学 情報処理詳しい人!! A4縦のレポート文書に4:3の大きさの横向きの写真画像を貼り付けることにした。 2 2022/12/18 02:30
- 物理学 仕事を表すW=Fxのグラフは、縦軸がF、横軸がx、その面積がWになりますが、一様な電場での電位を表す 4 2022/12/30 18:56
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
40%に縮小したものを100%に戻...
-
2㎡って何センチですか?
-
台形の「面積・底辺・角度」か...
-
縦12m、横が20mの長方形の土...
-
ヘクタールは何坪
-
トラクターで耕うん時間を算出...
-
60㎡
-
2問教えてください! 早急! ...
-
円柱の容量(L)を教えてくださ...
-
要約と大意の違いがわかりません。
-
数学の問題(中一)です。教え...
-
問題の解説を読んでもわからな...
-
面積800haはどのぐらい
-
ヤコビアン、dxdy=|J|drdθ=rdrd...
-
三角形の相似と面積比
-
コンビニの拡大コピーで2倍の大...
-
初歩的な数学の問題です
-
【数学・湾曲の面積の出し方】...
-
円に内接している四角形の面積...
-
数学…台形の面積と角度
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
おすすめ情報