A 回答 (2件)
- 最新から表示
- 回答順に表示
No.2
- 回答日時:
有効数字に意味をきちんと理解していませんね。
というか、学校でもちゃんと教えないし、高校まででしか使われない「簡易方法」にすぎないからね。
「桁数」で議論するのは、本来「乗除算」での話です。
(1)では、
0.400 とは 0.400 ± 0.0005 の「小数第4位」を四捨五入したもの
6分20秒は 3860 ± 0.5 s の「秒の小数第1位」を四捨五入したもの
と考えて、
(0.400 ± 0.0005) × (3860 ± 0.5) ≒ 1544 ± (1.93 ± 0.2)
この誤差(±1.95 程度)から「1の位」の値は「信用できない」として
≒ 1.54 × 10^3
とするのが「有効数字」の考え方です。
(上の誤差計算は本当は「厳密」ではありませんが、こんなものということ)
乗除算では、「信用できる桁数」が維持されるとみなします。
これに対して、加減算では
(4)1.544 × 10^3 は、本来の有効桁数「3桁」からすると
(1.54 ± 0.005) × 10^3
1.158 × 10^3 も、本来の有効桁数「3桁」からすると
(1.16 ± 0.005) × 10^3
です。これで計算すれば
(1.54 ± 0.005) × 10^3 - (1.16 ± 0.005) × 10^3
≒ (0.38 ± 0.01) × 10^3
という誤差になって、「小数第3位」は「信用できない」ことになります(ひょっとすると「小数第2位」も怪しい)。
そのため、有効数字は「小数第2位」までと考えて
≒ 0.38 × 10^3
= 3.8 × 10^2
とするのです。
その結果、有効桁数が1つ減ってしまいます。(3桁→2桁)
ただ、これでは(1)(2)で「四捨五入」した誤差がますます大きくなってしまうので、(1)(2) の四捨五入する前の値を使って計算し、最終結果の「小数第3位」を四捨五入して「小数第2位」までを求めているのです。
(なので、2桁目の値が「1」違う。この辺が、「有効数字」が厳密な「誤差計算、誤差評価」ではないいい加減なところ)
以上のように、乗除算では「信用できる絶対桁、数字の位」が維持されるとみなします。
機械的に「桁数維持」で考えると、質問者さんのような疑問がわきますね。
有効数字は、下記のようなサイトで「考え方」を理解してください。
(「高校までの暫定的な簡易ルール。大学生以上は使用禁止」と書かれています)
https://eman-physics.net/math/figures.html
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 野球 阪神の大山は 3 2022/08/30 23:33
- Java Java 南京錠 2 2023/02/04 11:46
- Excel(エクセル) Excel_マクロ_複数のシートのVLOOKUPで表示された#N/A以外に色付けをしたいです 1 2023/02/16 22:37
- C言語・C++・C# 石取りゲームをC言語プログラムで教えてください 1 2022/04/09 14:16
- 学校 人生は1金、2コネ、3才、4学? 10 2023/01/25 21:44
- その他(ネットショッピング・通販・ECサイト) 11月1日に中国サイトで品物を購入しました私は何度もメールしていて4日に発送するとメールがあり5日の 6 2022/11/08 10:24
- 数学 登録番号と年月日と時間から作成した数字列を出来る限り小さくする方法 7 2022/06/03 16:10
- 教育・学術・研究 実験の測定結果について。 実験で、345.8と343.3という値が出てきたとして、その平均をとるとき 1 2022/10/17 20:33
- その他(悩み相談・人生相談) 以下の中から付き合う、結婚するときに嫌だなー思うものから順番に並べ替えてください。 1.ブサイク 2 3 2022/06/07 08:45
- 恋愛・人間関係トーク 以下の中から付き合う、結婚するときに嫌だなー思うものから順番に並べ替えてください。 1.ブサイク 2 1 2022/06/07 16:21
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
A,B2人のある月の収入の比は3:2...
-
今の現状、高校相談、将来 自分...
-
勉強方法に悩んでいます。 私は...
-
公立高校についてです。3年間学...
-
偏差値50の高校に通うの高1で...
-
偏差値50の高校に通う高校1年生...
-
担任に「指定校(推薦)はあげ...
-
除籍になった高校に入れますか?
-
大卒の新卒就活で高校名書かな...
-
灘高校とか開成高校の方達って...
-
高校生になりたくない
-
公立高校の無期限謹慎とは大体...
-
体力テスト
-
次中三の現中2です。僕は全校集...
-
学校の学費が一時的な文化祭で...
-
テストのレポート課題で、思春...
-
通信制高校に通うことはナンセ...
-
10本のくじの中に当たりくじが2...
-
イケメンってずるくないですか...
-
高校の離任式を欠席したいので...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
明日現代文のテストなのですが...
-
高校生になりたくない
-
中3、今から本気では遅い?
-
偏差値40の高校に通う高校3年生...
-
今の高校って、テスト期間にま...
-
99パーの大卒より工業高校の方...
-
文章がおかしくなります。すみ...
-
高校英語 不定詞について質問で...
-
高校3年生です。 約1ヶ月後に...
-
高校生女子です! 私の女友達は...
-
除籍になった高校に入れますか?
-
数学の質問です! 3つのサイコ...
-
写真の問題の(2)の解き方を教え...
-
最近、劣等感に押しつぶされそ...
-
高校一年男子です。 バイトしよ...
-
情報処理のプログラミングの検...
-
高一女子です。 ダンス部に所属...
-
苦手科目数学
-
灘高校とか開成高校の方達って...
-
公立高校の無期限謹慎とは大体...
おすすめ情報