No.2ベストアンサー
- 回答日時:
こんにちは。
たとえば、
5.00±3% (数値では、5.00±0.15)
であるとき、
2乗すれば、誤差の割合は2倍になり、
25.0±6% (数値では、25.0±1.5)
となります。
数値で言えば、母体の数字は5倍なのに、誤差は10倍になるということです。
よって、2乗したとき、有効数字は当初と同じ3桁として構いません。
データの個数が十分であれば、3桁以上の細かい数字で最小二乗法の計算を行っても、3桁だけで計算を行っても、結果はほとんど変わりません。(同じと言ってもよいです。)
なお、最小二乗法の結果、出てきた数字については、3桁以上の有効数字で考えることができます。
たとえば、データが全部整数であっても、最小二乗法で得られた切片の値の小数点以下の数字には意味があります。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
- Excel(エクセル) エクセルの数式について教えてください。 2 2023/02/18 11:30
- 数学 多様体について質問です。 Rを実数全体としてf:S^n={(p_1,…,p_(n+1)∈R^(n+1 2 2023/06/24 00:54
- Visual Basic(VBA) VBAで大量データの処理 3 2022/11/15 21:53
- その他(データベース) Accessフォームにて指定のフィールドの平均値を小数点第一位で表示できない 2 2022/08/30 17:19
- Java Java モンスターブリーダー 1 2023/02/05 09:44
- Excel(エクセル) エクセルの数式について教えてください。 2 2023/03/04 09:54
- Excel(エクセル) エクセルの数式で教えてください。 3 2023/03/16 11:19
このQ&Aを見た人はこんなQ&Aも見ています
-
「環境が人を育てる」って本当?環境によって人格や生き方は本当に変わるのか
環境が人生に与える影響は実際どれほどのものなのか、専門家の田宮由美さんに伺った。
-
最小二乗法における有効数字について
その他(自然科学)
-
統計学における有効数字について質問です。
統計学
-
e^(x^2)の積分に関して
数学
-
-
4
平均値、標準偏差の有効数字について教えてください。
統計学
-
5
化合物のモル吸光係数データベースを教えて下さい
化学
-
6
ワードに「URL」を貼り付けると、文字が黒だったり青だったり?
その他(パソコン・スマホ・電化製品)
-
7
有効数字と誤差率
物理学
-
8
有効数字について
化学
-
9
サイト名ってなんですか?
その他(暮らし・生活・行事)
-
10
有効数字の扱い
高校
-
11
有効数字について 6×3.0だったらどうして答えが18.0になるんですか? 6が有効数字1だから、6
数学
-
12
融点と純度について、
化学
-
13
積分で1/x^2 はどうなるのでしょうか?
数学
-
14
高校物理基礎 有効数字 公式で数を二乗する必要がある場合、 例えば12^2のときは150でなく144
高校
-
15
有効数字
化学
-
16
Co(III)の溶液
化学
-
17
化学の反応式みたいな矢印をwordで・・
Windows Vista・XP
-
18
活性化エネルギーが負になるということは・・・
化学
-
19
隣接平均と移動平均
物理学
-
20
酢酸の解離熱について
化学
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
小数第一位までのときは、第二...
-
kDaからbpへの変換について
-
20000円の3分の2の計算のしかた...
-
ガラス器具の許容範囲誤差と有...
-
高校化学の計算問題のコツを教...
-
カルピスの乳酸のモル濃度を書...
-
化学での有効数字について(途...
-
α-アミノ酸で唯一光学異性体を...
-
0.6Mの硫酸の作成方法を教えて...
-
第2イオン化エネルギー
-
数字のあらわし方について
-
1.0×10のマイナス14乗÷2.0×10の...
-
有効数字について
-
化学です。 ある問題で無理数√3...
-
化学の有効数字指定なしの時の...
-
Antoine式の定数について
-
透過率から吸光度の計算が解け...
-
単位格子の密度計算式の解き方...
-
割合…100円の1%は何円ですか? ...
-
ダイヤモンド構造(sp3混成軌道...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
kDaからbpへの変換について
-
ガラス器具の許容範囲誤差と有...
-
20000円の3分の2の計算のしかた...
-
有効数字について
-
小数第一位までのときは、第二...
-
化学(原子量)の有効数字
-
計算結果の微妙なズレ(大学入試)
-
化学での有効数字について(途...
-
高校化学の計算問題のコツを教...
-
活性化エネルギーが負になって...
-
1.0×10のマイナス14乗÷2.0×10の...
-
ROUNDDOWNの計算が、合わないの...
-
o-,p-,m-次クロロベンゼンの双...
-
対数の誤差計算についての質問...
-
クエン酸水のpH
-
【高校化学】有効数字の指定が...
-
有効数字の計算についての質問...
-
有効数字についてですが、掛け...
-
Antoine式の定数について
-
活性化エネルギーの求め方が分...
おすすめ情報