
No.3ベストアンサー
- 回答日時:
最小二乗法の場合、担当の先生は有効数字をあまりうるさく言わないかもしれませんが、
気にするのであれば・・・・・
できれば、残差二乗和を使って最小二乗法で求めた定数の不確かさを計算するべきですが、
これをやらないなら面倒ですが有効桁を丹念に追っていけば、どの桁までが有効かがわかります。
最小二乗法ではnΣx^2-(Σx)^2のような引き算が出てきて必ず桁落ちしますので、
適当に有効数字を決めるということは本来は絶対にやってはいけません。
たとえば、伸びとして
x=23mm、56mm、92mm
というデータがあればミリの桁までが有効ですから
Σx=171mmの三桁が有効で
(Σx)^2=29241
は100の位までが有効
(23mm)^2=529, (56mm)^2=3136, (92mm)^2=8464で有効桁が2桁ですからその合計の
Σx^2=12129
は桁の大きいほうに合わせて100の位までが有効で3桁有効。したがってn=3なので
nΣx^2-(Σx)^2=7146
は100の位までが有効で有効数字は2桁。
ということをやっていきます。
途中の計算は有効数字+1桁を必ず確保し、最後に有効桁までに丸めます。
No.2
- 回答日時:
重量が5桁で長さが3桁読めると仮定したばあい
一番有効数字の少ない3桁にあわせることが常識です。
しかしながら、読み取った数字はそのまま記入して計算していき
最後の回答のみ有効数字を3桁にすればいいと思います。
No.1
- 回答日時:
要は最も精度の悪いデータに合わせるべきです。
重りは精々5ケタでしょう。
伸びは3ケタぐらいではないですか。
10ケタなんか書いていると確実に減点されます。
訳が分からなければ常識的精度は3ケタです。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
延びてしまったおもちゃのバネ...
-
バネ振り子のバネの長さをもと...
-
ばねを半分に分けるとばね定数...
-
物理 バネ (1)なぜ2kになるので...
-
ばねの質量を考慮すると?
-
ばねの単振動による復元力はf=...
-
単語の意味を教えてください。
-
F=kx とF=2分の1kx二乗って...
-
ばねの作用反作用の問題が解説...
-
ばねの強さは何で決まるのでし...
-
作用反作用とつりあいの違い
-
半周期の強制振動
-
物理の公式って、式によって同...
-
物理の問題の式と回答を教えて...
-
高さはh幅はw奥行はd厚さはt そ...
-
夜の行為で力が入りすぎてしま...
-
台車の押す力を教えて下さい
-
密度の単位について質問です
-
水中で重さの違う物体の落下速...
-
重りが落下した際の最大荷重(...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
延びてしまったおもちゃのバネ...
-
F=kx とF=2分の1kx二乗って...
-
ばねの作用反作用の問題が解説...
-
単語の意味を教えてください。
-
バネ振り子のバネの長さをもと...
-
ばねを半分に分けるとばね定数...
-
なぜ鉄球よりもゴムボールの方...
-
(3)がわかりません
-
食後の体重が600g増えてたんで...
-
特定のクリップの、挟む力の強...
-
フックの法則が成り立たない、ばね
-
高校物理、ばね定数
-
自転車のスタンドバネの取り付...
-
自動車のサスペンションの固有...
-
バネ式の打ち出し
-
ばねの仕事と弾性エネルギーの...
-
物理。これらのバネの伸びが同...
-
バネ定数のことに関して
-
真空遮断器(VCB)について
-
カラビナの構造
おすすめ情報