物理学(・工業力学)での小数の扱い

私は工科系大学の1年生なのですが、物理学(・工業力学)での小数の扱いはどうなるのですか？
高校のときは、ほとんど有効数字2桁だったんですが。
例も参照してください。
(例：123.456789のとき、どういうふうな表記にすればよいのですか？)

No.3 回答者： KinakoAme 回答日時： 2006/04/24 08:12

No.2さんの回答にありますように，測定装置の精度とダイナミック

レンジが測定上の誤差を決めます。これを測定誤差といいます。
No.2さんの，最大測定質量がダイナミックレンジのことです。
精度がいくら高くても，ダイナミックレンジが小さければ，有効桁は
少なくなりますね。つまり有効桁を決めるのは，測定器のダイナミック
レンジということになります。

ダイナミックレンジが小さい場合でも，質量の場合ならば，複数回に
分けて測定すれば，有効桁は上がります。ところが，試料を分けると
全量が測れているとは言い切れないでしょう。これも測定誤差の一部と
なります。

分けた場合の測定誤差を求める別の実験が必要となります。ダイナミック
レンジ内で測定できる量を測定し，それを分けた場合と比較することで
この場合の測定誤差を見積もります。

物理の授業を受講しておいでならば誤差論を習うと思いますので，
詳しくはそちらで勉強するのがいいと思います（カリキュラムに
なければ先生に質問してみて下さい。必ず知ってます）。

高校の時にも標準偏差という考え方を習っていると思いますが，
誤差論はこの考え方の延長にあります。統計処理においても誤差は
発生しますので，こちらは統計誤差などと呼ばれます。

No.2さんのおっしゃるように，繰り返しを増やして精度を増すのは
リニア（１０回測れば１桁上がる）ではないことは，誤差論を勉強
すれば分かると思います。

No.2 回答者： noname#21649 回答日時： 2006/04/24 03:42

工業関係の力学ですと.質量計の精度が4桁か５桁のはずです。

これ以上の数値は天秤でも使わない限り無意味です。
ところが物理学ですと.８桁とか１６桁とかかなりの有効桁のある測定方法を使っています。

ですから.何の測定か.何桁の有効桁の測定を使っているか.で大きく変化します。
最大測定質量200mg感度1ugの質量計ですと
123.456
天秤ですと.ラターでもう１桁増えますから
123.4567
バネ式テンションメーターですと3桁ですから
123

繰り返しを増やしてうまく補正すれば.感度1ugを0.1ugに上げることも可能(その代わり地獄の操作が待っている)で
123.45678

計算問題の場合には.計算前の元の数値が何桁で表されているかで.結果が変わります。これを読み取ってください。

No.1 回答者： OsieteG00 回答日時： 2006/04/24 01:06

指示があればそれに従ってください。

コンピュータ系なら浮動小数点表記にすることもありますけどね。
例：0.123*10^2