有効数字についての質問です。
 計算途中で物理定数を使用するとき、測定値に合わせた桁数まで
とればいいことはわかるのですが、そのときに最後の桁はもう一つ下の桁を四捨五入して得た数字を採用するのでしょうか。それとも、元のままの数字を使用するのでしょうか。
 例えば、測定値が5桁でこれに円周率をかけるとすると、
 測定値×3.1415
なのか、それとも
 測定値×3.1416
なのかどちらになるのでしょうか。
 初歩的な質問で申し訳ありません。よろしくお願いします。

A 回答 (5件)

通常は,計算時はひとけた多い数値で計算し,


最終的に測定値の有効桁数にあわせます.

質問の例の場合は,
3.141592...

3.14159
として計算し,最終的に5桁で四捨五入です.
    • good
    • 0

No.3のお答えで、言葉が足りなかったことを反省して、補足いたします。



「わざわざ丸めるより、全桁使った方がいいです。」と言ったのは、パイ(計算機によっては物理定数も持っています)の値のように計算機内に値が用意されている場合のことです。こういうときは、丸めた値を入れ直すときに間違いが入り込む可能性が出てきてしまいますので、内部値をそのまま呼び出して使った方がいいです。

物理定数をあらためて手で打ち込む必要があるときは、有効数字を越えた桁の入力には意味がありませんから、No.1の方のおっしゃるような四捨五入の値を使うのが賢明です。

No.2の方の回答にある、なるべく式計算で進めてから値を代入するというやり方は、どんな場合でも効果的なので、できるだけこの方式にするよう私も心掛けています。
    • good
    • 0

有効数字は、最終結果を記録したり、他者に報告するときに重要な意味をもちます。

結果の何桁目まで有意と主張するかという大問題になるからです。

計算途中で問題となるのは、手計算の手間だけです。電卓を使用するなら、わざわざ丸めるより、全桁使った方がいいです。ただ、こうすると、結果が長い小数になるので、人によっては、元々の有効桁数を忘れてしまうようです。最終結果の有効数字の検討は忘れないようにして下さい。
    • good
    • 0

 ご質問については ADEMU さんの回答に賛成ですので,補足についてチョットアドバイスを。



> 計算途中で四捨五入した値を使用する作業を繰り返していくと、
> 段々誤差が大きくなるような気がするのですが、
> これは錯覚でしょうか?
 錯覚ではないでしょう。そうなる場合もあります。で,それを避けるためと,計算ミスを減らすために,数値計算は最終段階でまとめて行なう様に教わりました(高校の物理の時間です)。
 つまり,途中の段階では R や P や a, b・・・といった文字で計算していき,最後にそれぞれに数値を代入して計算するわけです。こうすれば,途中の段階で消えていく変数があったりして,計算が簡単になることもあります。
    • good
    • 0

結論からいうと3.14159の9を四捨五入して3.1416にするのが正解と思います。


普通、有効数字もしくは有効桁数は一貫して計算されなければなりません。
有効数字も桁数が多ければよいというものではなく、必要性がある数字でなければ何にもなりません。
例えば、測定値が小数点以下2桁であれば3.14以下の数字はあまり必要性はないと思います。
つまり、小数点以下3桁目からは測定値に信憑性がないのに計算する必要性がないからです。

この回答への補足

 ありがとうございました。
 回答を読ませていただいて少し気になったことがあるのですが、
計算途中で四捨五入した値を使用する作業を繰り返していくと、段々誤差が大きくなるような気がするのですが、これは錯覚でしょうか?

補足日時:2002/01/29 10:32
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人が検索しているワード

このQ&Aと関連する良く見られている質問

Q有効数字二桁

初歩の初歩の質問です。
「有効数字二桁」って、具体的にどうすればいいんでしょうか?
学校の授業でもちゃんと説明された覚えがなく、今まで何となく答えてきたのですが、これは一度ちゃんとした方がいいと思い質問させて頂きます。
0.60 6.0 60 6.0×10の二乗
0.12 1.2 12 1.2×10の二乗
これらは全部有効数字二桁の表し方として正しいですか?
また、私なりには「0以外の数字が出てきたところから2桁」という風に考えていたのですが、問題を解いていると0.03が「3.0×10のマイナス二乗」と表されていました。0.030とすると間違いなのでしょうか?
また、約分の仕方についてですが
有効数字二桁の次の桁を四捨五入する
(例:3.45→3.5 11.2→11 0.3817→0.38)
という考え方で正しいんでしょうか。

ネットで調べてみましたが、説明が小難しくてよくわかりませんでした。どなたか易しく簡潔に教えていただけないでしょうか。

Aベストアンサー

>私なりには「0以外の数字が出てきたところから2桁」という風に考えていた
この考え方で正解です。つまり、0.03は0.030とすれば正解です。

ただし、普通は3.0×10^-2と書きます。なぜなら、10の階乗の部分の計算がすごく簡単になるからです。
0.030×0.030を計算してみればわかります。
これをこのまま計算すると、小数点の下に0は何個だったか考えるのがちょっとだけ難しくないですか?
これを3.0×10^-2×3.0×10^-2として考えると、9.0×10^-4とすぐに計算できるわけです。


>また、約分の仕方についてですが
>有効数字二桁の次の桁を四捨五入する
>(例:3.45→3.5 11.2→11 0.3817→0.38)
>という考え方で正しいんでしょうか。
分数でないので約分とはいわない気が・・
四捨五入の仕方はあっています。

ただし、最終的な答えの出し方はこれであっていますが、計算途中では4桁目を四捨五入して3桁目まで出しておきます。そして、最終的な答えを出すときに3桁目を四捨五入して2桁にします。これは注意してください。

>私なりには「0以外の数字が出てきたところから2桁」という風に考えていた
この考え方で正解です。つまり、0.03は0.030とすれば正解です。

ただし、普通は3.0×10^-2と書きます。なぜなら、10の階乗の部分の計算がすごく簡単になるからです。
0.030×0.030を計算してみればわかります。
これをこのまま計算すると、小数点の下に0は何個だったか考えるのがちょっとだけ難しくないですか?
これを3.0×10^-2×3.0×10^-2として考えると、9.0×10^-4とすぐに計算できるわけです。


>また、約分の仕方について...続きを読む

Q<測定値の有効数字について>

<測定値の有効数字について>

測定における有効数字の数え方について質問があります。
一般に筆箱によく入ってる、簡単なプラスチックものさしで
構わないのですが、例えばこれの最小目盛が1mmだったとします。

このものさしを使って長方形の縦の短辺の長さを測ったとして、
目分量で10分の1の位まで読んで「1.23cm」と測定値を得たとします。
この測定値の有効数字は3桁だと思います。

同じ長方形について長辺を測定して「12.34cm」と測定値を得たとき、
有効数字は4桁でしょうか??

おなじものさしを使っているし、意味を持つ数字は共に0.01cmの位の数字
までであるのに、有効数字の桁数は違うのでしょうか・・・?

また、和差なら問題ないのですが、
例えばこの長方形の面積を計算するために「1.23×12.34」と計算すると、
答えは「15.1782」なのですが、積と商に関しては小さいほうの桁数にあわせて
有効数字を決めることになっているかと思います。
3桁にあわせて「15.2」として良いのでしょうか?
もとの測定値における意味のある数字の位は0.01までだったのに、違和感があります・・・。


まだまだ有効数字を使い慣れていなくてよく分からないのですが、
詳しい方よろしくお願いいたします。

<測定値の有効数字について>

測定における有効数字の数え方について質問があります。
一般に筆箱によく入ってる、簡単なプラスチックものさしで
構わないのですが、例えばこれの最小目盛が1mmだったとします。

このものさしを使って長方形の縦の短辺の長さを測ったとして、
目分量で10分の1の位まで読んで「1.23cm」と測定値を得たとします。
この測定値の有効数字は3桁だと思います。

同じ長方形について長辺を測定して「12.34cm」と測定値を得たとき、
有効数字は4桁でしょうか??

おなじものさしを使って...続きを読む

Aベストアンサー

> おなじものさしを使っているし、意味を持つ数字は共に0.01cmの位の数字
> までであるのに、有効数字の桁数は違うのでしょうか・・・?

有効数字の桁数は、この場合測定対象物の大きさと計測器具の精度(分解能)の比で決まってくるわけですから、同じ精度の尺で測定するのなら対象測定量が大きいほど有効数字の桁数が増すのは当然のことですね。

さて、ご質問の測定値がもしも精度0.1mmのノギスで測った数値であるのなら、測定値や積(面積)の有効数字桁数についての質問者さんのご理解はすべて正しいと思います。

ただ、一つだけ問題ありと思われるのは、1mm目盛のプラスチック尺を使って
> 目分量で10分の1の位まで読んで「1.23cm」と測定値を得たとします。
> この測定値の有効数字は3桁だと思います。
と言えるかどうかと言う点ですね。

この場合「有効数字が3桁である」「意味のある数字の位は0.01」「1.23cmの測定値を得た」と言えるということは、工学の立場から言えば「測定値は1.225cm以上1.245cm未満である」と自信を持って言える、ということに等しいわけですが……
質問者さんはいかがでしょうか?

ベテランの職工さんならいざ知らず、私でしたら「簡単なプラスチックものさし」で測った場合はせいぜい精度0.5mmが限度なので、有効数字は2桁半とみなして
 12.5mm×123.5mm=1542.5≒1550mm^2=15.5cm^2
以上のことは、畏れ多くて言えません(^_^)。

> おなじものさしを使っているし、意味を持つ数字は共に0.01cmの位の数字
> までであるのに、有効数字の桁数は違うのでしょうか・・・?

有効数字の桁数は、この場合測定対象物の大きさと計測器具の精度(分解能)の比で決まってくるわけですから、同じ精度の尺で測定するのなら対象測定量が大きいほど有効数字の桁数が増すのは当然のことですね。

さて、ご質問の測定値がもしも精度0.1mmのノギスで測った数値であるのなら、測定値や積(面積)の有効数字桁数についての質問者さんのご理解はすべて正しいと思います...続きを読む

Q物理基礎の問題で有効数字は二桁とするって書いてあって計算結果932.8の場合って93×10ではダメな

物理基礎の問題で有効数字は二桁とするって書いてあって計算結果932.8の場合って93×10ではダメなんですか?答えを見ると9,3×10の2乗なんですけどどー違うのか教えて欲しいです

Aベストアンサー

有効数字は簡単で、小数点以上一桁、あとは残り、そして10^nにすればいい。こうすれば小数点以下の場合でも使える。

Q測定値と有効数字

目盛りのついた測定機器を用いて、測定値を求めた場合の有効数字の考え方がよく分からなくて困っております。例えば、以下のような場合ではどのように有効数字を取ればいいのでしょうか?

例)ノギスを用いて(最小目盛り0.1)2つの試験片の長さLを測定し、測定値を用いてX=L×3.14の計算を行う。

<試験片a> L : 1.12
<試験片b> L : 11.24

この場合

aの有効数字3桁で1.115から1.125の中に真値あり(誤差±0.05)
bの有効数字4桁で11.235から11.245の中に真値あり(誤差±0.05)

と考え、最終的に計算式に代入すると

<a> X=1.12×3.14=3.5168=3.52 ← 有効数字3桁で3.515から3.525の中に真値(誤差±0.05)
<b> X=11.24×3.14=35.2936=35.29 ← 有効数字4桁で35.285から35.295の中に真値(誤差±0.005)

として良いのでしょうか?同じ測定機器から求めた値にも関わらず、掛け算を行ってしまうと、測定誤差が異なってくるのに違和感を感じます。
回答よろしくお願いします。

目盛りのついた測定機器を用いて、測定値を求めた場合の有効数字の考え方がよく分からなくて困っております。例えば、以下のような場合ではどのように有効数字を取ればいいのでしょうか?

例)ノギスを用いて(最小目盛り0.1)2つの試験片の長さLを測定し、測定値を用いてX=L×3.14の計算を行う。

<試験片a> L : 1.12
<試験片b> L : 11.24

この場合

aの有効数字3桁で1.115から1.125の中に真値あり(誤差±0.05)
bの有効数字4桁で11.235から11.245の中に真値あり(誤差±0.05)

と考え、最終的...続きを読む

Aベストアンサー

数値そのものをどう解釈するかについては質問者さんどおりだとすれば、
> aの有効数字3桁で1.115から1.125の中に真値あり(誤差±0.05)
> bの有効数字4桁で11.235から11.245の中に真値あり(誤差差±0.05)
の時点で誤差は±0.005のはずです。

> <a> X=1.12×3.14=3.5168=3.52 ← 有効数字3桁で3.515から3.525の中に真値(誤差±0.05)
> <b> X=11.24×3.14=35.2936=35.29 ← 有効数字4桁で35.285から35.295の中に真値(誤差±0.005)

これらの値についても両方とも誤差幅±0.005で、この点については、もしかして質問者さんのただの勘違いでないでしょうか?

ただし、実際の測定値1.12とか11.24についての誤差幅±0.005を認めるとして、それ以降の計算は普通は質問者さんのようにはやらないとおもいます。即ち誤差の伝播の式を使います。簡単に書いてしまえば
f=f(x,y)...(1)
の時に(xとyは互いに独立)
(σf)^2=(∂f/∂x)^2σx^2+(∂f/∂y)^2σy^2...(2)
とします。σf,σx,σyはそれぞれの変数の標準偏差ですが誤差と考えて下さい。
もし質問者さんの例ならばf(x,y)=xyという例になります。この場合は∂f/∂x=y, ∂f/∂y=xですから(2)は
(σf)^2=y^2σx^2+x^2σy^2...(3)
となります。両辺をf^2=(xy)^2で割れば
(σf/f)^2=(σx/x)^2+(σy/y)^2...(4)
となり、掛け合わせたものの相対誤差の2乗は、もとの測定値の相対誤差の2乗和である、ということになります。
1.12±0.005および11.24±0.005のものに3.14を掛ける時、3.14に誤差がない場合(i)(iii)と3.14±0.005の場合(ii)(iv)について誤差は次のようになります。
(i)Δf/f=0.005/1.12=4.46x10^(-3)
f=3.52±0.016
(ii)(Δf/f)^2=(0.005/1.12)^2+(0.005/3.14)^2
Δf/f=4.74x10(-3)
f=3.52±0.017
(iii)Δf/f=0.005/11.24=4.45x10^(-4)
f=35.29±0.016
(iv)(Δf/f)^2=(0.005/11.24)^2+(0.005/3.14)^2
Δf/f=1.65x10^(-3)
f=35.29±0.058
となります。

数値そのものをどう解釈するかについては質問者さんどおりだとすれば、
> aの有効数字3桁で1.115から1.125の中に真値あり(誤差±0.05)
> bの有効数字4桁で11.235から11.245の中に真値あり(誤差差±0.05)
の時点で誤差は±0.005のはずです。

> <a> X=1.12×3.14=3.5168=3.52 ← 有効数字3桁で3.515から3.525の中に真値(誤差±0.05)
> <b> X=11.24×3.14=35.2936=35.29 ← 有効数字4桁で35.285から35.295の中に真値(誤差±0.005)

これらの値についても両方とも誤差幅±0.005で、この点については、も...続きを読む

Q有効数字が二桁で答えが0.01以下の場合

文学部に通っていて公務員試験勉強をしている者です。
公務員試験の範囲に物理が含まれているのですが、
これまで物理を習ったことがほとんどないので、
初歩的なこともわかりません。

数学のときと違い、物理での計算は有効数字にしたがわなければならないことは、
独学でだいたいわかったのですが、
有効数字が二桁で答えが0.01以下の場合どうやって書けばいいんでしょうか?
例えば答えが5342なら、5.3×10の三乗ですよね?
でも0.01ではこの方法は使えません。どうしたらいいんですか?

Aベストアンサー

少数の位取りの0は有効数字ではありません。
ただし、0ではない数字に挟まれた0と、0でない数字に続く0は有効です。
例えば、
0.01mmの有効数字は1桁(1の前の0は有効ではありません)
0.0012mmの有効数字は2桁(12の前の0は有効ではありません)
0.0230mmの有効数字は3桁(23の前の0は有効ではありませんが後の0は有効です)
4.005mmの有効数字は4桁(4と5に挟まれた0は有効です)
です。

(注意)有効数字で考えた場合
0.01=1×10のマイナス2乗(有効数字1桁)
0.010=1.0×10のマイナス2乗(有効数字2桁)
ですので0.01と0.010は違います。


よって、有効数字が2桁で答えが0.01以下の場合でも
0でない3桁目の数字を四捨五入すれば良いです。
例えば、
計算結果が0.0102…なら1.0×10のマイナス2乗
計算結果が0.0123…なら1.2×10のマイナス2乗
計算結果が0.00125…なら1.3×10のマイナス3乗
です。
ですので、3桁目の数字を四捨五入した結果0.010なら
0.010=1.0×10のマイナス2乗
となります。


(参考)
私は工業高校でしたので「工業数理」という科目で習いました。
弟が普通高校だったので有効数字について聞いたら「物理IB」で
習ったとのことです。
詳しくはそちらを参考にしてみたらいかがでしょう。
有効数字で考えた場合の加減乗除計算について書かれています。

少数の位取りの0は有効数字ではありません。
ただし、0ではない数字に挟まれた0と、0でない数字に続く0は有効です。
例えば、
0.01mmの有効数字は1桁(1の前の0は有効ではありません)
0.0012mmの有効数字は2桁(12の前の0は有効ではありません)
0.0230mmの有効数字は3桁(23の前の0は有効ではありませんが後の0は有効です)
4.005mmの有効数字は4桁(4と5に挟まれた0は有効です)
です。

(注意)有効数字で考えた場合
0.01=1×10のマイナス2乗(有効数字1桁)
0.010=1.0×10のマイナス2乗(有効数...続きを読む

Qこの物理の問題の計算方法を教えて欲しいです。次の測定値の計算を有効数字に注意してせよ。 (1)23

この物理の問題の計算方法を教えて欲しいです。次の測定値の計算を有効数字に注意してせよ。

(1)238.28g+0.0236g+1.5792g

(2)5.26m÷979.25s

(3)426.50cm×0.25cm

(4)313m÷0.00231m

(5)85.2g÷62.1cm三乗

計算のやり方お願いします。

Aベストアンサー

>計算のやり方お願いします。

単なる算数の問題です。
「有効数字」をきちんと復習してください。

加減算は「最小の位」、乗除算は「最小の桁の数」を合わせます。

(1)238.28g+0.0236g+1.5792g = 239.8828 (g)

 ただし、最初の項は、誤差を
  238.28 ± 0.005
だけ持っていると考えられるので、小数点第3位以下は「ほとんど誤差」です。

 従って、有効数字を考慮した答えは
  約 239.88 g

(2)5.26m÷979.25s = 0.0053714577・・・ (m/s)

 ただし、最初の項は、誤差を
  5.26 ± 0.005
だけ持っていると考えられるので、4桁目以下は「ほとんど誤差」です。

 従って、有効数字を考慮した答えは
  約 0.00537 m/s

(3) 426.50cm×0.25cm = 106.625 cm²

 ただし、第2項は、誤差を
  0.25 ± 0.005
だけ持っていると考えられるので、3桁目以下は「ほとんど誤差」です。

 従って、有効数字を考慮した答えは
  約 110 cm²

(4) 313m÷0.00231m = 135,497.835497・・・ 

 ただし、第1項、第2項とも有効桁数は3桁と考えられるので、4桁目以下は「ほとんど誤差」です。

 従って、有効数字を考慮した答えは
  約 1.35 × 10⁵

(5) 85.2g÷62.1cm³ = 0.016103059・・・ (g/cm³)

 ただし、第1項、第2項とも有効桁数は3桁と考えられるので、4桁目以下は「ほとんど誤差」です。

 従って、有効数字を考慮した答えは
  約 1.61 × 10^(-2) g/cm³

>計算のやり方お願いします。

単なる算数の問題です。
「有効数字」をきちんと復習してください。

加減算は「最小の位」、乗除算は「最小の桁の数」を合わせます。

(1)238.28g+0.0236g+1.5792g = 239.8828 (g)

 ただし、最初の項は、誤差を
  238.28 ± 0.005
だけ持っていると考えられるので、小数点第3位以下は「ほとんど誤差」です。

 従って、有効数字を考慮した答えは
  約 239.88 g

(2)5.26m÷979.25s = 0.0053714577・・・ (m/s)

 ただし、最初の項は、誤差を
  5.26 ± 0.005
だけ持っている...続きを読む

Q有効数字について

有効数字二桁まで求めよという問題で、
何故55×10の3乗 が
5.5×10の4乗になるのですか?
55は有効数字二桁ではないのですか?
教えてください

Aベストアンサー

「有効数字○桁」の書き方に決まりがあるわけではありません。

 ただ、「0」という数字を書く場合に、それが「有効数字の範囲内の 0」なのか、単なる「桁合わせ」のための「0」なのかを区別するというのが慣例です。(大きい数字の下の方の位の「0」、小数点以下の数字の初めて「0以外」になるより大きい桁の「0」)

 たとえば
  55,000
だと、下の3つの「0」のどこまでが有効数字か分かりません。
 これを、何桁目まで信用できるかを示すために、下記のように書きます。

有効数字2桁:5.5 × 10^4  ←これは、545,000~554,999 = 550,000 ± 5,000のどこかに真値がある。(3桁目を四捨五入)
有効数字3桁:5.50 × 10^4  ←3桁目の「0」も有効。つまり549,500~550,499 = 550,000 ± 500 のどこかに真値がある。
有効数字4桁:5.500 × 10^4 ←3,4桁目の「0」も有効。つまり549,950~550,049 = 550,000 ± 50 のどこかに真値がある。

>0.036が有効数字二桁なのがわかりません
>4桁じゃないのですか?

 上の「550,000」の下の方の桁の「0」は、単なる桁合わせのゼロです。それと同じように、「0.036」の「0.0」の部分も、単なる桁合わせですね。有効数字はあくまで「36」の部分だけです。

 上の考え方で書けば、

有効数字2桁:3.6 × 10^(-2)  ←これは、0.03550~0.03649 = 0.0036 ± 0.00005 のどこかに真値がある。
有効数字3桁:3.60 × 10^(-2)  ←3桁目の「0」も有効。つまり0.035950~0.036049 = 0.00360 ± 0.000005 のどこかに真値がある。
有効数字4桁:3.600 × 10^(-2) ←3,4桁目の「0」も有効。つまり0.0359950~0.0360049 = 0.00360 ± 0.0000005 のどこかに真値がある。

「有効数字○桁」の書き方に決まりがあるわけではありません。

 ただ、「0」という数字を書く場合に、それが「有効数字の範囲内の 0」なのか、単なる「桁合わせ」のための「0」なのかを区別するというのが慣例です。(大きい数字の下の方の位の「0」、小数点以下の数字の初めて「0以外」になるより大きい桁の「0」)

 たとえば
  55,000
だと、下の3つの「0」のどこまでが有効数字か分かりません。
 これを、何桁目まで信用できるかを示すために、下記のように書きます。

有効数字2桁:5.5 × 10^4  ←こ...続きを読む

Q測定できるものは実数値だそうですが虚数は測定できないのですか?

ある現象が複素数であらわされているとき測定機器に現れるのは実数部分であると聞きましたが、感覚できないようなものとして虚数を扱うのでしょうか。量子力学を数式なしに理解することができないというのは数式が虚数に対する測定機器のような働きを持っているということなのでしょうか。

Aベストアンサー

xy座標で
x軸を実軸
y軸を虚数軸として
原点を中心にある長さを持った棒(線分)がくるくる回っているようなものを想像すると、
測定機器に現れる実数部分というのは、
その回っている棒が実軸に落とす影の部分と言えるかもしれません。(たとえ話なんで)
電気なんかの話で力率なんていうのはそういう話ですね。
そういう場合は、棒の長さがわかっていて、落とす影の長さがわかっていれば、落とす影の長さから虚数部分を(測定することはできなくても)計算によって求めることができます。
我々は、実世界にいて実部分しか見てないので、(虚数部分は垂直なので見えない?)実数部分しか見えないのはしょうがないですね

Q有効数字 実験計算時

たとえば最初に出てきた値が0.011だとして、次に出てきた値が5.01次に出てきた値が0.1の時、最終的に有効数字は2桁になると思うんですが、計算途中で既に2桁で計算したほうがいいのでしょうか?
それとも最終的に出てきた値を有効数字で表すべきですか?

たとえば
0.011×5.01=0.05511
0.05511×0.1=0.005511
有効数字二桁より 0.1

とするか
0.011×5.01=0.05511 ⇒有効数字二桁より0.1
0.1×0.1=0.01

よろしくお願いします。


にするか

Aベストアンサー

加減算と乗除算で異なります

加減算の場合、有効数字の最も小さい桁に合わせます
99.92、100.1、101.115 の場合、全体としては小数点以下1桁までが有効数字になります
小数点以下が二桁以上ある数値は、少数点以下二桁目を四捨五入し、小数点以下1桁にして計算します(一桁多く計算しておき最後に最低位の桁を四捨五入する場合もある)

乗除算の場合、最終的には最も少ない有効数字の桁にそろえますが、計算途中では1桁多く計算しておき、最後に最低位の桁を四捨五入するのが普通です
なお上位の0は有効数字に含めないのが通常です

0.011 は有効数字2桁

>有効数字二桁より 0.1

これは ???  0.1 は通常 有効数字1桁になる

質問の例では
0.011×5.01=0.05511→0.0551
0.0551×0.10=0.00551→有効数字二桁より 0.0055
(例にある0.1が有効数字1桁ですので質問の趣旨にあわせ有効数字2桁の0.10としました、
有効数字1桁の0.1ですと
0.011×5.0=0.055
0.055×0.1=0.0055→0.01)

計算の途中で1桁多くして計算するのは丸め誤差の累積を防止するためです

加減算と乗除算で異なります

加減算の場合、有効数字の最も小さい桁に合わせます
99.92、100.1、101.115 の場合、全体としては小数点以下1桁までが有効数字になります
小数点以下が二桁以上ある数値は、少数点以下二桁目を四捨五入し、小数点以下1桁にして計算します(一桁多く計算しておき最後に最低位の桁を四捨五入する場合もある)

乗除算の場合、最終的には最も少ない有効数字の桁にそろえますが、計算途中では1桁多く計算しておき、最後に最低位の桁を四捨五入するのが普通です
なお上位の0は...続きを読む

Q有効数字の桁数

有効数字がよくわからなくて調べていたら、
こんな例がありました。

有効数字3桁の例
31400
3.14
538
5.38×10^2
3.00×10^-5 ←これも3桁です

なぜこれらは有効数字が3桁なのですか?
どうやって桁数を判断するのかわかりません。
教えてください。よろしくお願いします。

Aベストアンサー

表記の違いについて分からないということのようですので簡単な例で考えて見ます。

有効数字は数値の信頼性をあらわしています。
測定が前提になります。

鉛筆の長さを物差しで測ったとします。
新しい鉛筆で17.5cmでした。別の物差しで測ったところ17.6cmでした。新しい鉛筆の長さには規格があるようです。
物差しによって少し違いがありますがmmまでは確かなようです。mm以下は全く信用できないでしょう。
これをmで表してみます。0.175mになります。kmに直すと0.000175kmになります。0が前にたくさんついてきますが精度には関係のない数字だということが分かると思います。mmに直すと175mmです。これは信頼できる数字がそのまま出ています。小数点がなくなりましたが精度に変わりはありません。μmに直してみます。1mm=1000μmですから0が3つ付きます。でも175000μmと書くとμmまで測ったのか、単位の読み変えで0が付いただけなのかが分からなくなります。測定で得られた数字と単位の読み変えで出てきた数字とを分けて書く方がいいというのがわかります。175×1000μmです。
単位を読み変えると頭に0がついたり、お尻に0がついたりします。小数点の位置も変わります。
表現が変わっても測定の精度は変わりません。1、7、5という3つの数字で表されているのです。これを有効数字3桁といいます。
測定によって得られた数字と単位の読み変えで出てくる数字を分離した表現が必要であるというのがわかります。大きさのイメージが取りやすいのは
a×10^(n)   0<a<1
という表現です。

測定によって得られた数字の最後が0だったとします。これは位どりの数字の0と区別する必要があります。
aの一番後ろに1.20のように0が付きます。

質問文の中の最初の数字 31400 は有効数字3桁であるとは言えません。mで測った数字をcmに直した時に出てくる数字なのか 本当にcmまで測っているのかがわからないのです。可能性としては3桁、4桁、5桁のどれかです。
普通は5桁の精度で測るというのは、どういう量にしろものすごく難しいことです。

 

表記の違いについて分からないということのようですので簡単な例で考えて見ます。

有効数字は数値の信頼性をあらわしています。
測定が前提になります。

鉛筆の長さを物差しで測ったとします。
新しい鉛筆で17.5cmでした。別の物差しで測ったところ17.6cmでした。新しい鉛筆の長さには規格があるようです。
物差しによって少し違いがありますがmmまでは確かなようです。mm以下は全く信用できないでしょう。
これをmで表してみます。0.175mになります。kmに直すと0.0001...続きを読む


人気Q&Aランキング

おすすめ情報