AIと戦って、あなたの人生のリスク診断 >>

何かしらの統計を取る際、有効数字が重要だそうですがこの有効数字とはいったい何なのでしょうか。

このQ&Aに関連する最新のQ&A

A 回答 (3件)

いわゆる「有効数字」というものは、教科書は別として実際の実務ではあまり使われません。


というか、(法律がそうなっている、怖い上司に逆らえない、など)絶対に使わなければならないという事情がない限り、実務では使わないことを強く推奨します。
実際、近年のいわゆるちゃんとした論文であれば、有効数字なんていう(ある意味変な)表記法が使われることはまずないです。

「有効数字」という考え方は、本来は全く異なる2つの概念である、基準値と不確かさを、まとめて(無理やり)一つの数字で表してしまおうという一種の略記法なわけですが、
これはやはり少し無理がある方法でして、可能ならば、基準値と不確かさをきちんとわけて表示したほうがよいです。
例えば、基準値が1.025 で不確かさが0.05なら、ちゃんと 1.025±0.05 と分けて書きましょう。(「有効数字」を使うと、これが 1.0 という一つの数字になってしまいます)

基準値と不確かさをごっちゃにしてしまった「有効数字による表記法」でしか書かれていない測定値しかないと、
得られた測定値を複数個まとめて統計的な操作をする、なんていうことが事実上ほとんどできないんで、非常に不便です。
    • good
    • 1

有効数字とは、たとえば、


  a = 5.7
の場合には、本当の値は
  5.65 ~ 5.749999・・・
のどこかにあり、それを「小数点以下 2桁目」で四捨五入したということです。

つまり、真値は
  5.7 ± 0.05
であるということです。
(真値が
  5.7 ± 0.00005
である場合には、小数点以下4桁目まで「有効」という意味で、
  5.7000
と書きます)

これと、高精度の値
  b = 1.2345
(上と同じように、真値は 1.2345 ± 0.00005 のどこかにある、ということ)
の掛け算をすると

 a*b = 5.7 * 1.2345 = 7.03665

になりますが、上の「真値」で計算すると

 a*b = (5.7 ± 0.05)*(1.2345 ± 0.00005)
   = 7.03665 ± (0.061725 + 0.000285) + 0.0000025

ということで、± の中を見れば分かるとおり、「± 0.06201」程度の「誤差」があるということです。
 つまり、a*b の真値は
   6.97464 ~ 7.09866
ということです。
 信用できるのは
   7.0
ぐらいの範囲ということです。

 つまり、b がどれほど高精度でも、a がこの程度の精度だと、a*b の結果の精度は「低い方の精度」にしかなりません。

 上の例だと、「a の有効数字が2桁」なので、「a*b の計算結果の有効数字も2桁程度」ということです。「b の有効数字が5桁」であっても、有効数字の桁数が少ない「a 」で結果の「有効数字の桁数」が決まります。

 「足し算」「引き算」の場合も同じようなことです。
    • good
    • 1

こちらが参考になるでしょう。



http://ms-laboratory.jp/zai/pdf/effec/eff.htm
    • good
    • 1

このQ&Aに関連する人気のQ&A

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています

このQ&Aと関連する良く見られている質問

Q平均値の桁数に関して

例えば、実験をして正規分布に従うデータが出たとします。
その平均値と標準偏差がそれぞれ4.567893と2.33543のような値になったとします。
このとき、4.567893±2.33543という表現で数値を表そうとしたとき、意味のある桁数(四捨五入するべき桁数)はこれら平均値と標準偏差の比から決まるという話を聞いたのですが、
具体的にどうやって決めれば良いのでしょうか?
相対誤差が関係あるようなことを聞いたのですが、どなたか知ってらっしゃったら教えて下さい。

Aベストアンサー

こんばんは。

平均値を求めるときの具体的な手順は、
1.合計を求める
2.合計を個数で割る
ですよね。

このとき、1で求まった合計の有効数字が何桁かが、そのまま平均値の有効数字の桁数になります。
そして、標準偏差の有効数字は、桁数ではなく、平均値の最も下の位(十の位とか小数第3位とか)で決まります。

例を挙げますと、
10.00
10.11
10.22
10.33
9.652
という5個のデータがあるとしましょう。
単純合計は、50.312 ですが、最後の1個以外のデータの精度は小数第2位までしかありませんので、合計は、50.31です。
つまり、合計の有効数字の桁数も平均値の有効数字の桁数も上から4桁です。

合計を5で割れば平均値です。
50.31 ÷ 5 = 10.062 → 有効数字4桁なので、10.06

標準偏差(母集団の標準偏差の推定値)は、0.260305・・・ですが、
平均値の精度が小数第2位なので、0.26 です。

よって、この例では、平均値±標準偏差 は、
10.06 ± 0.26
となります。


以上、ご参考になりましたら幸いです。

こんばんは。

平均値を求めるときの具体的な手順は、
1.合計を求める
2.合計を個数で割る
ですよね。

このとき、1で求まった合計の有効数字が何桁かが、そのまま平均値の有効数字の桁数になります。
そして、標準偏差の有効数字は、桁数ではなく、平均値の最も下の位(十の位とか小数第3位とか)で決まります。

例を挙げますと、
10.00
10.11
10.22
10.33
9.652
という5個のデータがあるとしましょう。
単純合計は、50.312 ですが、最後の1個以外のデータ...続きを読む

Q統計学的に信頼できるサンプル数って?

統計の「と」の字も理解していない者ですが、
よく「統計学的に信頼できるサンプル数」っていいますよね。

あれって「この統計を調べたいときはこれぐらいのサンプル数があれば信頼できる」という決まりがあるものなのでしょうか?
また、その標本数はどのように算定され、どのような評価基準をもって客観的に信頼できると判断できるのでしょうか?
たとえば、99人の専門家が信頼できると言い、1人がまだこの数では信頼できないと言った場合は信頼できるサンプル数と言えるのでしょうか?

わかりやすく教えていただけると幸いです。

Aベストアンサー

> この統計を調べたいときはこれぐらいのサンプル数があれば信頼できる・・・
 調べたいどの集団でも、ある一定数以上なら信頼できるというような決まりはありません。
 何かサンプルを集め、それをなんかの傾向があるかどうかという仮説を検証するために統計学的検定を行って、仮設が否定されるかされないかを調べる中で、どの検定方法を使うかで、最低限必要なサンプル数というのはあります。また、集めたサンプルを何か基準とすべき別のサンプルと比べる検定して、基準のサンプルと統計上差を出すに必要なサンプル数は、比べる検定手法により計算できるものもあります。
 最低限必要なサンプル数ということでは、例えば、ある集団から、ある条件で抽出したサンプルと、条件付けをしないで抽出したサンプル(比べるための基準となるサンプル)を比較するときに、そのサンプルの分布が正規分布(正規分布解説:身長を5cmきざみでグループ分けし、低いグループから順に並べたときに、日本人男子の身長なら170cm前後のグループの人数が最も多く、それよりも高い人のグループと低い人のグループの人数は、170cmのグループから離れるほど人数が減ってくるような集団の分布様式)でない分布形態で、しかし分布の形は双方とも同じような場合「Wilcoxon符号順位検定」という検定手法で検定することができますが、この検定手法は、サンプルデータに同じ値を含まずに最低6つのサンプル数が必要になります。それ以下では、いくらデータに差があるように見えても検定で差を検出できません。
 また、統計上差を出すのに必要なサンプル数の例では、A国とB国のそれぞれの成人男子の身長サンプルがともに正規分布、または正規分布と仮定した場合に「t検定」という検定手法で検定することができますが、このときにはその分布を差がないのにあると間違える確率と、差があるのにないと間違える確率の許容値を自分で決めた上で、そのサンプルの分布の値のばらつき具合から、計算して求めることができます。ただし、その計算は、現実に集めたそれぞれのサンプル間で生じた平均値の差や分布のばらつき具合(分散値)、どのくらいの程度で判定を間違える可能性がどこまで許されるかなどの条件から、サンプル間で差があると認められるために必要なサンプル数ですから、まったく同じデータを集めた場合でない限り、計算上算出された(差を出すために)必要なサンプル数だけサンプルデータを集めれば、差があると判定されます(すなわち、サンプルを無制限に集めることができれば、だいたい差が出るという判定となる)。よって、集めるサンプルの種類により、計算上出された(差を出すために)必要なサンプル数が現実的に妥当なものか、そうでないのかを、最終的には人間が判断することになります。

 具体的に例示してみましょう。
 ある集団からランダムに集めたデータが15,12,18,12,22,13,21,12,17,15,19、もう一方のデータが22,21,25,24,24,18,18,26,21,27,25としましょう。一見すると後者のほうが値が大きく、前者と差があるように見えます。そこで、差を検定するために、t検定を行います。結果として計算上差があり、前者と後者は計算上差がないのにあると間違えて判断する可能性の許容値(有意確率)何%の確率で差があるといえます。常識的に考えても、これだけのサンプル数で差があると計算されたのだから、差があると判断しても差し支えないだろうと判断できます。
 ちなみにこの場合の差が出るための必要サンプル数は、有意確率5%、検出力0.8とした場合に5.7299、つまりそれぞれの集団で6つ以上サンプルを集めれば、差を出せるのです。一方、サンプルが、15,12,18,12,21,20,21,25,24,19の集団と、22,21125,24,24,15,12,18,12,22の集団ではどうでしょう。有意確率5%で差があるとはいえない結果になります。この場合に、このサンプルの分布様式で拾い出して差を出すために必要なサンプル数は551.33となり、552個もサンプルを抽出しないと差が出ないことになります。この計算上の必要サンプル数がこのくらい調査しないといけないものならば、必要サンプル数以上のサンプルを集めて調べなければなりませんし、これだけの数を集める必要がない、もしくは集めることが困難な場合は差があるとはいえないという判断をすることになるかと思います。

 一方、支持率調査や視聴率調査などの場合、比べるべき基準の対象がありません。その場合は、サンプル数が少ないレベルで予備調査を行い、さらにもう少しサンプル数を増やして予備調査を行いを何回か繰り返し、それぞれの調査でサンプルの分布形やその他検討するべき指数を計算し、これ以上集計をとってもデータのばらつきや変化が許容範囲(小数点何桁レベルの誤差)に納まるようなサンプル数を算出していると考えます。テレビ視聴率調査は関東では300件のサンプル数程度と聞いていますが、調査会社ではサンプルのとり方がなるべく関東在住の家庭構成と年齢層、性別などの割合が同じになるように、また、サンプルをとる地域の人口分布が同じ割合になるようにサンプル抽出条件を整えた上で、ランダムに抽出しているため、数千万人いる関東の本当の視聴率を割合反映して出しているそうです。これはすでに必要サンプル数の割り出し方がノウハウとして知られていますが、未知の調査項目では必要サンプル数を導き出すためには試行錯誤で適切と判断できる数をひたすら調査するしかないかと思います。

> どのような評価基準をもって客観的に信頼できると判断・・・
 例えば、工場で作られるネジの直径などは、まったくばらつきなくぴったり想定した直径のネジを作ることはきわめて困難です。多少の大きさのばらつきが生じてしまいます。1mm違っても規格外品となります。工場では企画外品をなるべく出さないように、統計を取って、ネジの直径のばらつき具合を調べ、製造工程をチェックして、不良品の出る確率を下げようとします。しかし、製品をすべて調べるわけにはいきません。そこで、調べるのに最低限必要なサンプル数を調査と計算を重ねてチェックしていきます。
 一方、農場で生産されたネギの直径は、1mmくらいの差ならほぼ同じロットとして扱われます。また、農産物は年や品種の違いにより生育に差が出やすく、そもそも規格はネジに比べて相当ばらつき具合の許容範囲が広くなっています。ネジに対してネギのような検査を行っていたのでは信頼性が損なわれます。
 そもそも、統計学的検定は客観的判断基準の一指針ではあっても絶対的な評価になりません。あくまでも最終的に判断するのは人間であって、それも、サンプルの質や検証する精度によって、必要サンプルは変わるのです。

 あと、お礼の欄にあった専門家:統計学者とありましたが、統計学者が指摘できるのはあくまでもそのサンプルに対して適切な検定を使って正しい計算を行ったかだけで、たとえ適切な検定手法で導き出された結果であっても、それが妥当か否か判断することは難しいと思います。そのサンプルが、何を示し、何を解き明かし、何に利用されるかで信頼度は変化するからです。
 ただ、経験則上指標的なものはあります。正規分布を示すサンプルなら、20~30のサンプル数があれば検定上差し支えない(それ以下でも問題ない場合もある)とか、正規分布でないサンプルは最低6~8のサンプル数が必要とか、厳密さを要求される調査であれば50くらいのサンプル数が必要であろうとかです。でも、あくまでも指標です。

> この統計を調べたいときはこれぐらいのサンプル数があれば信頼できる・・・
 調べたいどの集団でも、ある一定数以上なら信頼できるというような決まりはありません。
 何かサンプルを集め、それをなんかの傾向があるかどうかという仮説を検証するために統計学的検定を行って、仮設が否定されるかされないかを調べる中で、どの検定方法を使うかで、最低限必要なサンプル数というのはあります。また、集めたサンプルを何か基準とすべき別のサンプルと比べる検定して、基準のサンプルと統計上差を出すに必要な...続きを読む

Q平均値をとると有効数字が増える?

普通の物差しで測った有効数字3ケタのデータ
2.0[mm]
2.1
2.2
2.1
1.9
2.0
があったとします。各データには±0.1程度の誤差があると考えられます。
これらの合計をとると,和の場合の有効数字は末位が最高位のもの合わせるので,今の場合,0.1位までで計算すればよいので
12.3
となりますよね。これをデータ数6で割りますが,この場合の6というのは正確な6であり,どこまでも6.000…で正しい,有効数字は無限大桁と考えられます。割り算の場合,商の有効桁数は有効数字は有効桁数の少ない方に合わせるので
2.05
となり,現データの2ケタよりも多い3ケタになります。これは正しいのですか?

Aベストアンサー

測定器の精度以上には精度は上がらないという点についてですが、

デジタル計測器を用いて測定
10回測定して最小桁が0が9回、1が1回

この場合、最小桁は0と1の間で0に近いと判断するのは正当な推定であろうと思います。
したがって、多数回の測定をすれば、測定器の精度より1桁程度はおそらく精度をあげることは可能、というのが私の見解です。

それ以上はおそらく無理で、100回、1000回とくり返しても、標準偏差を計算すればおなじあたりに落ち着くはずです。

なお、#7の測定回数については、おおよそ10点あれば十分と言うのが普通のコンセンサスです。これは、母集団標準偏差をσとして平均の標準偏差がσ/√nなので、nを10以上にしてもさほど値が下がっていかず労力の割に効果がえられないというところが理由です。

Q統計学における有効数字について質問です。

8月末に大学で統計学の試験があり、そのときに有効数字が合っていないと減点をすると言われたので、どうか宜しくお願いいたします。
以下のようにデータが与えられていたとして問いに有効数字に気をつけて答えるととしたらどうなりますか? なぜその桁数になるのか理由も教えていただけると助かります。僕が関数電卓(試験は電卓使用可)で出した答えを記しておきます。
ある集団に属する13名の中性脂肪を測定し、下記測定結果を得た:
92、62、76、37、57、39、52、60、45、52、170、117、34 [mg/dL]
この標本の中央値、四分位偏差、平均値、不偏分散、不偏標準偏差を求めよ。
僕の解)
データを昇順に並べると、
34、37、39、45、52、52、57、60、62、76、92、117、170
よって中央値は57
四分位偏差は21
(多分ここまでの有効数字は問題ないと思います)
平均値は、68.6923…
不偏分散は、1471.5641…
不偏標準偏差は、38.3609…
本当はこの後に母平均の95%信頼区間、母分散の95%信頼区間を求める問題もあります。このとき、平均値や不偏分散や不偏標準偏差の値を使いますが、その場合は1桁多くとってその位以下を切り捨てた値を用いればいいのでしょうか。そして、統計量を求めたときにはどの有効数字に合わせるのでしょうか。
あと、この大問の最後に「不偏標準偏差と標準誤差の違いを記し、それぞれどのような用途があるか説明せよ。」という問いがあるのですが、これの解答は何と答えればよいでしょうか。
長々と失礼しました。どうぞよろしくお願い致します。

8月末に大学で統計学の試験があり、そのときに有効数字が合っていないと減点をすると言われたので、どうか宜しくお願いいたします。
以下のようにデータが与えられていたとして問いに有効数字に気をつけて答えるととしたらどうなりますか? なぜその桁数になるのか理由も教えていただけると助かります。僕が関数電卓(試験は電卓使用可)で出した答えを記しておきます。
ある集団に属する13名の中性脂肪を測定し、下記測定結果を得た:
92、62、76、37、57、39、52、60、45、52、170、117、34 [mg/dL]
この標本の...続きを読む

Aベストアンサー

有効数字とは、要するに「誤差」の簡易的な処理方法です。

「有効数字2桁」とは
  0.XX ± 0.005
「有効数字5桁」とは
  0.XXXXX ± 0.000005
ということです。

例えば、「有効数字2桁」と「有効数字5桁」とのかけ算をすれば、その誤差は
 (0.XX ± 0.005) × (0.XXXXX ± 0.000005) ≒ 0.YYYYY ± 0.005005X
ぐらいになります。
ということで、「有効数字2桁」の方の誤差が結果の誤差の決定要因になります。
なので、計算結果の「誤差を除いた信頼できそうな値」は「2桁」程度になってしまうということです。

上の例は「かけ算」「割り算」の場合です。
これに対して、「足し算」「引き算」の場合には、「桁の数」ではなく、実際の「桁」の比較になります。
つまり
 XXX.XX ± 0.005 ←有効数字は小数点以下2桁まで

 XXXXX.XXXXX ± 0.000005 ←有効数字は小数点以下5桁まで
を足し合わせると
 (XXX.XX ± 0.005) + (XXXXX.XXXXX ± 0.000005) ≒ YYYYYY.YYYYY ± 0.005005
となって、結果は有効数字は小数点以下2桁までということになります。整数部分が何桁あろうが、一番下の有効桁が大きい方で決まります。
 
あくまで「簡易評価」ですので、まあ、そのぐらいなら誤差は元の誤差と同じ程度と考えられるでしょ、という程度の計算手法です。上の計算式もかなり「ドンブリ勘定」な計算です。
正確には、きちんと「誤差評価」をしないといけないのですが、これは結構面倒なので、「有効数字」という簡易判定で済ませているのです。ですから、そんなに「厳密な」「高級な」ものと考える必要はありません。「四捨五入」に毛の生えた程度のものです。


お示しの例でいえば、「有効数字2桁、あるいは3桁」と考えるよりは、「整数値」と考えればよいと思います。
ただし、「平均値」「分散」「不偏分散」などは、それを単独で表記する場合に対して、計算で使用する場合には2桁程度多くとって、最終計算結果を「有効桁数」に丸める方法で求めるようにした方がよいでしょう。1桁多いだけでは誤差がかなり累積され、有効数字の範囲にまで影響する可能性がありそうなので。

平均値は、68.6923… → 69
不偏分散は、1471.5641… → 1472
不偏標準偏差は、38.3609… → 38

>「不偏標準偏差と標準誤差の違いを記し、それぞれどのような用途があるか説明せよ。」

「不偏標準偏差と標準誤差の違い」は統計のテキストなら必ず載っているでしょう?
「不偏標準偏差」は、「母集団」の分散が分からないときに「標本」のデータから母分散を推定するものです。分散を求めるときに、母平均が不明なので「標本平均を使う」ために自由度が1つ減って「n - 1」で割るということになります。
標本から求めた「不偏分散」は、「母分散の推定値の期待値」になります。
「標準誤差」は、「母分散 σ² から n 個の標本を採ると、その標準誤差は σ²/n 」ですね(中心極限定理)。
つまり、(不偏分散)*(n - 1) = (標準誤差)*n という関係。
それぞれの定義と考え方、そして必要なら数学的な証明を記載すればよろしいかと思います。
このあたり、「標本分散」と「不偏分散」、「標準誤差」がごちゃごちゃするので、その「区別」がきちんとできているかを確認するものでしょうね。

用途? 例に書かれた「母平均の推定」、その過程で必要な「母分散の推定」ということでしょうか?

有効数字とは、要するに「誤差」の簡易的な処理方法です。

「有効数字2桁」とは
  0.XX ± 0.005
「有効数字5桁」とは
  0.XXXXX ± 0.000005
ということです。

例えば、「有効数字2桁」と「有効数字5桁」とのかけ算をすれば、その誤差は
 (0.XX ± 0.005) × (0.XXXXX ± 0.000005) ≒ 0.YYYYY ± 0.005005X
ぐらいになります。
ということで、「有効数字2桁」の方の誤差が結果の誤差の決定要因になります。
なので、計算結果の「誤差を除いた信頼できそうな値」は「2桁」程度になってしまうということです。...続きを読む

Q統計学でいうRSD%とは何ですか。

統計学でいうRSD%の平易な説明と計算方法を知りたいのですが。標準偏差はわかります。

Aベストアンサー

RSD%とは、相対標準偏差をパーセントで表示したものと思われます。

相対標準偏差(%)=(標準偏差/平均値)×100

次のページは、「相対標準偏差 RSD 平均値」で検索して出たものの一つです。
http://www.technosaurus.co.jp/product/mlh_faq_sd1.htm

参考URL:http://www.technosaurus.co.jp/product/mlh_faq_sd1.htm

Qエクセル STDEVとSTDEVPの違い

エクセルの統計関数で標準偏差を求める時、STDEVとSTDEVPがあります。両者の違いが良くわかりません。
宜しかったら、恐縮ですが、以下の具体例で、『噛み砕いて』教えて下さい。
(例)
セルA1~A13に1~13の数字を入力、平均値=7、STDEVでは3.89444、STDEVPでは3.741657となります。
また、平均値7と各数字の差を取り、それを2乗し、総和を取る(182)、これをデータの個数13で割る(14)、この平方根を取ると3.741657となります。
では、STDEVとSTDEVPの違いは何なのでしょうか?統計のことは疎く、お手数ですが、サルにもわかるようご教授頂きたく、お願い致します。

Aベストアンサー

データが母集団そのものからとったか、標本データかで違います。また母集団そのものだったとしても(例えばクラス全員というような)、その背景にさらならる母集団(例えば学年全体)を想定して比較するような時もありますので、その場合は標本となります。
で標本データの時はSTDEVを使って、母集団の時はSTDEVPをつかうことになります。
公式の違いは分母がn-1(STDEV)かn(STDEVP)かの違いしかありません。まぁ感覚的に理解するなら、分母がn-1になるということはそれだけ結果が大きくなるわけで、つまりそれだけのりしろを多くもって推測に当たるというようなことになります。
AとBの違いがあるかないかという推測をする時、通常は標本同士の検証になるわけですので、偏差を余裕をもってわざとちょっと大きめに見るということで、それだけ確証の度合いを上げるというわけです。

Qパーセントの計算での有効数字について

計算を2、3回経て、パーセントの数値を算出したいと思います。
ただ、小数点第2位(%)という細かい数値で出さなければなりません。
そこでお聞きしたいことが2つあります。

(1)その場合、パーセントにする前(×100する前)の数値は有効数字4桁
その4桁の数値を出すための計算は全て有効数字5桁で行う、という事でいいのでしょうか?

(2)手計算で有効数字5桁の計算を行うとなると、かなり大変です。
これを解決する方法はないでしょうか?
(通常の電卓は使用できますが、Excel等は使用しない前提で)

よろしくお願いいたします。

Aベストアンサー

ex. 98.12% 題意はこれでいいですか?
(1) 答えは、0.9812 有効数字4桁だと、計算は有効数字5桁です。
(2)関数電卓使うとか、プログラム入れれるのあります。

用途は、何ですか?
元の数字によって有効数字も変わってきます。
計算式もあれば回答しやすいです。
これだけの精度必要だと、定量分析などですか?

Q最小二乗法における有効数字について

最小二乗法における有効数字について質問があります.

直線近似を行うとします.最小二乗法を用いるデータの有効数字を考慮して,最小二乗法により求められた直線の傾きa,切片b の有効数字が決まると思うのですが,どのようにこの有効数字を決定すれば良いのでしょうか?

Aベストアンサー

>この最確値とはa,bを有効数字を気にせずとりあえず求め

この手の計算は計算量が多いため通常手計算はしません。
なので計算途中は計算機に任せて最大の桁数で計算すればいいです。

>例えばですが,ua = 0.0011 と求まればuaの最大の桁は10^{-3}となるので,
>aは10^-3もしくは10^-4までの値を使えば良いという認識でよろしいですか?

これが最終結果なら

a = 1.234±0.001 または a = 1.2345 ± 0.0011

と表記します。(単位があれば単位を忘れずに)
(計算過程にあってさらに計算を進めるなら、最低一桁以上は余分に取っておく必要があります。)

>加減算や乗除算による有効数字の取り方を考えるだけでは駄目なのでしょうか?

かえって面倒くさいですよ。

それに、いわゆる有効数字の計算は簡便な計算法に過ぎませんので、統計処理をするまでの手続きと思っておいたほうがいいです。標準偏差で不確かさを計算するまではどこで打ち切っていいか不明なので、それまで使う計算法ということですね。いったん標準偏差が計算できたらそれに従うべきです。

>この最確値とはa,bを有効数字を気にせずとりあえず求め

この手の計算は計算量が多いため通常手計算はしません。
なので計算途中は計算機に任せて最大の桁数で計算すればいいです。

>例えばですが,ua = 0.0011 と求まればuaの最大の桁は10^{-3}となるので,
>aは10^-3もしくは10^-4までの値を使えば良いという認識でよろしいですか?

これが最終結果なら

a = 1.234±0.001 または a = 1.2345 ± 0.0011

と表記します。(単位があれば単位を忘れずに)
(計算過程にあってさらに計算を進めるなら、最低一桁以...続きを読む

Qパーセンテージのバラツキを表現する場合どうするの?

パーセンテージのバラツキを表現する場合どうするの?

例えば、下記の実験を行ったとして、

1月1日に種を10個植えたら、2個芽がでたので、発芽率2/10=0.2
2月1日に種を16個植えたら、4個芽がでたので、発芽率4/16=0.25
3月1日に種を25個植えたら、2個芽がでたので、発芽率2/25=0.08

という結果だったとき、全体の発芽率は(2+4+2)/(10+16+25)=0.157
ですが、この実験日別による発芽率のバラツキの程度を表現する場合は、
通常どうすれば良いのでしょうか?

パーセンテージで標準偏差だしたらおかしいですよね?

どうぞよろしくお願いいたします。

Aベストアンサー

16±(9%) と誤解されるのを恐れるなら、
(16±9)% と書いてはどうだかな。
「ポイント」は、数学や自然科学の話題では、
違和感が大きい。
あからさまな文系用語だから…


人気Q&Aランキング