統計学の桁数について

大学で統計学を学び始めたのですが桁数についてよく分からない部分があったのでお聞きしたいです。
先生から教えてもらったのは計算の際は与えられた桁数+2桁で計算し、答える時は与えられた桁数＋1桁で答えるのが基本ということでした。
この場合問題文の中に1桁、2桁、3桁など様々な桁数の数値が出てきた場合どれを基準に考えればよいのでしょうか？
先生には授業時間以外質問できずもうテストまで授業がないためお聞きしました。
よろしくお願いいたします。

No.2 回答者： yhr2 回答日時： 2021/01/23 18:30

通常の理系科目では、高校生までは「有効数字」という教わり方をします。

誤差の簡易表記ということです。

「有効数字」とは、計算処理などによって「端数」が出た場合に、どこまでの桁を表示するか、どこまでの桁を「信用できる」と判断するかという数値の処理方法です。

通常は、問題の条件で与えられた数値と同じ桁数までは「信用できる」として、その１つ下の桁の数値を「四捨五入」して結果の数値とします。
与えられた数値の桁がまちまちの場合には、最も少ない桁数に合わせます。

そもそも「有効数字」とは、本当はきちんと「誤差」を明記しないといけないところを、簡易的に「表示する桁数」として処理する方法です。
基本は、
　〇.〇〇
と書かれた数値があったら、表示された桁の１つ下に
　〇.〇〇 ± 0.005
の誤差を持っていると考えることです。
（正確には、-0.005、+0.00499999･･･ の「小数点以下３桁目を四捨五入した、と考える)
これをたとえば「100倍」したら
　〇〇〇 ± 0.5
になって、信用できる数字は整数桁までのやはり「3桁」で、小数以下は「誤差」ということになります。

ただし、ここまで読んでお分かりのとおり、これは「乗除算」の場合であって、加減算には通用しません。加減算では「桁数」ではなく「絶対桁」で論じないと意味がありません。

こんなサイトを参考にしてください。考え方が書いてあります。
↓
https://eman-physics.net/math/figures.html

上記のサイトにも「ここで説明するのは高校までに習う暫定的な簡易ルール。大学生以上は使用禁止？！」と書いてあるように、高校生までが使う「簡易的なやり方」と考えればよいもので、数学的にも科学的にも、たいして意味のあるものではありません。
大学生であれば、きちんと「誤差評価」、演算処理に伴う「誤差伝播」をきちんと評価しなければいけません。

それは統計のような「数値そのものを扱う」場合にはなおさらです。

＞この場合問題文の中に1桁、2桁、3桁など様々な桁数の数値が出てきた場合どれを基準に考えればよいのでしょうか？

おのおのデータの意味合いや、持つ誤差をそれぞれ評価しないといけません。
「1桁」が「測定値」だったら「誤差」はかなり大きいですが、その「1桁」が「データの個数」や「テストの点数」であれば誤差などありません。

＞先生から教えてもらったのは計算の際は与えられた桁数+2桁で計算し、答える時は与えられた桁数＋1桁で答えるのが基本ということでした。

それはまたいい加減な教え方ですね。
それはほとんど上に書いた「高校生のための有効数字の考え方」に近いものかと思います。

No.1 回答者： angkor_h 回答日時： 2021/01/23 18:18

これは、有効桁数の問題、になります。

乗除残では、有効桁数を揃える必要がありますが、
加減残ではこの意味がありません。
この意味をご理解されれれば、
先生の教えが正しいことが理解できるはずです。