測定値と割合について

教えてください。

１０分の１の暗いまで測定した２つの値で割合を考えるときは、小数第何位を四捨五入するべきですか？理科の実験です。
また１００分の１の位まで測定２つの値の場合はどうすればよいでしょうか？

さらに上記２つの値を比較する場合は、どの位までの数字で比較すべきでしょうか？

No.2 ベストアンサー 回答者： angkor_h 回答日時： 2017/08/10 15:39

測定値桁数(精度)は、それを利用した統計値桁数(精度)より大きくするのが一般的です。

10分の1精度と100分の1精度の比較は、後者を10分の1に丸めてからの比較が妥当です。
また、比較する値の大きさも重要です。例えば、100と0.1は比較しても意味がありません。

No.1 回答者： yhr2 回答日時： 2017/08/08 16:16

「何の」1/10、1/100ですか？　「全体を1としたときの1/10」なら「0.1程度」ですし、「全体を1としたときの1/100」なら「0.01」です。

そうではなく、使った目盛の 1/10 なら、その目盛の 0.1 ですし。

「どうすべきか」ではなく、「測定した結果に、真値（と思われるもの）に対してどの程度の誤差があるとみなせるか」ということから決めてください。
その「誤差」の一番大きいものが、全体の誤差を支配します。