はじめての親子ハイキングに挑戦!! >>

有効数字と数字の桁数について、教えていただきたいことがあります。

大学で先生が測ってきた環境調査データの整理をしているのですが、ある濃度について、小数点以下が2桁のものと3桁のものが混在していました。

例えば、このような感じです。

0.23 mg/L
0.083 mg/L

違和感を感じたので、「0.220 mg/Lとしたり、四捨五入して0.08mg/Lとしたりしなくていいのですか?」と聞いたところ、「どちらも、有効数字2桁だから問題ない」と言われました。
0.23とは本来、0.225~0.235までの範囲の総称を0.22と言い、0.083とは本来、0.0825~0.0835までの範囲の総称を言うそうですが、そもそも、どちらの数字も同じ分析器機器で測定可能ということでした。ということは、基本的には1/1000の位までは正確に測れるんだと思います。ということは、0.23という数字についても小数点以下3桁で書くのが正しいのではないかと思ったのですが、こういう考えはダメでしょうか?

また、別の項目では、
0.05 mg/L
0.21 mg/L
という2つの数字が出てきました。

この場合、上の有効数字は1桁で、下の有効数字は2桁と考えられ、桁があってないのではないかと思います。

これは問題ないのでしょうか?

教えていただきたくよろしくお願いします。

このQ&Aに関連する最新のQ&A

A 回答 (6件)

#4です。


平均の場合は、まず、0.05+0.21を計算しますが、加減算の場合は、有効数字の一番桁の小さいものに合わせます。
つまり、0.05は有効数字は1桁ですが、計算するときは、小数第二位として計算するのです。
たまたま0.21も小数第二位なので、この場合は、
0.05+0.21=0.26 これが有効数字です。
乗除算のときと加減算のときで変わってきますので注意です。
で、平均は2で割るのですが、この2は測定値ではないので、有効数字1桁というわけではなく、ただの2ですので、そのまま割ります。
なので、平均は0.13の2桁が正解です。
先輩のやり方は正しいです。
    • good
    • 1

>この場合、上の有効数字は1桁で、下の有効数字は2桁と考えられ、桁があってないのではないかと思います。



>これは問題ないのでしょうか?

念のためです。

この2つの数値に対してどういう演算をやるかによります。
・足し算、引き算の場合は位があっていないといけません。有効数字の桁数の違いは関係ありません。
0.05+0.21=0.26

・掛け算、割り算の時は桁数が問題になりますがこのまま計算してもらってかまいません。得られた結果の有効桁数を判断する時に問題になるのです。計算する前から有効数字の桁数を合わせる必要はありません。桁数が大きく違っている数字を組み合わせて計算しても無駄になるというだけの話です。
0.05×0.21=0.0105≒0.01

同じ単位の量が2つですから加減の操作の対称になっている数値ではないかなと思います。
この場合、小数点下第二位に揃っていないといけません。
    • good
    • 0

#2の補足について。



>0.05mg/Lは5×10の-2乗
>として「これは有効数字1桁です」としてはいけないのですか?

0.05mg/Lは有効数字1桁ですので、質問者さんが正しいです。



>0.05 mg/L
>0.21 mg/L
>という2つの数字が出てきました。

測定器自体が持っている誤差がどのようなものなのかが分からないため、この結果が正しいと信じるしかないですが、結果が正しいとするならば、有効桁数が異なってしまっても、それは仕方がありません。
注意すべきは、#1さんが指摘しているように、このデータで計算をしなければいけないような場合、0.05 mg/Lのデータを用いて乗除算を行うと、計算結果の有効数字も1桁になってしまうことです。


>基本的には1/1000の位までは正確に測れるんだと思います。

この部分も、この測定器のことが分からないので、なんともいえません。
質問者さんの言うことが正しければ、0.23 mg/Lの有効数字は、0.230mg/Lになるはずですが、もしかしたら、倍率レンジを変えているのかもしれません。このことは、測定した人しか分かりません。
質問者さんの考え方自体は正しいです。
    • good
    • 2
この回答へのお礼

ありがとうございました。
ということは、0.05と0.21の2数の平均をとる場合、電卓を叩くと0.13とはじきだされますが、この場合、平均値は0.13ではなく、0.1と書くのが正解なのですね。過去に先輩が取りまとめた表などを見ていますと、小数点以下2桁であれば、平均値も2桁で表記するというふうに、桁数に揃えているようで混乱していました。
倍率レンジを変えているかも関わってくるとなると、データ整理する立場の者も測定方法の詳細について把握する必要もあるのですね。

お礼日時:2009/01/13 00:32

追記。



>「0.220 mg/Lとしたり、四捨五入して0.08mg/Lとしたりしなくていいのですか?」

「0.220 mg/L」と書くと「220×10の-3乗」であり、有効数字3桁になってしまいます。

「0.08mg/L」と書くと「8×10の-2乗」になり、有効数字1桁になってしまいます。

「小数点の位置を合わせる」のと「有効数字の桁数を合わせる」のは「まったく異なる行為」です。

濃度で言えば「10キログラム中に230グラム」と「1キログラム中23グラム」と「100グラム中2.3グラム」は「同じ濃度」です。そして、この3つは「有効数字2桁」です。

しかし、無理矢理小数点位置を合わせようとして「2.3グラム」を「小数点を四捨五入して2グラム」とやっちゃうと「100グラム中2グラム」だけ「違う濃度」になっちゃいますね。
    • good
    • 0

0.23 mg/L


0.083 mg/L
0.05 mg/L
0.21 mg/L

23×10の-2乗
83×10の-3乗
50×10の-3乗
21×10の-2乗
であり、すべて「有効数字2桁」です。

この回答への補足

回答ありがとうございました。
ここでの数字はすべて「有効数字2桁」とのことでしたが、たとえば、

0.05mg/Lは50×10の-3乗

とのことですが、この「-3乗」という数字はどこからでてきたのでしょうか?

0.05mg/Lは5×10の-2乗

として「これは有効数字1桁です」としてはいけないのですか?

補足日時:2009/01/11 09:59
    • good
    • 0

こんばんは。



0.23 mg/L、0.083 mg/L、0.05 mg/L、0.21 mg/L という数値が、
どういう測定値とどういう計算から出てきたかによります。

ご質問文に測定値と計算の内容が書かれていないので、
正しいのかダメなのかは判定できません。


その代わり、例を挙げて説明しますね。


【足し算、引き算】
有効数字は、桁ではなく、精度で決まります。
精度が粗い方に合わせます。

1.2345 + 6.78 = 8.01
987.6 - 0.12345678 = 987.5


【掛け算、割り算】
有効数字は、有効桁数で決まります。
有効桁数が少ないほうに合わせます。

1.2345 × 6.78 = 8.37
1.23 ÷ 0.06789 = 18.1
1000.00 × 10.00000000 = 10000.0


以上、ご参考になりましたら。
    • good
    • 0
この回答へのお礼

桁と精度というのは違うのですか。
おはずかしながら、初めて知りました。
コメントいただきまして、ありがとうございました。

お礼日時:2009/01/12 00:51

このQ&Aに関連する人気のQ&A

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています

このQ&Aを見た人が検索しているワード

このQ&Aと関連する良く見られている質問

Q有効数字とはなんですか?

中学生にもわかるように説明してくだされば幸いです。
色々調べたのですが、よくわからなくて、、
以下の認識で合ってますか?

認識:近似値や測定値を表す数字のうち,実用上有意義な桁数だけとった数字。
また、「有効桁数」とは、有効数字の桁数のこと。

例えば、1.2345という数字があったとしたら、実用上有意義な桁数が3なら、有効数字は1.23で、有効桁数は3桁。

また、0の処理については以下の通り。

0ではない数字に挟まれた0は有効である。例えば、

60.8 は有効数字3桁である。
39008 は有効数字5桁である。
0ではない数字より前に0がある場合、その0は有効ではない。例えば、

0.093827 は有効数字5桁である。
0.0008 は有効数字1桁である。
0.012 は有効数字2桁である。
小数点より右にある0は有効である。例えば、

35.00 は有効数字4桁である。
8 000.000000 は有効数字10桁である。

Aベストアンサー

こんばんは、はじめまして。

有効数字、確かによくわからない考え方ですよね。
(私も習った当初はちんぷんかんぷんでした)

そもそも、
「有効数字とはどんな時に使う物なのか?」とか、
「有効数字は何のために考えるのか?」がわからないと、
ただ、「考えるのがとても厄介なよくわからない数字」になってしまうと思います。

という事で、有効数字の利用例を1つだけ。
分かりやすい所で、両端に丸い棒が立った、H型の鉄棒の幅を計る事にしてみましょう。

両端の丸い棒は、30cmものさし(mmの目盛りあり)で太さを調べてみると4.8cm
間の鉄棒の部分は、1cm単位の巻尺(mmの目盛りなし)で長さを調べて85cm
さて、鉄棒の端から端までの幅はいくつなのかを考えます。

両端の丸い棒は左右で2本あるので、計算式は
(4.8cm)×2 + 85cm = 9.6cm + 85cm = 94.6cm
になりますが、この"94.6cm"って、どこまで信用できる良い数字ですか?

両端の丸い棒は、mmの目盛りがある30cmものさしで調べたので、0.1cm単位で正しいです。
でも、間の鉄棒の部分は、1cm単位の巻尺(mmの目盛りなし)で調べているので、1cm単位までしか分かっていませんよね?
おそらく、84.5cm~85.4cmの間なら、"だいたい85cm"になってしまう。
この場合、鉄棒の幅は"94.6cm"と言い切ってしまって良い物でしょうか?

1cm単位で調べた物がある以上は、その合計の幅の94.6cmも1cm単位までしか正確ではない。
と言う事は、この94.6cmの有効数字は2桁。6を四捨五入して約95cmとすれば確実です。

確か、中学校(?)で出てきた有効数字とはイメージがだいぶ異なると思いますが、実用例が頭に入っていると理解の度合いも変わってくるのではないでしょうか?

こんばんは、はじめまして。

有効数字、確かによくわからない考え方ですよね。
(私も習った当初はちんぷんかんぷんでした)

そもそも、
「有効数字とはどんな時に使う物なのか?」とか、
「有効数字は何のために考えるのか?」がわからないと、
ただ、「考えるのがとても厄介なよくわからない数字」になってしまうと思います。

という事で、有効数字の利用例を1つだけ。
分かりやすい所で、両端に丸い棒が立った、H型の鉄棒の幅を計る事にしてみましょう。

両端の丸い棒は、30cmものさし(mmの目盛りあり)...続きを読む

Q平均値をとると有効数字が増える?

普通の物差しで測った有効数字3ケタのデータ
2.0[mm]
2.1
2.2
2.1
1.9
2.0
があったとします。各データには±0.1程度の誤差があると考えられます。
これらの合計をとると,和の場合の有効数字は末位が最高位のもの合わせるので,今の場合,0.1位までで計算すればよいので
12.3
となりますよね。これをデータ数6で割りますが,この場合の6というのは正確な6であり,どこまでも6.000…で正しい,有効数字は無限大桁と考えられます。割り算の場合,商の有効桁数は有効数字は有効桁数の少ない方に合わせるので
2.05
となり,現データの2ケタよりも多い3ケタになります。これは正しいのですか?

Aベストアンサー

測定器の精度以上には精度は上がらないという点についてですが、

デジタル計測器を用いて測定
10回測定して最小桁が0が9回、1が1回

この場合、最小桁は0と1の間で0に近いと判断するのは正当な推定であろうと思います。
したがって、多数回の測定をすれば、測定器の精度より1桁程度はおそらく精度をあげることは可能、というのが私の見解です。

それ以上はおそらく無理で、100回、1000回とくり返しても、標準偏差を計算すればおなじあたりに落ち着くはずです。

なお、#7の測定回数については、おおよそ10点あれば十分と言うのが普通のコンセンサスです。これは、母集団標準偏差をσとして平均の標準偏差がσ/√nなので、nを10以上にしてもさほど値が下がっていかず労力の割に効果がえられないというところが理由です。

Q有効数字の桁数合わせがいまいち理解できません

mol質量やmol濃度の計算問題を訳あって勉強している社会人です。
いまいち納得できない部分があるので質問させていただきました。
問題に対する式は立てられるのですが、いつも最後の有効数字を丸める部分で間違えてしまいます。
有効数字を用いた乗法や除法は「計算に使った数値の内、最も有効数字の桁数が小さいものに合わせる」はずだと思ったら

初歩的な問題ですが
問 水150mlに水酸化ナトリウムNAOH10.0gを溶かした水溶液がある。
NAOHの原子量を40.0としたときのこの水溶液のmol濃度を求めよ。

150ml:10.0g = 1000ml:Xg
      X = 66.666....
まだ計算の途中なので有効数字の桁を1つ多めにとって
X = 66.67 として
66.67÷40.0 = 1.66675

最初から最後までに使用した数値の内、有効数字3桁が最小だと思うので
答えは 1.67mol/l として解答をみると

「1.666...mol/lゆえに 答え 1.7mol/l」 となっています。
この場合、なぜ小数第2位を四捨五入したのかが理解できません。
どなたか分かり易く説明していただけると幸いです。 

mol質量やmol濃度の計算問題を訳あって勉強している社会人です。
いまいち納得できない部分があるので質問させていただきました。
問題に対する式は立てられるのですが、いつも最後の有効数字を丸める部分で間違えてしまいます。
有効数字を用いた乗法や除法は「計算に使った数値の内、最も有効数字の桁数が小さいものに合わせる」はずだと思ったら

初歩的な問題ですが
問 水150mlに水酸化ナトリウムNAOH10.0gを溶かした水溶液がある。
NAOHの原子量を40.0としたときのこの水溶液のmol濃度を求...続きを読む

Aベストアンサー

原文を見る限り,正解は以下のようでなくてはなりません.
150mL の水と 10.0g の水酸化ナトリウムで,160g の溶液ができます.この比重が 1.05g/cm3 であることより,160/1.05 = 152.38... mL の溶液ができます.この中には 10.0g = 10.0/40.0 mol の NaOH が含まれているので,モル濃度は (10.0/40.0)÷(160/1.05/1000) = 1.640625 mol/L.
有効数字は,3桁ですから,1.64 mol/L です.
有効数字の処理は,あなたの処理で正解です.
問題集の文章を読む限り,1.666... にしている点ですでに間違っていますし,さらに有効数字の扱いも間違いです.その本は捨てた方がいいかもしれません.
なお,上の計算では水の比重が与えられていないので,1.00 g/cm3 としました.25℃では0.99707 g/cm3 ですから,有効数字3桁では 0.997 としなくてはならず,水の質量は149.55g となります.有効数字3桁では150ですが,計算途中では149.6 で計算すると,また少し違ってきますが.

原文を見る限り,正解は以下のようでなくてはなりません.
150mL の水と 10.0g の水酸化ナトリウムで,160g の溶液ができます.この比重が 1.05g/cm3 であることより,160/1.05 = 152.38... mL の溶液ができます.この中には 10.0g = 10.0/40.0 mol の NaOH が含まれているので,モル濃度は (10.0/40.0)÷(160/1.05/1000) = 1.640625 mol/L.
有効数字は,3桁ですから,1.64 mol/L です.
有効数字の処理は,あなたの処理で正解です.
問題集の文章を読む限り,1.666... にしている点ですでに間違っていますし...続きを読む

Qエクセルで計算すると2.43E-19などと表示される。Eとは何ですか?

よろしくお願いします。
エクセルの回帰分析をすると有意水準で2.43E-19などと表示されますが
Eとは何でしょうか?

また、回帰分析の数字の意味が良く分からないのですが、
皆さんは独学されましたか?それとも講座などをうけたのでしょうか?

回帰分析でR2(決定係数)しかみていないのですが
どうすれば回帰分析が分かるようになるのでしょうか?
本を読んだのですがいまいち難しくて分かりません。
教えてください。
よろしくお願いします。

Aベストアンサー

★回答
・最初に『回帰分析』をここで説明するのは少し大変なので『E』のみ説明します。
・回答者 No.1 ~ No.3 さんと同じく『指数表記』の『Exponent』ですよ。
・『指数』って分かりますか?
・10→1.0E+1(1.0×10の1乗)→×10倍
・100→1.0E+2(1.0×10の2乗)→×100倍
・1000→1.0E+3(1.0×10の3乗)→×1000倍
・0.1→1.0E-1(1.0×1/10の1乗)→×1/10倍→÷10
・0.01→1.0E-2(1.0×1/10の2乗)→×1/100倍→÷100
・0.001→1.0E-3(1.0×1/10の3乗)→×1/1000倍→÷1000
・になります。ようするに 10 を n 乗すると元の数字になるための指数表記のことですよ。
・よって、『2.43E-19』とは?
 2.43×1/(10の19乗)で、
 2.43×1/10000000000000000000となり、
 2.43×0.0000000000000000001だから、
 0.000000000000000000243という数値を意味します。

補足:
・E+数値は 10、100、1000 という大きい数を表します。
・E-数値は 0.1、0.01、0.001 という小さい数を表します。
・数学では『2.43×10』の次に、小さい数字で上に『19』と表示します。→http://ja.wikipedia.org/wiki/%E6%8C%87%E6%95%B0%E8%A1%A8%E8%A8%98
・最後に『回帰分析』とは何?下の『参考URL』をどうぞ。→『数学』カテゴリで質問してみては?

参考URL:http://ja.wikipedia.org/wiki/%E5%9B%9E%E5%B8%B0%E5%88%86%E6%9E%90

★回答
・最初に『回帰分析』をここで説明するのは少し大変なので『E』のみ説明します。
・回答者 No.1 ~ No.3 さんと同じく『指数表記』の『Exponent』ですよ。
・『指数』って分かりますか?
・10→1.0E+1(1.0×10の1乗)→×10倍
・100→1.0E+2(1.0×10の2乗)→×100倍
・1000→1.0E+3(1.0×10の3乗)→×1000倍
・0.1→1.0E-1(1.0×1/10の1乗)→×1/10倍→÷10
・0.01→1.0E-2(1.0×1/10の2乗)→×1/100倍→÷100
・0.001→1.0E-3(1.0×1/10の3乗)→×1/1000倍→÷1000
・になります。ようするに 10 を n 乗すると元の数字になるた...続きを読む

Qエクセル(Excel)で、数値を一定の有効数字で表示したいのですが…

エクセル(Excel)の書式設定の表示形式では数値を選択すると、小数点以下の桁数を揃えることができますが、同じ感覚で有効数字を一定にして表示させるにはどんな方法があるでしょうか?
例えば、0.01234、0.1234、1.1234、11.1234、111.1234という五つの値を、有効数字3桁を指定して表示して、順に0.0123、0.123、1.12、11.1、111という風に自動的に表示してくれる表示形式、あるいは関数を探しています。
事務計算で小数点以下何桁というのが重要であるように、技術計算ではこのように有効数字を揃えたい場合が多いと思いますので、どなたかご存じの方、お教えください。
なお、指数形式では似たような結果になりますが、わかりにくい表示なので使いたくありません。
よろしくお願いいたします。

Aベストアンサー

◆こんな方法もありますよ
=ROUND(A1,2-INT(LOG(ABS(A1))))

★「0」を考慮すると
=ROUND(A1,2-INT(LOG(ABS(A1)+(A1=0))))

QエクセルのIF関数で、文字が入力されていたならば~

エクセルのIF関数で文字が入力されていたならば~、という論理式を組み立てたいと思っています。

=IF(A1="『どんな文字でも』","",+B1-C1)

A1セルに『どんな文字でも』入っていたならば、空白に。
文字が入っていなければB1セルからC1セルを引く、という状態です。

この『どんな文字でも』の部分に何を入れればいいのか教えてください。

またIF関数以外でも同様のことができれば構いません。

宜しくお願いします。

Aベストアンサー

=IF(ISTEXT(A1),"",B1-C1)

でどうでしょうか?

Qエクセル STDEVとSTDEVPの違い

エクセルの統計関数で標準偏差を求める時、STDEVとSTDEVPがあります。両者の違いが良くわかりません。
宜しかったら、恐縮ですが、以下の具体例で、『噛み砕いて』教えて下さい。
(例)
セルA1~A13に1~13の数字を入力、平均値=7、STDEVでは3.89444、STDEVPでは3.741657となります。
また、平均値7と各数字の差を取り、それを2乗し、総和を取る(182)、これをデータの個数13で割る(14)、この平方根を取ると3.741657となります。
では、STDEVとSTDEVPの違いは何なのでしょうか?統計のことは疎く、お手数ですが、サルにもわかるようご教授頂きたく、お願い致します。

Aベストアンサー

データが母集団そのものからとったか、標本データかで違います。また母集団そのものだったとしても(例えばクラス全員というような)、その背景にさらならる母集団(例えば学年全体)を想定して比較するような時もありますので、その場合は標本となります。
で標本データの時はSTDEVを使って、母集団の時はSTDEVPをつかうことになります。
公式の違いは分母がn-1(STDEV)かn(STDEVP)かの違いしかありません。まぁ感覚的に理解するなら、分母がn-1になるということはそれだけ結果が大きくなるわけで、つまりそれだけのりしろを多くもって推測に当たるというようなことになります。
AとBの違いがあるかないかという推測をする時、通常は標本同士の検証になるわけですので、偏差を余裕をもってわざとちょっと大きめに見るということで、それだけ確証の度合いを上げるというわけです。

Q平均値の桁数に関して

例えば、実験をして正規分布に従うデータが出たとします。
その平均値と標準偏差がそれぞれ4.567893と2.33543のような値になったとします。
このとき、4.567893±2.33543という表現で数値を表そうとしたとき、意味のある桁数(四捨五入するべき桁数)はこれら平均値と標準偏差の比から決まるという話を聞いたのですが、
具体的にどうやって決めれば良いのでしょうか?
相対誤差が関係あるようなことを聞いたのですが、どなたか知ってらっしゃったら教えて下さい。

Aベストアンサー

こんばんは。

平均値を求めるときの具体的な手順は、
1.合計を求める
2.合計を個数で割る
ですよね。

このとき、1で求まった合計の有効数字が何桁かが、そのまま平均値の有効数字の桁数になります。
そして、標準偏差の有効数字は、桁数ではなく、平均値の最も下の位(十の位とか小数第3位とか)で決まります。

例を挙げますと、
10.00
10.11
10.22
10.33
9.652
という5個のデータがあるとしましょう。
単純合計は、50.312 ですが、最後の1個以外のデータの精度は小数第2位までしかありませんので、合計は、50.31です。
つまり、合計の有効数字の桁数も平均値の有効数字の桁数も上から4桁です。

合計を5で割れば平均値です。
50.31 ÷ 5 = 10.062 → 有効数字4桁なので、10.06

標準偏差(母集団の標準偏差の推定値)は、0.260305・・・ですが、
平均値の精度が小数第2位なので、0.26 です。

よって、この例では、平均値±標準偏差 は、
10.06 ± 0.26
となります。


以上、ご参考になりましたら幸いです。

こんばんは。

平均値を求めるときの具体的な手順は、
1.合計を求める
2.合計を個数で割る
ですよね。

このとき、1で求まった合計の有効数字が何桁かが、そのまま平均値の有効数字の桁数になります。
そして、標準偏差の有効数字は、桁数ではなく、平均値の最も下の位(十の位とか小数第3位とか)で決まります。

例を挙げますと、
10.00
10.11
10.22
10.33
9.652
という5個のデータがあるとしましょう。
単純合計は、50.312 ですが、最後の1個以外のデータ...続きを読む

QW/V%とは?

オキシドールの成分に 過酸化水素(H2O2)2.5~3.5W/V%含有と記載されています。W/V%の意味が分かりません。W%なら重量パーセント、V%なら体積パーセントだと思いますがW/V%はどのような割合を示すのでしょうか。どなたか教えていただけないでしょうか。よろしくお願いいたします。

Aベストアンサー

w/v%とは、weight/volume%のことで、2.5~3.5w/v%とは、100ml中に2.5~3.5gの過酸化水素が含有されているということです。
つまり、全溶液100ml中に何gの薬液が溶けているか?
ということです。
w/v%のwはg(グラム)でvは100mlです。

Q吸光光度法の検量線について

検量線を作成し、データーにばらつきが生じた場合はどのようにすべきなんでしょうか。無理やり線でつなぐのかなと思っているのですが・・回答をお願いします。

Aベストアンサー

 検量線を引くための標準液は、0を含めて、6点取っています。標準液を調製しやすいように、例えば、0、1、2、3、4、5 mg/mlなど。これを5点検量(0は、普通対照に利用するので)と称しています。4点の場合もあります。
 基本は、グラフを書いて、1点がヅレていたら、それは無視して検量線を引く。2点ズレテイタラ、こりはヒドイので、やり直す、と言うのが教科書です。

 正確にするために検量線を2連(2回)して、その平均を取る、というバカな教えをする教員もいますが(それなら、2連より10連、100連の方が正確、と毒づいています)。
 
 実験のテクニックが難しくて、全体がばらつく場合もあります。この場合は、5点ではなく、10点とか、測定する回数を増やしたりして、信頼性を高めるしかありません。検量線は、もちろんパソコンで引きます。また、サンプルの測定も、一回だけではなく、数回測定して、平均値を去る必要があります。

 化学反応は、バラツキマセン。しかし、生物のサンプルは、個体差があるので、最低3回は測定して、平均と標準偏差を示します。例えば、血糖値を測定するときに、血液中のグルコースの測定は、ばらつかないので1回で十分。しかし、A、B、Cサンそれぞれの値は異なるので、ヒトの血糖値となると、最低3人は測定しなければなりません。
 同じサンプルを測定して、値がばらつくのは単に腕が悪いだけです。学生だと5%程度、慣れると2%以内、分析のプロだと0.5%の誤差でもウルサク言います。
データがばらつく原因を考え、検量線とサンプルの測定回数を決めてください。

>無理やり線でつなぐのかなと思っているのですが
測定した点をつないだりしているのでしょうか。それはヤリマセン。昔は、測定した点の近くをなるべく通る直線(場合によっては曲線)を、慣れを頼りに引いていました。今ではパソコンがあるので、回帰式を出します。これが検量線になります。最近は、機器に検量線を自動的に描き、濃度まで計算しているのが、普通です。
 回帰式の相関係数が、0.98以上あれば信頼していますが、0.95だとやり直すかどうか迷います。

 検量線を引くための標準液は、0を含めて、6点取っています。標準液を調製しやすいように、例えば、0、1、2、3、4、5 mg/mlなど。これを5点検量(0は、普通対照に利用するので)と称しています。4点の場合もあります。
 基本は、グラフを書いて、1点がヅレていたら、それは無視して検量線を引く。2点ズレテイタラ、こりはヒドイので、やり直す、と言うのが教科書です。

 正確にするために検量線を2連(2回)して、その平均を取る、というバカな教えをする教員もいますが(それなら、2連より10連、10...続きを読む


人気Q&Aランキング