相関係数と検量線の求め方がわからなくて困っています・・・。

釘試料0.5gを酸で溶解し、生成したマンガンイオンを酸化させ過マンガン酸イオンとして100cm^3に低要したものを吸光度測定すると0.276でした。
200μg・cm^-3 の過マンガン酸カリウム標準溶液を0,4,8cm^3とり、100cm^3の酸に溶かし、この一部を1cmのセルに入れて吸光度を測定すると
0cm^3時:0.009、4cm^3時:0.335、8cm^3時0.674
この結果について相関分析と回帰分析を行い、濃度をXppm、吸光度をyとし相関係数と検量線を求めなさい。

という問題です・・・。
過去ログを探して似たような問題をみましたが、検量線、相関係数がよくわかりません・・・。自分の未熟のせいもあるのですが、どうか教えてください。

このQ&Aに関連する最新のQ&A

A 回答 (3件)

検量線ためには、まず散布図を描きます。

散布図の横軸は、標準液の濃度です。
 200ppmのものから、0m採ったものの濃度は、0ppmです。4ml採ったときの濃度は、原文のままなら、7.69ppm。8mlの場合は、14.8ppmになります。そのときの吸光度が、0.009、0.335、0.674ですね。
 エクセルのA列にX軸の数値になる濃度を、B列にその吸光度を入力します。すなわち、A1番地に0、A2に7.69、A3に14.8を入力します。B1に0.009、B2に0.335、B3に0.674を入力します。

 あとは、グラフから散布図を選んで描いて下さい。散布図における回帰式が、検量線になります。
 すなわち、グラフのウィンドをクリック>メニューバのグラフ>近似曲線の追加>種類(ここで、高次式を選ぶことも可能)、を確認後、オプションのタグ>グラフに数式を表示する、と、グラフにR-2乗値を表示する、のボックスにチェックをいれれば、グラフ上に回帰式と決定係数が表示されます。

 このやり方だと、y=0.0449+0.0028 (r^2=0.9989)になりました。fox19jpさんとほぼ同じ値ですので。おそらく正しく計算なさっていると想います。
 相関係数は、0.9989の平方根を計算すればOKです。

 あとは、サンプルの吸光度が0.276ですから、y軸の0.276から右に直線を水平に引き、検量線の交点からは、垂直に線をおろして、x軸の交点を読めば、6ppmほどの値がよめます。
 yに0.276を代入して、xを求めると、より正確ですが。

 あとは、5gのサンプル中のマンガンイオンは、100mlの溶液に全て移り、その濃度は約6ppmなのですから、釈迦に説法でしょう。

 厳密には、fox19jpさんの補足にある
r=√Σ(Xi-Xの平均)^2 / Σ(Yi-Yの平均)^2
m=(ΣXi-Xの平均)y / Σ(Xi-Xの平均)^2
Yi-Yの平均=m(Xi-Xの平均)
 から計算した値と、エクセルの散布図の検量線として扱った回帰式とは、一致しません。
 前者は、最小2乗法で計算し、エクセルのグラフは回帰だからです。

 現実的には、その差は無視できるくらいなので、実用上は問題ありません。

 文字で書くと、表現が貧弱で、分かって下さるかなと不安になり、イライラします。ご不明の点は、書き込んで下さい。
    • good
    • 1
この回答へのお礼

的確で明瞭な回答ありがとうございました。
おかげで、エクセルで回帰直線と散布図
を書くことができました。kgu-2さんの計算
と同じで安心しました。どうもありがとう
ございます。

こちらも質問等で、文字化けやら打ち間違え
やらで、迷惑をかけてすいません。

お礼日時:2005/04/15 14:02

>残念ながら、検量線を書いた事はありません。


お察しのとおり大学の課題なのですが、手書きで求めろという意味合いが強い
検量線が手書きなら、そのグラフを見て、正否を判断するので、相関係数を求める必要がありません。相関係数は、統計学的処理によって、検量線の適否の判断に使うからです。手書きの場合は、相関係数を計算するのは不可能です。
 30年も昔に、10サンプルについて相関係数を場粗紺ではなく電卓で計算しました。キーを1000回くらい打つ必要があり、何度やっても一致しなかったので、諦めました。善意に開始訳すれば、標準液が2つなのは、その点の配慮なのかも。

回答の補足で
>KMnO4の体積(cm^3)   0 2    4   6     8
の濃度(ppm) 0 4    8   12    16
の吸光度   0.009 0.175  0.334 0.522  0.674
となっています。が、この中で、2と6は、私の指摘で、fox19jpさんご自身で、その吸光度を測定されたものですね。

 大学のレポートであっても、ここまでされていれば、解答に近いものを書き込んでも違反にならないと想いますので。

 手では大変なので、エクセルを前提にして、長くなるので、次に書きます。
    • good
    • 0

 失礼な問いですが、検量線を描いたことがおありですか。


そのご経験があるなら、あとは、検量線のための横軸の濃度を計算するだけなのですが。
 200μg・cm^-3は、200μg/mlの方が分かりやすいですね。cm^3ではなく、mlが化学の世界では一般的です。

>相関係数と検量線の求め方がわからなくて困っています・・・。
 検量線は、手書きではなく、エクセルで3年生の学生実習でやらせています。相関係数を求めるには、パソコンがないと無理で、それもエクセルを使えば簡単にできます。ただ、XとYを逆にして計算しないと、ワークシートを作るのが大変です。厳密にはだめですが、実用上は問題ありません。

 大学の課題のような印象があるので、回答しにくいのですが、実際には、「試料中の濃度を求めよ」という文章が続くと思うので。そして、この問題は、分かっているようでスッキリしない、という経験があります。それでも4年生になって研究室で実験をやるようになれば、毎日でも行う操作です。
1) 検量線、相関係数の用語が分からないのか
2) 検量線を手書きでも図にかけないのか
3) エクセルでの計算ができないのか を書いてください。

 ちなみに、この実験には、欠点があります。私なら「次の方法の欠点を述べよ」の問題にしますが。
 第一に、0、4、8mlをとり、100mlの酸に溶かし、は、「100mlの酸で全量を100mlにする」というのが普通です。そのように書いていませんか。さもないと、面倒な計算がいり、そんな意地悪な問題はつくりません。
 第二に、0、4、8mlではなく、0、2、4、6、8、10mlとり、それぞれ測定します。
 

この回答への補足

アドバイス、ありがとうございます。
残念ながら、検量線を書いた事はありません。
お察しのとおり大学の課題なのですが、手書きで求めろという意味合いが強いようです・・・。
式では
r=√Σ(Xi-Xの平均)^2 / Σ(Yi-Yの平均)^2
m=(ΣXi-Xの平均)y / Σ(Xi-Xの平均)^2
Yi-Yの平均=m(Xi-Xの平均)
という式を使って求めるそうです。

パソコンで相関係数を求めるやり方もあるそうですが、それが全く解りません・・・。
また、文章には試料中の濃度と含有量を求めよという文章が続きます。
自力で以下の用に求めてみたのですが、あっているか自信がありません・・・。




KMnO4の体積(cm^3)   0 2    4   6     8
の濃度(ppm) 0 4    8   12    16
の吸光度   0.009 0.175  0.334 0.522  0.674
より
y=ax + 0.009
200µ cm^-3 =200ppm
2cm^3時:200ppm × 2cm^3 =400ppm・cm^3 ÷ 100cm^3 =4ppm
4cm^3時:200ppm × 4cm^3 =800ppm・cm^3 ÷ 100cm^3 =8ppm
6cm^3時:200ppm × 6cm^3 =1200ppm・cm^3 ÷ 100cm^3 =12ppm
8cm^3時:200ppm × 8cm^3 =1600ppm・cm^3 ÷ 100cm^3 =16ppm
となり上記の濃度が出る・・・と思うのですが
この値より
y=0.0416X +0.009
となり、
釘0.25gを100cm^3に定容して、吸光度 0.276なので
そのときは X= 6.2ppm(濃度)
よって 6.2×100=620µg
620×10^-6 / 0.25 (g)  ×100= 0.248 % 
となりました・・・。

色々、足りない文章でお手数をおかけ致します・・・。
また、吸光度の値を一部訂正しました。
また、「100mlの酸で全量を100mlにする」という指摘ですが、僕も思いましたが、そのまま100mlの酸にとかす。としか書いてありません。おそらく課題の方が間違えていると思います…。

補足日時:2005/04/13 18:50
    • good
    • 0

このQ&Aに関連する人気のQ&A

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています

このQ&Aを見た人が検索しているワード

このQ&Aと関連する良く見られている質問

Q吸光光度法の検量線について

検量線を作成し、データーにばらつきが生じた場合はどのようにすべきなんでしょうか。無理やり線でつなぐのかなと思っているのですが・・回答をお願いします。

Aベストアンサー

 検量線を引くための標準液は、0を含めて、6点取っています。標準液を調製しやすいように、例えば、0、1、2、3、4、5 mg/mlなど。これを5点検量(0は、普通対照に利用するので)と称しています。4点の場合もあります。
 基本は、グラフを書いて、1点がヅレていたら、それは無視して検量線を引く。2点ズレテイタラ、こりはヒドイので、やり直す、と言うのが教科書です。

 正確にするために検量線を2連(2回)して、その平均を取る、というバカな教えをする教員もいますが(それなら、2連より10連、100連の方が正確、と毒づいています)。
 
 実験のテクニックが難しくて、全体がばらつく場合もあります。この場合は、5点ではなく、10点とか、測定する回数を増やしたりして、信頼性を高めるしかありません。検量線は、もちろんパソコンで引きます。また、サンプルの測定も、一回だけではなく、数回測定して、平均値を去る必要があります。

 化学反応は、バラツキマセン。しかし、生物のサンプルは、個体差があるので、最低3回は測定して、平均と標準偏差を示します。例えば、血糖値を測定するときに、血液中のグルコースの測定は、ばらつかないので1回で十分。しかし、A、B、Cサンそれぞれの値は異なるので、ヒトの血糖値となると、最低3人は測定しなければなりません。
 同じサンプルを測定して、値がばらつくのは単に腕が悪いだけです。学生だと5%程度、慣れると2%以内、分析のプロだと0.5%の誤差でもウルサク言います。
データがばらつく原因を考え、検量線とサンプルの測定回数を決めてください。

>無理やり線でつなぐのかなと思っているのですが
測定した点をつないだりしているのでしょうか。それはヤリマセン。昔は、測定した点の近くをなるべく通る直線(場合によっては曲線)を、慣れを頼りに引いていました。今ではパソコンがあるので、回帰式を出します。これが検量線になります。最近は、機器に検量線を自動的に描き、濃度まで計算しているのが、普通です。
 回帰式の相関係数が、0.98以上あれば信頼していますが、0.95だとやり直すかどうか迷います。

 検量線を引くための標準液は、0を含めて、6点取っています。標準液を調製しやすいように、例えば、0、1、2、3、4、5 mg/mlなど。これを5点検量(0は、普通対照に利用するので)と称しています。4点の場合もあります。
 基本は、グラフを書いて、1点がヅレていたら、それは無視して検量線を引く。2点ズレテイタラ、こりはヒドイので、やり直す、と言うのが教科書です。

 正確にするために検量線を2連(2回)して、その平均を取る、というバカな教えをする教員もいますが(それなら、2連より10連、10...続きを読む

Q検量線の計算方法について

こんにちは。
現在HPLCを扱っております。検量線を使っているのですが
計算方法がよく理解できておりません。
【化粧品100g中に有効成分Aは何g含まれているか】を求めるものです。
まず、
標準品 0g、0.1g、0.3g、0.5g を精密に量り、全て精製水で正確に
100mlとします。この各液から、さらに1mlを精密に量りとり、精製水を
加えて正確に100mlとします。

試料は 1mlを精密に量り、精製水を加えて正確に100mlとしました。

ピークのAREAですが【標準品】
0.1g→ 574221
0.3g→ 1671182
0.5g→ 2717212
【試料AREA】は1738876 です。
Excelで検量線の計算式を出したところ下記のような式になりました。
y=5E+06x + 46962  R2 =0.9998

この場合、100g中に何g含まれているかを求めるには
どうしたらいいのでしょうか?
私なりに計算して四捨五入で0.3gとなったのですが
あっているでしょうか?

長くなってしまいましたが、教えてください!

こんにちは。
現在HPLCを扱っております。検量線を使っているのですが
計算方法がよく理解できておりません。
【化粧品100g中に有効成分Aは何g含まれているか】を求めるものです。
まず、
標準品 0g、0.1g、0.3g、0.5g を精密に量り、全て精製水で正確に
100mlとします。この各液から、さらに1mlを精密に量りとり、精製水を
加えて正確に100mlとします。

試料は 1mlを精密に量り、精製水を加えて正確に100mlとしました。

ピークのAREAですが【標準品】
0.1g→ 574221
0.3g→ 1671182
0.5g→ 27...続きを読む

Aベストアンサー

ちょっと整理するために長くなりますが、順番に書きますね。

1.まず検量線に用いた標準溶液の濃度をきちんと計算しましょう。
○標品 0g、0.1g、0.3g、0.5g
 →mgに換算すると0mg, 100mg, 300mg 500mg
○全て精製水で正確に100mlとする
 →濃度は0mg/ml, 1mg/ml, 3mg/ml, 5mg/ml
○1mlを量りとり精製水を加え100mlとする(100倍希釈)
 →濃度は0mg/ml, 0.01mg/ml, 0.03mg/ml, 0.05mg/ml
 →μgに換算すると0μg/ml, 10μg/ml, 30μg/ml, 50μg/ml

2.計算した濃度(μg/ml)を横軸xに、HPLCで得られた面積の値を縦軸yにしてグラフを描きます(エクセルならば散布図ですね)。
この時、0μg/mlの試料を分析したときの値も使いましょう(ピークが出ないのならば、面積は0とする)。

3.近似式を追加して検量線の式を計算させると、
   y = 54291x + 19103  R2 = 0.9997
となります。

4.これで検量線ができたので、未知試料を分析したときのピーク面積1738876をyの部分に代入して計算します。

5.xの値として31.6769...(μg/ml)と出てきます。

6.この値はあくまでも"分析した試料"の濃度です。目的としている化粧品1mlを100mlに希釈したものがこの濃度であることから、化粧品中の濃度は100倍して約3158(μg/ml)となります。mgやgに換算しなおすと、それぞれ3.2mg/ml、0.0032g/mlとなります。

7.もし【化粧品"100ml"中に有効成分Aは何g含まれているか】ということならば、単純に濃度に100mlをかけて、0.32gとなります。
ここで注意が必要なのは、【化粧品"100g"中に有効成分Aは何g含まれているか】となっていることです。厳密には100mlと100gは同じ量を表していません。化粧品100mlの密度(g/ml)が分かればこの値を0.32にかければ【化粧品"100g"中に有効成分Aの量】が出せます。密度が不明なときは、例えば100mlを正確に量り取ってから、その質量を精密天秤で測ってください。質量÷体積で密度が計算できます。

ちょっと整理するために長くなりますが、順番に書きますね。

1.まず検量線に用いた標準溶液の濃度をきちんと計算しましょう。
○標品 0g、0.1g、0.3g、0.5g
 →mgに換算すると0mg, 100mg, 300mg 500mg
○全て精製水で正確に100mlとする
 →濃度は0mg/ml, 1mg/ml, 3mg/ml, 5mg/ml
○1mlを量りとり精製水を加え100mlとする(100倍希釈)
 →濃度は0mg/ml, 0.01mg/ml, 0.03mg/ml, 0.05mg/ml
 →μgに換算すると0μg/ml, 10μg/ml, 30μg/ml, 50μg/ml

2.計算した濃度(μg/ml)を横軸xに、HPLCで得られた面...続きを読む

Q検量線

検量線とはどういったものなのか?
検量線を引くとはどういったことをすればいいのかおしえてください。

Aベストアンサー

masazo27さんの2番煎じとなりますが、改めて説明を試みたいと思います。
検量線を引くとは、測定器の固有差を見極め、その固有差を見極めた上で、未知試料について正確な測定を行うことを目的にしています。
例えば、ある水溶液中の砂糖の濃度を知ることが目的であるとします。砂糖の濃度を知ることが目的の検量線とは、砂糖0.1g、0.2g、0.3gをそれぞれ1Lの水に溶かし(あらかじめ濃度が既知の試料を作成し)、それを測定器にかけ、測定器の指示値を記録します。それを、横軸を濃度、縦軸を指示値にとったグラフ用紙に記入し、直線なり曲線で結びます(直線か、曲線かは理論的なものに依存します)。こうしてできたラインが検量線です。この検量線により、測定器の実際の指示値から濃度を推定できるようになります。ただし、検量線は濃度0.1~0.3g/Lの間で作成したので、その検量線の有効性もその間と言わざるを得ません。検量線から推定して1.5g/Lとでた場合には、その値の信憑性は低いと言わざるを得ないでしょう。その際は、O,1.0,2.0g/Lの既知試料等で検量線を引き直す必要があると思います。

masazo27さんの2番煎じとなりますが、改めて説明を試みたいと思います。
検量線を引くとは、測定器の固有差を見極め、その固有差を見極めた上で、未知試料について正確な測定を行うことを目的にしています。
例えば、ある水溶液中の砂糖の濃度を知ることが目的であるとします。砂糖の濃度を知ることが目的の検量線とは、砂糖0.1g、0.2g、0.3gをそれぞれ1Lの水に溶かし(あらかじめ濃度が既知の試料を作成し)、それを測定器にかけ、測定器の指示値を記録します。それを、横軸を濃度、縦軸を指示値にとったグラ...続きを読む

Q吸光度の単位

吸光度の単位は何でしょうか!?
一般的には単位はつけていないように思われるのですが。。
宜しくお願いします。

Aベストアンサー

物理的には、No.1さんも書かれているように吸光度も透過度も基本的に同じ単位系の物理量どうしの「比」なので「無単位」です。しかし、無名数では他の物理量、特に透過度と区別が付かないので、透過度は"透過率"として「%」を付けて表し、"吸光度"は「Abs(アブス)」を付けて呼ぶのが業界(分析機器工業会?)のならわしです。

Q検量線の作り方

0.05mol硫酸銅溶液2.00mlを、メスピペットを用いて100mlのメスフラスコにとり、これに6molアンモニア水を加えて振り混ぜる。さらにイオン交換水を加えて100mlとする。この発色液の吸光度を比色計で測定する。引き続き、硫酸銅溶液を4.00,6.00,8.00,10.00mlずつメスピペットでとり、まったく同様に発色させて吸光度を測定する。
さらに、銅濃度ゼロつまりアンモニア水とイオン交換水の場合もその吸光度を測定する。
と、いう手順で実験しました。
得られた結果は
硫酸銅    吸光度
2.00ml   0.05
4.00   0.12
6.00   0.18
8.00   0.25
10.00   0.31
イオン交換水  0
アンモニア水  0
となりました。
縦軸を吸光度、横軸を銅濃度として検量線を作りたいのですが、作り方がわかりません。
どなたか教えてもらえませんか。お願いします。

Aベストアンサー

硫酸銅溶液の濃度は、
0.05Mの溶液を2mlから100mlまで薄めてますので、

0.05×(2/100)=1.0×10の-3乗(M) となります。

また、入れる硫酸銅溶液を増やした場合の濃度は、2mlの時と比べて
4ml→2倍
6ml→3倍
8ml→4倍
10ml→5倍

となります。


後は、これと吸光度をそのままグラフに書くか、エクセルに打ち込んでやれば
検量線になるとおもいます。

Q検量線について

発光強度を測定して物質の濃度を求めています。
毎回検量線を作っているのですが、実験を行うたびに検量線の式が(傾き、切片)違ってきます。
8点取るうち、r2=0.99以上になる範囲を使って濃度を求めているのですが、間違いですか?
0.99以上になる範囲は毎回違います。3点だったり、5点入ったり、上下も違います。
教えてください。

Aベストアンサー

>同一のものを2回測定とは?常に2連で行っていますが、いみないですか?
検量線の点数と精度は関係ないですか?

何点とるかは、研究者次第です。もちろん、点数が多ければ多いほど、平均化されるので、精度(バラつき)は上がります。が、確度(真の値にどれだけ近いか)は、無関係です。極端な話ですが、100と出るところを、50と出た場合、50に近い値がでて、平均値は50になっても、測定を何度繰り返しても、100に近づくことは無いでしょう。

 検量線の点は、それ自体に誤差を含んでいます。ですから、検量線の点は、点ではなく、その点を中心に、縦の(y軸方向の)誤差を表す短い線が見えないだけです。その線の長さは、その人の腕がよければ短く、悪ければ長いのです。

 ですから、「検量線は、なるべく点の近くをとおるように引け」ということになります。各々点は、絶対的に正しいものではなく、誤差を含んでいるのです。5点もとれば、その誤差を考慮した、もっともらしい検量線が引け、十分と考えるのが一般的でしょう。
 少なくとも、私はそう考えていて、検量線を2連引け、3連とれ、なんぞの指導も耳にしますが、それなら、5連、10連、いや100連でもとったらどうだ、反論するのですが。
 
 繰り返しになりますが、標準液から検量線を引いた場合、その全体を採用するか否かです。バラつきが多過ぎる(相関係数が、小さすぎる)と判断すれば、やり直します。
 その中から、気に入った点だけを採用する、というのは誤りです。もっとも、先に述べたように、グラフにしたあと、明確に1点が外れている、という場合はその点を外して、検量線を引くことは許されています。

 最少、なぜ5点必要かといえば、1点が外れる場合を想定しているからです。例えば、0を除いて、3点しかとっていないと、1点は明確な誤りだとして外すと、残りは2点になります。そうすると、0と点が2つ合計3点で、直線が引けないことはないのですが、自信がもてません。
 実際に、任意の3点を描き、それで検量線を引いて下さい。どうですか。もう一点、加えると信用度が格段にUPしませんか。

 蛍光の場合は、直線ではなく、縦軸を対数にすると、相関係数が高くなったりします。蛍光なら、0.95程度でも使用できるのでは。

 検量線が引けないのは、測定法自体に問題がありませんか。特に、バックグランドが高いと(下駄が高いとも表現します)、その影響が大きすぎることがあります。このような場合、前処理をすることが一般的です。

>同一のものを2回測定とは?常に2連で行っていますが、いみないですか?
検量線の点数と精度は関係ないですか?

何点とるかは、研究者次第です。もちろん、点数が多ければ多いほど、平均化されるので、精度(バラつき)は上がります。が、確度(真の値にどれだけ近いか)は、無関係です。極端な話ですが、100と出るところを、50と出た場合、50に近い値がでて、平均値は50になっても、測定を何度繰り返しても、100に近づくことは無いでしょう。

 検量線の点は、それ自体に誤差を含んでいます。ですから、検量...続きを読む

Q検量線について

検量線が必要な理由と検量線の使い方を教えてください!
また、ブランクは何故必要なのかも教えてもらえると嬉しいです。よろしくお願いします(>▽<)

Aベストアンサー

機器を用いて物質の量などの情報を得る場合に標準試料を
使うときがあります。標準試料を用いてその機器で計測すると、
その機器を用いて測定する対象(物質量、濃度など)と
その機器のアウトプット(電流値など)の関係がわかります。
よって、機器のアウトプットから測定対象の値をもとめることが
可能となりますが、標準試料を用いたときの機器のアウトプットではない
値が出た場合はどのようにしたらいいのでしょうか?
例えば、2種の標準試料で2つのアウトプットがでたとして
(通常2点で検量線をひくことはありえませんが)、
未知の試料を計測したとき、その中間値となるアウトプットが出た場合、
測定対象の値は2種の標準試料の測定対象の平均値と
するべきか?ということです。

つまり標準試料だけでは間の値は保証されないわけです。
そこで検量線が必要となります。

測定する対象と機器のアウトプットは比例関係にあることが
多いのですが、機器によってはそうでないものもあります。
そこで標準試料の測定対象と機器のアウトプットをプロットし、
直線近似できる、あるいは2次式近似であるなど各々が
ある関係にあることが証明できてはじめて未知試料に
当てはめることができるというわけです。そのために
検量線をひく必要があります。

またブランクをする必要は、機器のノイズなどにより、
試料を入れていなくてもアウトプットが出る可能性が
あります。またイオンクロマトグラフィなどで純水を
使う場合、純水といっても完全に除去できるわけではないので、
場合によっては純水に含まれる微量なイオンが検出される
可能性があります。このように、何もない状態でも
アウトプットとして出てくるものを除去するために
ブランクでの値を把握する必要があります。

機器を用いて物質の量などの情報を得る場合に標準試料を
使うときがあります。標準試料を用いてその機器で計測すると、
その機器を用いて測定する対象(物質量、濃度など)と
その機器のアウトプット(電流値など)の関係がわかります。
よって、機器のアウトプットから測定対象の値をもとめることが
可能となりますが、標準試料を用いたときの機器のアウトプットではない
値が出た場合はどのようにしたらいいのでしょうか?
例えば、2種の標準試料で2つのアウトプットがでたとして
(通常2点で検量線をひ...続きを読む

Qエクセル STDEVとSTDEVPの違い

エクセルの統計関数で標準偏差を求める時、STDEVとSTDEVPがあります。両者の違いが良くわかりません。
宜しかったら、恐縮ですが、以下の具体例で、『噛み砕いて』教えて下さい。
(例)
セルA1~A13に1~13の数字を入力、平均値=7、STDEVでは3.89444、STDEVPでは3.741657となります。
また、平均値7と各数字の差を取り、それを2乗し、総和を取る(182)、これをデータの個数13で割る(14)、この平方根を取ると3.741657となります。
では、STDEVとSTDEVPの違いは何なのでしょうか?統計のことは疎く、お手数ですが、サルにもわかるようご教授頂きたく、お願い致します。

Aベストアンサー

データが母集団そのものからとったか、標本データかで違います。また母集団そのものだったとしても(例えばクラス全員というような)、その背景にさらならる母集団(例えば学年全体)を想定して比較するような時もありますので、その場合は標本となります。
で標本データの時はSTDEVを使って、母集団の時はSTDEVPをつかうことになります。
公式の違いは分母がn-1(STDEV)かn(STDEVP)かの違いしかありません。まぁ感覚的に理解するなら、分母がn-1になるということはそれだけ結果が大きくなるわけで、つまりそれだけのりしろを多くもって推測に当たるというようなことになります。
AとBの違いがあるかないかという推測をする時、通常は標本同士の検証になるわけですので、偏差を余裕をもってわざとちょっと大きめに見るということで、それだけ確証の度合いを上げるというわけです。

Q検量線と定量範囲(初心者)

検量線の直線性(ex. R^2の最小値)と定量範囲の上限の判断の基準(ex. 直線範囲の上80%)はあるのでしょうか。
新しく制作した装置の検出下限・定量範囲などを決めるにあたって、検量線(線形回帰)を引いてみました。
その際、上限の6点でのR^2は0.9999~0.9991となり、このうちのいずれを採るべきか思案しています(x軸としてはたとえば6~11ngといった値)。
また定量上限についても手元にある資料にはその記述が見あたらなく、どのように判断すればよいかわかりません。

Aベストアンサー

「定量範囲=測定結果に再現性がある範囲」とすれば良いと思います。直線から外れてくる場所でも正確に再現性がとれているなら,それは正しい結果と捉えることが出来るでしょう。背景となっている理論に線形性があっても,実際の測定で線形性がないということは多々あることです。それは多くの場合,そこに線形性が保たれない別のファクターがあるからであり,測定自体が出来ていないわけではありません。

次に相関係数について,最小二乗法の結果を測定装置の検量線として使う場合,相関係数がいくらなら良いとか悪いとか言うのは変だと思います。相関係数を求めるのではなく,残差平方和から y 軸の標準偏差を求め(もしくは誤差の伝搬をさせて x 軸の標準偏差を求め),測定結果の信頼限界を求めるのが良いかと思います。

Q検量線について・・・。

比色分析実験の過マンガン酸カリウム溶液による検量線の作製でレポートと一緒にグラフも提出するようになっています。検量線の引き方が分かりません。担当の先生は「適当に引いてていいけど本当はここしか引けない所がある。」と言っていました。その「ここしか引けない」検量線の求め方を教えてください。
説明不足だったらすみません。

Aベストアンサー

>ここしか引けない所
 は、Zero点です。
 濃度Zeroの吸光度は、Blank値が有るにせよ、Zeroにならなければいけません。
 従って、Graph上で原点を通る様に引きます。
 測定誤差があるので、最少自乗法では殆どの場合、原点を通る様にはならず、目分量で物差しを当てた線もなかなかどうして、立派なものですよ。
 Excelで原点を通る様に設定する事は簡単ですが、結局、内容は物差しで原点を通すのとあまり変わりません。


このQ&Aを見た人がよく見るQ&A

おすすめ情報