有効数字について

化学の問題の答えの話なんですが、たとえば、

K=10^123.456789

という答えが出て有効数字４桁まで求める場合どうするべきなんでしょうか？

教えてください。

No.1 回答者： ADEMU 回答日時： 2002/09/01 21:17

小数点第２位を四捨五入して１２３．５とするのが正解でしょう。

でも、問題の本質でKが９．９９９×１０＾９９９９という形を求めているのであればそちらで表現するべきでしょう。つまり、この後Kの対数をとるのであればそのままの数字で良い訳で、わざわざ変換する必要はないということです。

この回答へのお礼

質問の意味が通じたかどうか登録したあとで心配していました。
私の迷っていたことをちょうど書いてくださって助かりました。
どうもありがとうございました。
お礼を言うのが遅くなってごめんなさい。

お礼日時：2002/10/31 17:30

No.2 ベストアンサー 回答者： ymmasayan 回答日時： 2002/09/01 22:28

問題に間違いがないとすれば、

Ｋ＝１０＾０．４５６７８９　×　１０＾１２３
です。
前の部分（１０＾０．４５６７８９）を計算すれば（関数電卓）
２．８６２７８６７６・・・　となります。
求める有効数字４桁は２．８６３です。

答えは２．８６３×１０＾１２３　です。

この回答へのお礼

どうもありがとうございました。助かりました。
お礼を言うのが遅くなってごめんなさい。

お礼日時：2002/10/31 17:26

No.3 回答者： nozomi500 回答日時： 2002/09/04 20:43

化学の問題、というのが気になりますが、

本当に問題が、K=10^123.456789 （１０の123.456789乗）であれば、2の方の回答になると思います。

１の回答の「123.5」になることはありません。
（１０の３乗で、すでに１０００ですから）

この回答へのお礼

ymmasayanさんとADEMUさんの回答を見比べながら困っていました。
どうもありがとうございました。
お礼を言うのが遅くなってごめんなさい。

お礼日時：2002/10/31 17:25