計算を2、3回経て、パーセントの数値を算出したいと思います。
ただ、小数点第2位(%)という細かい数値で出さなければなりません。
そこでお聞きしたいことが2つあります。
(1)その場合、パーセントにする前(×100する前)の数値は有効数字4桁
その4桁の数値を出すための計算は全て有効数字5桁で行う、という事でいいのでしょうか?
(2)手計算で有効数字5桁の計算を行うとなると、かなり大変です。
これを解決する方法はないでしょうか?
(通常の電卓は使用できますが、Excel等は使用しない前提で)
よろしくお願いいたします。
No.1ベストアンサー
- 回答日時:
ex. 98.12% 題意はこれでいいですか?
(1) 答えは、0.9812 有効数字4桁だと、計算は有効数字5桁です。
(2)関数電卓使うとか、プログラム入れれるのあります。
用途は、何ですか?
元の数字によって有効数字も変わってきます。
計算式もあれば回答しやすいです。
これだけの精度必要だと、定量分析などですか?
ご回答ありがとうございます。
会社にて作成している書類関係の計算です。
そこまでの精度はないのですが、お客様の指示にて記入が必要の為です。
関数電卓でプログラムですか…。
新人に手計算でやってもらおうと思って考えていたのですが、
やはりエクセルの方が有効数字も必要なく簡単そうですね。
ありがとうございました。
No.2
- 回答日時:
こんにちは。
(1)
おっしゃるとおり、有効数字より1桁多い状態で計算する人が多いですが、
1桁多くしないで計算してもよいという人もいます。
たとえば、私は高校の物理の授業とテストで、有効数字3桁の答えを求める際に、計算を有効数字3桁でやってよい、と習いました。
ただし、ちょっと厄介なことがあります。
有効数字4桁で、99.54% というパーセンテージがあるとします。
すると、残りは 0.46% しかなく、有効数字が2桁しかありません。
ですから、「99.54%」というパーセンテージは、有効数字が2桁しかないとも考えることができるのです。
(こういった場合、対数で考えるべきなのかもしれません。)
(2)
上記の通り、4桁で計算してもよいという考え方はありますが、
電卓を使っていいなら、少し我慢して5桁だと思います。
ご回答ありがとうございます。
おぉ、3桁でもよいのですか?初めて聞きました!
やはり通常は5桁ですよね…。
電卓使用してもミス発生しやすそうですね。
やはり、エクセル使用することにします。
ありがとうございました。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
- 労働相談 有給休暇使用時の賃金の計算方法について 5 2022/04/04 00:02
- Excel(エクセル) エクセル 関数について質問です。 2 2022/10/03 11:14
- Excel(エクセル) SUMIF関数について 4 2023/06/14 13:13
- 教育・学術・研究 実験の測定結果について。 実験で、345.8と343.3という値が出てきたとして、その平均をとるとき 1 2022/10/17 20:33
- その他(法律) 有給金額の計算について 5 2023/06/23 17:44
- その他(自然科学) 至急お願いします。 わからないです。 衛星Aは惑星Bのまわりを公転している。衛星Aの公転周期は16. 2 2022/06/09 19:33
- その他(教育・科学・学問) なぜ、0.50+0.50=1.0 になるのですか? 0.50も1.0も有効数字2桁ですので、計算結果 9 2022/11/17 18:12
このQ&Aを見た人はこんなQ&Aも見ています
-
プロが教える店舗&オフィスのセキュリティ対策術
中・小規模の店舗やオフィスのセキュリティセキュリティ対策について、プロにどう対策すべきか 何を注意すべきかを教えていただきました!
-
割合(%)を出すとき、小数第何位まで計算すればいいか?また四捨五入について質問
数学
-
0の有効数字
物理学
-
平均値、標準偏差の有効数字について教えてください。
統計学
-
-
4
化学 この問題で文章中では有効数字3桁なのに塩素の分子量は2桁で計算しているのはなぜですか?
化学
-
5
【有効数字について】 授業で、有効数字の桁数が指定なしの時は問題文(の中でも有効数字の桁数の小さいほ
物理学
-
6
統計学における有効数字について質問です。
統計学
-
7
e^(x^2)の積分に関して
数学
-
8
有効数字について
化学
-
9
有効数字が指定された測定値はなぜ整数部分が一桁の小数と10の累乗との積の形で表すのですか?
中学校
-
10
実験における誤差範囲の許容範囲の決め方ってどうやればいいんですか? また、一般的には具体的にどこ程度
大学・短大
-
11
教科書に問題文の数値が整数のみの場合は有効数字を考慮しなくて良い、とあるのですがどういうことですか?
物理学
-
12
1796.875 を有効数字3桁で表すとどうなるんですか? 1800だと有効数字2桁になりますよね?
計算機科学
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
15%増しの計算方法
-
前年比の%の計算式を教えてく...
-
パーセントの計算
-
3分2の計算教えて下さい
-
エクセルで関数計算後の値を数...
-
一定倍したある数を元に戻すには?
-
3割アップとは、どうのように...
-
ラジアン値を°′″(度・分・秒)...
-
250gを8割と2割に分けると
-
割引率の計算を教えてください。
-
「出来型」と「出来形」の使い...
-
Excelの反復計算がわかりません。
-
92人に1人を、100人あたり何人...
-
教えて下さい
-
πがついた整数と普通の整数って...
-
算数で質問です よろしくお願い...
-
指数計算 2^n-1
-
6畳間は何立方メートル?
-
(かっこ)^2のかっこ内の符号を...
-
日にちの計算が解からないらし...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
15%増しの計算方法
-
前年比の%の計算式を教えてく...
-
3分2の計算教えて下さい
-
パーセントの計算
-
ラジアン値を°′″(度・分・秒)...
-
日にちの計算が解からないらし...
-
エクセルで関数計算後の値を数...
-
ある数値の回復率の計算につい...
-
教えて下さい
-
250gを8割と2割に分けると
-
指数計算 2^n-1
-
6畳間は何立方メートル?
-
一日ずつ2倍の金額をもらい続...
-
3割アップとは、どうのように...
-
「出来型」と「出来形」の使い...
-
πがついた整数と普通の整数って...
-
毎日10%ずつお金が増える時...
-
Excelの反復計算がわかりません。
-
一定倍したある数を元に戻すには?
-
1÷無限=0ということは数(大き...
おすすめ情報