あなたの映画力を試せる!POPLETA映画検定(無料) >>

有効数字の桁に注意して、次の計算をしなさい(単位は省略しています)。

という問題の解き方?と答えを教えて下さい!何番でも構いません

「有効数字の桁に注意して、次の計算をしなさ」の質問画像

A 回答 (2件)

計算式を計算して答えは計算式の中の数字の有効数字の一番少ない数にして以降は切り捨てします。


(6)有効数字3、(7)有効数字3、(8)有効数字2、(9)有効数字3、(10)有効数字4、(11)有効数字4、(12)有効数字3、
(13)有効数字3、(14)有効数字2、(15)有効数字3、(16)有効数字3、(17)有効数字3、(18)有効数字3、(19)有効数字3、
(20)有効数字4
例 (8)(1.751-1.3)×10⁻²×6.97×10³を全部有効数字4個と仮にすると
     (1.751-1.3??)×6.97?×10です
  (1.751-1.3??)=1-1+0.7-0.3+0.05-0.0?+0.001-0.00?
  前の2つの引き算に曖昧性はありませんが残りの2つは曖昧です。あいまいな部分は捨てます。よって、引き算は0.4となります。
次に6.97?と0.4??の積は2.4+0.06?+0.006?+0.36+0.009?+0.0009?+
                0.028+0.007?+0.0007?+0.000??+0.0000??+0.00000??
になりますこれらをたすと小数点以下2桁に?が混じってきます。未知の数?を含めば有効な数字ではありません。
よって有効数字は2つで2.4+0.3=2.7となります。答えは27。
    • good
    • 0

乗除算の場合は、有効桁数を確保してください。


加減算の場合は、有効桁数を維持できる桁数を確保してください。
    • good
    • 1

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!


人気Q&Aランキング