No.3ベストアンサー
- 回答日時:
14hは末尾4に誤差を含んでいます(実際の値は13.5h~14.4999hの間のいずれか)という意味
そして真の値で1h=60m=60x60[s]ですから
真値13.5hの場合 13.5x3600=48600[s]
真値14.4999では計算がつらいので真値14.5の場合
14.5x3600=52200
ゆえに変換後の2桁目が確定しないという事になります
したがって3桁目以降を書いてもそれは誤差まみれで無意味
よって返還後の有効数字は2桁ということになります
このことから 測定値14hなら
14h=14x3600[s]=50400=5.04x10⁴[s]
有効数字を意識して 5.0x10⁴[s]とするのがよさそうです(ちなみに有効数字の最高位は1の位にします!)
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
おすすめ情報