重要なお知らせ

「教えて! goo」は2025年9月17日(水)をもちまして、サービスを終了いたします。詳細はこちら>

電子書籍の厳選無料作品が豊富!

次の解説をお願いします

電卓で計算した値が X = 6.1234 でした。X には 2%の相対誤差があることがわかっています。(1)X の誤差はどれくらいで
すか? (2)X の有効桁数は何桁ですか? (3)有効桁数を考慮して正しく X を表してください。

A 回答 (1件)

実際に計算して誤差は


0.02× 6.1234=0.1と、すでに小数第1位に及んでいる
つまり真の値は6.0から6.2だから有効数字2けたとって
6.1にすべき。
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

今、見られている記事はコレ!