A 回答 (5件)
- 最新から表示
- 回答順に表示
No.5
- 回答日時:
有効数字をどこまで取るかによって、0.10となるか0.1にするかで違います。
有効数字の観点で見ると、0.1となっていればより正確には0.06かも知れないし、0.14かも知れない....ってことです。もし0.10なら、より正確には0.095かも知れないし0.103かも知れない....ってことですね。
No.4
- 回答日時:
0.1は0.15-0.05の範囲のどれか
0.10なら0.105-0.095の範囲のどれか
精度が一桁違います。
実務的なことで、説明すると、
バイクのタペットクリアランスの調整値が0.1なんて書いてあったら、
作業ができません。
0.10ならできます。
たいてい0.1±0.015とか書いてありますけどね。
No.3
- 回答日時:
有効数字の桁数の違いで、何桁まで数字の信頼が置けるかどうか表しています。
0.1 は、普通、小数点以下2位で四捨五入の操作を行うので、0.05かもしれないし、0.14かもしれないです。
0.10となると、小数点以下3位で四捨五入の操作を行うので、0.095かもしれないし、0.104かもしれないです。
有効な数字の桁数が違うと精度も変わってきます。
数学では計算過程を勉強することに主眼が置かれますが、
化学や物理などでは有効数字が重要視され、それの扱いがちゃんと行われているかどうかが試験の配点にも影響したりします。
本当は、JISの規格だったり学会や業界の慣例で、四捨五入等の数字の丸め方の方法なども変化してくるので非常に面倒なものです。
中高の授業では、さらっとやるだけなので尚更分り難いものになっていますね。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
このQ&Aを見た人はこんなQ&Aも見ています
関連するカテゴリからQ&Aを探す
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
10分の1は「10/1 それとも1/10...
-
0.1と0.10の違いを教えて下さい。
-
解説お願いします。 m/n 冗長シ...
-
基本情報技術者試験の問題です...
-
原価計算で・・・
-
「最大300字程度」
-
1億x1億はいくらでしょうか?
-
実績を積むという表現
-
50以下は“50”も入るのですか?
-
100以下の自然数のうち、次のよ...
-
偏微分の記号をタイプするため...
-
言葉遣いについて ○○を取りに行...
-
5進法を10進法への直し方
-
高窓(ハイサイド窓)を平面図...
-
「充足に達しましたので」これ...
-
16進小数0.Cを10進数小数に変換...
-
EXCELで10進数表記をB...
-
dBm/HzからdBm/MHzへの単位変換
-
高校数学 式変形
-
エクセル関数で源泉徴収額を計...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
10分の1は「10/1 それとも1/10...
-
0.1と0.10の違いを教えて下さい。
-
故障率の算出方法
-
有効数字3桁 有効数字3桁で4桁...
-
これ、正解ですか?
-
四捨五入で桁が変わる場合の表...
-
MIPS値の計算
-
ド・モルガンの法則について
-
稼働率?利用率?の求め方
-
切り上げ 切捨て 四捨五入 の...
-
基本情報技術者の問題で・・・
-
解説お願いします。 m/n 冗長シ...
-
計算量のオーダについて
-
原価計算で・・・
-
トリップフリーって何ですか? ...
-
単なる理想値なのかも知れませ...
-
基本情報技術者試験の問題です...
-
逆ポーランド法の表記について
-
情報の問題です 装置Aと装置B...
-
血清浸透圧のついて
おすすめ情報