No.3ベストアンサー
- 回答日時:
一般に「定義」からデジタル表示での最後の桁は1デジット上下するのが基本です。
まずこれを先に覚えておいてください、つまり「揺らぎがなくてはならない」のです。本来は15.555から15.56499999…の表示は15.56に、15.545から15.554999999…の表示は15.55に表示する「ことになっている」のです。
簡単にいうと四捨五入ですが、それと違うのは15.555付近のものをはかるとデジットが「頻繁に切り替わる」のが「正しい」ということです。
No.2
- 回答日時:
メーカーによっては.JIS規格の四捨五入を使っている場合があります。
メーカーによっては算術の四捨五入を使っている場合があります。どちらを使っているかは.製造メーカーに聞いてみないとわかりません。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- Excel(エクセル) エクセルの数式で教えてください。 3 2023/03/16 11:19
- Excel(エクセル) エクセルの数式について教えてください。 2 2023/02/18 11:30
- その他(データベース) Accessフォームにて指定のフィールドの平均値を小数点第一位で表示できない 2 2022/08/30 17:19
- 釣り 東京湾天秤タチウオの竿頭について ここのところ、3、4、5、6月と毎月東京湾天秤タチウオに行っていま 1 2023/06/11 16:37
- 物理学 電磁波と磁界、電界の優位性について 6 2023/02/19 05:20
- 化学 秤の少数点四桁まで示しているが実際投入される量は何かばらつきがあると考えますが、 今の秤でどうすれば 3 2023/04/01 13:06
- Excel(エクセル) エクセルの数式について教えてください。 2 2023/03/04 09:54
- 会計ソフト・業務用ソフト エクセルの数式で教えてください。 1 2022/06/21 13:15
- 電気工事士 10A DC100v デジタル電圧電流計と50Aシャント抵抗 9 2023/06/16 15:53
- Access(アクセス) Excelの質問 3 2023/02/09 14:57
このQ&Aを見た人はこんなQ&Aも見ています
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
高校化学の計算問題のコツを教...
-
ガラス器具の許容範囲誤差と有...
-
20000円の3分の2の計算のしかた...
-
小数第一位までのときは、第二...
-
kDaからbpへの変換について
-
化学での有効数字について(途...
-
計算結果の微妙なズレ(大学入試)
-
有効数字について
-
1.0×10のマイナス14乗÷2.0×10の...
-
活性化エネルギーの求め方が分...
-
中学理科の計算問題についてで...
-
化学 この問題で文章中では有効...
-
蒸気圧からの蒸発量
-
電子天秤のメモリ
-
等電点がマイナスってありえる?
-
年代測定法(アイソクロン)
-
カルピスの乳酸のモル濃度を書...
-
Antoine式の定数について
-
有効数字二桁
-
クエン酸水のpH
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
kDaからbpへの変換について
-
20000円の3分の2の計算のしかた...
-
ガラス器具の許容範囲誤差と有...
-
有効数字について
-
クエン酸水のpH
-
小数第一位までのときは、第二...
-
対数の誤差計算についての質問...
-
有効数字
-
化学(原子量)の有効数字
-
計算結果の微妙なズレ(大学入試)
-
活性化エネルギーの求め方が分...
-
【高校化学】有効数字の指定が...
-
ROUNDDOWNの計算が、合わないの...
-
ある化合物の水酸基価を確認し...
-
有効数字の計算についての質問...
-
第2イオン化エネルギー
-
活性化エネルギーが負になって...
-
高校化学の計算問題のコツを教...
-
pHが2.4の酢酸を5倍希釈した溶...
-
困ってます。緩衝液の作り方に...
おすすめ情報