No.3ベストアンサー
- 回答日時:
有効数字2桁にするのに、
0.6449
一番下の桁の「9」を四捨五入して、
0.645
まだ3桁なので、再度一番下の「5」を四捨五入して、
0.65
とかって計算した?
四捨五入するってのは多少の誤差を丸める操作ですから、何度も繰り返すのは良くないです。
特に上の場合、小数第4位の四捨五入の結果で、それより大きい値の小数第3位の四捨五入を切り上げるか/切り捨てるかが変わっちゃいます。
もっと言うと、別の例で有効数字を1桁に丸めるとして、
0.444444…(=4/9)を0
0.444444…5を1
にするってのを数直線で考えると、偏ってるのが分かると思います。
ズレるかもですが、
|――|――|――|――|――┃――|――|――|――|――|1.0
0.0 ↑この辺で切り捨て/切り上げの判断しちゃってる
上の数直線だと、
0.5未満を0
0.5以上を1
に丸めるってのが適切ですから、元の問題に戻って、
0.6449 を有効数字2桁にするなら、
0.64(4)9 の4に注目して四捨五入
0.64
とするって事になります。
--
別の数値の例で、
0.6499
一番下の桁の「9」を四捨五入して、
0.65
と繰り上がりするのと混同しちゃったとか?
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 高校 有効数字の問題です。 2×1.41は2の有効数字は1で1.41の有効数字は3なので少ない方に合わせて 5 2022/05/14 18:22
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
- その他(形式科学) モル濃度 計算 質問 2 2023/06/02 16:43
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- Excel(エクセル) 開くと警告の出るExcelファイルの中身を何とか見たいのですが。。。 4 2023/05/24 17:20
- 化学 27℃ 1+10^5Paで水1mlに溶ける気体の量を標準状態のきたいの体積に換算して表した。 27℃ 2 2023/08/28 19:04
- 労働相談 有給休暇使用時の賃金の計算方法について 5 2022/04/04 00:02
- 高校 高校化学有効数字計算 4 2023/02/26 09:09
- 離婚・親族 自作の離婚契約書?について 4 2022/03/29 15:52
- Wi-Fi・無線LAN PCWi-Fiの設定方法がわからなくて困っています。 4 2022/12/28 18:30
関連するカテゴリからQ&Aを探す
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
担任に「指定校(推薦)はあげ...
-
今の現状、高校相談、将来 自分...
-
偏差値50の高校に通う高校1年生...
-
偏差値50の高校に通うの高1で...
-
除籍になった高校に入れますか?
-
大卒の新卒就活で高校名書かな...
-
明日現代文のテストなのですが...
-
今の高校って、テスト期間にま...
-
中3、今から本気では遅い?
-
多くの回答が欲しく、初めて質...
-
99パーの大卒より工業高校の方...
-
e^-jnπ=cos(nπ)-jsin(nπ)ですか?
-
次中三の現中2です。僕は全校集...
-
高校一年男子です。 バイトしよ...
-
情報処理のプログラミングの検...
-
数Ⅰのグラフ問題について質問で...
-
友達を生徒会長に推薦するとき...
-
クラーク高校でのテストについて
-
身体測定について 男です。木曜...
-
至急! この問題の(2)で答えに0...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
30以下の正の奇数を教えてください
-
物理の自由落下の答え方につい...
-
次の商を、四捨五入で10分の1の...
-
3歳差や5歳差は同世代というに...
-
I'd って何の略ですか!?
-
520を100の位で四捨五入すると...
-
小学4年生の問題で百の位を四捨...
-
百のくらいを四捨五入して1000...
-
四捨五入わかんない!誰か教え...
-
ある整数を20で割って、小数第1...
-
有効数字の問題です。 なぜ0.65...
-
人が群れると何で弱くなるの?
-
今ドリルをやっているんですが...
-
1.019を小数第2位で四捨五入し...
-
算数
-
なぜ熱処理によって組織が粗大...
-
緩く教育されてきた者に厳しく...
-
51.365を有効数字3桁にした場合...
-
JKってなんですか?
-
1539,を四捨五入して百の位の概...
おすすめ情報