![](http://oshiete.xgoo.jp/images/v2/pc/qa/question_title.png?8acaa2e)
仕事で、あるデータを取り扱っています。
その際に、四捨五入して計算結果を出そうとしているのですが、その場合の表記方法に悩んでいます。
例えば、3桁で表記したい場合、『11.54 → 11.5 、10.36 → 10.4』とかにします。(敢えて書くまでもないですが・・・。)
しかし、そのデータが、『9.995』だった場合は、この結果を「3桁で表示させたい」と考えたとき、『10.0』とするのと『10.00』とするのは、どちらが正しいのでしょうか。
たまたま他の数値が上に上げたように『XX.X』なので、気分的には『10.0』の方が見栄えがよくていいのですが、例えば有効数字とかの数学的な見方からすると、どうでしょうか。(この数字を出すために用いた数字に3桁のものがあるため。)
また、『9.994・・・』という数字を四捨五入して『10.0』とするのは反則でしょうか。
(3桁での表示(4桁目で四捨五入)という考えから)
ご意見お聞かせください。 m(_ _)m
No.2ベストアンサー
- 回答日時:
こんにちは!
設計として、数値を扱ってる立場での考え方で申し上げます。
出てきた数値が、10.0と10.00ではまったく違って捉えます。
10.0が10.09をネグった(有効数字)ものなのか、10.04を四捨五入したものか、が問題になる場面が多々あります。
他の数値との関連で、根拠が明確になっていれば、良いと思われますので、
ご質問の例では「10.00」が実際に扱われる時に、小数点以下2桁を必要とするのかどうかで変わります。
あくまで有効数字・・・・
ということなら、10.0で良いのではないでしょうか。
ちなみに、実際に解析で使用するときには、現在有効数字4桁で使用してますので、
#1さんの言われる表記で扱っています。
例でいえば、9.994→9.994×10^0 です。
No.3
- 回答日時:
回答は今までの方のものであっています。
気になるのは、有効数字に従うのであれば、四捨五入はいいんですが、>この数字を出すために用いた数字に3桁のものがある
となると、この有効数字 3 桁の数値に対し、四則演算を一回行なった結果でてくる数値の有効数字は 2 桁なんですが。そこで 3 桁にこだわっても数学的には意味はなく、この場合でしたら、2 桁までが意味があって、その後は、3 桁にしようと 4 桁にしようと、全く同じことなんですが。
No.1
- 回答日時:
こんにちは。
有効数字を考えた場合は、指数表示を使って次のように表記するのが良いように思います。
11.54→1.15×10^1
10.36→1.04×10^1
9.995→1.00×10^1
9.994→9.99×10^0
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 教育学 エクセルで小数点以下を四捨五入について教えてください。 2 2023/04/05 17:33
- Excel(エクセル) エクセルのセルの書式設定・ユーザー定義の条件設定について 1 2022/08/17 21:56
- 数学 昔の日本人の身長表記の尺や海外の身長表記のフィートはcmに直すと小数点がつきますが、その小数点はフィ 2 2022/04/12 21:26
- 高校 高校化学有効数字計算 4 2023/02/26 09:09
- 数学 小数点の計算についてです。 答えは与えられた数字の中で最も少ない桁に四捨五入で合わせるのですが、ひと 2 2023/04/04 15:19
- 統計学 155.2、164.4といった数字で平均値を出す場合は、その数字を四捨五入で整数にしてから÷個数で求 13 2022/10/12 16:12
- 数学 数学『データの分析』 √22を少数にする際 「4.6904…」だったので 4を四捨五入し0を切り捨て 2 2023/03/09 23:30
- 数学 数学『データの分析』 √22を少数にする際 「4.6904…」だったので 4を四捨五入し0を切り捨て 5 2023/03/03 12:59
- 薬学 薬物の 90%が消化管で吸収され 30%が肝臓で初回通過効果をうけ、他に減少がない場 合の 2 2023/01/14 16:12
- 統計学 統計学の問題です。教えてください(_ _) 数万人の有権者がいる選挙区で, 無作為に400人の標本を 2 2023/02/03 15:27
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
10分の1は「10/1 それとも1/10...
-
MTBFについて
-
0.1と0.10の違いを教えて下さい。
-
稼働率?利用率?の求め方
-
1億x1億はいくらでしょうか?
-
5進法を10進法への直し方
-
50以下は“50”も入るのですか?
-
どのビットが誤っているか求め...
-
実績を積むという表現
-
固定小数点数、浮動小数点数に...
-
「最大300字程度」
-
電磁気学の流束の問題
-
10進数の50を2進数で表すといく...
-
16進小数0.Cを10進数小数に変換...
-
100以下の自然数のうち、次のよ...
-
32bitの浮動小数点数表現につい...
-
偏微分の記号をタイプするため...
-
8進数から16進数 16進数から8進数
-
Excel 16進数
-
行列 対称 変換
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
おすすめ情報