家・車以外で、人生で一番奮発した買い物

基本的な質問で恐れ入りますが、数字を有効数字4桁とし、
切り上げで丸める場合、以下の考え方で正しいのでしょうか。

・パターン1
123.4006 → 123.5
・パターン2
11000.0001 → 11010

切り上げを有効数字5桁目だけで考えると、両パターン共に「0」ですので、
切り上げが発生せず、それぞれ103.4、11000となるような気がしてどちらが正しいのか悩んでおります。

A 回答 (5件)

厳密で一般的な定義が存在するかわかりませんが



四捨五入は1個下の桁を見れば行えるので、
切り上げも同じようにできるという誤った
認識が広がったのではないかと思います。

まるめとは、値を丸める「境界」を定義することなんですが

123.409 → 123.4
123.410 → 123.5

これだと 123.410000000000000000000 に丸めの境界があることになりますが、
なんか半端ですよね。

123.400000000000000000000 とか 123.500000000000000000000 を境界として
ここで丸め値が変わる、というのが一般的な切り上げの定義だと思います。
    • good
    • 0
この回答へのお礼

ご回答ありがとうございます。
まるめ境界をどこに置くかがポイントということですね。
ありがとうございます。
参考にさせていただきます。

お礼日時:2012/10/15 10:54

何か私が知っている「数検」とはどうも別組織のようだが、いずれにせよ切り上げの意味は前に書いたとおり。

    • good
    • 0

数週間前にだれか別の方も「学校では間違って教えている事もある」と注意していたが、切り上げというのは「必要な位より下の数がすべて0でないかぎり、求める位の数を1大きくすること」であって



http://www.suriken.com/knowledge/glossary/round- … 数検の用語集

必要な位の一つ下しか見ない、というのは正しくない。よってあなたの最初の考え方であっている。
    • good
    • 0
この回答へのお礼

ご回答ありがとうございました。
リンクを確認いたしました。

有効数字での丸めであっても、切り上げの定義は同じということですね。

お礼日時:2012/10/15 10:46

有効数値4桁にまるめる必要があると言うことは、前の数字が10桁とかたくさんあったとしても、5桁目にはすでにかなりの誤差が含まれていて、6桁目以降は単なるゴミで意味をなさないと言うことです。


従って、5桁目だけを見ます。
    • good
    • 0
この回答へのお礼

ご回答ありがとうございます。
有効数字の範囲にある数字を重要とし、端数以降は誤差とみなす考え方ですね。
参考にさせていただきます。

お礼日時:2012/10/15 10:42

 


有効数字4桁で切り上げるなら、5桁目を切り上げます
だから

・パターン1
123.4006 → 123.5
・パターン2
11000.0001 → 11000

そうでないと
1000.00000000000000000000000000000000000000000000000000000000000001

1001になってしまいます
 
    • good
    • 0
この回答へのお礼

ご回答ありがとうございました。
有効桁の次の桁で切り上げを判断するパターンですね。
参考にさせていただきます。

お礼日時:2012/10/15 10:39

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています


おすすめ情報