
http://oshiete1.goo.ne.jp/kotaeru.php3?q=88809
の質問に関連して、質問します。
arataさんの回答にありました参考URL
http://www.microsoft.com/mscorp/worldwide/japan/ …
を見ました。
そこにあった記述でわからないことがありました。「数値の丸め」の項に
「Visual Basic 4.0 で数値の丸めが発生するケースは、主に代入と
Format 関数があります。
代入する値が代入先のデータ型の有効けたを超える場合に丸めが行われます。
ここでの丸めは IEEE (米国電気電子技術者協会) 規格のうちでもっとも
一般的である "いちばん近い偶数に丸める" という方法をとっています。
例えば整数型への代入では、1.5 は 2、2.5 も 2、3.5 は 4 に変換されます。
これは四捨五入より結果に片寄りが少なく、誤差の累積が最も少ない方法の
ひとつです。」
この「いちばん近い偶数」を選ぶ理由は何でしょうか?
なぜ奇数はダメなのか?ご存知の方、教えてください。
No.3ベストアンサー
- 回答日時:
四捨五入の場合
0.1,0.2,0.3,0.4の4つの値が小さく
0.5,0.6,0.7,0.8,0.9の5つの値が大きくなります。
均等に値が発生するとして、値の変化は
-0.1-0.2-0.3-0.4=-1
0.5+0.4+0.3+0.2+0.1=1.5
ですから、0~99の間で、100個の値が発生する場合、0~1毎に0.5ずれるのですから、+0.5*10で+5ずれる可能性が高いわけです。これは結構大きな値ですね。
IEEEの丸めの場合
奇数では、0.5は切上げ、偶数では切り捨てられますから、
誤差の累積が0に近いわけですね。
ですから、合計値の誤差を問題にする場合は、後者の方が、合理的ですね。ちなみに、前者を算術型、後者を銀行型の丸めといいます。
本当かどうか知りませんが、アメリカの銀行では後者を使用していると聞いています。
で、偶数か、奇数かですが、どちらでも同じだと思います。どっちでもよくて、偶数に決めたのでは?
No.2
- 回答日時:
推測ですが、これは少数を記録する方式の問題だと思います。
少数は0.xxxxx×10^xxという方式で、xxの部分をすべて2進数で記録するので、2の倍数にするのが都合がよく、奇数にすると誤差が増えてしまうのでしょう。
これはおそらく、浮動小数点型という少数の記録方式を理解すれば、わかることだと思います。
私はあまり突っ込んでいませんが、調べてみては?
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 政治 中国は一票の格差4倍で、日本は3倍ですが、それでも日本は民主主義国なら中国も同じですよね? 2 2023/03/16 04:52
- JavaScript 助けてください‼︎ javascriptで質問があります。 配列を定義して、 29342、45342 3 2022/06/26 22:06
- 日本語 読解力の質問です(Excel含む) 12 2022/08/02 13:25
- 統計学 回帰分析検証不一致 5 2022/05/04 20:48
- その他(自然科学) 風車音の測定 3 2023/04/28 07:12
- 経済学 ミクロ経済の問題 準線形効用関数 4 2022/08/14 00:58
- 数学 数2Bの数列の問題です。 自分は、 まず数列 an=ar^(n-1)と置き こちらの問題の、y= の 1 2022/07/07 16:26
- 統計学 確率統計の問題です。 3 2022/04/07 04:39
- 数学 至急!次の問題を教えてください。 ある市では、消防車の出動要請が平均して1時間当たり1回ある。 多く 2 2022/11/18 20:25
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
VBAでダブルコーテーション入り...
-
EXCEL/VBA 変数の値をクリップ...
-
jsp~jspにhiddenを使って変数...
-
VB 2008のSQL文でスペースを削...
-
【VBA】複合代入演算子
-
アセンブラ > アドレッシングモ...
-
切り上げ
-
C言語 アロー演算子について質...
-
テキストボックスの値を変数に...
-
processing エラーで、 "cannot...
-
int→unsigned int キャスト
-
エラーの意味は? Lvalue req...
-
DataTableの値を変数に代入したい
-
デバックして何を入力すればい...
-
Variant型で宣言してるのにEmpt...
-
Excel VBAでイコール二回使えま...
-
DataColumn型の使用方法
-
Excel-vba 文字列と変数を...
-
C言語 exitの使い方
-
配列の値を置換するにはどうす...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
VBAでダブルコーテーション入り...
-
EXCEL/VBA 変数の値をクリップ...
-
jsp~jspにhiddenを使って変数...
-
[VBS]変数を定数に変換する方法...
-
テキストボックスの値を変数に...
-
Variant型で宣言してるのにEmpt...
-
エラーの意味は? Lvalue req...
-
整数xxxが大き過ぎますというエ...
-
C言語 列挙型(enum型)変数について
-
VBA 1行で複数の代入を行った...
-
gridViewの行選択解除
-
PL/Iについて、教えてください。
-
JavaScriptをURLから直接実行し...
-
Accessコンボボックスにレコー...
-
プログラミングで変数と関数の...
-
【VBA】複合代入演算子
-
ASP+SQLにてSessionがNullになる
-
無名関数のメリットがよくわか...
-
processing エラーで、 "cannot...
-
VBAプログラミングで質問です ...
おすすめ情報