A 回答 (2件)
- 最新から表示
- 回答順に表示
No.2
- 回答日時:
(a)(b)について答ます。
数学の問題でなく、単なる桁落ちの問題で
(a)浮動小数点の演算で、極端に小さい数と極端に
大きな数を足しても、極端に大きな数にしかなりません。
x+y-y=(x+y)-y
とみなせば、xを極端に小さい数、yを極端に小さい数とすると
(x+y)の計算結果はyになってしまいます。Excelで
計算したところ
x=1E-8
y=1E300
で x+y-y=0
になりました。
(b)数学的には
(a^2+b^2)(c^2+d^2)>=(ac+bd)^2
になるはずです。ですけれど、コンピュータの計算では極端に小さい浮動小数点の掛算は規格上0になります。そこで、
aとbに極端に大きな数
cとdに極端に小さな数
にすると、
(c^2+d^2)
が0になてしまい、(a^2+b^2)(c^2+d^2)も0になってしまうと思います。Excelで
a=6.00E+150
b=6.00E+150
c=1.00E-300
d=1.00E-300
としたら
(a^2+b^2)(c^2+d^2)=0.00E+00
(ac+bd)^21.44E-298
になりました。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- C言語・C++・C# C言語初心者 構造体 課題について 2 2023/03/10 19:48
- C言語・C++・C# C言語初心者 構造体 課題について 1 2023/03/10 19:30
- 数学 以下の問題が分かりません。 8ビット浮動小数点数が、最上位ビットから順に符号1ビット、指数部3ビット 4 2023/07/22 16:06
- その他(データベース) Accessフォームにて指定のフィールドの平均値を小数点第一位で表示できない 2 2022/08/30 17:19
- C言語・C++・C# このプログラミング誰か教えてくれませんか 1 2022/06/02 15:27
- C言語・C++・C# このプログラミングの問題を教えてほしいです。 キーボードからデータ数nとn個のデータを入力し、平均値 3 2022/12/19 22:51
- その他(プログラミング・Web制作) プログラミング pythonの問題について 2 2022/04/19 00:41
- Excel(エクセル) エクセルの数式で教えてください。 1 2023/02/15 08:30
- 統計学 確率統計の問題です。 3 2022/04/07 04:39
- 大学受験 ある大学の数1Aの問題なのですが、回答に解説がなく 困ってます。誰か解説をつけて欲しいです 2つのx 3 2022/11/11 22:50
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
16進数 加算 減算 C言語
-
c languageで 簡単な質問があ...
-
floatの有効桁数
-
O(n log n)について2
-
計算の丸め誤差の解消について
-
ExcelでPC(パソコン)によって...
-
ExcelのINT関数の計算結果がお...
-
符号誤り率の計算は例題でどの...
-
計算に誤差が出る?
-
VB.net Double と...
-
C++の打切り誤差についてお聞き...
-
除算を使わずに10で割りたい。
-
double型からfloat型への型変換...
-
有効数字について 以前質問をし...
-
C#にて電卓を作りたいのですが...
-
EXCELの関数"STDEV(標準偏差)"...
-
2進数の足し算(C言語)
-
色の判定
-
符号付整数の演算結果を答えよ ...
-
多桁計算
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
O(n log n)について2
-
三角比の俯角の計算
-
c languageで 簡単な質問があ...
-
16進数 加算 減算 C言語
-
ExcelでPC(パソコン)によって...
-
VB.net Double と...
-
”/”を使わずに割り算したいんで...
-
ExcelのINT関数の計算結果がお...
-
有効数字について 以前質問をし...
-
floatの有効桁数
-
三菱シーケンサ(Aシリーズ)で...
-
距離から緯度経度を求める方法
-
VBAでミリ秒まで出力する方法
-
EXCELの関数"STDEV(標準偏差)"...
-
除算を使わずに10で割りたい。
-
C言語プログラミングにて、arct...
-
VB6.0での小数点の扱いについて
-
VBAでの割り算の余りの求め方
-
255の2の補数、B'00000001'が-...
-
変換指定子%22-16gの表示...
おすすめ情報