![](http://oshiete.xgoo.jp/images/v2/pc/qa/question_title.png?8acaa2e)
初心者で申し訳ないのですが、
今、
2531101.784317
-551549.664130
1298109.439175
-2439839.366861
3029558.903444
2808716.033509
-2235302.273335
4209602.374689
-903409.098650
-12186064.825295
この10個のデータ(ベクトル)のノルムを1にしたいと思い
計算しようと思ったのですが、
今このデータはdoubleの配列D[10]に入っているのですが、
このまま、D[i]*D[i]を計算すると、やっぱりオーバーフローを起こしますでしょうか?
調べたらdoubleは16桁までとあったので、
恐らく上か下の値が切れると思ったのですが、大丈夫なのでしょうか?
失敗する場合は、どのように対処すればよいでしょうか?
doubleよりも有効桁数のある型とかがあるのでしょうか?
すみませんが、アドバイスお願いします。
No.3
- 回答日時:
オーバーフローの問題を回避するだけなら hypot を使えばいいんだけど, それとは別に「とりあえず絶対値最大の数値ですべてを割ってから考える」のがセオリーじゃないかなぁ. どうせ最終的には「ここの値の比率」だけが問題なんだから.
ちなみに「double より有効桁数のある型があるかどうか」は処理系依存. 厳密に言うと「double より有効桁数の少なくない型」として long double はありますが, 「有効桁数が多い」とは限らない (つまり同じかもしれない).
No.2
- 回答日時:
double の有効桁数は15桁
folat の有効桁数は7桁 です
それ以上の桁を扱いたければ BCD演算でも使えばいいです
>D[i]*D[i]を計算すると、やっぱりオーバーフローを起こしますでしょうか
やってみる方が早いし、論より証拠です
単純に桁上がりがいくつかの問題です
それは算数で考えていいと思います
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- C言語・C++・C# このプログラミングの問題を教えてほしいです。 キーボードからデータ数nとn個のデータを入力し、平均値 3 2022/12/19 22:51
- Visual Basic(VBA) Excel のユーザー定義関数でソルバーが動作しない 1 2022/09/05 19:51
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- その他(プログラミング・Web制作) プログラミング 処理速度 1 2022/11/25 11:05
- 数学 賃料と専有面積のデータが60部屋分ほどがあり、 賃料÷専有面積(=1㎡あたりの賃料)の数式で計算する 2 2023/02/18 20:33
- Visual Basic(VBA) VBAで大量データの処理 3 2022/11/15 21:53
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
- C言語・C++・C# C# 浮動小数の数値文字列化 1 2022/04/18 15:15
- その他(コンピューター・テクノロジー) 【Tableau Desktop】文字列から8桁の数字を日付型(yyyyMMdd)として取得 1 2023/07/31 10:17
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
べき指数の求め方
-
チェックデジットについて
-
floatの有効桁数
-
O(n log n)について2
-
z80について
-
ExcelのINT関数の計算結果がお...
-
C言語のfloat型変数の値代入と...
-
floatの有効桁数がわからない
-
最大50桁の実数の和・差・積を...
-
浮動小数点の切り捨てで-0.5を-...
-
8進数と16進数表現について
-
有効数字について 以前質問をし...
-
C言語プログラミングにて、arct...
-
RSAとFFT
-
浮動小数点数を10進表記するア...
-
16進数とかわからないです
-
数学 数直線の見方
-
10進数からN進数に変換するプロ...
-
2÷3などの余りについて
-
「Aに対するBの割合」と「Aに対...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
O(n log n)について2
-
16進数 加算 減算 C言語
-
c languageで 簡単な質問があ...
-
VB.net Double と...
-
”/”を使わずに割り算したいんで...
-
三菱シーケンサ(Aシリーズ)で...
-
ExcelのINT関数の計算結果がお...
-
有効数字について 以前質問をし...
-
ExcelでPC(パソコン)によって...
-
除算を使わずに10で割りたい。
-
EXCELの関数"STDEV(標準偏差)"...
-
floatの有効桁数
-
VBAでミリ秒まで出力する方法
-
100桁の計算ができなくて困って...
-
2進数の足し算(C言語)
-
VB6.0での小数点の扱いについて
-
VBAでの割り算の余りの求め方
-
BCD・HEX・BINについて
-
距離から緯度経度を求める方法
-
コンピューターは指数関数をど...
おすすめ情報