No.1ベストアンサー
- 回答日時:
LU分解に限らず、Javaにも限らない、
コンピュータによる数値計算の一般的な問題として、
浮動小数点演算では精度の問題があります。
数学的には「1÷3×3」は「1」ですけど、
小数点演算では「1÷3」の時点で、0.3333333となって、これを3倍にしても0.9999999であり、1にはなりません。
(実際には、PC内部では10進数ではなく2進数ですが、上記の10進数での説明と問題の本質は同じです。)
「有理数演算ライブラリ」でも作って、浮動小数点数ではなく有理数で演算を行うようにすれば、
LU分解などについてはPC上でまったくの誤差なしに演算が可能です。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
関連するカテゴリからQ&Aを探す
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・14歳の自分に衝撃の事実を告げてください
- ・架空の映画のネタバレレビュー
- ・「お昼の放送」の思い出
- ・昨日見た夢を教えて下さい
- ・【お題】絵本のタイトル
- ・【大喜利】世界最古のコンビニについて知ってる事を教えてください【投稿~10/10(木)】
- ・メモのコツを教えてください!
- ・CDの保有枚数を教えてください
- ・ホテルを選ぶとき、これだけは譲れない条件TOP3は?
- ・家・車以外で、人生で一番奮発した買い物
- ・人生最悪の忘れ物
- ・【コナン30周年】嘘でしょ!?と思った○○周年を教えて【ハルヒ20周年】
- ・ハマっている「お菓子」を教えて!
- ・最近、いつ泣きましたか?
- ・夏が終わったと感じる瞬間って、どんな時?
- ・10秒目をつむったら…
- ・人生のプチ美学を教えてください!!
- ・あなたの習慣について教えてください!!
- ・牛、豚、鶏、どれか一つ食べられなくなるとしたら?
- ・都道府県穴埋めゲーム
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
テキストファイルを読み込んで...
-
memcpyで画像を送りたいのです...
-
byteからshortへの変換について
-
replaceAllの使い方
-
String型の値が大文字か小文字...
-
ダブルクォーテーションを含む...
-
android HashMapのValueが取得で
-
変更される可能性がある定数の...
-
matchesを否定文として使う方法...
-
VBAで配列の計算
-
最後の行に移動するには?
-
パソコンキーボードで時分秒を...
-
全角英数字とハイフンを半角に...
-
Java配列でNullPointerExceptio...
-
Javaで改行などが出来ないのです。
-
[JAVA]try 内の変数を外で!?
-
EXCEL VBA で、0から?1から?
-
VBで作った乱数を一度も重複さ...
-
世界測地から日本測地への変換...
-
元旦からの日数を入力して、何...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
ダブルクォーテーションを含む...
-
wsprintf関数の使い方について
-
DateTimePickerに値を入れたい...
-
javaのCSVデータ読込についてです
-
ArrayListの要素数の上限
-
C言語の変数(LSB)の合わせ込...
-
BCD形式で時刻を!
-
Stringクラスの変数の格納アド...
-
excel vba 時間計算と条件分岐...
-
ResultSetの内部構造(Java)
-
getParameterの値変更
-
matchesを否定文として使う方法...
-
PSQLExceptionが発生する
-
実行シェルからCOBOLへパラメー...
-
結合した文字列をファイル名に...
-
char型での演算子
-
JSPでHashMap・配列の変数の値...
-
VB6,論理演算子Orの使い方がわ...
-
Evaluate()に文字列の形式の数...
-
DOSバッチで変数の値を変数名に...
おすすめ情報