No.1ベストアンサー
- 回答日時:
LU分解に限らず、Javaにも限らない、
コンピュータによる数値計算の一般的な問題として、
浮動小数点演算では精度の問題があります。
数学的には「1÷3×3」は「1」ですけど、
小数点演算では「1÷3」の時点で、0.3333333となって、これを3倍にしても0.9999999であり、1にはなりません。
(実際には、PC内部では10進数ではなく2進数ですが、上記の10進数での説明と問題の本質は同じです。)
「有理数演算ライブラリ」でも作って、浮動小数点数ではなく有理数で演算を行うようにすれば、
LU分解などについてはPC上でまったくの誤差なしに演算が可能です。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
関連するカテゴリからQ&Aを探す
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・街中で見かけて「グッときた人」の思い出
- ・「一気に最後まで読んだ」本、教えて下さい!
- ・幼稚園時代「何組」でしたか?
- ・激凹みから立ち直る方法
- ・1つだけ過去を変えられるとしたら?
- ・【あるあるbot連動企画】あるあるbotに投稿したけど採用されなかったあるある募集
- ・【あるあるbot連動企画】フォロワー20万人のアカウントであなたのあるあるを披露してみませんか?
- ・映画のエンドロール観る派?観ない派?
- ・海外旅行から帰ってきたら、まず何を食べる?
- ・誕生日にもらった意外なもの
- ・天使と悪魔選手権
- ・ちょっと先の未来クイズ第2問
- ・【大喜利】【投稿~9/7】 ロボットの住む世界で流行ってる罰ゲームとは?
- ・推しミネラルウォーターはありますか?
- ・都道府県穴埋めゲーム
- ・この人頭いいなと思ったエピソード
- ・準・究極の選択
- ・ゆるやかでぃべーと タイムマシンを破壊すべきか。
- ・歩いた自慢大会
- ・許せない心理テスト
- ・字面がカッコいい英単語
- ・これ何て呼びますか Part2
- ・人生で一番思い出に残ってる靴
- ・ゆるやかでぃべーと すべての高校生はアルバイトをするべきだ。
- ・初めて自分の家と他人の家が違う、と意識した時
- ・単二電池
- ・チョコミントアイス
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
excel vba 時間計算と条件分岐...
-
ダブルクォーテーションを含む...
-
インクリメント/デクリメント演...
-
初回のスピンボタンの挙動
-
Stringクラスの変数の格納アド...
-
wsprintf関数の使い方について
-
byte配列→float型の値を読みlon...
-
matchesを否定文として使う方法...
-
VB6で固定長の文字列の長さを変...
-
ArrayListの要素数の上限
-
getParameterの値変更
-
C言語の変数(LSB)の合わせ込...
-
char型での演算子
-
HTTPリクエストのリダイレクトU...
-
javaのCSVデータ読込についてです
-
UINT64→UINT32[2]にする方法
-
C#について質問です。文字列型(...
-
Excel VBA マクロ 変数を用いた...
-
replaceAllの使い方
-
DateTimePickerに値を入れたい...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
ダブルクォーテーションを含む...
-
wsprintf関数の使い方について
-
javaのCSVデータ読込についてです
-
ArrayListの要素数の上限
-
BCD形式で時刻を!
-
DateTimePickerに値を入れたい...
-
excel vba 時間計算と条件分岐...
-
日付や時刻の"01"を" 1"に変換...
-
Stringクラスの変数の格納アド...
-
C言語の変数(LSB)の合わせ込...
-
Evaluate()に文字列の形式の数...
-
char型での演算子
-
実行シェルからCOBOLへパラメー...
-
DOSバッチで変数の値を変数名に...
-
レジストリの値の取得のデータ...
-
hiddenの値を消したくない!
-
結合した文字列をファイル名に...
-
ResultSetの内部構造(Java)
-
String型の値が大文字か小文字...
-
javaの演算子の部分ですが 4行...
おすすめ情報