No.7ベストアンサー
- 回答日時:
No.1 です。
>1/3
>の方が
>0.33333333333、、
>よりどこまでも正確です。
それは10進数で「表記」した場合の話。
2進数の分数がどういうものか知っていますか?
a × 2^(-1) + b × 2^(-2) + c × 2^(-3) + d × 2^(-4) + e × 2^(-5) + ・・・
= a × (1/2) + b × (1/2)^2 + c × (1/2)^3 + d × (1/2)^4 + e × (1/2)^5 + ・・・
が2進数の「0.abcde・・・」です。(2進数だと a, b, c, ・・・は「0 か 1」です)
「分数」は単なる「表記法」であって、値そのものは変わりません。
「桁落ち」は「10進数を、何桁の2進数に置き換えているか」だけの問題です。
No.6
- 回答日時:
どういう状況を想像しているんだろうか. そして, ここでいう「計算」とはいったいどのような処理なのだろうか.
世の中に「計算ソフト」なるものがただ 1種類存在しそれは「計算ソフト」と呼ぶだけで一般に理解できる, ということではなければそもそも質問自体が成立しない.
「計算ソフト」が「なんらかの計算をしてくれるプログラム」のことを指しているとしても, 一般論として「全ての『計算ソフト』でどのような『計算』をしても精度については一貫して同じ結果が得られる」という根拠はない. 従って「どちらの方が高い精度で計算してくれるのでしょうか?」にはやはり答えられない.
「1/10^4」が 0 になる可能性も否定はできないし, 内部的な事情で「1/10^4」の方が精度がよくなるということも考えられなくはない.
No.4
- 回答日時:
一概に言えません
・内部で値をどう保存しているか?
固定小数点/浮動小数点
2進数/10進数 等
・「0.0001」「1/10^4」という「文字列」をどう解釈してどう「内部の値」に変換しているか?
「0.0001」を内部では「1/10^4」で計算して求めている可能性もある
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- ふるさと納税 上場株式等の所得に関する住民税申告不要制度について 1 2022/02/06 09:29
- 会社・職場 会社から通勤交通費を返せと言われた 6 2023/09/20 19:47
- 計算機科学 数値計算の時間の刻み幅について 6 2023/11/24 14:57
- 数学 以下の計算のコツを教えて下さい。 ①483×434×2 ②64×17÷10 ③31×6×28 ④28 7 2022/02/02 15:51
- 財務・会計・経理 会計について確認したいです。 2023年1月末決算書の会社です。 会計ソフト利用料について2022年 1 2023/03/08 21:16
- 会計ソフト・業務用ソフト 「表計算ソフト」と「スプレッドシート」についての質問です。 4 2023/06/12 14:19
- その他(プログラミング・Web制作) プログラミング 処理速度 1 2022/11/25 11:05
- 電車・路線・地下鉄 JR西日本の乗り越し精算 4 2023/03/21 10:45
- 健康保険 高額療養費制度。歯科は別ですか 8 2023/01/23 16:27
- 経済学 国の予算原則について質問です。 「予算単年度主義」と「会計年度独立の原則」の違いが今ひとつ分かりませ 1 2022/04/08 15:53
このQ&Aを見た人はこんなQ&Aも見ています
-
プロが教える店舗&オフィスのセキュリティ対策術
中・小規模の店舗やオフィスのセキュリティセキュリティ対策について、プロにどう対策すべきか 何を注意すべきかを教えていただきました!
-
0を0 乗すると答えは1ですか 考え方を文章で簡単に解説 お願いします
数学
-
『3ℓと5ℓで8ℓ』
数学
-
パソコン用語ひとつもわかりません
計算機科学
-
-
4
ピタゴラスの定理は辺の長さが虚数でも成り立ちますか
数学
-
5
エクセルでランダム関数で乱数を作ったのですが、グラフにしてみたら正規分布になりません。
統計学
-
6
'='と':='の記述の違い
計算機科学
-
7
小学生算数の逆算について
数学
-
8
数学の質問です loge 3=1.1になる成り行き教えて欲しいです
数学
-
9
−2.5を四捨五入すると−2ですか?−3ですか?
数学
-
10
なんで 1/3=0.33333 なのに0.3333×0.3333であるはずの 1/9は0.11111
数学
-
11
『3ℓと5ℓで8ℓ』の続き
数学
-
12
左のひしょとう関数を
数学
-
13
番号の組み合わせパターン
統計学
-
14
①とても初歩的なことなのですが、4で割ると2余る数はなぜ4n-2と表して4n+2では表せれないのでし
数学
-
15
下記数学の計算結果の違いがなぜ起こるのかを教えてほしいです。 ①のように、増加量が出ているならそれを
数学
-
16
なんで2πをかけるのかがわからないです。
計算機科学
-
17
数学I アホらしい質問なのでそんなこと考えることは無駄などの解答は受け付けておりません。 また自分的
数学
-
18
三角関数の変換で納得いかないところがあります
数学
-
19
BINGが間違えた、とっても簡単な算数の問題です、これを見て、どう思われますか。
数学
-
20
確率の問題 数学と実生活と
数学
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
2の128乗の計算方法
-
中3の有効数字の範囲の問題で √...
-
信頼区間90%は何σ?
-
減少率計算式教えて下さい
-
三角関数って
-
数値計算の時間の刻み幅について
-
電卓の機能の名称が分からない...
-
3割の計算
-
計算ソフトでの計算精度について
-
正規分布表の問題なんですが(;_;)
-
東京ロンドン間の距離(半径・...
-
ポアソン分布の問題で
-
2次関数って何の仕事で必要な...
-
なぜ円周率ってそんなに重要な...
-
倍率とデシベルの計算式
-
円周率はなぜ3.14で計算するよ...
-
「再帰的」の意味を教えてください
-
電力ケーブルのインピーダンス...
-
常用対数の求め方 log10の2は約...
-
三角形の面積・・・ヘロンと座...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
3割の計算
-
信頼区間90%は何σ?
-
減少率計算式教えて下さい
-
倍率とデシベルの計算式
-
2の128乗の計算方法
-
電力ケーブルのインピーダンス...
-
らせんRの計算の仕方
-
常用対数の求め方 log10の2は約...
-
「再帰的」の意味を教えてください
-
1.01の12乗の計算
-
1512の1/5乗
-
10^0.2 = 1.58489319246111の計...
-
電卓の機能の名称が分からない...
-
三角形の面積・・・ヘロンと座...
-
2次関数って何の仕事で必要な...
-
三角関数って
-
計算ソフトでの計算精度について
-
尺数での坪数計算
-
中3の有効数字の範囲の問題で √...
-
計算の方法を教えてください。 ...
おすすめ情報
やはり分数表示の方が精度が良いのではないでしょうか?
1/3
の方が
0.33333333333、、
よりどこまでも正確です。
しかし、ソフトがそこまで面倒見良く考えてくれているのか?不明です。