No.2ベストアンサー
- 回答日時:
現在の計算機でも行っているものがあるかどうかは不明ですが、数十年前の棒電卓で有名なC社(今は、パソコンからは撤退しているようですが)が発売していたパソコンでは10進数→2進数変換時の丸め誤差を無くするために、10進数のまま記憶することが出来たと記憶しています。
(詳細はよく覚えていませんが、4Bit毎に区切って10進数の1桁づつ記憶していたのでは...)この場合、0.1をどんどん足していっても誤差の累積により真値から外れることは無いという利点はありましたが、2進数に変換するより、メモリの使用効率等で不利だったようです。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 数学 これって正しいんじゃないの? 「無理数を小数で表現すると、小数点以下に数字が無限に続きますが、それら 5 2022/05/29 23:56
- 数学 以下の問題が分かりません。 8ビット浮動小数点数が、最上位ビットから順に符号1ビット、指数部3ビット 4 2023/07/22 16:06
- 数学 『数は実在するのか』 6 2023/06/04 15:15
- 数学 p²+q²=1を満たす有限小数 10 2023/03/11 13:35
- 数学 無理数の数字の組み合わせ。無限の意味について 5 2022/05/28 22:53
- 数学 『無限回の計算』 4 2023/06/07 17:49
- 情報処理技術者・Microsoft認定資格 情報技術の問題についてです。 10進数の−36を以下のような16ビットの浮動小数点表示にするといくつ 3 2022/05/21 19:53
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 哲学 1,2,3,・・・無限大 の無限大は 有限の数である 2 2022/07/04 03:31
- 医療事務・調剤薬局事務 入院会計のお仕事 1 2023/05/28 15:45
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
NHK連続テレビ小説「オードリー...
-
ちゃんと覚えててくれてる! を...
-
仲良かった友達に急に距離を置...
-
男性に質問です。過去に抱いた...
-
最近家の中で物が消えます。す...
-
誠正公倫という宗教のセミナー...
-
以前の伊藤家の食卓で、古いシ...
-
漢字で書くと「こどもたち」は...
-
~より小さいは、「~以下」「...
-
教育実習の依頼や実習時の服装...
-
大切な人の死はどれくらいで乗...
-
ドラマのような夢、物語性のあ...
-
14歳の母はなぜ
-
若いのに落ち着いてると言われ...
-
彼女が電マをずっと使っていて...
-
人の顔っていつまで覚えていま...
-
ドラマ「ブザービート」に出て...
-
彼の運転が下手すぎてストレス...
-
宮沢りえ主演ドラマの挿入歌
-
SQLServer sqlcmdが使えない
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
ちゃんと覚えててくれてる! を...
-
韓国ドラマ ホジュン 朝鮮王...
-
NHK連続テレビ小説「オードリー...
-
GTOのタケシはなぜ死んだのです...
-
以前の伊藤家の食卓で、古いシ...
-
狩人・兄は逮捕されませんでし...
-
最近家の中で物が消えます。す...
-
仲良かった友達に急に距離を置...
-
高校教師 最終回
-
男性に質問です。過去に抱いた...
-
教育実習の依頼や実習時の服装...
-
しばらく呼び出し音が鳴ってか...
-
~より小さいは、「~以下」「...
-
「1つづつ」と「1つずつ」とでは
-
高校教師、先生は手術成功した...
-
ちゅらさん恵里の病
-
彼女が電マをずっと使っていて...
-
漢字で書くと「こどもたち」は...
-
ドラマのような夢、物語性のあ...
-
会社宛の宅配便のサイン
おすすめ情報