
No.2ベストアンサー
- 回答日時:
現在の計算機でも行っているものがあるかどうかは不明ですが、数十年前の棒電卓で有名なC社(今は、パソコンからは撤退しているようですが)が発売していたパソコンでは10進数→2進数変換時の丸め誤差を無くするために、10進数のまま記憶することが出来たと記憶しています。
(詳細はよく覚えていませんが、4Bit毎に区切って10進数の1桁づつ記憶していたのでは...)この場合、0.1をどんどん足していっても誤差の累積により真値から外れることは無いという利点はありましたが、2進数に変換するより、メモリの使用効率等で不利だったようです。
No.4
- 回答日時:
No.1のymmasayanです。
勘違いで、固定小数点のほうを間違いました。No.2、No.3のかたの言われるように、2進数4ビットで10進数1桁を覚える
方法(BCDまたはPACK形式)を使います。
技術計算では近似値、お金の計算ではPACK形式で正確にと言うことです。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
ちゃんと覚えててくれてる! を...
-
昔の男最終回教えてください
-
~より小さいは、「~以下」「...
-
成田のロケ地
-
仲良かった友達に急に距離を置...
-
ODBCの接続に失敗しました(3...
-
「世界の中心で、愛をさけぶ」...
-
ドラマ「一つ屋根の下」の「シ...
-
「腹心の友」という言葉のニュ...
-
熟語: 「次ページに続く」「前...
-
公衆電話に電話をかけることは...
-
SQLServer sqlcmdが使えない
-
花より男子 道明寺司の父は?
-
単管足場パイプ48.6パイ(ミリ)....
-
「○○円とんで」の言い方
-
渡鬼のおかくらと幸楽
-
しばらく呼び出し音が鳴ってか...
-
男性に質問です。過去に抱いた...
-
ホテルウーマン(最終回)教え...
-
彼の運転が下手すぎてストレス...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
「渡る世間は鬼ばかり」の体大...
-
ちゃんと覚えててくれてる! を...
-
昔の男最終回教えてください
-
公衆電話に電話をかけることは...
-
仲良かった友達に急に距離を置...
-
田舎が舞台のサスペンス
-
「世界の中心で、愛をさけぶ」...
-
愛犬ロシナンテの災難の最終回...
-
彼の運転が下手すぎてストレス...
-
「○○円とんで」の言い方
-
しばらく呼び出し音が鳴ってか...
-
「池中げんた80キロ」の男の...
-
~より小さいは、「~以下」「...
-
ODBCの接続に失敗しました(3...
-
なぜ過去に戻れないのですか?...
-
VVF1.6と2.0の混合はまずい?
-
男性に質問です。過去に抱いた...
-
熟語: 「次ページに続く」「前...
-
「腹心の友」という言葉のニュ...
-
ドラマ「一つ屋根の下」の「シ...
おすすめ情報