No.6ベストアンサー
- 回答日時:
> 2進化十進数で少数を表すってどうやるんでしょうか
4ビットを十進一桁として必要な桁数分のレジスタを用意します(CPUの命令セットに二進化十進演算が無い場合は、命令セットにおけるバイトなりワードなりの最小算術演算単位を一桁として、メモリを用意します)
各桁に十進数に対応する二進数を置き(つまりA~Fは使用しない)、桁ごとに演算します
演算結果がA~Fとなる桁が出たら、繰上げや繰下げを行なって解消します(勿論16進でキャリー/ボローが発生した場合も同様です。またCPUの命令セットの二進化十進演算を利用した場合はこれらの処理は自動的に行なわれます)
No.4
- 回答日時:
仮数部と指数部ですね。
IEEEフォーマットの浮動小数点(ほとんどのパソコンで採用されている)の場合だと
32ビット浮動小数点:
符号:1ビット。負の数の場合1、正の数の場合0
仮数部:23ビット。正規化された固定小数点で表現される
指数部:8ビット。仮数部が2の何乗かを示す
となります。
浮動小数点について詳しくは参考URLで
で、循環小数の場合ですが、有効制度までを算出して近似値とします。
結果、0.1+0.1は0.2とはなりません。
これを精度誤差と言います。
浮動小数点の計算では制度誤差がつき物なので、ソフト技術者が精度誤差の少ない(全くなくすことは不可能)アルゴリズムを考えます。
参考URL:http://www.ne.jp/asahi/license/ikawa17/info_fe/p …
No.3
- 回答日時:
浮動小数点というのを使います。
例えば16ビットのデータとして、
最上位ビットを符号、あとの15ビットが真数部と仮数部に分かれます。
何ビットずつとかの詳しいことは忘れましたが、概念を説明しますと、0.2の場合、真数部は2、仮数部は10^-1を表すようになっています。これで、小数を表すことができます。
「浮動小数点」をキーワードに検索されれば、詳しいページがきっとあると思います。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- その他(コンピューター・テクノロジー) 量子コンピュータの動作原理がわかりません。同じビットが、1でも0でも有って良いだろうか? 3 2023/02/04 03:20
- 数学 以下の問題が分かりません。 8ビット浮動小数点数が、最上位ビットから順に符号1ビット、指数部3ビット 4 2023/07/22 16:06
- その他(データベース) 4進数風なバーコードは何ですか? 2 2022/11/28 23:33
- 数学 以下を10進数の小数で表すことを考える . . (0.101)2進数 小数部分の数値を答えよ。 循環 4 2022/05/22 15:09
- Java Java 石取りゲーム 3 2023/02/02 15:46
- 数学 以下 n を自然数, p を素数とする. (a) 整数10000を 10000=(a_4)7^4+( 3 2022/05/19 16:54
- 計算機科学 2進数の計算について 2進数の値は全て8ビットで負数は2の補数形式とする。結果が8ビットで表現出来な 3 2023/07/22 14:08
- Windows 10 パソコンの操作ができません。。。 4 2022/06/02 18:38
- 計算機科学 この二つの計算方法が分からないです。 ・2進数10111010を10進数へ。 ・10進数28を2進数 7 2022/10/11 01:18
- Excel(エクセル) エクセルの数式で教えてください。 3 2023/03/16 11:19
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
O(n log n)について2
-
ExcelでPC(パソコン)によって...
-
VBAでミリ秒まで出力する方法
-
VBAでの割り算の余りの求め方
-
パソコンで階乗を計算
-
VB6.0での小数点の扱いについて
-
16進数 加算 減算 C言語
-
三角比の俯角の計算
-
有効数字について 以前質問をし...
-
VB6のFIX関数での誤差について
-
floatの有効桁数
-
三菱シーケンサ(Aシリーズ)で...
-
バタフライ演算
-
EXCELの関数"STDEV(標準偏差)"...
-
4096bitを95種類で表現すると何...
-
2進数の足し算(C言語)
-
10進数での「25」が2進数では「...
-
C#プログラミング、少数の取...
-
VB.net Double と...
-
べき指数の求め方
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
O(n log n)について2
-
三角比の俯角の計算
-
c languageで 簡単な質問があ...
-
16進数 加算 減算 C言語
-
ExcelでPC(パソコン)によって...
-
VB.net Double と...
-
”/”を使わずに割り算したいんで...
-
ExcelのINT関数の計算結果がお...
-
有効数字について 以前質問をし...
-
floatの有効桁数
-
三菱シーケンサ(Aシリーズ)で...
-
距離から緯度経度を求める方法
-
VBAでミリ秒まで出力する方法
-
EXCELの関数"STDEV(標準偏差)"...
-
除算を使わずに10で割りたい。
-
C言語プログラミングにて、arct...
-
VB6.0での小数点の扱いについて
-
VBAでの割り算の余りの求め方
-
255の2の補数、B'00000001'が-...
-
変換指定子%22-16gの表示...
おすすめ情報