
No.6ベストアンサー
- 回答日時:
> 2進化十進数で少数を表すってどうやるんでしょうか
4ビットを十進一桁として必要な桁数分のレジスタを用意します(CPUの命令セットに二進化十進演算が無い場合は、命令セットにおけるバイトなりワードなりの最小算術演算単位を一桁として、メモリを用意します)
各桁に十進数に対応する二進数を置き(つまりA~Fは使用しない)、桁ごとに演算します
演算結果がA~Fとなる桁が出たら、繰上げや繰下げを行なって解消します(勿論16進でキャリー/ボローが発生した場合も同様です。またCPUの命令セットの二進化十進演算を利用した場合はこれらの処理は自動的に行なわれます)
No.4
- 回答日時:
仮数部と指数部ですね。
IEEEフォーマットの浮動小数点(ほとんどのパソコンで採用されている)の場合だと
32ビット浮動小数点:
符号:1ビット。負の数の場合1、正の数の場合0
仮数部:23ビット。正規化された固定小数点で表現される
指数部:8ビット。仮数部が2の何乗かを示す
となります。
浮動小数点について詳しくは参考URLで
で、循環小数の場合ですが、有効制度までを算出して近似値とします。
結果、0.1+0.1は0.2とはなりません。
これを精度誤差と言います。
浮動小数点の計算では制度誤差がつき物なので、ソフト技術者が精度誤差の少ない(全くなくすことは不可能)アルゴリズムを考えます。
参考URL:http://www.ne.jp/asahi/license/ikawa17/info_fe/p …
No.3
- 回答日時:
浮動小数点というのを使います。
例えば16ビットのデータとして、
最上位ビットを符号、あとの15ビットが真数部と仮数部に分かれます。
何ビットずつとかの詳しいことは忘れましたが、概念を説明しますと、0.2の場合、真数部は2、仮数部は10^-1を表すようになっています。これで、小数を表すことができます。
「浮動小数点」をキーワードに検索されれば、詳しいページがきっとあると思います。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
VB6.0での小数点の扱いについて
-
c languageで 簡単な質問があ...
-
ExcelでPC(パソコン)によって...
-
ExcelのINT関数の計算結果がお...
-
浮動小数演算は実行環境の変化...
-
Log関数に関する質問
-
三菱シーケンサ(Aシリーズ)で...
-
”/”を使わずに割り算したいんで...
-
VBAでミリ秒まで出力する方法
-
時刻の比較
-
EXCELの関数"STDEV(標準偏差)"...
-
計算の丸め誤差の解消について
-
O(n log n)について2
-
三角比の俯角の計算
-
Double型について
-
最早開始時間と最遅完了時刻を...
-
Aの値からBの値を除するとは??
-
信頼区間の1.96や1.65ってどこ...
-
#define _CRT_SECURE_NO_WARNIN...
-
C言語 エラーの原因がわからな...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
有効数字について 以前質問をし...
-
c languageで 簡単な質問があ...
-
EXCELの関数"STDEV(標準偏差)"...
-
ExcelでPC(パソコン)によって...
-
三菱シーケンサ(Aシリーズ)で...
-
floatの有効桁数
-
255の2の補数、B'00000001'が-...
-
O(n log n)について2
-
符号誤り率の計算は例題でどの...
-
CRCの計算方法について
-
VB.net Double と...
-
コンピューターは指数関数をど...
-
16進数 加算 減算 C言語
-
ExcelのINT関数の計算結果がお...
-
C言語でセルオートマトンを作成...
-
BCD・HEX・BINについて
-
”/”を使わずに割り算したいんで...
-
三角比の俯角の計算
-
除算を使わずに10で割りたい。
-
VBAでミリ秒まで出力する方法
おすすめ情報