No.3ベストアンサー
- 回答日時:
浮動小数点演算は、実数の演算の近似です。
浮動小数点そのものが実数の近似で、加減乗除を1回行うごとに丸め誤差が入ります。(今はあまり使われませんが)固定小数は、整数の適当な位置に小数点を入れて位取りする数値です。素直な表現方法ですが、大きい数や小さい数ほど桁がたくさん必要になってしまい、しかも0の桁が多くなるので効率が悪いです。
これに対して浮動小数は、M進法L桁の固定小数に、Mのn乗をかけて表す数値です。つまり10進数で6桁だと、#2さんのように「a.bbbbb x 10^n」になります。数の表現には便利ですが前述のような誤差があり、有効桁数の範囲内で本来表すべき実数と一致します。
No.2
- 回答日時:
浮動少数とは a.bbbbb.... x 10^n という形式の数値の表示方法です。
数値計算を行う際に、数値を浮動少数として扱って演算することが、「浮動小数点演算」です。
処理がややこしく、また、浮動少数は精度を確保するために通常の整数などよりも1つの数値あたりのバイト数を大きくとっていることが多いので、演算時にCPUへの負荷が大きくなる傾向があります。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- C言語・C++・C# C言語について。 5 2023/06/27 18:37
- 計算機科学 8ビット浮動小数点数 0 1000 100 を10進法 8ビット浮動小数点数 1 1100 011 3 2022/10/28 08:07
- 数学 以下の問題が分かりません。 8ビット浮動小数点数が、最上位ビットから順に符号1ビット、指数部3ビット 4 2023/07/22 16:06
- 情報処理技術者・Microsoft認定資格 情報技術の問題についてです。 10進数の−36を以下のような16ビットの浮動小数点表示にするといくつ 3 2022/05/21 19:53
- 会計ソフト・業務用ソフト エクセルについて 1 2022/06/15 17:39
- 化学 化学です。どうしてもわからないため、この問題を教えてください。 塩酸(HCl)を、ひとつのおもりが振 2 2022/10/17 15:53
- 数学 小数点の計算についてです。 答えは与えられた数字の中で最も少ない桁に四捨五入で合わせるのですが、ひと 2 2023/04/04 15:19
- Visual Basic(VBA) visual basic初心者です。 visual studioで電卓を作成しています。 実行時にテ 1 2023/02/08 00:18
- 時計・電卓・電子辞書 算数 仕事で生産数×3打点で数字をパソコンに入力しなければならないのですが、生産数2000×3打点は 1 2022/04/26 23:00
- 中学校 理科だけが極端に苦手 5 2022/09/10 14:18
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
アクセスのデータ型。数値型に...
-
8ビットのグレイ符号10110110お...
-
FP4という浮動小数点演算4桁の...
-
Excelで符号の変化をカウントす...
-
FORTRANでfloat(a)
-
情報技術の問題についてです。 ...
-
製品の原価計算について
-
救難信号SOSの打電について
-
COBOL 9(02)で定義した変数にマ...
-
浮動小数点形式の問題
-
看護情報の教科なんですが計算...
-
1億x1億はいくらでしょうか?
-
10分の1は「10/1 それとも1/10...
-
5進法を10進法への直し方
-
50以下は“50”も入るのですか?
-
デジタル信号処理の問題です。...
-
【機械図面】 最大値・最小値...
-
実績を積むという表現
-
「最大300字程度」
-
「充足に達しましたので」これ...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
FP4という浮動小数点演算4桁の...
-
COBOL 9(02)で定義した変数にマ...
-
8ビットのグレイ符号10110110お...
-
アクセスのデータ型。数値型に...
-
PN9によるBER測定
-
浮動小数点
-
FORTRANでfloat(a)
-
Excelで符号の変化をカウントす...
-
中高年の寡婦加算について
-
基本情報技術者試験の過去問で...
-
2ビットの全加算器
-
Accessクエリの整数型と単精度...
-
基本情報の浮動小数点について
-
救難信号SOSの打電について
-
固定小数点数、浮動小数点数に...
-
エクセル・Text関数
-
情報技術の問題についてです。 ...
-
療養食加算
-
浮動小数点数
-
テーブルに小数点以下の値を入...
おすすめ情報