No.1ベストアンサー
- 回答日時:
0.123456789×10の24乗=123456789000000000000000
とかいうように
コンピュータが扱うことができる桁数の範囲の中ので、なんとかしてその範囲外の計算をする仕組みです。
参考URL:http://www.algolab.co.jp/~lum/pcnyumon/nyu032.htm
この回答へのお礼
お礼日時:2003/08/05 23:03
早速アドバイスありがとうございます。
参考URL今読んでみました。少しわかってきたような気がします。
何度か読み直してみます。
ありがとうございました。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 計算機科学 8ビット浮動小数点数 0 1000 100 を10進法 8ビット浮動小数点数 1 1100 011 3 2022/10/28 08:07
- 数学 以下の問題が分かりません。 8ビット浮動小数点数が、最上位ビットから順に符号1ビット、指数部3ビット 4 2023/07/22 16:06
- 情報処理技術者・Microsoft認定資格 情報技術の問題についてです。 10進数の−36を以下のような16ビットの浮動小数点表示にするといくつ 3 2022/05/21 19:53
- C言語・C++・C# C言語について。 5 2023/06/27 18:37
- Excel(エクセル) Excel上で分からないことがあります。 他のシートからコピー→貼り付けしたのですが図のようになって 4 2023/05/29 19:16
- C言語・C++・C# 3つの倍精度浮動小数点値の平均を求めて、3つの引数全てを平均値に変更するメソッドを作成し、キーボード 1 2022/07/13 16:04
- AI・ロボット AIは適当にやるのも得意? 1 2023/03/28 20:28
- 計算機科学 浮動少数点数で、16ビットで数値を表すとき、 1.0の指数部のビットパターンは、下駄が15なので、0 1 2023/02/07 11:10
- その他(データベース) Accessフォームにて指定のフィールドの平均値を小数点第一位で表示できない 2 2022/08/30 17:19
- 数学 これって正しいんじゃないの? 「無理数を小数で表現すると、小数点以下に数字が無限に続きますが、それら 5 2022/05/29 23:56
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
3割の計算
-
信頼区間90%は何σ?
-
減少率計算式教えて下さい
-
倍率とデシベルの計算式
-
「再帰的」の意味を教えてください
-
らせんRの計算の仕方
-
電力ケーブルのインピーダンス...
-
2の128乗の計算方法
-
常用対数の求め方 log10の2は約...
-
1.01の12乗の計算
-
電卓の機能の名称が分からない...
-
10^0.2 = 1.58489319246111の計...
-
実生活で役に立つ数学ってあり...
-
指数計算を教えてください
-
2次関数って何の仕事で必要な...
-
計算の方法を教えてください。 ...
-
円周率の計算式って何ですか?
-
100の101乗と101の100乗ではど...
-
1512の1/5乗
-
三角形の面積・・・ヘロンと座...
おすすめ情報