単精度浮動小数点型と倍精度浮動小数点数型、それぞれ値がとりうる範囲を教えてください。
単精度浮動小数点型
負の値は -3.4028235E+38 ~ -1.401298E-45、
正の値は 1.401298E-45 ~ 3.4028235E+38 の範囲の値
倍精度浮動小数点数型
負の値は -1.79769313486231570E+308 ~ -4.94065645841246544E-324、
正の値は 4.94065645841246544E-324 ~ 1.79769313486231570E+308 の範囲の値
とは記述してあるのですが、実際に小数1桁なら整数部はどのくらいの範囲の値がとれるのか、皆目わかりません。
どうか、わかりやすく教えてください。
よろしくお願い致します。
No.2ベストアンサー
- 回答日時:
こんにちは
コンピュータが取りうる値がいくつになるかという回答を望む場合、普通データサイズは何ビットの場合でフォーマットの形式はこれという前提条件が必要ですね。
普通コンピュータに与えるインプットデータがなければ、データ処理後のアウトプットもありません。
で、一般的に小数点数を2進数で表わすことを考える場合、素人の私でも思いつくのは、=1/(2^0)+1/(2^1)+1/(2^2)+1/(2^3)+ .. 以下、ビットの続く限り同様..
なので、10進数に直すと=1+0.5+0.25+0.125+ .. 以下、ビットの続く限り同様..
このことから、2進数の小数点数と10進数の小数点数は、ピッタリ合わないパターンがかなりあるのでは?と直感的に感じると思います。
その通り!(^^)v
ビット数が多ければかなり近くなるけど同じじゃないパターンが当然考えられますね。 どこまでの精度を要するかでビット数を決めるんです。
昔のマイクロソフトのC言語のライブラリでもハードウェアが対応(数値演算プロセッサが使える)の場合は、ハードウェアを利用する演算ライブラリを使用し、ハードウェアがない場合は、自前の演算ライブラリとリンクする仕様がありました。
インテルのCPUに内蔵されている数値演算プロセッサ(NDP)は、IEEE754という国際規格に準拠していますので、一例としてマイクロソフトのエクセルの扱いの場合の参考URLを乗せておきますね。
参考URL:http://support.microsoft.com/kb/402554/ja
No.3
- 回答日時:
お使いのコンパイラがC/C++であれば、
標準ライブラリの<float.h>内で定義されているはずなので、
お使いのコンパイラの標準ヘッダを読んでください。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 情報処理技術者・Microsoft認定資格 情報技術の問題についてです。 10進数の−36を以下のような16ビットの浮動小数点表示にするといくつ 3 2022/05/21 19:53
- C言語・C++・C# 3つの倍精度浮動小数点値の平均を求めて、3つの引数全てを平均値に変更するメソッドを作成し、キーボード 1 2022/07/13 16:04
- 数学 以下の問題が分かりません。 8ビット浮動小数点数が、最上位ビットから順に符号1ビット、指数部3ビット 4 2023/07/22 16:06
- 数学 接線の本数を求めたいときの与式の微分について FG例題206 f(x)=xe^-x とするとき、 実 4 2023/07/24 15:43
- C言語・C++・C# C言語について コマンドラインで >変数 12.00 (char型) と、小数点付きの値を共用体に渡 1 2022/04/22 16:56
- 物理学 「反発係数=e」「衝突前の球の速度=V」「平面な床に衝突後の球の速度をv」とした時、eを表す関係式は 7 2022/12/18 18:06
- 数学 数学 2時間数に関わる問題について教えてください。 x≧1 y≧-1 2x+y=5 であるとき、xy 7 2022/10/29 10:57
- Excel(エクセル) エクセルの数式について教えてください。 2 2023/02/18 11:30
- Visual Basic(VBA) VBAのifで 4 2023/05/16 14:21
- Excel(エクセル) エクセルの数式について教えてください。 2 2023/03/04 09:54
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
条件に応じてコンボボックスの...
-
レコードを保存するコード ア...
-
passwordが入れられません・・・・
-
Access レポート印刷するときに...
-
データベースのINT型項目にNULL...
-
YahooのIDがロックされてしまい...
-
アクセスでテキストボックスの...
-
アクセスで数値型のフィールド...
-
Accessで、フォームからフォー...
-
サブフォームに対してGoToRecor...
-
Accessでフィールド名を変数(...
-
Access2007 textboxに入力でき...
-
Excelで入力したデータを自動的...
-
フォームの高さを数値で指定し...
-
Access フォームで条件抽出し...
-
「フォームを作成できませんで...
-
ACCESS フォームをそのまま印刷...
-
エクセルをACCESSのレポ...
-
Access(office)のマクロの「値...
-
SQL*Loader
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
条件に応じてコンボボックスの...
-
コンボボックス 選択後のカー...
-
VBA コンボボックスの重複削除
-
Dcount関数が表示されない。
-
Access 数十件のデータからの...
-
CrystalDiskinfoの使い方!HDD/...
-
Access 2016 のプロパティ(プル...
-
Accessのコンボボックス内項目...
-
エクセルVBA コンボボックスで...
-
4月開始年度の月と日を連動さ...
-
ACCESS2003のコンボボックスで...
-
access 検索結果をテキストボッ...
-
java初心者です。
-
ActiveXコントロールのコンボボ...
-
Accessで、コンボボックスから...
-
ユーザーフォーム上にあるコン...
-
【Access2010】フォーム内のコ...
-
Accessで家計簿を作っているの...
-
エクセルVBAユーザーフォー...
-
ドロップダウンリスト
おすすめ情報