No.1ベストアンサー
- 回答日時:
> これは、単純にfloatの精度の問題なのでしょうか?
その通りです。
IEEE 754 のフォーマットにしたがった 32ビット浮動小数点表記では仮数部が
23ビットですから、高々7桁程度の精度しかありません。
> また、計算機がどういうルールに基づいて計算をおこなっているということなのでしょうか?
double → float の場合には、仮数部が 52 → 23 ビット、指数部が 12 → 8 ビットと少なくなります。
元の数値が float で表現できる範囲で収まるのであれば、仮数部のビットを切りつめて、指数部を変換する
だけです。
元の数値が float に収まりきらない場合には、overflow や underflow が発生します。
真剣に知りたいのであれば、参考URL をどうぞ。
参考URL:http://docs.sun.com/htmlcoll/coll.648.2/iso-8859 …
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- C言語・C++・C# C言語: ポインタ 5 2022/06/01 08:33
- C言語・C++・C# キャスト演算について。 1 2023/07/15 15:28
- C言語・C++・C# c言語でユーザ関数を利用して複素数のべき乗と絶対値の数列を計算するプログラムが作りたいです。 3 2023/01/29 22:13
- C言語・C++・C# C言語について コマンドラインで >変数 12.00 (char型) と、小数点付きの値を共用体に渡 1 2022/04/22 16:56
- PDF C#でfloatを整数部、小数部とも桁数固定で文字表示したい 2 2022/07/28 09:37
- C言語・C++・C# c言語について 下記の計算結果を出力するコードを記述する問題で 0-4 3.14×2 5÷3 30÷ 5 2022/05/17 22:41
- C言語・C++・C# C言語のマクローリン展開ローラン展開のコードについて 3 2022/12/15 14:45
- C言語・C++・C# このプログラミングの問題を教えてほしいです。 キーボードからデータ数nとn個のデータを入力し、平均値 3 2022/12/19 22:51
- C言語・C++・C# C++言語の16進数の表現についておしえてください 1 2022/11/14 17:46
- C言語・C++・C# プログラミングの授業の課題です 1 2023/01/17 22:15
関連するカテゴリからQ&Aを探す
おすすめ情報
- ・「みんな教えて! 選手権!!」開催のお知らせ
- ・漫画をレンタルでお得に読める!
- ・「これいらなくない?」という慣習、教えてください
- ・今から楽しみな予定はありますか?
- ・AIツールの活用方法を教えて
- ・【選手権お題その3】この画像で一言【大喜利】
- ・【お題】逆襲の桃太郎
- ・自分独自の健康法はある?
- ・最強の防寒、あったか術を教えてください!
- ・【大喜利】【投稿~1/9】 忍者がやってるYouTubeが炎上してしまった理由
- ・歳とったな〜〜と思ったことは?
- ・ちょっと先の未来クイズ第6問
- ・モテ期を経験した方いらっしゃいますか?
- ・好きな人を振り向かせるためにしたこと
- ・【選手権お題その2】この漫画の2コマ目を考えてください
- ・【選手権お題その1】これってもしかして自分だけかもしれないな…と思うあるあるを教えてください
- ・スマホに会話を聞かれているな!?と思ったことありますか?
- ・それもChatGPT!?と驚いた使用方法を教えてください
- ・見学に行くとしたら【天国】と【地獄】どっち?
- ・これまでで一番「情けなかったとき」はいつですか?
- ・この人頭いいなと思ったエピソード
- ・あなたの「必」の書き順を教えてください
- ・14歳の自分に衝撃の事実を告げてください
- ・人生最悪の忘れ物
- ・あなたの習慣について教えてください!!
- ・都道府県穴埋めゲーム
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
有効数字について 以前質問をし...
-
c languageで 簡単な質問があ...
-
三菱シーケンサ(Aシリーズ)で...
-
2038年問題 日付算出
-
O(n log n)について2
-
大きすぎる数値になるとE+にな...
-
ExcelでPC(パソコン)によって...
-
16進数 加算 減算 C言語
-
Double型について
-
VBAでミリ秒まで出力する方法
-
C言語でセルオートマトンを作成...
-
n=a&&b==c<d<<eの計算方法
-
2進数データのビット演算
-
VB6.0での小数点の扱いについて
-
1以下になる数値計算
-
ExcelのINT関数の計算結果がお...
-
VB.net Double と...
-
VBAでの割り算の余りの求め方
-
double型からfloat型への型変換...
-
2進数の足し算(C言語)
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
VB.net Double と...
-
O(n log n)について2
-
c languageで 簡単な質問があ...
-
有効数字について 以前質問をし...
-
ExcelのINT関数の計算結果がお...
-
三菱シーケンサ(Aシリーズ)で...
-
VBAでミリ秒まで出力する方法
-
16進数 加算 減算 C言語
-
ExcelでPC(パソコン)によって...
-
時刻の比較
-
除算を使わずに10で割りたい。
-
計算の丸め誤差の解消について
-
VB6.0での小数点の扱いについて
-
”/”を使わずに割り算したいんで...
-
EXCELの関数"STDEV(標準偏差)"...
-
BCD・HEX・BINについて
-
2038年問題 日付算出
-
2進数の足し算(C言語)
-
VBAのINT関数について
-
どんな数字を入力してもaverage...
おすすめ情報