［浮動小数点］についての検索結果(約1421件中 1〜20件を表示)

浮動小数点の比較について

…たとえば、以下のコードで、「違う」と表示されるように、浮動小数点の比較に失敗します。 #include int main() { float f = 0.1; if (f == 0.1) { std::cout …

2010/11/12 12:56
C言語・C++・C#
回答数(4)

浮動小数点の正規化の必要性について

…　浮動小数点の正規化の必要性について教えてください。　浮動小数点で数を表す際に、正規化は必ずしも必要なもの（行わなければならないもの）なのでしょうか？　　また浮動小...…

固定小数点数、浮動小数点数について

…学校から課題が出ているのですがさっぱりなので教えていただければ幸いです。課題：11051120　この数を３２bitの固定小数点数、浮動小数点数であらわせ (1)固定小数点数、浮動小数点数と...…

Access-フォームの小数点以下が切り捨てられてしまう

…テーブルのデータには小数点以下が第二位まで入力してあるのですが、なぜかフォームでは小数点以下が切り捨てられてしまいます（5.24 → 5.00など）。現在、テーブルのデータ型は数値型...…

浮動小数点

…浮動小数点について勉強していますが、本を見てもよくわかりません。「イクセス表記とは、本来8ビットで表現できる値は０～２５５であるのに対し、元の値に１２７を加算することに...…

テーブルに小数点以下の値を入れたい場合

…アクセスのテーブルに0.001と入力したい場合、データ型を数値型にし、フィールドサイズは単精度浮動小数点型と倍精度浮動小数点型ではどちらを選べばいいのでしょうか？どちらも小...…

１６ビットの符号付固定小数点の使い方について

…１６ビットの符号付固定小数点について最上位(15)ビットが符号ビットで１４～０ビットが少数部というデータフォーマットだった場合、－０，２５を表すとしたら、０．２５に符号ビッ...…

以下の問題が分かりません。 8ビット浮動小数点数が、最上位ビットから順に符号1ビット、指...

…以下の問題が分かりません。 8ビット浮動小数点数が、最上位ビットから順に符号1ビット、指数部3ビット、仮数部4ビットで構成されるとしたとき、10進数 0.1 を以下に示す過程で浮動小数点...…

2023/07/22 16:06
数学
回答数(4)

小数点以下切捨てした上での足し算

…書式設定で小数点以下の桁数0にし、整数での表示にさせています。しかしそれらを足し算すると結局正確に小数点以下の数値まで足されてしまいます。そうしないためには？…

エクセルの小数点以下表示

…エクセルの小数点以下表示でツールバー、セルの書式設定などは表示されていない部分（例えば小数点以下２位までの表示なら３位以下の部分）は四捨五入されているのでしょうか？デフォ...…

小数点以下の桁にカンマが無いのはなぜ？素朴な疑問です。小数点以下にカンマ等の区切り記...

…小数点以下の桁にカンマが無いのはなぜ？素朴な疑問です。小数点以下にカンマ等の区切り記号がないのはなぜでしょうか？ミリ、マイクロ、ナノと単位も10の-3乗ずつあるのに。小数...…

浮動小数点の正規化方法について

…基本情報処理技術者試験を20日に受けます。勉強不足で困っています。どなたか教えてください。問題「数値を16ビットの浮動小数点表示法で表現する。10進数0.375を正規化せよ：ここでの正...…

Access 倍精度浮動小数点型について。。。

…アクセスの、倍精度浮動小数点型で定義したテーブルを作成しました。で、その項目に　99999999　とデータを入力した場合にデータが100000000 に自動変換されてしまいました。　このよう...…

AccessからExcelへエクスポート時に小数点以下の桁数がおかしく

…AccessからExcelへエクスポート時に小数点以下の桁数がおかしくなります。 59.20 118.40 118.40 77.70 49.20 ↓↓↓↓↓ 59.20000076 118.4000015 118.4000015 77.69999695 49.20000076 の様になってしまいます。以下エ...…