ウォッチ
倍精度浮動小数点
の検索結果 (1,443件 1〜 20 件を表示)
テーブルに小数点以下の値を入れたい場合
…アクセスのテーブルに0.001と入力したい場合、 データ型を数値型にし、 フィールドサイズは 単精度浮動小数点型と倍精度浮動小数点型では どちらを選べばいいのでしょうか？ どちらも小...…
浮動小数点の比較について
…たとえば、以下のコードで、「違う」と表示されるように、浮動小数点の比較に失敗します。 #include int main() { float f = 0.1; if (f == 0.1) { std::cout …
Access 倍精度浮動小数点型について。。。
…アクセスの、倍精度浮動小数点型で定義したテーブルを作成しました。 で、その項目に 99999999 とデータを入力した場合にデータが100000000 に自動変換されてしまいました。 このよう...…
Access-フォームの小数点以下が切り捨てられてしまう
…テーブルのデータには小数点以下が第二位まで入力してあるのですが、なぜかフォームでは小数点以下が切り捨てられてしまいます（5.24 → 5.00など）。 現在、テーブルのデータ型は数値型...…
浮動小数点の正規化の必要性について
… 浮動小数点の正規化の必要性について教えてください。 浮動小数点で数を表す際に、正規化は必ずしも必要なもの（行わなければならないもの）なのでしょうか？ また浮動小...…
固定小数点数、浮動小数点数について
…学校から課題が出ているのですがさっぱりなので教えていただければ幸いです。 課題：11051120 この数を３２bitの固定小数点数、浮動小数点数であらわせ (1)固定小数点数、浮動小数点数と...…
AccessからExcelへエクスポート時に小数点以下の桁数がおかしく
…AccessからExcelへエクスポート時に小数点以下の桁数がおかしくなります。 59.20 118.40 118.40 77.70 49.20 ↓↓↓↓↓ 59.20000076 118.4000015 118.4000015 77.69999695 49.20000076 の様になってしまいます。 以下エ...…
ＶＢ．ｎｅｔ Ｄｏｕｂｌｅ と Ｄｅｃｉｍａｌ の違い？
…ＶＢ．ＮＥＴで開発しています 元々はＣ言語で開発してましたが、最近ＶＢ．ＮＥＴをしています で、以前誰かが作ったプログラムをデバッグしているんですが、その中に Ｄｏｕｂｌｅ ...…
１６ビットの符号付固定小数点の使い方について
…１６ビットの符号付固定小数点について 最上位(15)ビットが符号ビットで１４～０ビットが少数部という データフォーマットだった場合、－０，２５を表すとしたら、 ０．２５に符号ビッ...…
以下の問題が分かりません。 8ビット浮動小数点数が、最上位ビットから順に符号1ビット、指...
…以下の問題が分かりません。 8ビット浮動小数点数が、最上位ビットから順に符号1ビット、指数部3ビット、仮数部4ビットで構成されるとしたとき、10進数 0.1 を以下に示す過程で浮動小数点...…
エクセルの小数点以下表示
…エクセルの小数点以下表示でツールバー、セルの書式設定などは表示されていない部分（例えば小数点以下２位までの表示なら３位以下の部分）は四捨五入されているのでしょうか？デフォ...…
小数点以下切捨てした上での足し算
…書式設定で小数点以下の桁数0にし、整数での表示にさせています。 しかしそれらを足し算すると結局正確に小数点以下の数値まで 足されてしまいます。そうしないためには？…
小数点以下の桁にカンマが無いのはなぜ？ 素朴な疑問です。 小数点以下にカンマ等の区切り記...
…小数点以下の桁にカンマが無いのはなぜ？ 素朴な疑問です。 小数点以下にカンマ等の区切り記号がないのはなぜでしょうか？ ミリ、マイクロ、ナノと単位も10の-3乗ずつあるのに。 小数...…
浮動小数点の正規化方法について
…基本情報処理技術者試験を20日に受けます。勉強不足で困っています。どなたか教えてください。 問題「数値を16ビットの浮動小数点表示法で表現する。10進数0.375を正規化せよ：ここでの正...…
アクセスのデータ型。数値型についてお聞きしたいのですが・・・
…アクセスのデータ型。「数値型」ですが、「フィールドサイズ」に (1)バイト型（0～255の範囲。小数点以下の数値は扱えない） (2)整数型（-32,768～32,767の範囲。小数点以下は扱えない） (3)...…
アクセス2003で、数値のプロパティで、小数点以下の表示ができない
…アクセス２００３を使っているのですが、テーブル上やフォーム上で、数値書式のフィールド上で、小数点以下の表示ができません。 プロパティで、書式を数値に設定して、小数点表示の...…
小数点以下０の非表示
…教えてください。 PostgreSQLでNUMERIC(8,3)のデータがあるのですが、 そのデータが小数点以下が０だった場合などに 0を表示させたくないのですがどのようにすればよいのでしょうか？ 2500.000...…
Excelで勝手に小数点以下が増える
…Excel2013を使用しています 数式をいれて小数点以下を2桁など指定した後 そのセルの数式を変更したりすると勝手に小数点以下が2桁ではなく全部表示されたりします これを勝手に小数点以...…
検索で見つからないときは質問してみよう！
質問する（無料）
