［固定小数点型］についての検索結果(約10000件中 1〜20件を表示)

浮動小数点演算を固定小数点演算へ変換する

…あるプログラムの処理を高速化するために浮動小数点数を固定小数点数に変換したいので、皆様の力を貸してください。以下のようなプログラムがあります。 -------------------------------------...…

…学校から課題が出ているのですがさっぱりなので教えていただければ幸いです。課題：11051120　この数を３２bitの固定小数点数、浮動小数点数であらわせ (1)固定小数点数、浮動小数点数と...…

…テーブルのデータには小数点以下が第二位まで入力してあるのですが、なぜかフォームでは小数点以下が切り捨てられてしまいます（5.24 → 5.00など）。現在、テーブルのデータ型は数値型...…

…１６ビットの符号付固定小数点について最上位(15)ビットが符号ビットで１４～０ビットが少数部というデータフォーマットだった場合、－０，２５を表すとしたら、０．２５に符号ビッ...…

…アクセスのテーブルに0.001と入力したい場合、データ型を数値型にし、フィールドサイズは単精度浮動小数点型と倍精度浮動小数点型ではどちらを選べばいいのでしょうか？どちらも小...…

…アクセスの、倍精度浮動小数点型で定義したテーブルを作成しました。で、その項目に　99999999　とデータを入力した場合にデータが100000000 に自動変換されてしまいました。　このよう...…

…アクセスのデータ型。「数値型」ですが、「フィールドサイズ」に (1)バイト型（0～255の範囲。小数点以下の数値は扱えない） (2)整数型（-32,768～32,767の範囲。小数点以下は扱えない） (3)...…

…OS：win2000 Access 2000 を使用しています Microsoft Accessにて… テーブルのデータ型を「通貨型」で選択し、書式「通貨」で設定した項目をエクセルにエクスポートすると小数点以下.00と表示...…

…picマイコンをPICC liteと言うＣコンパイラで作成しているのですが、そのPICC liteでは、データ型のdoubleは24ビットで、-3.4×10の38乗～ 3.4×10の38乗となっているのですが・・・この意味がさっぱ...…

…教えてください。 Accessで小数点以下の桁数を表示したいのですが、プロパティで小数点以下の桁数を表示することができるのですが、実際に入力すると値が四捨五入されてしまい小数点以...…

…テーブルでも、クエリーでもちゃんと１０．５と出ているにも拘らず、レポートだと１１になってしまいます。しかも1箇所だけで、他のテキストは小数点がちゃんと表示されます。書式...…

…アクセス２００３を使っているのですが、テーブル上やフォーム上で、数値書式のフィールド上で、小数点以下の表示ができません。プロパティで、書式を数値に設定して、小数点表示の...…

…ACCESSのデータ型の変更について質問です。よそからいただいているACCESSファイルがあるのですが、データがテキスト型で入っていまして、数値型（単精度浮動小数点型）に変更し、IIF関数...…

…「小数点以下２桁」と「小数点２桁」「小数点以下２桁」という表現は正しいかと思うのですが、同じ意味で「小数点２桁」という記載は正しいのでしょうか？できれば、出展を添えて...…

…以前から思っていたのですが、VBの小数点ってあやしくないですか？変な現象を見つけたので、知っている方がいたら教えていただきたいのです。小数点以下、四捨五入をしようと思い...…

…Excel2013を使用しています数式をいれて小数点以下を2桁など指定した後そのセルの数式を変更したりすると勝手に小数点以下が2桁ではなく全部表示されたりしますこれを勝手に小数点以...…

…Accessデータをマクロを利用して、csv出力（テキスト変換）する際、 2.564580→2.56 2.125400→2.13 というように、小数第３位で切れた状態でエクスポートされてしまいます。データ自体が切り...…

…オラクル超初心者です。 SQLでは通貨型(CURRENCY)がありますが、オラクルにも同等の定義であるデータ型があるのでしょうか？ネットで調べて見ましたが、上手いことかゆいところに手が届...…

…固定長char型のvector配列を作成したく、いろいろと調べてみましたがわからなかった為質問させて頂きます。 10桁固定の品番があるとして、この品番をpush_back()にてどんどん追加していける...…

…テキストデータからエクセルマクロで吸出しを行う中で数値データをNumberFomatLocalでカンマと小数点を指定したいのですが小数点以下がセルによって2桁3桁だったり、なかったりとバラバラ...…