［単精度］についての検索結果(約40件中 1〜20件を表示)

単精度実数の範囲を求める方法を教えて下さい

…ご教授願います。 単精度実数では1ビットの符号部、7ビットの指数部、24ビットの仮数部で表し、-3.40282×10^38～3.40282×10^38の範囲を表すとあります。この、-3.40282×10^38～3.40282×10^38はどのよう...…

テーブルに小数点以下の値を入れたい場合

…アクセスのテーブルに0.001と入力したい場合、データ型を数値型にし、フィールドサイズは 単精度浮動小数点型と倍精度浮動小数点型ではどちらを選べばいいのでしょうか？どちらも小...…

EXCEL16進⇒浮動小数変換したい

…EXCELで8桁の16進文字列を単精度浮動小数点数に変換する方法を教えてください。…

ACCESS データ型の一括変更

…ACCESSのデータ型の変更について質問です。よそからいただいているACCESSファイルがあるのですが、データがテキスト型で入っていまして、数値型（単精度浮動小数点型）に変更し、IIF関数...…

数値計算における誤差について

…小数点以下５～６桁の数値（整数部は１～５桁）を何度も積算するプログラムをSolaris7とWinXPで動作させたところ、同一データを使ったにもかかわらず誤差が生じました。非常に小さい差（0.2...…

2008/02/06 11:23
その他（OS）
回答数(6)

アクセスのデータ型。数値型についてお聞きしたいのですが・・・

…アクセスのデータ型。「数値型」ですが、「フィールドサイズ」に (1)バイト型（0～255の範囲。小数点以下の数値は扱えない） (2)整数型（-32,768～32,767の範囲。小数点以下は扱えない） (3)...…

【Excel VBA】10進数を2進数に直したい

…ExcelのVBAで単精度浮動点小数(以下、小数)を16進数に直すためにコードを書いています。頭の中では、小数→整数部分と小数点以下に分解→2進数→16進数に変換処理という流れはできていま...…

Access2000のレポートで小数点の表示が出来ない

…テーブルでも、クエリーでもちゃんと１０．５と出ているにも拘らず、レポートだと１１になってしまいます。しかも1箇所だけで、他のテキストは小数点がちゃんと表示されます。書式...…

AccessからExcelへエクスポート時に小数点以下の桁数がおかしく

…AccessからExcelへエクスポート時に小数点以下の桁数がおかしくなります。 59.20 118.40 118.40 77.70 49.20 ↓↓↓↓↓ 59.20000076 118.4000015 118.4000015 77.69999695 49.20000076 の様になってしまいます。以下エ...…