固定小数点型

の検索結果 (116件 1〜 20 件を表示)

エクセル mm:ss.0

…エクセルで表示形式がmm:ss.0となっているセルで 条件を判定してフラグを立てたいのですがどうすれば上手くいでしょうか? mm:ss.0で1/10秒単位で時間が表示されています。 例えば10:00.0となれ...…

解決

C言語のfloat型変数の値代入と表示について

…float型変数の値代入と表示について質問があります。 #include <stdio.h> int main(void) { float flVal = 50.456; printf("float型変数:%f", flVal); return 0; } 上記を実行すると、「float型変数:50.456001...…

解決

Accessでnow()で取り出した日付時刻をDate()のように、日付のみにする方法

…こんにちは。 あるフィールドに、既定値として、 Now()が設定してあります。 しかし、クエリから日付比較を 行うのに、Now()で取り出した、 時刻を含む形だと、 うまくいきません。 たと...…

締切

何故True・・・?

…Visual Basicカテゴリの一つ前の質問に関連して質問させて下さい。 確認環境は、Windows10 Excel2013 および VBScriptです。 ---------- Sub aaa() Dim i As Double Dim j As Double i = 0.4 j = 0.6 If i * 3 = j * 2 Then ...…

解決

プログラミングの数値入力についてです

…数値計算の誤差について考察してるのですが、桁を%16.8fで情報落ちなどの計算をしていたところ、数値として a=1.001 と入力したところ、出力では a=1.00100005 と出ました。 なぜ5が出てきたの...…

解決

ACCESSのint関数、fix関数について。

…経験者の方にお尋ねします。 切り捨て計算をしたいので、fix関数を使っていたのですが、 先輩から、fix関数やint関数はよく計算間違いを起こすので、使用禁止と言われました。 代わりに...…

解決

データ型 double の桁数について

…picマイコンをPICC liteと言うCコンパイラで作成しているのですが、そのPICC liteでは、データ型のdoubleは24ビットで、-3.4×10の38乗 〜 3.4×10の38乗となっているのですが・・・ この意味がさっぱ...…

解決

C言語の実数型の足し算

…C言語初心者です。 関数の勉強していて、実数型計算に出くわしました。 #include <stdio.h> float add(float a, float b) { return a+b; } int main(void) { float x=10.5,y=20.3; printf("%f %f\n",x,y); printf(&qu...…

解決

pcで音楽を聴く過程

…pcで音楽を聴く過程を自分なりに考えたのですが、わからない点などあるので教えてください。 また間違っていたら指摘してください。 MP3の音源を再生するとデコードでWAVEになり、(ここ...…

解決

浮動小数点演算と固定小数点演算の使い分けについて

…解説書などには、「浮動小数点は3.14E0の形」や「固定小数点は3.14」などと説明されています。 では、例えば、ごく一般的な32ビットマシンで「3.14 * 45.6」という命令を書いたときに演算さ...…

解決

Access-フォームの小数点以下が切り捨てられてしまう

…テーブルのデータには小数点以下が第二位まで入力してあるのですが、なぜかフォームでは小数点以下が切り捨てられてしまいます(5.24 → 5.00など)。 現在、テーブルのデータ型は数値型、...…

締切

ユニオンクエリの書式について

…ACCESS2010を利用しています。 ユニオンクエリの書式についての質問です。 SELECT * from MT_あああ UNION SELECT * from MT_いいい UNION SELECT * from MT_ううう UNION SELECT * from MT_えええ UNION SELECT * from MT_お...…

解決

ACCESS2000での金額に使う型

…お世話になっております。 ACCESS勉強中です。 ACCESSで金額を扱うときには型は「通貨型」を使用しているのですが 先日、ある人から「数値型」でもいいじゃないの? とのお話を聞きました...…

解決

16進数どうしの乗算

…Excel2003で、16進どうしの乗算をしたいです。 もちろん関数は知っています(Sheet,VBA共に)。 しかしデータが掛ける数掛けられる数どちらも64bitあるので計算が出来ません。 そこでVBAを使って...…

解決

ACCESS97からEXCELへのEXPORT

…テーブルより、通貨型で書式は固定、小数点以下桁数1に設定しています ACCESS上での表示は小数点以下1桁で表示されますが EXCELにEXPORTすると小数点以下2桁表示になってしまいます ACCESS側...…

解決

Access2003にてあるフィールドのデータ型を

…Access2003にてあるフィールドのデータ型を 『数値型:単精度浮動小数点型』にして書式を『固定(0.00)』 にしてデータ格納しているのですがExcelVBAでSQL(SELECT文)を使って抽出すると すごい桁数(...…

解決

初心者です。 C++ついて

…ドルでおつりを計算するプログラムをC++で書きましたが、時々1セント少なくなって しまいます。 おつり計算の時は正しいのですが、結果(double) を intにアサインする時にそうなってしまい...…

解決

データ型と値で分からないこと

…VBAの勉強をしています。 データ型の値で分からないところがあるので質問させていただきます。 ?1.4E-45 って1.4×(10の-45乗)のことでしたっけ? すると、3.4E38 は、3.4×(10の38乗)? ?浮動小数点...…

締切

VC++6.0 long型とdouble型の掛け算

…VC++6.0 long型とdouble型の掛け算について ----------------------------- long lAnser; long lHoge = 100; double dHoge = 1.15; lAnser = lHoge * dHoge; ------------------------------ 上記のように演算したところ lAnserは「114」に...…

解決

1以下になる数値計算

…変数1+変数2-変数3の式で、 変数1と変数2を足して変数3を引いて 答えが1以下の場合 誤差がでるのですが 誤差を無くすにはどうすればいいでしょうか?…

解決

検索で見つからないときは質問してみよう!

Q質問する(無料)

Q&A検索履歴