固定小数点型 の検索結果 (114件 1〜 10 件を表示)

エクセル mm:ss.0

…エクセルで表示形式がmm:ss.0となっているセルで 条件を判定してフラグを立てたいのですがどうすれば上手くいでしょうか? mm:ss.0で1/10秒単位で時間が表示されています。 例えば10:00.0となれ...…

解決

C言語のfloat型変数の値代入と表示について

…float型変数の値代入と表示について質問があります。 #include <stdio.h> int main(void) { float flVal = 50.456; printf("float型変数:%f", flVal); return 0; } 上記を実行すると、「float型変数:50.456001...…

解決

Accessでnow()で取り出した日付時刻をDate()のように、日付のみにする方法

…こんにちは。 あるフィールドに、既定値として、 Now()が設定してあります。 しかし、クエリから日付比較を 行うのに、Now()で取り出した、 時刻を含む形だと、 うまくいきません。 たと...…

締切

何故True・・・?

…Visual Basicカテゴリの一つ前の質問に関連して質問させて下さい。 確認環境は、Windows10 Excel2013 および VBScriptです。 ---------- Sub aaa() Dim i As Double Dim j As Double i = 0.4 j = 0.6 If i * 3 = j * 2 Then ...…

解決

プログラミングの数値入力についてです

…数値計算の誤差について考察してるのですが、桁を%16.8fで情報落ちなどの計算をしていたところ、数値として a=1.001 と入力したところ、出力では a=1.00100005 と出ました。 なぜ5が出てきたの...…

解決

ACCESSのint関数、fix関数について。

…経験者の方にお尋ねします。 切り捨て計算をしたいので、fix関数を使っていたのですが、 先輩から、fix関数やint関数はよく計算間違いを起こすので、使用禁止と言われました。 代わりに...…

解決

データ型 double の桁数について

…picマイコンをPICC liteと言うCコンパイラで作成しているのですが、そのPICC liteでは、データ型のdoubleは24ビットで、-3.4×10の38乗 〜 3.4×10の38乗となっているのですが・・・ この意味がさっぱ...…

解決

C言語の実数型の足し算

…C言語初心者です。 関数の勉強していて、実数型計算に出くわしました。 #include <stdio.h> float add(float a, float b) { return a+b; } int main(void) { float x=10.5,y=20.3; printf("%f %f\n",x,y); printf(&qu...…

解決

pcで音楽を聴く過程

…pcで音楽を聴く過程を自分なりに考えたのですが、わからない点などあるので教えてください。 また間違っていたら指摘してください。 MP3の音源を再生するとデコードでWAVEになり、(ここ...…

解決

浮動小数点演算と固定小数点演算の使い分けについて

…解説書などには、「浮動小数点は3.14E0の形」や「固定小数点は3.14」などと説明されています。 では、例えば、ごく一般的な32ビットマシンで「3.14 * 45.6」という命令を書いたときに演算さ...…

解決

検索で見つからないときは質問してみよう!

Q質問する(無料)

おすすめ情報

Q&A検索履歴

カテゴリ