ウォッチ
浮動小数点実数
の検索結果 (2,329件 21〜 40 件を表示)
Access2000のレポートで小数点の表示が出来ない
…テーブルでも、クエリーでもちゃんと１０．５と出ているにも拘らず、レポートだと１１になってしまいます。 しかも1箇所だけで、他のテキストは小数点がちゃんと表示されます。 書式...…
sprintf関数での文字列変換について
…マイコンにて、 C言語で浮動小数点の数値を表示するプログラムを作成しているのですが、 PRINT_OUT("123.456"); のように、文字列を直接指定した場合は正しく表示されるのですが、 sprintf()...…
ＶＢ．ｎｅｔ Ｄｏｕｂｌｅ と Ｄｅｃｉｍａｌ の違い？
…ＶＢ．ＮＥＴで開発しています 元々はＣ言語で開発してましたが、最近ＶＢ．ＮＥＴをしています で、以前誰かが作ったプログラムをデバッグしているんですが、その中に Ｄｏｕｂｌｅ ...…
Excel 小数点以下を切り捨てた値を集計する方法
…エクセル2010を使っている者です。 小数点以下を切り捨てた状態で集計する方法についてお教えください。 A1 3 B1 9 C1 A2 =rounddown(A1*0.8) B2 =ro...…
小数点以下は、どこまで計算するのですか？
…初歩的な質問で、すみません。 電験３種の計算問題についてなんですが、 小数点以下は、なん桁まで計算するのが良いのでしょうか？ 通常の解答をするには、小数点以下は、なん桁ま...…
printfの小数点以下の表示桁数につい
…Java超初心者です。宜しくお願い致します。 System.out.printf("%8f\n",15.8); は８桁表示のはずですが、 実行すると、 15.800000 と、いう風に９桁になります。 詳しい方はきっと当たり前と思うと思...…
Excelの小数点以下表示・非表示の方法について
…Excel2000において、小数点以下の表示方法について教えてください。 条件は以下の通りです。 (1)小数点以下が存在するときは、小数点以下第2位まで表示する。 ※小数点以下第3位の処理は...…
Excelの小数点以下の桁数の既定値を変更する
…いつも勉強させていただいております。 Excelで数値（例えば50000）を入力して、桁区切りをすると、勝手に50,000.00と小数点第二位までが表示されてしまいます。 私はただ50,000という風にな...…
VBの小数点周り
…以前から思っていたのですが、VBの小数点ってあやしくないですか？ 変な現象を見つけたので、知っている方がいたら教えていただきたいのです。 小数点以下、四捨五入をしようと思い...…
セルの小数点以下をカットする方法
…縦一列に、ランダムに数字が入っていて それぞれ、小数点以下がなかったり、２桁以上あったりするのですが、 その列の数字から、一気に小数点以下を切り捨てさせて、整数をそこに残す...…
基本情報の浮動小数点について
…基本情報技術者試験の勉強をしているのですが、浮動小数点の問題がどうしても解けません。問題を読んでもいまひとつ理解できず、四苦八苦しています。 下記の問題なのですが、教えて...…
浮動小数点の定数
…基本的なことで恐縮ですが、 float f = 1; float f = 1.f; および double d = 1; double d = 1.0; これらは、違いがあるのでしょうか。…
計算の丸め誤差の解消について
…プログラム上で計算するときに丸め誤差が発生し、困っています。 丸め誤差が発生している計算は -0.004+0.006+0.002 なのですが、 -0.004+0.006+0.002=0 となるところが、 =8.47E-09 となってしま...…
アクセス クエリ計算の小数点以下の四捨五入は自由にできるのですか
…クエリ計算の小数点以下の四捨五入は、項目ごとに自由に切り上げにしたり、切り捨てにしたり設定できるのですか。 それともクエリではなくフォームやレポートの設定で行うのでしょう...…
【FLASH】小数点以下の「0」も表示したい。（1 → 1.0 など）
…FLASH８（Win-XP）使用者です。 残り時間の秒数などを小数点以下第１位まで表示させたい場合、通常のやり方、 hyoji.text = Math.floor(jikan*10)/10; などですと、小数点以下が0の場合は0が表示さ...…
浮動小数点の誤差のあわせ方
…文字列からdouble型変換で他のPGと誤差がでてしまうのですが、 なんとか同じBinaryにしたいので教えてください。 1.489を他のPGのHEXで表した結果では、 printf("1.489 = %08lx%08lx\n", atof((double)？...…
組み込みCプログラムで実数型
…8～16bit、32bitのマイコンでCの組み込みプログラムを仕事で作りはじめました。 その中で、floatやdoubleといった実数型は使わないようにと教わりました。コードサイズが大きくなること、処理...…
検索で見つからないときは質問してみよう！
質問する（無料）
