ウォッチ
浮動小数点
の検索結果 (1,567件 241〜 260 件を表示)
sql serverのテーブルレイアウトの印刷
…現在、Ｄ／Ｂの設計を行っています。 ｓｑｌ server(7.0)でフイールド等の設定をしています。 その結果のテーブルレイアウトの印刷は、出来るのでしょうか。 また、文字型(chr、varchar、nch...…
エクセルで計算すると2.43E-19などと表示される。Ｅとは何ですか？
…よろしくお願いします。 エクセルの回帰分析をすると有意水準で2.43E-19などと表示されますが Ｅとは何でしょうか？ また、回帰分析の数字の意味が良く分からないのですが、 皆さんは...…
Ｃ言語の型による処理速度の違い
…short int型よりint型。float型よりdouble型の方が 扱えるサイズは広いにも関わらず処理速度が速いと 聞いたのですが、それは本当でしょうか？ もしそうならなぜそうなるのでしょう？ （一度...…
エクセルの計算式の計算結果が合わないです。
…簡単な減価計算の計算式を作ったのですが、計算結果が合わず困っています。 A1に100,000,000 A2に=A1*0.15 B2に15 C2に=(1/B2)*2 とし、 一番求めたい計算式が =A2*C2なのですが、答えが2,000,000になりま...…
Visual C++では問題があるのにgccではうまくいく理由
…Visual C++(2005)付属のコマンドラインのコンパイラを使って（cl）コンパイルしたプログラムでは、出力したい値を格納するdouble型の変数の値が、-1.#IND00となってしまうのに対して、 まったく...…
Excelの数値の桁数が増えてしまいます。
…こんにちは。Excel2000を使用しています。新規のブックのセルに「34819.7389」と入力するとセル上での表示は変わらないのですが、数式バーには入力されている数値が「34819.7388999999」となって...…
ROUNDDOWNでも切り捨てられない？
…2,000,000/2/12*6を電卓で順番に計算すると499,999.999・・・になります。 そこで小数点を切り捨てるため =ROUNDDOWN(2,000,000/2/12*6,3) としたのですが、500,000.000・・・になってしまいます。 499,999.999...…
エクセルで＃＃＃＃＃が表示されてしまう
…エクセルで質問させてください。 時間計算をするエクセル表を作成したのですが、 計算結果のセルに「＃＃＃＃＃」のエラー表示になってしまうセルがあります。 負であるか大きすぎる...…
算数・・・単位がわからない！
…高校生です。恥ずかしいのですが、小学校のころ勉強しなかったせいか、特に単位の問題がさっぱ～りわからないのです。（１ｍ＝１００ｃｍなど・・）又、小数点の計算もよくわかりませ...…
エクセル VBA 小数点を含む数字抽出について
…下記の条件の元 数字のみを抽出するマクロは分かったのですが、少数点を含めるとうまく抽出できません 小数点を含む数字を抽出する方法をご教授願えませんでしょうか 条件 Ｂ11-B15...…
Accessで小数の入力について
…質問させていただきます。 Access2000を使用しております。そこで、フォームを利用してデータを入力するのですが、金額（通貨型）項目に、小数第2位まで入力する必要があります。テーブル...…
九分九厘で「ほとんど」の意味だが、何故「割」ではないの？
…子どもの頃から疑問に思っていることなんですが、 「九分九厘」というのは「ほとんど全て」という意味ですよね。 ところで小数点以下第一位は「割」ですよね。 ０．９９ならほとんど...…
エクセルの数式について教えてください。
…セル値に「=IF(F4=Y8,"OK","NG")」を設定しております。 F4に「30.90」と表示され、Y8に「30.899」と表示されておりますので、 数式を設定しているセル値に「NG」と表示されます。 例えば 小数点...…
エクセルで同じ式なのに、数値によって値が変わる
…助けてください。 非常に簡単な式ですが、数値によって結果が違い困っています。 a-bが許容内であるか場合"OK"、許容差外の場合"NG" という数式を以下のように作りました。 (本当はもう少...…
fortranでのNaNについて
…お忙しい所、NaNについて回答お願い致します。 fortranでプログラムを使用して数値計算を行っていますが、計算途中で結果がNaNとなり困っています。 NaNは、0で除算を行なったり、負の数...…
検索で見つからないときは質問してみよう！
質問する（無料）
