ウォッチ
浮動小数点実数
の検索結果 (2,093件 261〜 280 件を表示)
03分22秒36のような時間の単位を16進数で表すと、どうなりますか？
…03分22秒36のような時間の単位を16進数で表すと、どうなりますか？ また、どうしてそのようになるのか、その変換の過程も教えてください。 お手数ですが、どうぞよろしくお願いします。…
数学の問題です。 実数x、yが、x^2＋3y^2=9を満たすとき、x＋y^2ー1の最大値と最小値を求
…数学の問題です。 実数x、yが、x^2＋3y^2=9を満たすとき、x＋y^2ー1の最大値と最小値を求めなさい。 また、最大値と最小値をとるときのx、yの値をそれぞれ求めなさい。 がわかりません。教え...…
エクセルで計算すると2.43E-19などと表示される。Ｅとは何ですか？
…よろしくお願いします。 エクセルの回帰分析をすると有意水準で2.43E-19などと表示されますが Ｅとは何でしょうか？ また、回帰分析の数字の意味が良く分からないのですが、 皆さんは...…
sql serverのテーブルレイアウトの印刷
…現在、Ｄ／Ｂの設計を行っています。 ｓｑｌ server(7.0)でフイールド等の設定をしています。 その結果のテーブルレイアウトの印刷は、出来るのでしょうか。 また、文字型(chr、varchar、nch...…
EXCEL コサインの計算
…EXCEL コサインの計算のことで 伺います A5に「90」を入力すると =COS(RADIANS(A5))は 6.12574E-17 となるのですが 実際はcos90度は0なので どういう意味でしょうか 実際は書式を標準→数値になお...…
Ｃ言語の型による処理速度の違い
…short int型よりint型。float型よりdouble型の方が 扱えるサイズは広いにも関わらず処理速度が速いと 聞いたのですが、それは本当でしょうか？ もしそうならなぜそうなるのでしょう？ （一度...…
Excel 分数の分子を小数点で表示したい。
…セルに0.3546と入力し、表示形式をユーザー定義で種類を # ?/10000に設定すると3546/10000と表示されます。 これを354.6/1000と表示したいのですが、ユーザー定義を# ?/1000とすると355/1000となって...…
エクセルの計算式の計算結果が合わないです。
…簡単な減価計算の計算式を作ったのですが、計算結果が合わず困っています。 A1に100,000,000 A2に=A1*0.15 B2に15 C2に=(1/B2)*2 とし、 一番求めたい計算式が =A2*C2なのですが、答えが2,000,000になりま...…
float型の精度（有効桁と実数）について
…float型を使った演算の結果で０．００２４５６８という８桁の結果でてきました。 IEEE754の規格により、float型は６～７桁とあるのにナゼ８桁が出てきたのか解りません。 ここで言ってる７...…
ROUNDDOWNでも切り捨てられない？
…2,000,000/2/12*6を電卓で順番に計算すると499,999.999・・・になります。 そこで小数点を切り捨てるため =ROUNDDOWN(2,000,000/2/12*6,3) としたのですが、500,000.000・・・になってしまいます。 499,999.999...…
Visual C++では問題があるのにgccではうまくいく理由
…Visual C++(2005)付属のコマンドラインのコンパイラを使って（cl）コンパイルしたプログラムでは、出力したい値を格納するdouble型の変数の値が、-1.#IND00となってしまうのに対して、 まったく...…
ゼロより大きい最小の数
…ここでも出ていた「１＝０．９９９・・・か？」と言う問題で数学の好きな人（数学の知識のある人かどうかは不明。ただし物理には詳しい。）と話をしていた時に出てきた話題なのですが...…
エクセルで＃＃＃＃＃が表示されてしまう
…エクセルで質問させてください。 時間計算をするエクセル表を作成したのですが、 計算結果のセルに「＃＃＃＃＃」のエラー表示になってしまうセルがあります。 負であるか大きすぎる...…
Excelの数値の桁数が増えてしまいます。
…こんにちは。Excel2000を使用しています。新規のブックのセルに「34819.7389」と入力するとセル上での表示は変わらないのですが、数式バーには入力されている数値が「34819.7388999999」となって...…
検索で見つからないときは質問してみよう！
質問する（無料）
