浮動小数点実数
の検索結果 (2,329件 281〜 300 件を表示)
EXCEL コサインの計算
…EXCEL コサインの計算のことで 伺います A5に「90」を入力すると =COS(RADIANS(A5))は 6.12574E-17 となるのですが 実際はcos90度は0なので どういう意味でしょうか 実際は書式を標準→数値になお...…
ゼロより大きい最小の数
…ここでも出ていた「1=0.999・・・か?」と言う問題で数学の好きな人(数学の知識のある人かどうかは不明。ただし物理には詳しい。)と話をしていた時に出てきた話題なのですが...…
数学の問題です。 実数x、yが、x^2+3y^2=9を満たすとき、x+y^2ー1の最大値と最小値を求
…数学の問題です。 実数x、yが、x^2+3y^2=9を満たすとき、x+y^2ー1の最大値と最小値を求めなさい。 また、最大値と最小値をとるときのx、yの値をそれぞれ求めなさい。 がわかりません。教え...…
エクセルの計算式の計算結果が合わないです。
…簡単な減価計算の計算式を作ったのですが、計算結果が合わず困っています。 A1に100,000,000 A2に=A1*0.15 B2に15 C2に=(1/B2)*2 とし、 一番求めたい計算式が =A2*C2なのですが、答えが2,000,000になりま...…
2次方程式の解を求めるプログラミングの課題なのですが、
…2次方程式の解を求めるプログラミングの課題なのですが、どのようにすればよいのでしょうか。 プログラミングについてまだまだなので、解説もお願いしたいです。問題は以下のとおり...…
Visual C++では問題があるのにgccではうまくいく理由
…Visual C++(2005)付属のコマンドラインのコンパイラを使って(cl)コンパイルしたプログラムでは、出力したい値を格納するdouble型の変数の値が、-1.#IND00となってしまうのに対して、 まったく...…
実数x、yがx≧0、y≧0、x+2y=4を満たしているときx^2+xy-4y^2の最大値と最小値及び
…実数x、yがx≧0、y≧0、x+2y=4を満たしているときx^2+xy-4y^2の最大値と最小値及びその時のx、yの値を求めよ。 こちらの解法を教えてください。…
Excelの数値の桁数が増えてしまいます。
…こんにちは。Excel2000を使用しています。新規のブックのセルに「34819.7389」と入力するとセル上での表示は変わらないのですが、数式バーには入力されている数値が「34819.7388999999」となって...…
ROUNDDOWNでも切り捨てられない?
…2,000,000/2/12*6を電卓で順番に計算すると499,999.999・・・になります。 そこで小数点を切り捨てるため =ROUNDDOWN(2,000,000/2/12*6,3) としたのですが、500,000.000・・・になってしまいます。 499,999.999...…
エクセルで#####が表示されてしまう
…エクセルで質問させてください。 時間計算をするエクセル表を作成したのですが、 計算結果のセルに「#####」のエラー表示になってしまうセルがあります。 負であるか大きすぎる...…
中間値の定理を用いて実数解をもつことの証明
…方程式f(X)=x3乗+aX二乗+bx+C=0は 定数a,bのいかんにかかわらず一つの実数解を持つことを中間値の うが 定理を用いて証明せよという問題があります。 適当にX=2、X=-4...…
算数・・・単位がわからない!
…高校生です。恥ずかしいのですが、小学校のころ勉強しなかったせいか、特に単位の問題がさっぱ~りわからないのです。(1m=100cmなど・・)又、小数点の計算もよくわかりませ...…
float型の精度(有効桁と実数)について
…float型を使った演算の結果で0.0024568という8桁の結果でてきました。 IEEE754の規格により、float型は6~7桁とあるのにナゼ8桁が出てきたのか解りません。 ここで言ってる7...…
バタフライ演算
…現在、c言語でバタフライ演算を行っているのですが、要素が8個のときはうまくいくのですが、16や32個以上になるとうまくいきません。どこが間違っているのかわからないのですが、わかる...…
EXCELの年月変換について
…小数点の年数を『何年何ヶ月』と変換したいのですが、 どういった関数や操作をすればいいのか分からないため、 質問いたします。 例をあげますと、 「1.5」の数値を、『1年6ヶ月』と...…
エクセル VBA 小数点を含む数字抽出について
…下記の条件の元 数字のみを抽出するマクロは分かったのですが、少数点を含めるとうまく抽出できません 小数点を含む数字を抽出する方法をご教授願えませんでしょうか 条件 B11-B15...…
検索で見つからないときは質問してみよう!