ウォッチ
浮動小数点実数
の検索結果 (2,126件 261〜 280 件を表示)
平均値、標準偏差の有効数字について教えてください。
…平均値、標準偏差の有効数字についてです。 0.5046,0.5089,0.5015,0.5365,0.5681 5つの実験データです。 平均値0.52392 標準偏差0.0253442222なのですが、有効数字は何桁ですか？ データ桁数に合...…
03分22秒36のような時間の単位を16進数で表すと、どうなりますか？
…03分22秒36のような時間の単位を16進数で表すと、どうなりますか？ また、どうしてそのようになるのか、その変換の過程も教えてください。 お手数ですが、どうぞよろしくお願いします。…
EXCELで入力した数字を切り捨てる方法
…ＥＸＣＥＬで計算結果を切り捨てる方法はわかるのですが(ROUNDDOWN,TRUNC等)、入力した数字をそのまま切捨てることはできるのでしょうか？ セルの書式設定で小数点以下を０にすれば、見た目...…
写真の数学の質問です。 なぜ、3実数解を持つと接点が三本引けるのでしょうか？一個でも二個...
…写真の数学の質問です。 なぜ、3実数解を持つと接点が三本引けるのでしょうか？一個でも二個でも三個でも単調増加じゃなければできると思うのですが……
Excel 分数の分子を小数点で表示したい。
…セルに0.3546と入力し、表示形式をユーザー定義で種類を # ?/10000に設定すると3546/10000と表示されます。 これを354.6/1000と表示したいのですが、ユーザー定義を# ?/1000とすると355/1000となって...…
エクセルで足し算の合計が合わない
…Ａ１のセルに￥１,５６７,０００円、Ｂ１のセルに￥７８,３５０円（関数は＋Ａ１＊５％）Ｃ１のセルにＡ１＋Ｂ１の合計を求めたいのですが、計算機でやると￥１,６４５,３５０円になり...…
写真の数学についての質問です。 判別式を求めるとき、解の実数の数は2個で有ることが確定し...
…写真の数学についての質問です。 判別式を求めるとき、解の実数の数は2個で有ることが確定しているのに、＝と表現できるのはなぜですか？ また、Dの判別式でP≧１/√3と表現できただけで...…
平方根を小数に直して並び替える問題
…平方根の小数に直す問題で躓いています。中学校レベルの問題です。 次の数を小数で表す時、数字の並び方がおなじになるものはどれとどれか。という問題で、 ア、√3 イ、√30 ウ、√0....…
ある方から頂いた回答について
…前回の質問↓ https://oshiete.goo.ne.jp/qa/13524752.html 1.すべての実数とすべての実数を1対1に対応させることができると仮定する 例 3.141592…→3.141592… 1.414213…→1.414213… 6.661922…→6.661922… ...…
エクセルで計算すると2.43E-19などと表示される。Ｅとは何ですか？
…よろしくお願いします。 エクセルの回帰分析をすると有意水準で2.43E-19などと表示されますが Ｅとは何でしょうか？ また、回帰分析の数字の意味が良く分からないのですが、 皆さんは...…
sql serverのテーブルレイアウトの印刷
…現在、Ｄ／Ｂの設計を行っています。 ｓｑｌ server(7.0)でフイールド等の設定をしています。 その結果のテーブルレイアウトの印刷は、出来るのでしょうか。 また、文字型(chr、varchar、nch...…
Ｃ言語の型による処理速度の違い
…short int型よりint型。float型よりdouble型の方が 扱えるサイズは広いにも関わらず処理速度が速いと 聞いたのですが、それは本当でしょうか？ もしそうならなぜそうなるのでしょう？ （一度...…
円周率は原理的に途中の桁から計算可能ですか？
…例えば、パイ=3.14159265とあって 3.14の部分は一切計算することなく、小数点3桁目から6桁だけ計算する感じです。答えとしては159265になります。 おそらくは簡単にできないのでしょうが、...…
ROUNDDOWNでも切り捨てられない？
…2,000,000/2/12*6を電卓で順番に計算すると499,999.999・・・になります。 そこで小数点を切り捨てるため =ROUNDDOWN(2,000,000/2/12*6,3) としたのですが、500,000.000・・・になってしまいます。 499,999.999...…
float型の精度（有効桁と実数）について
…float型を使った演算の結果で０．００２４５６８という８桁の結果でてきました。 IEEE754の規格により、float型は６～７桁とあるのにナゼ８桁が出てきたのか解りません。 ここで言ってる７...…
Visual C++では問題があるのにgccではうまくいく理由
…Visual C++(2005)付属のコマンドラインのコンパイラを使って（cl）コンパイルしたプログラムでは、出力したい値を格納するdouble型の変数の値が、-1.#IND00となってしまうのに対して、 まったく...…
Excelの数値の桁数が増えてしまいます。
…こんにちは。Excel2000を使用しています。新規のブックのセルに「34819.7389」と入力するとセル上での表示は変わらないのですが、数式バーには入力されている数値が「34819.7388999999」となって...…
検索で見つからないときは質問してみよう！
質問する（無料）
