%E5%B0%8F%E6%95%B0%E7%82%B9 の検索結果 (1,000件 1〜 10 件を表示)

floatの有効桁数がわからない

…floatの有効桁数は6桁なのでしょうか? 7桁なのでしょうか? wiki(https://ja.wikipedia.org/wiki/%E5%8D%98%E7%B2%BE%E5%BA%A6%E6%B5%AE%E5%8B%95%E5%B0%8F%E6%95%B0%E7%82%B9%E6%95%B0)をみると「指数部が全て 0 でない限り、この...…

締切

有効数字 相対誤差

…いまプログラムを組んでいてある方程式のxを有効数字6桁で求めるのですが、なぜこのxの相対誤差が10^-6より小さくなれば有効数字6桁で求めたことになるのかが理解できません。 お教えく...…

締切

医療事務・薬価計算・小数点の計算

…恥ずかしい話ですが… 私は小さい頃から喘息を患っていて、小学校、中学校あまり登校出来ませんでした。 元々勉強は嫌いでしたが、小学校や中学校で習う勉強がイマイチよく分からない...…

解決

Perl:計算誤差について

…お世話になります。 Perlを使って、計算機には誤差があるという話をしようと思って、 print "1/3*3=", 1/3*3, "\n"; というプログラムを実行させました。 自分としては、1/3の時点...…

解決

浮動少数点とは?

…テストで『浮動小数点』を説明しなければならないのですが、どのように書けばいいのでしょうか? そもそも浮動少数点とは何ですか?…

解決

WORD合計値が正確に表示されない

…例1) 10.000 例2) 10000 2.000 2000 計 12 12000 (合計は正しいですが2の後にコンマが) 例1)キ-ボ-ドの[る. ] コンマを入れてる 例2)コンマ入力して無い ※例1)で一桁欄に例えば[2.001] 入力すれば、1...…

解決

MATLABでの行列の全要素の和

…MATLABでの行列の全要素の和を計算するのに下の例のようにfor文を使うのとsum関数を使うのとで結果が違います。 何故ですか? 計算結果の差をとってみると極々微小な差が生じてしまいます(e-...…

解決

なぜ同じ実数型は整数型よりも広い範囲を表現できるのですか?

…なぜ同じ実数型は整数型よりも広い範囲を表現できるのですか? 素朴な疑問です。 整数型が表現できる範囲は単純で理解できるのですが、それだけに 実数型が同じ情報量(バイト数)でさら...…

解決

C++のプログラムがわかりません。

…C++のプログラムがわかりません。 #include<iostream> using namespace std; union bits{ bits(double n); void show_bits(); double d; unsigned char c[sizeof(double)]; }; bits::bits(double n) { d=n; } void bits::show_bits() { int i,j;...…

解決

情報数学の宿題助けてください。

…問6 8ビットのデータの下位4ビットを0にし、他のビットは変化させない論理演算はどれか。 ア 16進数F0と論理和をとる。 イ 16進数0Fと論理和をとる ウ 16進数F0と論理積をとる エ 16進数0Fと...…

締切

検索で見つからないときは質問してみよう!

Q質問する(無料)

おすすめ情報

Q&A検索履歴

カテゴリ