ウォッチ
誤差関数
の検索結果 (10,000件 1〜 20 件を表示)
VB6のFIX関数での誤差について
…VB6のFIX関数を使用すると次の事象が発生しました。 私自身で制限事項等を調べてみたのですが、探す事が できませんでした。FIX関数へは、DOUBLE型の数値また は数式を入れる構文となって...…
エクセル ＲＯＵＮＤＤＯＷＮ関数の誤差
…給与の計算をエクセルで行っているのですが、誤差が出て困っています。 A1に出勤時間(17:00)、B1に退勤時間(18:00)、C1に勤務時間を計算するため(B1-A1)*24、D1に時給(100)、E1にROUNDDOWN(C1*D1,0)で答...…
C++で誤差関数erf(x)を使いたいのですが...
…「erf c++」や「誤差関数 c++」など検索をかけたところ、以下のようなC言語での関数がでてきまうす。 #include double erf( double x ); これを、C++プログラムに組み込み、例えば簡単な c...…
消費税計算の切り捨てによる誤差
…受注金額や発注金額をDBから読み込み、税抜および税込の金額を算出するプログラムを作成しています。 税込金額を算出する際は金額+floor(金額*税率)の式を用いているのですが、 消費税分が...…
【1円の誤差が！】総合計を正確に出すには？
…こんにちは。 エクセルについての質問です。 ROUND関数を使って消費税を算出しましたが、 合計すると1円の誤差が生じてしまいます。 ↓ 課税対象 36,484,334 消費税 1,824,217(ROUND関数)...…
DATEDIF関数と普通の引き算による日数計算
…7月25日（セルA1）から7月1日（セルB１）までの日数を計算する場合、B1-A1で日数は出てくるようなんですが、例えば月を跨いだ場合、誤差は出てくるのでしょうか？（閏年や、月ごとの総日数...…
誤差の二乗を最小にする理由
…収集したデータをある関数でフィッティングする際、収集したデータと関数の差を二乗した合計が最小になるよう、関数を求める方法がありますが、なぜ二乗なのでしょうか。 統計的な根拠...…
相対誤差の求め方と許容範囲
…相対誤差の求め方についてなのですが、 (誤差)/(文献値)であるのか、 (誤差)/(測定値)であるのかがわかりません。 また、相対誤差は何％くらいまでが許容範囲なのでしょうか？…
エクセルで作った勤怠表に発生する時間の誤差の修正方法を教えていただけないでしょうか？ A...
…エクセルで作った勤怠表に発生する時間の誤差の修正方法を教えていただけないでしょうか？ A1セルに出社時刻、B1セルに退社時刻、C1セルに出勤時間の項目があり、A2セルからA25まで出社時...…
計算値と理論値の誤差について
…交流回路の実験をする前に、ある回路のインピーダンスZ（理論値）を計算で求めたあと、実験をしたあとの測定値を利用して、同じ所のインピーダンスZ（計算値）を求めると理論値と計算...…
GPSの誤差について
…GPSの受信機は誤差があると聞きました。 これは複数の衛星から情報を受信する時間に（衛星からの距離によって）誤差があるからと考えればよいのでしょうか？ 知識の少ない私にでも解る...…
視聴率100%(または0%)の際の誤差について
…統計学の質問です。 例えばテレビの視聴率を計算する場合、各々の世帯においてテレビを見る・見ないの2択がある ベルヌーイ試行と捉えることが出来るので、どれだけの世帯がテレビを...…
マイクロピペットの再現性と誤差
…化学の実験でマイクロピペットのキャリブレーションをしました。 P-200マイクロピペットで蒸留水を200μl、100μl、50μlをそれぞれ10回とって、各々を電子天秤で重量を測って、キャリブレー...…
検索で見つからないときは質問してみよう！
質問する（無料）
