ウォッチ
誤差関数
の検索結果 (10,000件 1〜 20 件を表示)
VB6のFIX関数での誤差について
…VB6のFIX関数を使用すると次の事象が発生しました。 私自身で制限事項等を調べてみたのですが、探す事が できませんでした。FIX関数へは、DOUBLE型の数値また は数式を入れる構文となって...…
エクセル ＲＯＵＮＤＤＯＷＮ関数の誤差
…給与の計算をエクセルで行っているのですが、誤差が出て困っています。 A1に出勤時間(17:00)、B1に退勤時間(18:00)、C1に勤務時間を計算するため(B1-A1)*24、D1に時給(100)、E1にROUNDDOWN(C1*D1,0)で答...…
C++で誤差関数erf(x)を使いたいのですが...
…「erf c++」や「誤差関数 c++」など検索をかけたところ、以下のようなC言語での関数がでてきまうす。 #include double erf( double x ); これを、C++プログラムに組み込み、例えば簡単な c...…
消費税計算の切り捨てによる誤差
…受注金額や発注金額をDBから読み込み、税抜および税込の金額を算出するプログラムを作成しています。 税込金額を算出する際は金額+floor(金額*税率)の式を用いているのですが、 消費税分が...…
【1円の誤差が！】総合計を正確に出すには？
…こんにちは。 エクセルについての質問です。 ROUND関数を使って消費税を算出しましたが、 合計すると1円の誤差が生じてしまいます。 ↓ 課税対象 36,484,334 消費税 1,824,217(ROUND関数)...…
DATEDIF関数と普通の引き算による日数計算
…7月25日（セルA1）から7月1日（セルB１）までの日数を計算する場合、B1-A1で日数は出てくるようなんですが、例えば月を跨いだ場合、誤差は出てくるのでしょうか？（閏年や、月ごとの総日数...…
最小自乗法で求められた傾きの誤差
…データ列(x,y)がｎ個あって、それを最小自乗法でフィッティングして y=ax+bにおける傾きaが得られました。 そこで、yの測定誤差が例えば±10％あったとき、 傾きaの誤差δaはどのように求...…
エクセルで作った勤怠表に発生する時間の誤差の修正方法を教えていただけないでしょうか？ A...
…エクセルで作った勤怠表に発生する時間の誤差の修正方法を教えていただけないでしょうか？ A1セルに出社時刻、B1セルに退社時刻、C1セルに出勤時間の項目があり、A2セルからA25まで出社時...…
相対誤差の求め方と許容範囲
…相対誤差の求め方についてなのですが、 (誤差)/(文献値)であるのか、 (誤差)/(測定値)であるのかがわかりません。 また、相対誤差は何％くらいまでが許容範囲なのでしょうか？…
誤差の二乗を最小にする理由
…収集したデータをある関数でフィッティングする際、収集したデータと関数の差を二乗した合計が最小になるよう、関数を求める方法がありますが、なぜ二乗なのでしょうか。 統計的な根拠...…
計算値と理論値の誤差について
…交流回路の実験をする前に、ある回路のインピーダンスZ（理論値）を計算で求めたあと、実験をしたあとの測定値を利用して、同じ所のインピーダンスZ（計算値）を求めると理論値と計算...…
ライブラリにない関数の定義
…誤差関数erfと相補誤差関数erfc がライブラリになく プログラムが組めなくて困っています。 どこかにソースがうｐされているとか関数のソースを持っている方とかヘッダファイルを提供し...…
検索で見つからないときは質問してみよう！
質問する（無料）
