ウォッチ
演算誤差
の検索結果 (5,696件 1〜 20 件を表示)
ExcelでPC（パソコン）によって計算結果（演算結果）が違う
…Excel2003 SP2 を使用しています。 類似の質問は見つけられませんでした。 以下のような表の中で、※☆の部分は配列数式を用いているのですが、上司のPC（甲と呼びます）と私のPC（乙と...…
バタフライ演算
…現在、c言語でバタフライ演算を行っているのですが、要素が8個のときはうまくいくのですが、16や32個以上になるとうまくいきません。どこが間違っているのかわからないのですが、わかる...…
Reluの誤差逆伝播法の行列演算
…初歩的な質問なのですが、Reluの誤差逆伝播法の行列演算がよくわかりません。 http://qiita.com/Ugo-Nama/items/04814a13c9ea84978a4c ここの「勾配消失とRectifier Linear Unit」を参考に書いているのですが、...…
浮動小数点演算を固定小数点演算へ変換する
…あるプログラムの処理を高速化するために浮動小数点数を固定小数点数に変換したいので、皆様の力を貸してください。 以下のようなプログラムがあります。 -------------------------------------...…
誤差拡散法のプログラミング
…はじめまして。プログラミング課題でグレースケール画像の誤差拡散法を用いた二値化をプログラミングしています。 しかし、書いてあるとおりにプログラミングしても真っ白になってし...…
数値計算における誤差について
…小数点以下５～６桁の数値（整数部は１～５桁）を何度も積算するプログラムをSolaris7とWinXPで動作させたところ、同一データを使ったにもかかわらず誤差が生じました。非常に小さい差（0.2...…
複数の演算子を選択する場合の処理
…複数の演算子を選択するプログラムがあり、選択する演算子によって計算方法を変えたいのですが、このときに今やっている方法はifの条件分岐にて処理を行っておりますが、演算子は変数...…
VB6のFIX関数での誤差について
…VB6のFIX関数を使用すると次の事象が発生しました。 私自身で制限事項等を調べてみたのですが、探す事が できませんでした。FIX関数へは、DOUBLE型の数値また は数式を入れる構文となって...…
!(否定)演算子について
…!演算子の動きが知りたいです。 !0なら1になる !1なら0になる のは解るのですが !3など数値を入れた場合、0になるのはどの様な内部処理なのでしょうか？ ビット演算 0011 ↓ 0 or 0 or...…
アクセス（2003）のVBAでビット演算方法
…エクセルのマクロではビット演算ができましたが、アクセスではどのような方法があるのでしょうか？ where in 文で値の自動生成も考えられますが、VBやVCでアドインも可能でしょうか教えて...…
Delphi Like 演算子
…MS Access ＶＢＡ のLike 演算子みたいなものは、Delphiにないでしょうか？ 2 つの文字列の比較を行なう演算子です。 例えば s1:='中野'; s2:='東京都中野区'; if s1 like s2 then flg=true; s2の文字列...…
エクセルの演算子の利用について
…エクセルの算術演算子の入力についてです。 以下のURLに記載されている演算子の画像で添付している部分がエラーになってしまいます。この演算子は利用できるものでしょうか？ ちなみ...…
相対誤差の求め方と許容範囲
…相対誤差の求め方についてなのですが、 (誤差)/(文献値)であるのか、 (誤差)/(測定値)であるのかがわかりません。 また、相対誤差は何％くらいまでが許容範囲なのでしょうか？…
2進数データのビット演算
…vb.netにて 0と1からなる2進数で記録した2つの値をビット演算したいと思っております。 Convert.ToInt32("1111101000", 2) などを使って、一度数値に変換して演算すれば、計算可能なことはわかった...…
検索で見つからないときは質問してみよう！
質問する（無料）
