浮動小数点
の検索結果 (1,425件 1181〜 1200 件を表示)
計算が合わない
…下のプログラムを実行したところ、1/3の計算結果が0.33333333333333331483になってしまいます。これはどこかプログラムが間違っているのでしょうか? #include int main(int argc,char **argv){ double d; ...…
VBAで除算の商・・・
…VBAで除算の商を求めるには「10 \ 5」などと表記しますよね。 しかし、わからないことがあるんです。 5 \ 2.5 = 2 3 \ 1.5 = 1 上記の式っておかしくないですか? 両方とも2で割り切れる...…
データ型でFloatとreal の計算の違い?
…教えてください。 ストアドでfloor(数量(reat) × 単価(money))=金額という計算をさせています。 そこで、200(コ)×9.4(円)=1879円と出るのです。floorで切り捨てても、1880円のはずです。flootなし...…
デジカメのS/N比ってどういうものでしょうか?
…デジカメの機種や性能の違いで S/N比というものがあるらしく あまり聞きなれないのですが どのような基準なのでしょうか。 例) ネガフィルム 70db ポジフィルム 50db EOS5D 50...…
クラスを使った電卓のプログラム
…3つのソースが一つになって動く電卓のプログラムみたいですが・・・ 倍精度浮動小数点数で計算結果を表示します また、画像は動作させるときの条件です。 動いてはくれるんですけ...…
都知事候補の小池さんの支持率って、小池支持者+アンチ蓮舫支持者ですね?
…多くのアンチを持つ蓮舫さんの出馬のおかげで、そのアンチ票が取り込めて当選の可能性は高まってるのかな。 もし、蓮舫さんが出馬しなければ、小池都政に飽きが来た人たちの票がす...…
USB接続と光デジタルケーブル接続による違い
…PCオーディオに詳しい方おしえてください。 ネットを閲覧していたら「USB/DACは音質が悪い。光デジタルケーブルにしたら良くなった。」というものを見つけました。 所詮は口コミなのであ...…
マジックって引き分けでも減るんですか
…中日がマジック2にしましたが、中日が他のチームと同点の場合。 また阪神が他のチームと対戦して引き分けた場合。 この場合、マジックは引き分けでも減るんでしょうか?…
ハードディスクの容量表示を設定したい数字とピッタリにするには?
…OSを入れるときにハードディスクの パーティーションを設定できますが その時に、例えば120GBのディスクだった場合で Cドライブ10GB Dドライブ残り としたい場合、Cドライブの容量の部分...…
エクセルで時間の平均と割合を出したいです。
…平均は、一ヶ月の合計時間数から1対応あたりの時間平均値 割合は合計時間数から見て8分以内、5分以内、3分以内、2分以内の割合が どれだけであったかを出したいです。 ※単位は秒単位バ...…
セルフ給油>> こうなった場合どうしたら??
…おはようございます。 溢れたりetcの話を聞いて 自分で給油が出来ず、 離れたところにある店員さんがいるGSまで入れに 行っていたのですが、そこもセルフに変わってしまい ました...…
doubleの変数にintとintの割り算の結果を代入するとき
…以下のようにするとdには0.5ではなく0が代入されます。 int x = 1, y = 2; double d = x / y; これを回避するために以下のようにするのが一般的だと習いました。 //1. double d = (double)(x) / y; // こ...…
【COBOL】文字列から数値項目に転記するにあたって
…こんにちは。 早速ですがCOBOLのプログラミングで困っています。 MOVEを使って文字列を数値項目に転記する際についてなのですが、 私の今の困っている現状を報告します。 ↓ ↓ ...…
Excel2007 グラフ・データラベルの編集
…Excel2007で円グラフを作成しました ところがデータラベルの表示がまちまちなのですが 思うように編集できません このデータラベルの編集方法について教えていただけませんか 1.ラベル...…
有効数字N桁のマクロについて
…有効数字N桁の処理をするマクロ ROUND2(aa,NN) aa処理する数字、 NN:有効数字桁数 ROUND2 = Application.Round(aa, -Int(Application.Log(Abs(aa))) - 1 + nn) をつかって、有効数字N桁表示をさせるようにして...…
式の解読のお願いm(_._)m
…あるサイトで見掛けた 桁が不揃いの“数字で始まる文字列”を数値のみへの 変換式が記載されていました。 実に簡単、かつ、お見事と思うのですが、私には難解過ぎるのです。 添付図...…
3DCG向けCPUはintel?AMD?
…3DCG制作用のPCを組もうと思っているのですが、CPUはクロック周波数の高いintel製とコア数の多いAMD製Ryzenのどちらが向いていますか? 他にもオススメのものがあったら教えてもらえるとあり...…
クロスバイクのタイヤ選び
…まったくの初心者です。 よろしくお願いします。 安く譲ってもらったクロスバイクのタイヤを探しています。 初めて自転車を手に入れたので、本も買いましたが載っておらず ネットで調...…
検索で見つからないときは質問してみよう!