実数値計算
の検索結果 (10,000件 1〜 20 件を表示)
数値計算向けのPC
…大学の研究で数値計算をしなければなりません。 計算に使用するプログラムは市販されているもので、計算に必要な知識やノウハウなどはプログラムを動かしたり計算をしながら覚えてい...…
数値計算の高速化 (cos, sin, exp)
…数値計算の計算コストに関しての質問です。 webなどで見ていると、「cos, sin, expは計算コストが 高く、高速化のために、他の計算方法で代用できる 場合は代用する」ということが書かれ...…
Excel_文字を数値に置き換えて計算する方法
…Excel2010使用です。 文字を数値に置き換えて計算したい場合、どのような関数を使えばよいかわからず困っています。 例えば、鈴木=10000、田中=15000、佐藤=30000 ・・・といった具合に...…
エクセルで、数値を入力すると、計算された数値を同じセルに表示させる方法
… エクセルで、或る一つのセルに数値を入力すると、計算された数値が同じセルに表示されるようにしたいです。 具体的に、毎月の水道使用量を表にしたいのですが、水道代徴集が2ヶ...…
コピー機の保守料金を求める計算式
…会社でカラーと白黒のコピー機を使っていますが、毎月業者からの請求が手書きで来る為、社長から再度計算するように言われて手計算でやっています。エクセルで毎月の実枚数を入れるだ...…
aがすべての実数値をとって変化するとき、放物線y=x^2+ax+a^2が通らない領域を図示せよ
…クリックありがとうございます(∩´∀`)∩ ★aがすべての実数値をとって変化するとき、放物線y=x^2+ax+a^2が通らない領域を図示せよ この問題について解き方のヒント等お願いします。…
計算の丸め誤差の解消について
…プログラム上で計算するときに丸め誤差が発生し、困っています。 丸め誤差が発生している計算は -0.004+0.006+0.002 なのですが、 -0.004+0.006+0.002=0 となるところが、 =8.47E-09 となってしま...…
セルの数値を、まとめてプラスマイナス反転させる方法ないでしょうか?
…ある計算表を作ったのですが、出来上がったあとにプラスとマイナスを逆に計算していたことに気付きました。 現在プラスの数値をマイナスに、マイナスの数値をプラスに一括して変換す...…
数式の結果である数値のみカウント・合計
…=COUNTIF(A3:A9,">=0")で「0以上の、数式の結果である数値」のセル数のカウントと、 「数式の結果である数値」のセルのみ合計計算したいのですが、 「直接入力した数値」はカウント(計算)せず...…
Excelで数値が文字列になっています
…Excel2010で「このセルにある数値がテキスト形式か、またはアポストロフィで始まっています」という警告が表示されたりして、計算が出来ません。 打ち直ししたり、「エラーチェックルール...…
データから単位文字を除去して計算する方法は?
…エクセル2002、osはwindows10を使っています。 とあるデータを計算したいのですが、データ数値の後にMB(メガバイト)の単位が付記されています。 よってこのMBの文字を除去しないと計算はで...…
数値計算における誤差について
…小数点以下5~6桁の数値(整数部は1~5桁)を何度も積算するプログラムをSolaris7とWinXPで動作させたところ、同一データを使ったにもかかわらず誤差が生じました。非常に小さい差(0.2...…
実時間処理ってなんですか?
…実時間処理の意味を教えてください。 自分の解釈では、コンピュータにデータを入力した瞬間に データの処理と計算がほぼ同時に進行すること、、、という ふうに思っていますが、曖昧...…
入力した数値を複数の一定値で割るには?
…質問です。エクセルで表計算を作っていますが、入力をした数値に、ある複数の一定数値から該当する数値を選び、 割るにはどのようにセルに指示をすればよろしいのでしょうか? <例>...…
計算結果の上限値を設定したい
…計算結果の上限値を設定したいです。 例えば、最大値を3と設定した時、計算結果が3以下の場合はそのままの数値が表示され、3を超えた場合は3と表示される方法はありますか? 例...…
流体の数値計算の分離解法について 移流方程式∂f/∂t+∂f/∂x=Gを分離解法で解くときに、便宜...
…流体の数値計算の分離解法について 移流方程式∂f/∂t+∂f/∂x=Gを分離解法で解くときに、便宜上、①∂f/∂t=Gと➁∂f/∂t+∂f/∂x=0の二段階で計算する方法があるそうですが、なぜ①と➁に分...…
写真から実距離を計算するにはどうすればいいのでしょうか。
…写真から実距離を計算するにはどうすればいいのでしょうか。 写真の1ピクセルに対する距離の求め方が知りたいのです。 添付画像のような位置です。 カメラについて: CCDカメラ 焦...…
エクセルで指定した数値より大きい数値のみを表示したいのです。たとへば1
…エクセルで指定した数値より大きい数値のみを表示したいのです。たとへば1日の拘束時間を計算して、9時間以上のみを表示。9時間以下の場合は表示されないようにしたいのですが、宜しく...…
検索で見つからないときは質問してみよう!