［数値計算法］についての検索結果(約10000件中 1〜20件を表示)

数値計算の時間の刻み幅について

…数値計算の際、一般的には時間の刻み幅を大きくすれば計算精度は落ち、小さくすれば精度は上がると言われていますが、それはなぜなのでしょうか？…

2023/11/24 14:57
計算機科学
回答数(6)

数値計算向けのPC

…大学の研究で数値計算をしなければなりません。計算に使用するプログラムは市販されているもので、計算に必要な知識やノウハウなどはプログラムを動かしたり計算をしながら覚えてい...…

EXCELで、60進法の緯度経度を10進法に変換

…EXCELで、60進法の緯度経度を10進法に変換する計算式を教えて頂けませんでしょうか？ A列には60進法の数値（43.03.41.13）が入っております。これを10進法に変換してB列に（43.061425）という...…

数値計算の高速化 (cos, sin, exp)

…数値計算の計算コストに関しての質問です。 webなどで見ていると、「cos, sin, expは計算コストが高く、高速化のために、他の計算方法で代用できる場合は代用する」ということが書かれ...…

2007/01/07 21:19
C言語・C++・C#
回答数(5)

エクセルで６０進法計算の仕方を教えてください

…エクセルで６０進法計算の仕方を教えてください時間表記ではなく、小数点表記（小数点以下２桁）で６０進法の計算をしたいのです。例）　0.60　になったら　→　1.00　と表記される ...…

2010/06/25 16:38
数学
回答数(8)

（C言語）ニュートン法のプログラムの為の数値微分

…Visual StudioでC言語のプログラムを書く課題が出されたのですが、ニュートン法のプログラムを書くために関数f(x)=3+ 2x + {2x - cos^2(x) - sin(x)} / {x^2 + cos(x^2) + sin^3(x^3)} という関数を微分しなけれ...…

Excel_文字を数値に置き換えて計算する方法

…Excel2010使用です。文字を数値に置き換えて計算したい場合、どのような関数を使えばよいかわからず困っています。例えば、鈴木＝10000、田中＝15000、佐藤＝30000　　・・・といった具合に...…

数値計算？？

…f(x)=x-cosx=0 の解を求めるプログラムを教えて下さい。ニュートン法と逐次代入法で初期値は0.5、収束判定は10の-10乗と先生が言ってたのですが全くわかりません。お願いします。…

2004/10/17 20:55
Java
回答数(2)

エクセルで、数値を入力すると、計算された数値を同じセルに表示させる方法

…　エクセルで、或る一つのセルに数値を入力すると、計算された数値が同じセルに表示されるようにしたいです。　具体的に、毎月の水道使用量を表にしたいのですが、水道代徴集が２ヶ...…

numpyスライス機能を使った数値計算

…・スライス機能で数値計算を行うにあたり処理の条件分岐ができるように実現したいです。現在、2次元配列の数値計算のプログラムを作成しています。以前作成した2重ループの数値計...…

2023/05/08 16:01
C言語・C++・C#
回答数(2)

数式の結果である数値のみカウント・合計

…=COUNTIF(A3:A9,">=0")で「0以上の、数式の結果である数値」のセル数のカウントと、「数式の結果である数値」のセルのみ合計計算したいのですが、「直接入力した数値」はカウント(計算)せず...…

12進法の計算【訂正】

…12進法の計算で割り算はどのようにしたらいいですか？例えば0、１、２、３、４、５、６、７、８、９、A、B、（A=10、B=11)の数字体系で、　　　　　　　　　　　　　4B5÷A８の計算をする...…

2012/04/07 01:51
数学
回答数(6)

2009/09/21 16:39
C言語・C++・C#
回答数(6)

10進法で時間の計算で30分が0.5だったら、その計算方法が分かりませ

…10進法で時間の計算で30分が0.5だったら、その計算方法が分かりません、教えてください。…

2010/01/13 23:40
数学
回答数(7)

セルの数値を、まとめてプラスマイナス反転させる方法ないでしょうか？

…ある計算表を作ったのですが、出来上がったあとにプラスとマイナスを逆に計算していたことに気付きました。現在プラスの数値をマイナスに、マイナスの数値をプラスに一括して変換す...…

数値計算法