浮動小数点実数
の検索結果 (2,332件 961〜 980 件を表示)
EXCELで千円単位を百万円単位に
…EXCELでつくった、千円単位のマトリックス表があります。 これを百万円単位に直したいので、各セルを全て千分の一にしたいのですが、いっぺんに簡単にできる方法はありませんか? 各セル...…
算術シフト演算が成り立つ理由がイマイチ・・・
…算術シフト演算で右シフトにしても左シフトにしてもシフトで空いたビットに符号ビットと同じ物を入れたり0を入れたり、溢れたビットを破棄したり・・・ というのがどうして成り立つの...…
虚数とは結局なんですか?
…以前から疑問なのですが、虚数とは何なのでしょうか? iであらわされ、二乗すると-1になるなどの事はわかるのですが、想像も付かない世界なので、実感がわきません。 理論上の物である...…
無限から無限を引いたら何になるんですか?
…前々から思っていたんですが、無限も数字に入るんですよね?何かの本で読みました。 では、無限から無限を引くと何になるんですか? ∞-∞=0? ∞-∞=-∞? バカな質問ですみま...…
1.5リットルのジュースを0.35リットル入る ペットボトルに分けていきます、 何本できて何リッ...
…1.5リットルのジュースを0.35リットル入る ペットボトルに分けていきます、 何本できて何リットル余りますか。 式と考え方を教えてください 宜しくお願いします。…
パソコンの演算速度について
…ご教示願います。 インテルFortranで作成した計算プログラムを実行しているのですが演算計算で時間がかかってしまいます。プログラムの組み方等は変更できないので実行するパソコンのス...…
数値計算の高速化 (cos, sin, exp)
…数値計算の計算コストに関しての質問です。 webなどで見ていると、「cos, sin, expは計算コストが 高く、高速化のために、他の計算方法で代用できる 場合は代用する」ということが書かれ...…
社外からもらった仕様書に矛盾や誤りがあった場合の対応の仕方
…発注元からもらったプログラム開発、システム開発の仕様書に矛盾があった場合、 例えば、 ・ある変数の定義が、ページによって整数型だったり浮動小数点型だったり、文字型だったり...…
このような媒介変数の問題で、xとyの変域を書く場合と書かない場合があるのですが違いがよく...
…このような媒介変数の問題で、xとyの変域を書く場合と書かない場合があるのですが違いがよく分かりません。また、例えば(1)で値域しか書いていませんが定義域は書かなくていいのでしょ...…
aを定数とする。 2次方程式 x²+ax+a+8=0の解の種類を判別せよ。 教えてください。お願いし
…aを定数とする。 2次方程式 x²+ax+a+8=0の解の種類を判別せよ。 教えてください。お願いします。…
純実(purely real)とはどんな状態のことを言うのでしょうか?総実(totally real
…純実(purely real)とはどんな状態のことを言うのでしょうか?総実(totally real)はWikipediaにあるので分かりますが。 例えば 「Kがアルキメデス順序体で、K[[ε]]がK内のべき級数の環であると仮定し...…
3次方程式x^3+x^2-2x-1=0の解
…3次方程式x^3+x^2-2x-1=0の解をαとします。もちろんカルダノの公式なり何なりでαを具体的に記述することは出来ると思います。さて、 α^2-2 を方程式に代入すると、αが解であることから、α^...…
2次方程式でX^2-3x+2k=0 が虚数解をもつような定数kの値の 範囲を求めよ。 の答えを教え
…2次方程式でX^2-3x+2k=0 が虚数解をもつような定数kの値の 範囲を求めよ。 の答えを教えてください(>人…
x64 ベースプロセッサとはどういうものですか?
…Windows8.1にアップグレードしました。 システムを見たとき、「32 ビットオペレーティング システム、x64 ベースプロセッサ」と 書かれていました。x64 ベースプロセッサとはどういうものです...…
検索で見つからないときは質問してみよう!