［浮動小数点実数］についての検索結果(約2329件中 181〜200件を表示)

離散フーリエ変換（DFT）の実数と虚数

…離散フーリエ変換を行うと実数部と虚数部が出力されるのはわかったのですが、この実数部と虚数部そのものが何であるかがわからないです。質問は下記の二つになります。 (1)離散フーリ...…

…オラクル超初心者です。 SQLでは通貨型(CURRENCY)がありますが、オラクルにも同等の定義であるデータ型があるのでしょうか？ネットで調べて見ましたが、上手いことかゆいところに手が届...…

…＜プログラム環境＞ Windows XP VC++6.0 MFC AppWizard(exe) ダイアログベース＜質問＞ wsprintf(a,"%f",b); MessageBox(a); で実行すると"f"が出力されました。浮動小数を出力するにはどうしたら良い...…

…float型の内部表現を表示するプログラムを書いていくつか試してみたのですが、どこからどこまでが仮数部でどこからどこまでが指数部なのか良くわかりません。曲がりなりにも自分で考...…

…方程式kx²+4x+3=0がただ1つの実数解をもつとき、定数kの値とその実数解を求めよ。この問題を教えてください。…

…今Accessでデータベースを扱っているんですが、小数点以下を切り捨てる方法を教えて欲しいのです。調べてみると、MicrosoftAccessプロジェクト(.adp)に適用可能な関数（floorなど）は見つかるん...…

…日数の平均を取得したいのですが、小数点の値が戻ってきません。どうしてでしょうか？ select avg(datediff(y,A_date,B_date)) from TABLE ●欲しいデータ 1.5 = 3(日間) ÷ 2(レコード) ●データ内容 ...…

…１００．０と入れたいですが入れると小数点以下の０が消えてしまいます。どうしたらいいでしょうか？…

…エクセル（XPです）で小数点第2位の切捨てをしたいのですが（何もしないと四捨五入してしまいます）どなたか教えていただけますでしょうか？例えばなのですが、 7900/34700*100＝22.7665...…

…Access2002 windows2000 仮に　フォーム名：計算フォーム　テキストボックス名：txt答え　コマンドボタン：cmd実行　を作ります。 cmd実行をクリックしたとき次の計算を実行さします。 Me![tx...…

…エクセルにて小数点が入っている大量のデータを小数点だけ外す方法を教えて下さい。小数点切り捨てや切り上げ（round関数）ではなく、小数点だけを外したいのです。例えばセルに、 ...…

…ライプニッツの公式により、円周率の近似値を求めるプログラムを作成しなさい。ただし、この公式は収束が遅い。　　　　　　　　１　　　１　　　　１　　　１　　　１ ...…

…エクセルで小数点第2位を切り捨てる方法を教えてください。違うシートで、出た小数点第3位までの数字の、第2位までを使用して掛け算をしたいです。 ROUND(A1,0)だと、整数になってしま...…

…SingleとDoubleともに、整数部分の範囲についてはどのように考えればよいのでしょうか？例えば、小数点以下4桁までを正確に計算できれば良く、変数の値が　54321.****　となる場合は Single...…

…有理数も実数も無限に多く存在しますよね？上限も下限も無いですし。私は実数の方が有理数より多く存在すると思うんですけど、実際のところはどうなんでしょうか？どちらも無限にあ...…

…いつもお世話になりますすみません、昔のプログラムの改良を頼まれたのですが実数表記と変数表記について、確認の為に教えてくださいまずは実数表記ですが通常、プログラムス...…

…EXCEL2002でSTDEV関数を用い標準偏差を出力しておりまして、通常対象となる数値（データ）が全て同じ値となる場合は平均値も同じ値となるため標準偏差"0"となるかと思うのですが、数値が3.974...…

…兵庫県知事選挙がまさに浮動票が勝ったのかな。投票率上がりましたね。衆議院議員総選挙が先にありましたが、これが後だったら衆議院議員総選挙の結果はどうだったと思いますか？ ...…

…VBScriptで次の計算をすると、期待した答えになりません。なぜでしょう？ Dim a As Variant Dim b As Variant a = -2.18 b = 2.11 MsgBox a + b 表示される答え：-7.00000000000003E-02 期待する答え...…

…昔、CPUが行う計算について習ったとき、確か、足し算しかできなかった記憶があります（間違っていたらすみません）。指数関数EXP(x)などの複雑な（？）数式を計算するとき、CPUはどのよ...…