浮動小数点
の検索結果 (1,567件 161〜 180 件を表示)
オラクルのデータ型・通貨について
…オラクル超初心者です。 SQLでは通貨型(CURRENCY)がありますが、オラクルにも同等の定義であるデータ型があるのでしょうか? ネットで調べて見ましたが、上手いことかゆいところに手が届...…
wsprintfで浮動小数を扱うには?
…<プログラム環境> Windows XP VC++6.0 MFC AppWizard(exe) ダイアログベース <質問> wsprintf(a,"%f",b); MessageBox(a); で実行すると"f"が出力されました。 浮動小数を出力するにはどうしたら良い...…
浮動小数点数の内部表現について教えてください
…float型の内部表現を表示するプログラムを書いていくつか試してみたのですが、どこからどこまでが仮数部でどこからどこまでが指数部なのか良くわかりません。 曲がりなりにも自分で考...…
VBAで入力数値について
…Excel VBAでTextBoxに入力された数値が整数か小数か判定し、 小数の場合は、下記のようにしたいのですが、どのようにしたらよいのでしょうか。 TextBoxに入力された数値が、 (1)整数の場...…
2進数のバイアス表現について
…浮動小数の計算でバイアス表現ってのがありますが、これってなんなんですか? いろんなサイトを見て回ったのですが理解できませんでした。 負の表現をなくすらしいですが、バイアスは...…
Accessで小数点以下を切り捨てたいんですが
…今Accessでデータベースを扱っているんですが、小数点以下を切り捨てる方法を教えて欲しいのです。調べてみると、MicrosoftAccessプロジェクト(.adp)に適用可能な関数(floorなど)は見つかるん...…
平均値のもとめ方
…日数の平均を取得したいのですが、小数点の値が戻ってきません。どうしてでしょうか? select avg(datediff(y,A_date,B_date)) from TABLE ●欲しいデータ 1.5 = 3(日間) ÷ 2(レコード) ●データ内容 ...…
エクセル 小数点第2位 切捨て方法
…エクセル(XPです)で小数点第2位の切捨てをしたいのですが (何もしないと四捨五入してしまいます) どなたか教えていただけますでしょうか? 例えばなのですが、 7900/34700*100=22.7665...…
Access のInt関数が変?
…Access2002 windows2000 仮に フォーム名:計算フォーム テキストボックス名:txt答え コマンドボタン:cmd実行 を作ります。 cmd実行をクリックしたとき次の計算を実行さします。 Me![tx...…
小数点を消す方法
…エクセルにて小数点が入っている大量のデータを小数点だけ外す方法を教えて下さい。 小数点切り捨てや切り上げ(round関数)ではなく、小数点だけを外したいのです。 例えばセルに、 ...…
エクセルで小数点第2位を切り捨てる方法!
…エクセルで小数点第2位を切り捨てる方法を教えてください。 違うシートで、出た小数点第3位までの数字の、第2位までを使用して 掛け算をしたいです。 ROUND(A1,0)だと、整数になってしま...…
エクセルVBA データ型 SingleとDouble
…SingleとDoubleともに、整数部分の範囲についてはどのように 考えればよいのでしょうか?例えば、小数点以下4桁までを正確 に計算できれば良く、変数の値が 54321.**** となる場合は Single...…
最大50桁の実数の和・差・積を求めたい
…C++で、2つの最大50桁の実数を入力して、その和・差・積を求めるプログラムを作りたいのです。 実数をchar型に入力させて、それを1桁ずつint型に変換したいのですが、どのようにやれば...…
EXCELの関数"STDEV(標準偏差)"について
…EXCEL2002でSTDEV関数を用い標準偏差を出力しておりまして、通常対象となる数値(データ)が全て同じ値となる場合は平均値も同じ値となるため標準偏差"0"となるかと思うのですが、数値が3.974...…
-2.18+2.11=-7.00000000000003E-02 ?
…VBScriptで次の計算をすると、期待した答えになりません。 なぜでしょう? Dim a As Variant Dim b As Variant a = -2.18 b = 2.11 MsgBox a + b 表示される答え:-7.00000000000003E-02 期待する答え...…
コンピューターは指数関数をどのように解いている?
…昔、CPUが行う計算について習ったとき、確か、足し算しかできなかった記憶があります(間違っていたらすみません)。 指数関数EXP(x)などの複雑な(?)数式を計算するとき、CPUはどのよ...…
高性能なビデオカードのGPUをCPUにしちゃったら?
…1秒間の浮動小数点演算回数をFLOPSという単位で表し、スーパーコンピュータの性能指標となっていますが、我々に身近なデバイスのFLOPS値としては以下のようなものがありますね。 ・Core 2 ...…
検索で見つからないときは質問してみよう!