ウォッチ
浮動小数点
の検索結果 (1,567件 161〜 180 件を表示)
オラクルのデータ型・通貨について
…オラクル超初心者です。 SQLでは通貨型(CURRENCY)がありますが、オラクルにも同等の定義であるデータ型があるのでしょうか？ ネットで調べて見ましたが、上手いことかゆいところに手が届...…
wsprintfで浮動小数を扱うには？
…＜プログラム環境＞ Windows XP VC++6.0 MFC AppWizard(exe) ダイアログベース ＜質問＞ wsprintf(a,"%f",b); MessageBox(a); で実行すると"f"が出力されました。 浮動小数を出力するにはどうしたら良い...…
浮動小数点数の内部表現について教えてください
…float型の内部表現を表示するプログラムを書いていくつか試してみたのですが、どこからどこまでが仮数部でどこからどこまでが指数部なのか良くわかりません。 曲がりなりにも自分で考...…
VBAで入力数値について
…Excel VBAでTextBoxに入力された数値が整数か小数か判定し、 小数の場合は、下記のようにしたいのですが、どのようにしたらよいのでしょうか。 TextBoxに入力された数値が、 （１）整数の場...…
２進数のバイアス表現について
…浮動小数の計算でバイアス表現ってのがありますが、これってなんなんですか？ いろんなサイトを見て回ったのですが理解できませんでした。 負の表現をなくすらしいですが、バイアスは...…
Accessで小数点以下を切り捨てたいんですが
…今Accessでデータベースを扱っているんですが、小数点以下を切り捨てる方法を教えて欲しいのです。調べてみると、MicrosoftAccessプロジェクト(.adp)に適用可能な関数（floorなど）は見つかるん...…
平均値のもとめ方
…日数の平均を取得したいのですが、小数点の値が戻ってきません。どうしてでしょうか？ select avg(datediff(y,A_date,B_date)) from TABLE ●欲しいデータ 1.5 = 3(日間) ÷ 2(レコード) ●データ内容 ...…
エクセル 小数点第2位 切捨て方法
…エクセル（XPです）で小数点第2位の切捨てをしたいのですが （何もしないと四捨五入してしまいます） どなたか教えていただけますでしょうか？ 例えばなのですが、 7900/34700*100＝22.7665...…
Access のInt関数が変？
…Access2002 windows2000 仮に フォーム名：計算フォーム テキストボックス名：txt答え コマンドボタン：cmd実行 を作ります。 cmd実行をクリックしたとき次の計算を実行さします。 Me
-2.18+2.11=-7.00000000000003E-02 ?
…VBScriptで次の計算をすると、期待した答えになりません。 なぜでしょう？ Dim a As Variant Dim b As Variant a = -2.18 b = 2.11 MsgBox a + b 表示される答え：-7.00000000000003E-02 期待する答え...…
コンピューターは指数関数をどのように解いている？
…昔、CPUが行う計算について習ったとき、確か、足し算しかできなかった記憶があります（間違っていたらすみません）。 指数関数EXP(x)などの複雑な（？）数式を計算するとき、CPUはどのよ...…
高性能なビデオカードのGPUをCPUにしちゃったら？
…1秒間の浮動小数点演算回数をFLOPSという単位で表し、スーパーコンピュータの性能指標となっていますが、我々に身近なデバイスのFLOPS値としては以下のようなものがありますね。 ・Core 2 ...…
検索で見つからないときは質問してみよう！
質問する（無料）
