重要なお知らせ

「教えて! goo」は2025年9月17日(水)をもちまして、サービスを終了いたします。詳細はこちら>

【GOLF me!】初月無料お試し

浮動小数点

の検索結果 (1,567件 161〜 180 件を表示)

オラクルのデータ型・通貨について

…オラクル超初心者です。 SQLでは通貨型(CURRENCY)がありますが、オラクルにも同等の定義であるデータ型があるのでしょうか? ネットで調べて見ましたが、上手いことかゆいところに手が届...…

解決

wsprintfで浮動小数を扱うには?

…<プログラム環境> Windows XP VC++6.0 MFC AppWizard(exe) ダイアログベース <質問> wsprintf(a,"%f",b); MessageBox(a); で実行すると"f"が出力されました。 浮動小数を出力するにはどうしたら良い...…

解決

浮動小数点数の内部表現について教えてください

…float型の内部表現を表示するプログラムを書いていくつか試してみたのですが、どこからどこまでが仮数部でどこからどこまでが指数部なのか良くわかりません。 曲がりなりにも自分で考...…

解決

VBAで入力数値について

…Excel VBAでTextBoxに入力された数値が整数か小数か判定し、 小数の場合は、下記のようにしたいのですが、どのようにしたらよいのでしょうか。 TextBoxに入力された数値が、 (1)整数の場...…

解決

2進数のバイアス表現について

…浮動小数の計算でバイアス表現ってのがありますが、これってなんなんですか? いろんなサイトを見て回ったのですが理解できませんでした。 負の表現をなくすらしいですが、バイアスは...…

解決

Accessで小数点以下を切り捨てたいんですが

…今Accessでデータベースを扱っているんですが、小数点以下を切り捨てる方法を教えて欲しいのです。調べてみると、MicrosoftAccessプロジェクト(.adp)に適用可能な関数(floorなど)は見つかるん...…

解決

平均値のもとめ方

…日数の平均を取得したいのですが、小数点の値が戻ってきません。どうしてでしょうか? select avg(datediff(y,A_date,B_date)) from TABLE ●欲しいデータ 1.5 = 3(日間) ÷ 2(レコード) ●データ内容 ...…

解決

エクセル 小数点第2位 切捨て方法

…エクセル(XPです)で小数点第2位の切捨てをしたいのですが (何もしないと四捨五入してしまいます) どなたか教えていただけますでしょうか? 例えばなのですが、 7900/34700*100=22.7665...…

解決

エクセルで

…100.0と入れたいですが入れると小数点以下の0が消えてしまいます。 どうしたらいいでしょうか?…

解決

Access のInt関数が変?

…Access2002 windows2000 仮に フォーム名:計算フォーム テキストボックス名:txt答え コマンドボタン:cmd実行 を作ります。 cmd実行をクリックしたとき次の計算を実行さします。 Me![tx...…

解決

小数点を消す方法

…エクセルにて小数点が入っている大量のデータを小数点だけ外す方法を教えて下さい。 小数点切り捨てや切り上げ(round関数)ではなく、小数点だけを外したいのです。 例えばセルに、 ...…

解決

エクセルで小数点第2位を切り捨てる方法!

…エクセルで小数点第2位を切り捨てる方法を教えてください。 違うシートで、出た小数点第3位までの数字の、第2位までを使用して 掛け算をしたいです。 ROUND(A1,0)だと、整数になってしま...…

解決

エクセルVBA データ型 SingleとDouble

…SingleとDoubleともに、整数部分の範囲についてはどのように 考えればよいのでしょうか?例えば、小数点以下4桁までを正確 に計算できれば良く、変数の値が 54321.**** となる場合は Single...…

解決

最大50桁の実数の和・差・積を求めたい

…C++で、2つの最大50桁の実数を入力して、その和・差・積を求めるプログラムを作りたいのです。 実数をchar型に入力させて、それを1桁ずつint型に変換したいのですが、どのようにやれば...…

解決

EXCELの関数"STDEV(標準偏差)"について

…EXCEL2002でSTDEV関数を用い標準偏差を出力しておりまして、通常対象となる数値(データ)が全て同じ値となる場合は平均値も同じ値となるため標準偏差"0"となるかと思うのですが、数値が3.974...…

解決

組織票vs浮動票

…兵庫県知事選挙がまさに浮動票が勝ったのかな。 投票率上がりましたね。 衆議院議員総選挙が先にありましたが、これが後だったら衆議院議員総選挙の結果はどうだったと思いますか? ...…

締切

高性能なビデオカードのGPUをCPUにしちゃったら?

…1秒間の浮動小数点演算回数をFLOPSという単位で表し、スーパーコンピュータの性能指標となっていますが、我々に身近なデバイスのFLOPS値としては以下のようなものがありますね。 ・Core 2 ...…

解決

-2.18+2.11=-7.00000000000003E-02 ?

…VBScriptで次の計算をすると、期待した答えになりません。 なぜでしょう? Dim a As Variant Dim b As Variant a = -2.18 b = 2.11 MsgBox a + b 表示される答え:-7.00000000000003E-02 期待する答え...…

解決

コンピューターは指数関数をどのように解いている?

…昔、CPUが行う計算について習ったとき、確か、足し算しかできなかった記憶があります(間違っていたらすみません)。 指数関数EXP(x)などの複雑な(?)数式を計算するとき、CPUはどのよ...…

解決

EXCELで小数点以下を四捨五入しない方法

…EXCELで例えば、A1セルに7320000 B1セルに156 C1セルに26と入力してA1/B2*C1とすると電卓では、121.9999と続きますが、EXCEL計算では122.0000と勝手に四捨五入されてしまいます。四捨五入されず、実際...…

締切

検索で見つからないときは質問してみよう!

Q質問する(無料)