浮動小数点実数
の検索結果 (2,126件 181〜 200 件を表示)
エクセルで少数の連続入力のこと。
…エクセルで、6.0 6.1 6.2 ・・・・・・と入力したいと思い、6.0と6.1を範囲指定して、下にコピーしたら、表示上は、問題なかったのですが、セルにカーソルをあわせると、8.19999999999みたいな...…
Accessで小数点以下を切り捨てたいんですが
…今Accessでデータベースを扱っているんですが、小数点以下を切り捨てる方法を教えて欲しいのです。調べてみると、MicrosoftAccessプロジェクト(.adp)に適用可能な関数(floorなど)は見つかるん...…
平均値のもとめ方
…日数の平均を取得したいのですが、小数点の値が戻ってきません。どうしてでしょうか? select avg(datediff(y,A_date,B_date)) from TABLE ●欲しいデータ 1.5 = 3(日間) ÷ 2(レコード) ●データ内容 ...…
有理数と実数とではどちらが多いか
…有理数も実数も無限に多く存在しますよね?上限も下限も無いですし。 私は実数の方が有理数より多く存在すると思うんですけど、実際のところはどうなんでしょうか?どちらも無限にあ...…
wsprintfで浮動小数を扱うには?
…<プログラム環境> Windows XP VC++6.0 MFC AppWizard(exe) ダイアログベース <質問> wsprintf(a,"%f",b); MessageBox(a); で実行すると"f"が出力されました。 浮動小数を出力するにはどうしたら良い...…
エクセルで小数点第2位を切り捨てる方法!
…エクセルで小数点第2位を切り捨てる方法を教えてください。 違うシートで、出た小数点第3位までの数字の、第2位までを使用して 掛け算をしたいです。 ROUND(A1,0)だと、整数になってしま...…
離散フーリエ変換(DFT)の実数と虚数
…離散フーリエ変換を行うと実数部と虚数部が出力されるのはわかったのですが、この実数部と虚数部そのものが何であるかがわからないです。 質問は下記の二つになります。 (1)離散フーリ...…
Access のInt関数が変?
…Access2002 windows2000 仮に フォーム名:計算フォーム テキストボックス名:txt答え コマンドボタン:cmd実行 を作ります。 cmd実行をクリックしたとき次の計算を実行さします。 Me![tx...…
エクセルVBA データ型 SingleとDouble
…SingleとDoubleともに、整数部分の範囲についてはどのように 考えればよいのでしょうか?例えば、小数点以下4桁までを正確 に計算できれば良く、変数の値が 54321.**** となる場合は Single...…
方程式kx²+4x+3=0がただ1つの実数解をもつとき、定数kの値とその実数解を求めよ。 この問題を
…方程式kx²+4x+3=0がただ1つの実数解をもつとき、定数kの値とその実数解を求めよ。 この問題を教えてください。…
EXCELで小数点以下を四捨五入しない方法
…EXCELで例えば、A1セルに7320000 B1セルに156 C1セルに26と入力してA1/B2*C1とすると電卓では、121.9999と続きますが、EXCEL計算では122.0000と勝手に四捨五入されてしまいます。四捨五入されず、実際...…
-2.18+2.11=-7.00000000000003E-02 ?
…VBScriptで次の計算をすると、期待した答えになりません。 なぜでしょう? Dim a As Variant Dim b As Variant a = -2.18 b = 2.11 MsgBox a + b 表示される答え:-7.00000000000003E-02 期待する答え...…
浮動小数点数の内部表現について教えてください
…float型の内部表現を表示するプログラムを書いていくつか試してみたのですが、どこからどこまでが仮数部でどこからどこまでが指数部なのか良くわかりません。 曲がりなりにも自分で考...…
エクセル 小数点第2位 切捨て方法
…エクセル(XPです)で小数点第2位の切捨てをしたいのですが (何もしないと四捨五入してしまいます) どなたか教えていただけますでしょうか? 例えばなのですが、 7900/34700*100=22.7665...…
エクセルのMATCH関数について
…エクセルのMATCH関数についての質問ですが、どうしてもエラーが表示され悩んでいます。どうか教えていただければと思います。 たとえば下記のような場合なぜかエラーが発生してしまいま...…
検索で見つからないときは質問してみよう!