ウォッチ
浮動小数点数
の検索結果 (10,000件 221〜 240 件を表示)
電卓 パソコン カンマの位置の違い
…999円以上の数字を打つときにパソコンと電卓とで不思議に思うことがあります。 例えば「1000」と表記する時に 千の位と百の位の間の下に「,（コンマ）」を入れて 「1,000」とするようで...…
-2.18+2.11=-7.00000000000003E-02 ?
…VBScriptで次の計算をすると、期待した答えになりません。 なぜでしょう？ Dim a As Variant Dim b As Variant a = -2.18 b = 2.11 MsgBox a + b 表示される答え：-7.00000000000003E-02 期待する答え...…
VBAでの割り算の余りの求め方
…タイトルどおりなのですが VBAでのコーディングを教えてください。 余りを求めてそれを判定に使いたいのですが・・ あと偶数か奇数かの判定の記述があれば それもお教え下さい。…
エクセルで有効桁数を確認する方法
…こんちは。 エクセルに数字 例えば1.080と入力すると、1.08と表示されます。 これを1.080と表示させるにはセルの書式設定で数字、下2桁、と設定すれば1.080と表示されますが、元の数字が1.08...…
c言語のコンパイルエラー cannot convert 'double' to 'double＊'
…c言語のコンパイルエラー cannot convert 'double' to 'double＊' in assigment とは、どのような意味ですか？…
ピリオドがコロンに変換されてしまう
…エクセル2003を使用していますが、小数点を入力するとコロンに変換されてしまいます。0.1と入力すると0:01となります。どうしたらコロンに変換されずに小数点を入力できるのでしょうか。...…
「カンマ」と「コンマ」は同じ語源？
…今まで、何となく「カンマ」と「コンマ」は同じ語源で、基本的には同じものを指すのではないかと思っていました。 しかし、数字の桁区切りはカンマですが、「コンマ零点五秒」などと...…
ExcelのINT関数の計算結果がおかしい。
…ExcelのINT関数というよりも表計算ソフトのINT関数で 1, INT((4.645*100-464)*10)の結果は4 2, INT((464.5-464)*10)の結果は5 3, INT((4.745*100-464)*10)の結果は5 4, INT((474.5-464)*10)の結果は5 になって...…
powf を使わずにべき乗を計算
…組み込み系で開発しているものです。 どうしても 実数のべき乗 を使わねばならないのですが、 powf があまりに遅くて話になりません。 条件 ・sinf, cosf は使ってもよい（高速なライブラ...…
float型とdouble型の変数の違いを教えてほしいです
…float型とdouble型の変数の違いを教えてほしいです 2Dゲームを作っててdoubleの変数を使ってたんですが使ってはだめだと先輩に言われたんです。 理由を聞いたら、先生が「doubleは使わないほう...…
BtrieveからSQL Serverへデータ移行
…お世話になります。 Btrieve から MS SQL Server 2008へデータの移行を行いたいと考えています。 現在、手元に xxxxxx.btr というファイル名のBtrieveのテーブルデータ（？）があります。 NetWere上（？...…
5%割引の際の、小数点以下の扱いについて
…たとえば１０００円（税抜）の商品は税込で１０５０円となります。 ここから５％割引をする時に、電卓で計算すると １０５０×５％－＝９９７．５というように小数点以下がでてきます...…
-1.#IND00と出てしまうのですが・・・
…vc++(2010)でガウスの消去法を使って連立方程式を解く、というプログラムを組みました。 正直中身自体をきちんと理解していないので、 組みながら理解しようと思って組んだのですが、 結果...…
ユーザーフォーム内のテキストボックス内の書式設定
…A1セルに12.345と入力してあり、書式は「数値」で小数点以下の桁数2にしてあり、 「12.35」と表示されます。 VBAを起動して、ユーザーフォームを挿入し、 テキストボックスを作成し、 Text...…
fortranでのNaNについて
…お忙しい所、NaNについて回答お願い致します。 fortranでプログラムを使用して数値計算を行っていますが、計算途中で結果がNaNとなり困っています。 NaNは、0で除算を行なったり、負の数...…
VBAで小数を16進数に変換
…エクセル2003を使用しています。 A列に小数が入力されていて B列に4バイトの16進数に変換した結果を出力するマクロを作りたいと考えています。 例えばA1=1.0のとき B1=0000803F とリトルエン...…
検索で見つからないときは質問してみよう！
質問する（無料）
