ウォッチ
浮動小数点実数
の検索結果 (2,074件 561〜 580 件を表示)
同じ時間なのに、６０進と１０進とで給与の金額に誤差が生じる
…時間の計算方法がＡ社とＢ社で異なります。 それによって同じ時間なのに 給与の金額が異なります。 Ａ社→６０進 Ｂ社→１０進 元の時間「１００．８８」（１０進） －－－－...…
OpenCVでの画像サイズ取得について教えてください。
…OpenCVでの画像サイズ取得について教えてください。 rawデータをjpgにして取得し、その画像を4分割したいのですがエラーが3つ出てしまいます。 環境はVisual Studio2008です。 いろいろと調べた...…
Ｃ言語の複素数についてです。
…Ｃ言語で複素数を使うことになりましたが、複素数をプログラム上でどう使うかわかりません。 粒子の複素屈折率を計算してシミュレーションするというものです。 その複素屈折率は ...…
double型からfloat型への型変換について
…double型で-999.999という数字をfloat型へキャストして 少数以下6桁をprintf文で表示すると、それぞれ以下の様になりました。 double -999.999000 float -999.999023 これは、単純にfloatの精度の問題...…
EXCELにて、整数と小数点を色分けしたい
…おせわになります。質問のカテゴリが間違えていないか不安なのですが 質問させてくださ。 ＜質問内容＞ Excelにて、整数と小数点が同列にて発生しているデータがあるのですが これを ...…
VBでDate型の大小比較がうまく動作しないのですが
…nenonenoです。こんにちわ Windows98,VB6SP5の環境でDate型の変数dtmNext,dtmToを比較しようとしたのですが、同じはずなのに片方が大きいと判定していまいます。 datediffでしらべると0:00:00と返すので...…
お金（数）の読み方を教えて下さい。
…$42.01の英語での読み方がよく分かりません。 4201だったら二桁ずつ区切りforty-two oh-one だと思うのですが$42.01ですとコンマが入っているので forty-two point oh-oneで良いのでしょうか？ ドル...…
二次方程式で共通の実数解をただ一つ持つとき
…二次方程式で共通な実数解をただ一つ持つときmの値とその共通解を求めよ、という問題があるんですが解説を見ると、共通解x＝aとおくとありました。 これの意味が理解出来ません。 いち...…
Excelの数値の小数点表示について質問です
…現在使用しているシステムから金額データを抽出すると小数点1桁の金額まで表示されるのですが、なぜか少数点が表示されず困ってます。 例えば本来なら1000.5円のものが10005円と表示され...…
関数電卓の表示方法を変更したい
…カシオの関数電卓fx-370EXを使用しています。 そこで三角関数の計算をしていたのですが 「tan(0.1)=」と計算すると「1.74533×10^-3」となります。 これを×10＾-3という表記ではなく「0.00174533」と...…
約数と因数の違い(∈N)
…中学校3年で「素因数分解」が教科書に出てきます。 教科書では「因数」「素数」「素因数分解」の順に説明されています。「因数」と小学校で習う「約数」の違いは何ですか？ ほとんど...…
0による不動小数点数除算. ?
…「0による不動小数点数除算.」というエラーはなぜ発生するのか。 それを回避する方法は何か、教えてください。 ネットで調べてみましたが、勉強不足でよくわからないのです。 Windoes7 32bit...…
sql*loader 数値のロード
…SQL*LOADERにて NUMBER(3,0)のフィールドに、小数点以下を含む数値をもったデータをロードすると 四捨五入か何かされて整数でデータがロードされてしまいます。 テーブル、CTLファイル、csvレ...…
セルの表示形式で 「0.00_ 」はどういう意味ですか？
…セルに数値としてデータを入力すると、データの右側に半角のスペースが入ってしまいます。 ユーザー定義をみますと、「0.00_ 」となっていて、アンダーバーの右側に半角のスペースが入...…
ＲＯＵＮＤ関数で循環参照に・・・
…Ａ１にある数値１５０．２３６を１５０にしたいのです。しかも参照先をＡ１のままで。 やはり計算式はＡ１以外を指定しないとだめでしょうか。 既に入力されている数値を整数に変えた...…
検索で見つからないときは質問してみよう！
質問する（無料）
