［浮動小数点実数］についての検索結果(約2329件中 301〜320件を表示)

Accessで小数の入力について

…質問させていただきます。 Access2000を使用しております。そこで、フォームを利用してデータを入力するのですが、金額（通貨型）項目に、小数第2位まで入力する必要があります。テーブル...…

…子どもの頃から疑問に思っていることなんですが、「九分九厘」というのは「ほとんど全て」という意味ですよね。ところで小数点以下第一位は「割」ですよね。０．９９ならほとんど...…

…セル値に「=IF(F4=Y8,"OK","NG")」を設定しております。 F4に「30.90」と表示され、Y8に「30.899」と表示されておりますので、数式を設定しているセル値に「NG」と表示されます。例えば小数点...…

…助けてください。非常に簡単な式ですが、数値によって結果が違い困っています。 a-bが許容内であるか場合"OK"、許容差外の場合"NG" という数式を以下のように作りました。 (本当はもう少...…

…お忙しい所、NaNについて回答お願い致します。 fortranでプログラムを使用して数値計算を行っていますが、計算途中で結果がNaNとなり困っています。 NaNは、0で除算を行なったり、負の数...…

…エクセル2010にて時間を計算し、集計をしています。Ｂ2セルに=sum(Ａ:Ａ)と入力し、表示形式[m]で分単位で合計を出しています。この計算結果を60で割り小数点以下第3位切り捨てにて、表...…

…写真の数値は1302でしょうか？それとも赤い数字、小数点第一位がまだ0になっていないので1301でしょうか？…

…いつもお世話になっています。ある観測生データが「リトルエンディアン」という形式のバイナリファイルです。これをテキストに変換して、DBに取り込んで利用したいです。環境とし...…

…サビアン占星術で、太陽などの度数からサビアンを探すにあたり、小数点以下は切り上げるべきでしょうか。それとも切り捨てるべきでしょうか。例えば、12.65度の場合は13度として見る...…

…単位は時間です。67.1とは何時間ですか？教えて頂きたいです。…

…A1セルに12.345と入力してあり、書式は「数値」で小数点以下の桁数2にしてあり、「12.35」と表示されます。 VBAを起動して、ユーザーフォームを挿入し、テキストボックスを作成し、 Text...…

…C言語のサフィックスについてなのですが、これは要するに定数の型(?)を明示するものでしょうか？またどんな時に使うのか、使わなくてはならないのかを教えてください。検索はしたのです...…

…｢2次不等式2x²+3x+m+1＜0を満たす実数xが存在するようなmの値を求めよ。｣という問題があるのですが、この式の判別式をDとして、 D=(-3)²-4・2(m+1)>0 問題文には0となるのはなぜですか？…

…Excelで資料を作り、2500/本と先に入力し桁区切りをつけたいと思い以前質問させて頂いてなんとか関数を使用し、完成したのですが今度は2500.00/本と先に入力してあって同じように関数を使っ...…

…実数xに対してx以上最小の整数を[x]'とします。 [n/2]'+[n/3]'+[n/7]'+[n/43]'=n をみたす最大の正の整数nっていくつですか？…

…皆さんは円周率を小数点以下何桁まで言えるのでしょうか？…

…EXCELで特定の数値に、ある配分率をかけて（按分）、複数の人に配分する場合、その値の合計が元の特定の数値にピッタリ合わない場合がありますよね。それぞれの結果に小数点がでるため...…

…実数x,yはx^2+y^2=4を満たすとき2x+yの最大値と最小値を求めよ。という問題がわかりません。解説を見て、 2x+y=kとおくとx^2+y^2=x^2+(k-2x)^2 =4となるので変形して5x^2-4x+(k^2ｰ4)=0 というところまでは...…

…企業の賃金表の計算をエクセルで行っているのですが、４捨５入ではなく、３捨４入をしたいのですが、どうしたらいいでしょうか？関数を探したらないようなのですが、何か良い方法は...…

…RedHatLinux AS2.1が稼動しているサーバーにて、稼動してから４年以上経ちますが、最近になってtopコマンドを実行すると『Floating point exception』が発生しCPU等の状況が調べられなくなってしまっ...…