ウォッチ
浮動小数点実数
の検索結果 (2,109件 301〜 320 件を表示)
バタフライ演算
…現在、c言語でバタフライ演算を行っているのですが、要素が8個のときはうまくいくのですが、16や32個以上になるとうまくいきません。どこが間違っているのかわからないのですが、わかる...…
九分九厘で「ほとんど」の意味だが、何故「割」ではないの？
…子どもの頃から疑問に思っていることなんですが、 「九分九厘」というのは「ほとんど全て」という意味ですよね。 ところで小数点以下第一位は「割」ですよね。 ０．９９ならほとんど...…
Excelで小数点を表示しつつ、桁区切りもつけたい。
…Excelで資料を作り、2500/本と先に入力し桁区切りをつけたいと思い以前質問させて頂いてなんとか関数を使用し、完成したのですが今度は2500.00/本と先に入力してあって同じように関数を使っ...…
エクセルで同じ式なのに、数値によって値が変わる
…助けてください。 非常に簡単な式ですが、数値によって結果が違い困っています。 a-bが許容内であるか場合"OK"、許容差外の場合"NG" という数式を以下のように作りました。 (本当はもう少...…
ユーザーフォーム内のテキストボックス内の書式設定
…A1セルに12.345と入力してあり、書式は「数値」で小数点以下の桁数2にしてあり、 「12.35」と表示されます。 VBAを起動して、ユーザーフォームを挿入し、 テキストボックスを作成し、 Text...…
エクセルの時間計算が”分”から”時”（10進法）への変換がうまくいきません
…エクセル2010にて時間を計算し、集計をしています。 Ｂ2セルに=sum(Ａ:Ａ)と入力し、表示形式[m]で分単位で合計を出しています。 この計算結果を60で割り小数点以下第3位切り捨てにて、表...…
C言語のサフィックスについて
…C言語のサフィックスについてなのですが、これは要するに定数の型(?)を明示するものでしょうか？またどんな時に使うのか、使わなくてはならないのかを教えてください。検索はしたのです...…
EXCELの式で按分した結果を元の数値と一致させるには（小数点）？
…EXCELで特定の数値に、ある配分率をかけて（按分）、複数の人に配分する場合、その値の合計が元の特定の数値にピッタリ合わない場合がありますよね。それぞれの結果に小数点がでるため...…
リトルエンディアンのデータをテキスト変換して利用したい
…いつもお世話になっています。 ある観測生データが「リトルエンディアン」という形式のバイナリファイルです。 これをテキストに変換して、DBに取り込んで利用したいです。 環境とし...…
Excel VBAでの数値の計算についておしえてください
…VBAを学び始めたのですが、疑問点があります。 添付画像のように、イミディエイトウインドウに、 ＞ ? 0.3 = 0.1 + 0.2 とすると ＞ False ＞ ? 0.4 = 0.2 + 0.2 とすると ＞ True と出力...…
写真の数値は1302でしょうか？ それとも赤い数字、小数点第一位がまだ0になっていないので1301...
…写真の数値は1302でしょうか？ それとも赤い数字、小数点第一位がまだ0になっていないので1301でしょうか？…
実数x,yはx^2+y^2=4を満たすとき2x+yの最大値と最小値を求めよ。という問題がわかりません
…実数x,yはx^2+y^2=4を満たすとき2x+yの最大値と最小値を求めよ。という問題がわかりません。解説を見て、 2x+y=kとおくとx^2+y^2=x^2+(k-2x)^2 =4となるので 変形して5x^2-4x+(k^2ｰ4)=0 というところまでは...…
topコマンドでFloating point exceptionの発生
…RedHatLinux AS2.1が稼動しているサーバーにて、稼動してから４年以上経ちますが、最近になってtopコマンドを実行すると『Floating point exception』が発生しCPU等の状況が調べられなくなってしまっ...…
EXCELで複数の数式を一括で四捨五入にする方法
…EXCEL2000です 数式が何十個もあるのですが一括で四捨五入にする方法がわからず、一つずつ四捨五入にする式に入力しなおしています 一括で入力しなおす方法はあるのでしょうか…
時間の秒単位で切り上げする方法
…いつも大変お世話になっております。今回も教えてください。測定時間の換算で切り上げする方法なのです。 計測データをCSV変換し、同時に秒を分に切り上げたい。 シートに手作業でＢ2...…
a>0として、3次方程式ax^3-6ax^2+64=0が異なる３つの実数解を持つように、定数aの値の
…a>0として、3次方程式ax^3-6ax^2+64=0が異なる３つの実数解を持つように、定数aの値の範囲を定めよ。 分かる方、解説よろしくお願いいたします。…
検索で見つからないときは質問してみよう！
質問する（無料）
