［浮動小数点実数］についての検索結果(約2109件中 121〜140件を表示)

四季報　浮動株と特定株を足したら

…四季報の読み方について疑問に思ったことよろしくお願いします。浮動株と特定株を足しても100パーセントにならないのですが、なぜでしょうか？特定の誰かが持っている　それとも　特...…

…こんにちわ。エクセルで、セルの書式設定にて実験データの表などを右揃えにすることが多いのですが、書式設定内で表示形式→数値→小数点以下の桁数、で桁数を変えると何故か右...…

…Excelグラフの有効数字の統一が出来ません。実験データのグラフを作りたいです。表データからグラフに反映する時に有効数字が合わなくなります。表データでは小数点以下の表示をユーザ...…

…外国でチェック（小切手）で支払う場合、金額をアラビア数字で書きアルファベットでも書き込みますが小数点のある場合どのように書くのでしょう？ 493.50の場合、123.45の場合など小...…

…ある整数値を,負数を2の補数で表現する2進表記法で表すと最下位2ビットは"11"であった。10進表記法の下で,その整数値を4で割ったときの余りに関する記述として,適切なものはどれか。ここ...…

…ぼくはプログラム始めたばかりです。ミスを見つけられた方、ご指導お願いします。正整数ｎを入力して、ｎの階乗をもとめるプログラムを作りたいのですが、実行結果がいつも１になり...…

…こんな資料を見つけました。「１９８２年年富士通が開発したスーパーコンピューター、浮動小数点を１秒間に５億回」文系のわたしには何のことかわかりませんが、この３０年前のスー...…

…https://oshiete.goo.ne.jp/qa/13522547.html 1.すべての実数とすべての実数を1対1に対応させることができると仮定する 2.対角線論法により、対応表に存在しない実数が存在するから仮定は誤りこれ...…

…こんにちは。 ACCESSを使った入力フォームにて、除算の自動計算を考えております。テキストボックスAに入力された数値÷テキストボックスBに入力された数値　の結果をテキストボッ...…

…OS：win2000 Access 2000 を使用しています Microsoft Accessにて… テーブルのデータ型を「通貨型」で選択し、書式「通貨」で設定した項目をエクセルにエクスポートすると小数点以下.00と表示...…

…Excel2000をMe上で使っています。円グラフを作成し、グラフオプションのデータラベルタブで「ラベルとパーセンテージを表示する」を選んでいます。すると参照先データは小数点以下第1...…

…long doubleの型を使いたいのですが、出力するとき、 printf("%e\n", A); とすると、８桁しか出力されません。これを１６桁まで出力させる方法はないでしょうか。…

…浮動小数の計算でバイアス表現ってのがありますが、これってなんなんですか？いろんなサイトを見て回ったのですが理解できませんでした。負の表現をなくすらしいですが、バイアスは...…

…組み込み系で開発しているものです。どうしても実数のべき乗を使わねばならないのですが、 powf があまりに遅くて話になりません。条件・sinf, cosf は使ってもよい（高速なライブラ...…

…いつもｇｏｏの皆さんには大変お世話になっていますお陰様で、エクセルを勉強し始めて1年、大変進歩しましたエクセルとマクロの引き出し（自分メモ）も随分と増えました条件付き...…

…SQLServer2005でfloat型の項目に-3.34 を手入力（クエリアナライザでinsert文で入力した時も同様）して、コマンドプロンプトから以下のselect文を実行した所、-3.3399999999999999 で表示されました。 sql...…

…浮動充電方式の直流電源装置ってどういった物がありますか？浮動ってなにが浮いているんですか？…

…int a; double d; d = 1.15 - 1.1; a = (int)(d * 20); この結果でaの値に1を期待しているのですが。0.9999になって結果が0になってしまいます。他関数などを使用して良いプログラミング例はあります...…

…C言語のプログラム中で得られた10進数の値を，固定長16ビットの2進数に変換したいと考えています．しかしながら，得られた10進数の値が負数であった場合，それを負数と判断し，2の補数...…

…Excel2003で、16進どうしの乗算をしたいです。もちろん関数は知っています(Sheet,VBA共に)。しかしデータが掛ける数掛けられる数どちらも64bitあるので計算が出来ません。そこでVBAを使ってコ...…