［浮動小数点実数］についての検索結果(約2126件中 201〜220件を表示)

EXCELの関数"STDEV(標準偏差)"について

…EXCEL2002でSTDEV関数を用い標準偏差を出力しておりまして、通常対象となる数値（データ）が全て同じ値となる場合は平均値も同じ値となるため標準偏差"0"となるかと思うのですが、数値が3.974...…

Vba 実数および実数タイプの変数について教えてください

…いつもお世話になりますすみません、昔のプログラムの改良を頼まれたのですが実数表記と変数表記について、確認の為に教えてくださいまずは実数表記ですが通常、プログラムス...…

商品有高帳の移動平均法で

…商品の平均単価が小数点（100．3円など）になり売上があった際、売上額が小数点を含んだ数字になった時は扱いはどうするのでしょうか？四捨五入すればよいのでしょうか？それだ...…

5%割引の際の、小数点以下の扱いについて

…たとえば１０００円（税抜）の商品は税込で１０５０円となります。ここから５％割引をする時に、電卓で計算すると１０５０×５％－＝９９７．５というように小数点以下がでてきます...…

ACCESSのint関数、fix関数について。

…経験者の方にお尋ねします。切り捨て計算をしたいので、fix関数を使っていたのですが、先輩から、fix関数やint関数はよく計算間違いを起こすので、使用禁止と言われました。代わりに...…

小数点第3位を四捨五入

…０，３６５の小数点第3位を四捨五入すると、０．３７かとおもったんですけど、解答では０，３７４でした。。。。普通０，３７ではなかったでしたっけ？？？初歩的な質問で申し訳...…

2011/06/10 18:28
数学
回答数(4)

高性能なビデオカードのGPUをCPUにしちゃったら？

…1秒間の浮動小数点演算回数をFLOPSという単位で表し、スーパーコンピュータの性能指標となっていますが、我々に身近なデバイスのFLOPS値としては以下のようなものがありますね。・Core 2 ...…

BtrieveからSQL Serverへデータ移行

…お世話になります。 Btrieve から MS SQL Server 2008へデータの移行を行いたいと考えています。現在、手元に xxxxxx.btr というファイル名のBtrieveのテーブルデータ（？）があります。 NetWere上（？...…

ピリオドがコロンに変換されてしまう

…エクセル2003を使用していますが、小数点を入力するとコロンに変換されてしまいます。0.1と入力すると0:01となります。どうしたらコロンに変換されずに小数点を入力できるのでしょうか。...…

自然数整数有理数実数加法乗法減法除法をペアノの公理から定義していくとき、どの順番...

…自然数　整数　有理数　実数加法　乗法　減法　除法をペアノの公理から定義していくとき、どの順番が綺麗にできると思いますか？自然数　加法　整数　乗法　有理数　有理数の加法　...…

2024/05/09 17:53
数学
回答数(3)

0.15を分数にする方法

…こんばんは、みなさん。また、どうしても分からないことがあって先輩方のご指導をお願いしたいです・・・分からない事というのは小数点を分数にする方法なのですが例えば0.1や1...…

2005/08/09 20:54
数学
回答数(8)

ExcelのオートSUMで合計金額が１ずれます。

…　A列　　　　B列計　　　　　1,702,481 調整金　　　 -12481　←セルに直接-12481を入力計　　　　　1,690,000　←オートSUMで計～調整金を計算工事金額 1,690,000　←上記「計」を参照消費税　...…

Excelでの有効数字の合わせ方について

…Excelで小数点以下の桁数を合わす機能は知っているのですが、データの有効数字の合わせ方がわかりません。ヘルプで調べても出てこなかったのでお手上げです。どなたかご存知のかたは教...…

次の条件を満たす実数kの値の範囲を求めよ。（1）全ての実数xに対して不等式 kx²－kx＋2＞0

…次の条件を満たす実数kの値の範囲を求めよ。（1）全ての実数xに対して不等式 kx²－kx＋2＞0 が成り立つ。（2）ある実数xに対して不等式 x²－2x＋9＜kxが成り立つ。この...…

2018/04/22 07:05
数学
回答数(2)

過去質『すべての自然数とすべての実数を1対1に対応させる方法：ファイナル』について

…過去質『すべての自然数とすべての実数を1対1に対応させる方法：ファイナル』 https://oshiete.goo.ne.jp/qa/13655137.html で、「『とは言えない』というような曖昧な言い方しかできないが、いずれ...…

2024/04/14 15:35
数学
回答数(12)

2007/11/11 03:02
C言語・C++・C#
回答数(4)

excelで、小数点

…初心者です。会社ですでにあるデータを元に、新しい表を作成しなくてはならなくなりました。そこで質問です。３４４００００→３．４４というふうに数値を変更したいのですが...…

浮動小数点実数