ウォッチ
浮動小数点
の検索結果 (1,420件 161〜 180 件を表示)
エクセルで小数点第2位を切り捨てる方法！
…エクセルで小数点第2位を切り捨てる方法を教えてください。 違うシートで、出た小数点第3位までの数字の、第2位までを使用して 掛け算をしたいです。 ROUND(A1,0)だと、整数になってしま...…
Access のInt関数が変？
…Access2002 windows2000 仮に フォーム名：計算フォーム テキストボックス名：txt答え コマンドボタン：cmd実行 を作ります。 cmd実行をクリックしたとき次の計算を実行さします。 Me
浮動小数点数の内部表現について教えてください
…float型の内部表現を表示するプログラムを書いていくつか試してみたのですが、どこからどこまでが仮数部でどこからどこまでが指数部なのか良くわかりません。 曲がりなりにも自分で考...…
エクセルのMATCH関数について
…エクセルのMATCH関数についての質問ですが、どうしてもエラーが表示され悩んでいます。どうか教えていただければと思います。 たとえば下記のような場合なぜかエラーが発生してしまいま...…
エクセル 小数点第2位 切捨て方法
…エクセル（XPです）で小数点第2位の切捨てをしたいのですが （何もしないと四捨五入してしまいます） どなたか教えていただけますでしょうか？ 例えばなのですが、 7900/34700*100＝22.7665...…
EXCELの関数"STDEV(標準偏差)"について
…EXCEL2002でSTDEV関数を用い標準偏差を出力しておりまして、通常対象となる数値（データ）が全て同じ値となる場合は平均値も同じ値となるため標準偏差"0"となるかと思うのですが、数値が3.974...…
ACCESSのint関数、fix関数について。
…経験者の方にお尋ねします。 切り捨て計算をしたいので、fix関数を使っていたのですが、 先輩から、fix関数やint関数はよく計算間違いを起こすので、使用禁止と言われました。 代わりに...…
商品有高帳の移動平均法で
…商品の平均単価が小数点（100．3円など）になり 売上があった際、 売上額が小数点を含んだ数字になった時は 扱いはどうするのでしょうか？ 四捨五入すればよいのでしょうか？ それだ...…
5%割引の際の、小数点以下の扱いについて
…たとえば１０００円（税抜）の商品は税込で１０５０円となります。 ここから５％割引をする時に、電卓で計算すると １０５０×５％－＝９９７．５というように小数点以下がでてきます...…
高性能なビデオカードのGPUをCPUにしちゃったら？
…1秒間の浮動小数点演算回数をFLOPSという単位で表し、スーパーコンピュータの性能指標となっていますが、我々に身近なデバイスのFLOPS値としては以下のようなものがありますね。 ・Core 2 ...…
小数点第3位を四捨五入
…０，３６５ の小数点第3位を四捨五入すると、 ０．３７かとおもったんですけど、 解答では０，３７４でした。。。。 普通０，３７ではなかったでしたっけ？？？ 初歩的な質問で申し訳...…
BtrieveからSQL Serverへデータ移行
…お世話になります。 Btrieve から MS SQL Server 2008へデータの移行を行いたいと考えています。 現在、手元に xxxxxx.btr というファイル名のBtrieveのテーブルデータ（？）があります。 NetWere上（？...…
ピリオドがコロンに変換されてしまう
…エクセル2003を使用していますが、小数点を入力するとコロンに変換されてしまいます。0.1と入力すると0:01となります。どうしたらコロンに変換されずに小数点を入力できるのでしょうか。...…
0.15を分数にする方法
…こんばんは、みなさん。 また、どうしても分からないことがあって 先輩方のご指導をお願いしたいです・・・ 分からない事というのは 小数点を分数にする方法なのですが 例えば0.1や1...…
検索で見つからないときは質問してみよう！
質問する（無料）
