ウォッチ
浮動小数点実数
の検索結果 (2,329件 141〜 160 件を表示)
-3.34 が -3.3399999999999999 で表示される
…SQLServer2005でfloat型の項目に-3.34 を手入力（クエリアナライザでinsert文で入力した時も同様）して、コマンドプロンプトから以下のselect文を実行した所、-3.3399999999999999 で表示されました。 sql...…
C言語でdouble型の小数点の引き算をしたら1.15-1.1の結果が0.05のはずが0.04999・・822になります。0.0...
…int a; double d; d = 1.15 - 1.1; a = (int)(d * 20); この結果でaの値に1を期待しているのですが。0.9999になって結果が0になってしまいます。 他関数などを使用して良いプログラミング例はあります...…
2の補数の計算について
…C言語のプログラム中で得られた10進数の値を，固定長16ビットの2進数に変換したいと考えています． しかしながら，得られた10進数の値が負数であった場合，それを負数と判断し，2の補数...…
16進数どうしの乗算
…Excel2003で、16進どうしの乗算をしたいです。もちろん関数は知っています(Sheet,VBA共に)。 しかしデータが掛ける数掛けられる数どちらも64bitあるので計算が出来ません。 そこでVBAを使ってコ...…
「．５０」は切り捨て、「．５１」は切り上げにしたい
…エクセルです。 小数点以下「．５０」は切り捨て、「．５１」は切り上げにしたいのです。 ５０捨５１入というようです。 例 １．５０→１ １．５１→２ ＩＦかなと思ったのです...…
FortranのFormatについて
…Fortranで数値を出力するときのFormatについて質問です。 数値を小数点を無くして、指数表示で出力したいです。 例えば 0.0025 を 25E-4 と出力するのが希望です。 調べたところ、 『■pe■....…
Excelで消費税抜きの価格を計算する方法について
…Excelで請求書を作成しているんですが、今月から、 交通費(高速代)を、税抜き価格で表示して欲しいと、 取引先の方から、言われました。 現在、交通費(高速代)は、消費税込みなっています...…
小数点切捨て表示
…printf（printf以外でもＯＫです）にて浮動小数点を画面に表示するときに、小数点第3位以下を切り捨てて表示したいのですが、書式指定等をどのように指定すればよいでしょうか。 回答よろ...…
エクセルで入力した時間を小数点で表示したい
…教えてください。 少々わかりづらくて恐縮ですが、エクセルで給与計算書を作っています。 出勤時間、退勤時間を「09:00」「18:30」という形で入力し合計を出します。合計も同じく「220:45...…
floatの有効桁数
…floatの有効桁数を調べていると(インターネット)、6桁や7桁というように、サイトによって異なっていました。 私はc言語でfloatが32bitの時を知りたいのですが、どのサイトが本当なのかなどが...…
エクセルにてacosを使い＃NUM!とエラー
…質問させていただきます。 エクセルの演算機能にてですが、 D4：-28.2 D5：-33 F5：4.8 D6：=D5-D4 F7：DEGREES(ACOS(D6/F5)) と入力したところF7に＃NUM!とエラーが出てしまいます。 D5-...…
トリクル充電と浮動充電、均等充電の違い。
…トリクル充電、浮動充電、均等充電の仕組みなどを教えていただきたい。 なんとなくは分かるのですが、理論的な事が何一つ分からないのです。 どんなときにコレ、こんなときはコレとか...…
Excelで小数点以下の桁数にのみに下線を引くことは可能でしょうか？
…Excel2000を使用しています。 「セルの書式設定」の「表示形式」でドル（例 $500.55）の通貨表示を よく利用するのですが、ユーザー定義の表示形式で小数点以下の桁数 （例では55）にのみ...…
Accessデータをテキスト変換する時、小数点以下の桁数が切れてしまう
…Accessデータをマクロを利用して、csv出力（テキスト変換）する際、 2.564580→2.56 2.125400→2.13 というように、小数第３位で切れた状態でエクスポートされてしまいます。データ自体が切り...…
Access ￥マークを表示しない
…データ型を通貨型にし、書式も通貨型にしたとき、フォームで￥マークを表示しないようにできないでしょうか？ （数値型にすると「小数点以下の表示桁数」を０にしても金額に小数点以...…
ユニオンクエリの書式について
…ＡＣＣＥＳＳ2010を利用しています。 ユニオンクエリの書式についての質問です。 SELECT * from MT_あああ UNION SELECT * from MT_いいい UNION SELECT * from MT_ううう UNION SELECT * from MT_えええ UNION S...…
『笑わない数学 微分積分』のΔxについて
…『笑わない数学 微分積分』の、Δxが表すなんとか小数が「0ではないが0として扱ってもいい」というのが曖昧で大問題というところだけをぼーっと観てたのですが、Δxを例えば小数点以下0が...…
検索で見つからないときは質問してみよう！
質問する（無料）
