浮動小数点
の検索結果 (1,567件 121〜 140 件を表示)
エクセルでの『セルの書式設定』について、右揃えができない!
…こんにちわ。 エクセルで、セルの書式設定にて実験データの表など を右揃えにすることが多いのですが、書式設定内で 表示形式→数値→小数点以下の桁数、で桁数を変える と何故か右...…
外国でチェック(小切手)支払時に小数点のある場合
…外国でチェック(小切手)で支払う場合、 金額をアラビア数字で書きアルファベットでも書き込みますが 小数点のある場合どのように書くのでしょう? 493.50の場合、123.45の場合など小...…
ACCESS 除算での小数点切上げ方法
…こんにちは。 ACCESSを使った入力フォームにて、除算の自動計算を考えております。 テキストボックスAに入力された数値÷テキストボックスBに入力された数値 の結果をテキストボッ...…
Microsoft Access エクスポート時の「通貨型」数値の小数点表示について
…OS:win2000 Access 2000 を使用しています Microsoft Accessにて… テーブルのデータ型を「通貨型」で選択し、書式「通貨」で設定した項目を エクセルにエクスポートすると小数点以下.00と表示...…
五捨五入(偶捨奇入)の数学的意義と四捨五入との関係
…四捨五入は、端数が0.5のとき常に増える方向に丸められるため、わずかに正のバイアスがある。そのときは、五捨五入が「望ましい」とされている。 バイアスがないのが特徴である(デー...…
Excel2000円グラフでパーセンテージを小数点以下第1位まで表示したい
…Excel2000をMe上で使っています。 円グラフを作成し、グラフオプションのデータラベルタブで 「ラベルとパーセンテージを表示する」を選んでいます。 すると参照先データは小数点以下第1...…
-3.34 が -3.3399999999999999 で表示される
…SQLServer2005でfloat型の項目に-3.34 を手入力(クエリアナライザでinsert文で入力した時も同様)して、コマンドプロンプトから以下のselect文を実行した所、-3.3399999999999999 で表示されました。 sql...…
C言語でdouble型の小数点の引き算をしたら1.15-1.1の結果が0.05のはずが0.04999・・822になります。0.0...
…int a; double d; d = 1.15 - 1.1; a = (int)(d * 20); この結果でaの値に1を期待しているのですが。0.9999になって結果が0になってしまいます。 他関数などを使用して良いプログラミング例はあります...…
2の補数の計算について
…C言語のプログラム中で得られた10進数の値を,固定長16ビットの2進数に変換したいと考えています. しかしながら,得られた10進数の値が負数であった場合,それを負数と判断し,2の補数...…
16進数どうしの乗算
…Excel2003で、16進どうしの乗算をしたいです。もちろん関数は知っています(Sheet,VBA共に)。 しかしデータが掛ける数掛けられる数どちらも64bitあるので計算が出来ません。 そこでVBAを使ってコ...…
「.50」は切り捨て、「.51」は切り上げにしたい
…エクセルです。 小数点以下「.50」は切り捨て、「.51」は切り上げにしたいのです。 50捨51入というようです。 例 1.50→1 1.51→2 IFかなと思ったのです...…
FortranのFormatについて
…Fortranで数値を出力するときのFormatについて質問です。 数値を小数点を無くして、指数表示で出力したいです。 例えば 0.0025 を 25E-4 と出力するのが希望です。 調べたところ、 『■pe■....…
小数点切捨て表示
…printf(printf以外でもOKです)にて浮動小数点を画面に表示するときに、小数点第3位以下を切り捨てて表示したいのですが、書式指定等をどのように指定すればよいでしょうか。 回答よろ...…
Excelで消費税抜きの価格を計算する方法について
…Excelで請求書を作成しているんですが、今月から、 交通費(高速代)を、税抜き価格で表示して欲しいと、 取引先の方から、言われました。 現在、交通費(高速代)は、消費税込みなっています...…
エクセルで入力した時間を小数点で表示したい
…教えてください。 少々わかりづらくて恐縮ですが、エクセルで給与計算書を作っています。 出勤時間、退勤時間を「09:00」「18:30」という形で入力し合計を出します。合計も同じく「220:45...…
floatの有効桁数
…floatの有効桁数を調べていると(インターネット)、6桁や7桁というように、サイトによって異なっていました。 私はc言語でfloatが32bitの時を知りたいのですが、どのサイトが本当なのかなどが...…
エクセルにてacosを使い#NUM!とエラー
…質問させていただきます。 エクセルの演算機能にてですが、 D4:-28.2 D5:-33 F5:4.8 D6:=D5-D4 F7:DEGREES(ACOS(D6/F5)) と入力したところF7に#NUM!とエラーが出てしまいます。 D5-...…
トリクル充電と浮動充電、均等充電の違い。
…トリクル充電、浮動充電、均等充電の仕組みなどを教えていただきたい。 なんとなくは分かるのですが、理論的な事が何一つ分からないのです。 どんなときにコレ、こんなときはコレとか...…
検索で見つからないときは質問してみよう!