dポイントプレゼントキャンペーン実施中!

浮動小数点数

の検索結果 (10,000件 181〜 200 件を表示)

有効数字について

…0.0001gまで測定できるはかりで秤量して得た数値のみを使って計算を行なった場合は小数点以下四桁までが有効ということでいいのでしょうか。 上記のはかりを用いて秤量した場合で、たと...…

締切

チョロQの仕組みについて

…内部の構造はどのようになっているのですか? プルバック式という名前は知っていますが、 中の浮動ギアとかよくわからんので。…

締切

Perlで数値(小数点、負の数、指数を含む)チェックはできますか?

…Perl(Version 5.005_03) で、値が数値(小数点、負の数、指数を含む)か否かを判定したいのですが、うまくいきません。何かよい方法はないでしょうか? お願いします。 【環境】sun4-solaris, apa...…

解決

ユニオンクエリの書式について

…ACCESS2010を利用しています。 ユニオンクエリの書式についての質問です。 SELECT * from MT_あああ UNION SELECT * from MT_いいい UNION SELECT * from MT_ううう UNION SELECT * from MT_えええ UNION S...…

解決

エクセルでの『セルの書式設定』について、右揃えができない!

…こんにちわ。 エクセルで、セルの書式設定にて実験データの表など を右揃えにすることが多いのですが、書式設定内で 表示形式→数値→小数点以下の桁数、で桁数を変える と何故か右...…

解決

「2個のコア、4個のロジカル プロセッサ」の意味

…いつもお世話になります。 CPU,MPUに詳しい方回答をお願いします。 私は、最近の(M)CPUは勉強していませんが、8ビットマイコンの勉強は遠い昔勉強しました。 今更なのですが、Windows8で「m...…

解決

ACCESSのint関数、fix関数について。

…経験者の方にお尋ねします。 切り捨て計算をしたいので、fix関数を使っていたのですが、 先輩から、fix関数やint関数はよく計算間違いを起こすので、使用禁止と言われました。 代わりに...…

解決

中学理科でオームの法則を計算している時の小数点の付け方

…オームの法則で1.5Ωの抵抗に4Aの電流が流れた場合の電圧を求める計算ですが、 答えでは6.0とありました。有効数字2桁と1桁の計算なので有効数字1桁になるかと思ったのですが、解答で...…

締切

ある列、或いは、ある行のセル内に存在する全ての数字を小数点第何(例えば、第二)位まで...

…ある列、或いは、ある行のセル内に存在する全ての数字を小数点第何(例えば、第二)位までの数字までしか表示しないようにする数式(関数)は何がありますか? 例えば、A列の1∼5のセル...…

締切

Excelで0(ゼロ)を0と認識していない件

…Excelで設定した単純なIF構文の関数で発生している事象です。 あるExcel上の表で、数値を入力後その値の有効性を検算するセルがあります。 2つの方法で入力した値がイコールであれば「OK」...…

締切

EXCELで小数点以下を四捨五入しない方法

…EXCELで例えば、A1セルに7320000 B1セルに156 C1セルに26と入力してA1/B2*C1とすると電卓では、121.9999と続きますが、EXCEL計算では122.0000と勝手に四捨五入されてしまいます。四捨五入されず、実際...…

締切

ACCESSの計算式を入れると%表示ができなくなります。

…お忙しいところ恐れ入りますが教えて下さい。 ACCESSのクエリ上で計算をしフォームに表示させているのですが、関数を使ったところ、%表示が出来なくなりました。 プロシー...…

解決

ソフトウェアのversion表記法について

…ソフトウェアのversionには、例えば3.0, 3.1などのような小数点以下の違いで差異を表しているものがあります。 なぜ、3, 4などのように整数だけで表さないのでしょうか? 小数で表すルールみ...…

解決

エクセルで

…100.0と入れたいですが入れると小数点以下の0が消えてしまいます。 どうしたらいいでしょうか?…

解決

Excelの数値の桁数が増えてしまいます。

…こんにちは。Excel2000を使用しています。新規のブックのセルに「34819.7389」と入力するとセル上での表示は変わらないのですが、数式バーには入力されている数値が「34819.7388999999」となって...…

解決

アクセスでの演算で少数点第1位まで表示するには。

…アクセスでの演算で結果を小数点第1位で表示するにはどのようにしたらよいでしょうか。よろしくお願いいたします。…

解決

投球回数の小数点表示

…「6回3分の2」なら7回途中2アウトまで、という意味ですよね。 それでは「5.1回」とか「6.3回」ってどういう意味ですか?…

解決

float型のバイナリデータ表示するGUI

…Windowsでfloat型のバイナリ(IEEE754)データ表示できるフリーのGUIツールありますか? テキスト型(XML)とバイナリ混ざったファイルがあって、もっているツール(HexEditorNeo)使って読もうとす...…

解決

Excelで 25.3÷4.7を小数第1位まで計算して余りを出す方法

… Excelで 例えば、25.3÷4.7を小数第1位まで計算して余りを出す方法ってありますか? QuotientやModで整数までなら商と余りを計算できるのですが・・・商も余りも小数まで計算して出すなんて...…

解決

大至急!

… すいません、パワーポイントでのテキスト上で数字の小数点を揃える方法を教えてください。  宜しくお願い申し上げます。…

解決

検索で見つからないときは質問してみよう!

Q質問する(無料)