固定小数点
の検索結果 (10,000件 181〜 200 件を表示)
エクセルの小数を0.5単位でまるめたい
…エクセルで小数を使う計算をしております。 小数点以下の値を判断して計算結果を0.5単位に整えたいのですが、 n.0とn.5とn+1.0のうちの近い方に丸めることはできますでしょうか。 以下は...…
VB.NETのテキストボックスの書式指定
…VB.NETで開発練習中です。 フォームへ呼び出したデーターを、数値データであれば カンマ区切りとか、小数点以下の桁数を指定するのは どうしたらできるのでしょうか? ソース...…
駐車場賃料の日割り計算について
…賃料26,250円(税込み)で、1月4日から契約開始の場合1月分の日割り賃料の計算方法は、 (1)26,250円÷31日=846.7741943・・・円 小数点以下を切り捨て ...…
EXCELで入力した数字を切り捨てる方法
…EXCELで計算結果を切り捨てる方法はわかるのですが(ROUNDDOWN,TRUNC等)、入力した数字をそのまま切捨てることはできるのでしょうか? セルの書式設定で小数点以下を0にすれば、見た目...…
エクセルで計算して、例えば小数点第2位まで求めると1.36になった数字
…エクセルで計算して、例えば小数点第2位まで求めると1.36になった数字を 小数点第1位で表示すると四捨五入で1.4となったとします。この数字に1000を 掛けると1360と...…
10進数の14.5を浮動小数点(IEEE754形式)の2進数に変換するにはどうしたらよいでしょうか?
…10進数の14.5を浮動小数点(IEEE754形式)の2進数に変換するにはどうしたらよいでしょうか? 10進数の-7.5を浮動小数点(IEEE754形式)の2進数に変換するにはどうしたらよいでしょうか? 計算方法を...…
三菱シーケンサ(Aシリーズ)で小数点を持つ値を扱いたいのですが。。。
…最近、仕事で必要に迫られてシーケンサの勉強を始めた者です。今回、小数点以下第2位まで持つ値をタッチパネル上で入力して、それをシーケンサに転送して演算させなければいけないの...…
C++でfprintfやprintf,fopenなどを使うのは好ましくない?
…今までCは多少慣れがあり、一方でC++はごく最近始めました。 CとC++でパッと見明らかに違うのが入出力の関数とストリームだと思うのですが どうも私的にはCで使いっていたfpr...…
平均値、標準偏差の有効数字について教えてください。
…平均値、標準偏差の有効数字についてです。 0.5046,0.5089,0.5015,0.5365,0.5681 5つの実験データです。 平均値0.52392 標準偏差0.0253442222なのですが、有効数字は何桁ですか? データ桁数に合...…
Excel 分数の分子を小数点で表示したい。
…セルに0.3546と入力し、表示形式をユーザー定義で種類を # ?/10000に設定すると3546/10000と表示されます。 これを354.6/1000と表示したいのですが、ユーザー定義を# ?/1000とすると355/1000となって...…
平方根を小数に直して並び替える問題
…平方根の小数に直す問題で躓いています。中学校レベルの問題です。 次の数を小数で表す時、数字の並び方がおなじになるものはどれとどれか。という問題で、 ア、√3 イ、√30 ウ、√0....…
エクセルにてacosを使い#NUM!とエラー
…質問させていただきます。 エクセルの演算機能にてですが、 D4:-28.2 D5:-33 F5:4.8 D6:=D5-D4 F7:DEGREES(ACOS(D6/F5)) と入力したところF7に#NUM!とエラーが出てしまいます。 D5-...…
エクセルの計算式の計算結果が合わないです。
…簡単な減価計算の計算式を作ったのですが、計算結果が合わず困っています。 A1に100,000,000 A2に=A1*0.15 B2に15 C2に=(1/B2)*2 とし、 一番求めたい計算式が =A2*C2なのですが、答えが2,000,000になりま...…
ROUNDDOWNでも切り捨てられない?
…2,000,000/2/12*6を電卓で順番に計算すると499,999.999・・・になります。 そこで小数点を切り捨てるため =ROUNDDOWN(2,000,000/2/12*6,3) としたのですが、500,000.000・・・になってしまいます。 499,999.999...…
算数・・・単位がわからない!
…高校生です。恥ずかしいのですが、小学校のころ勉強しなかったせいか、特に単位の問題がさっぱ~りわからないのです。(1m=100cmなど・・)又、小数点の計算もよくわかりませ...…
浮動小数点数の内部表現について教えてください
…float型の内部表現を表示するプログラムを書いていくつか試してみたのですが、どこからどこまでが仮数部でどこからどこまでが指数部なのか良くわかりません。 曲がりなりにも自分で考...…
VBScript 数値の少数化
…VBScript (ASP)での開発です。 3→3.0 10→10.0 1.005→1.0 以上のように、数値を小数第一位で固定して 表示したいと思っています。 で、FormatNumber(数値,1)というようにしてみたのですが、 小数値が...…
検索で見つからないときは質問してみよう!