［浮動小数点］についての検索結果(約1567件中 221〜240件を表示)

「カンマ」と「コンマ」は同じ語源？

…今まで、何となく「カンマ」と「コンマ」は同じ語源で、基本的には同じものを指すのではないかと思っていました。しかし、数字の桁区切りはカンマですが、「コンマ零点五秒」などと...…

…ぼくはプログラム始めたばかりです。ミスを見つけられた方、ご指導お願いします。正整数ｎを入力して、ｎの階乗をもとめるプログラムを作りたいのですが、実行結果がいつも１になり...…

…お世話になります。以前ここの場所で、小数点の切り上げについては教えて頂きました。 =ROUNDUP(A1,0)　・・・セルにこの計算式を入れればＯＫでした。では、・・・ 1098　を、...…

…Windows10の電卓アプリ（標準モード）を使うことがあるのですが、小数点以下の桁が多い計算結果は「2.631578947368421e-5」のように指数を用いて表示されます。ただ、一目ではちょっとわかりに...…

…エクセルで、6.0 6.1 6.2 ・・・・・・と入力したいと思い、6.0と6.1を範囲指定して、下にコピーしたら、表示上は、問題なかったのですが、セルにカーソルをあわせると、8.19999999999みたいな...…

…COBOLの計算方法について解らない事があり、質問させて頂きます。例えば、 111.112÷3＝37.03733・・・の計算で小数点第4位の切捨てまたは、切上をしたい場合、どのようなコーディング...…

…上記内容で四苦八苦しているVB初心者です。 Microsoft Visual Studio / ActiveReportで帳票を作成しています。 DBからの値が、小数点以下ありの場合（例：1.7）の時はそのまま表示し、小数点以下が0の...…

…エクセル2007を使用中です。 [h]mmssで、たとえば10°25′34″の表示ができるのは分かったのですが、秒を34.234″まで表示したいです。どのようにすれば、セル1個の中で10°25′34.234″と表示...…

…エクセルで小数を使う計算をしております。小数点以下の値を判断して計算結果を0.5単位に整えたいのですが、 n.0とn.5とn+1.0のうちの近い方に丸めることはできますでしょうか。以下は...…

…おはようございます。小数点有りの10進数　を float 16進数に自動変換してくれる電卓アプリを探しています。何かいいツールはありませんか？…

…ＥＸＣＥＬで計算結果を切り捨てる方法はわかるのですが(ROUNDDOWN,TRUNC等)、入力した数字をそのまま切捨てることはできるのでしょうか？セルの書式設定で小数点以下を０にすれば、見た目...…

…賃料２６，２５０円（税込み）で、１月４日から契約開始の場合１月分の日割り賃料の計算方法は、 (1)２６，２５０円÷３１日＝８４６．７７４１９４３・・・円小数点以下を切り捨て ...…

…エクセルで計算して、例えば小数点第２位まで求めると１．３６になった数字を小数点第１位で表示すると四捨五入で１．４となったとします。この数字に１０００を掛けると１３６０と...…

…Ａ１のセルに￥１,５６７,０００円、Ｂ１のセルに￥７８,３５０円（関数は＋Ａ１＊５％）Ｃ１のセルにＡ１＋Ｂ１の合計を求めたいのですが、計算機でやると￥１,６４５,３５０円になり...…

…03分22秒36のような時間の単位を16進数で表すと、どうなりますか？また、どうしてそのようになるのか、その変換の過程も教えてください。お手数ですが、どうぞよろしくお願いします。…

…今までＣは多少慣れがあり、一方でＣ＋＋はごく最近始めました。ＣとＣ＋＋でパッと見明らかに違うのが入出力の関数とストリームだと思うのですがどうも私的にはＣで使いっていたfpr...…

…平均値、標準偏差の有効数字についてです。 0.5046,0.5089,0.5015,0.5365,0.5681 5つの実験データです。平均値0.52392　標準偏差0.0253442222なのですが、有効数字は何桁ですか？データ桁数に合...…

…セルに0.3546と入力し、表示形式をユーザー定義で種類を　# ?/10000に設定すると3546/10000と表示されます。これを354.6/1000と表示したいのですが、ユーザー定義を# ?/1000とすると355/1000となって...…

…例えば、0.0001と1/10＾４を入力した場合、どちらの方が高い精度で計算してくれるのでしょうか？…

…平方根の小数に直す問題で躓いています。中学校レベルの問題です。次の数を小数で表す時、数字の並び方がおなじになるものはどれとどれか。という問題で、ア、√3 イ、√30 ウ、√0....…