浮動小数点数
の検索結果 (10,000件 261〜 280 件を表示)
巨大な階乗の桁数を求めるプログラム
…10000!とか、123456!とかの桁数を求めるプログラムを教えて下さい。 スターリングの近似式というキーワードに当たりましたが、n!の値の近似式であって桁数ではないです。…
C#.netでの切り上げ処理について
…C#.netでの切り上げ処理について C#.netでの切り上げ処理について質問です。 ある値を百単位で切上げを行いたいのですが、どのようにすればよいでしょうか? 例)「1040」→「1100」 ...…
小数か整数かを判定する方法
…お世話になります。 ただいま、VB6で悩んでいる事があり質問させていただきに参りました。 1: あるテキストボックスがあり、それには数字のみ入力するのですが、 小数が入力され...…
ある整数値を,負数を2の補数で表現する2進表記法で表すと最下位2ビットは"11"であった。10進表...
…ある整数値を,負数を2の補数で表現する2進表記法で表すと最下位2ビットは"11"であった。10進表記法の下で,その整数値を4で割ったときの余りに関する記述として,適切なものはどれか。 ここ...…
jsp double型の小数点表示
…質問させて下さい。 計算結果の表示でdouble型を使いたいのですが、 「1.5」、「2.5」などは小数点を表示させて問題ないのですが、 「1」、「2」と表示させたい時に「1.0」、「2.0」と小数...…
大谷選手の規定打席数と規定投球回数について
…メジャーリーグの大谷翔平選手の投打の成績ですが、2023/8/24(日本時間)までで、 1.打席数『 556』、本塁打『 44』、打点『 91』、打率『 .304』です。 2.投球回数『 132』、10勝5敗、防...…
VBAマクロの文字列認識について
…立て続けの質問ですみません。 Data1 = 1 Data2 = "234567890123457890" Data = Data1 & Data2 Range("A1").Value = Data 上記のマクロを実行すると、A1カラムに"12345678901234567890"と文字列で表示されるはずな...…
while文について、c言語です。
…ぼくはプログラム始めたばかりです。ミスを見つけられた方、ご指導お願いします。 正整数nを入力して、nの階乗をもとめるプログラムを作りたいのですが、実行結果がいつも1になり...…
日商珠算検定について。
…よろしくお願いします。 小学五年生の娘に 市販の問題集で そろばんを 教えました。 せっかくなので、試験を受けてみようと 思い、調べたら 商工会議所で 個人でも 申し込める...…
0.15を分数にする方法
…こんばんは、みなさん。 また、どうしても分からないことがあって 先輩方のご指導をお願いしたいです・・・ 分からない事というのは 小数点を分数にする方法なのですが 例えば0.1や1...…
有効桁数について
…以下のようなデータ型の掛け算を行った場合の 有効桁数について教えてください。 decimal(38,4) × decimal(26,25) 私が確認したところ、 decimal(38,6)になっているようです。 なぜこのよう...…
秒数が3ケタの緯度経度の意味は?
…GPSで計測した地点の緯度経度の秒数が3ケタで表示されました。 (例:北緯35度26分900秒、東経139度43分723秒) 秒は60までの2けただとおもっていたのですが、...…
Excelで消費税抜きの価格を計算する方法について
…Excelで請求書を作成しているんですが、今月から、 交通費(高速代)を、税抜き価格で表示して欲しいと、 取引先の方から、言われました。 現在、交通費(高速代)は、消費税込みなっています...…
エクセル/グラフのデータテーブルの書式変更は?
…検索してみましたが類似の質問が見あたらなかったので・・・。 バージョンは2000を使用中です。 エクセルでグラフを作り,グラフ下にデータテーブルを表示させたとき,そのデータテー...…
エクセルの小数を0.5単位で四捨五入したい
…エクセルで小数を仕様する計算をしております。 小数点以下第一位の数字だけを判断して計算結果を0.5単位に整えたいのですが、 関数の組み方がよくわかりません。 たとえば、 20.09で...…
VBでDate型の大小比較がうまく動作しないのですが
…nenonenoです。こんにちわ Windows98,VB6SP5の環境でDate型の変数dtmNext,dtmToを比較しようとしたのですが、同じはずなのに片方が大きいと判定していまいます。 datediffでしらべると0:00:00と返すので...…
検索で見つからないときは質問してみよう!