ウォッチ
小数部分
の検索結果 (10,000件 61〜 80 件を表示)
awk の int()に関数について
…数値処理でawkを使い始めているのですが， int関数を使って小数を切り捨てたいのですが， 以下のような現象が起こって困っています。 print int(9.53*100) 952 ? print int(9.53*1000) 9530 OK print i...…
SQL Serverにおける小数部の０表記について
…お世話になっております FLOAT型の数値を補正する為に、小数部10桁のdecimal型に変換すると 例えば 3.14 ならば 3.1400000000 と表示されてしまいます RTRIMで０を消そうと思ったのですが、SQL Serv...…
Excelでの時間表記は・・・？
…1.5→1時間30分(1:30や90でも良いです) 2.25→2時間15分(〃) のように時間を表記したいのですが、どうすればいいのでしょうか？ あと小数第～位を四捨五入する方法を知っている方がいらした...…
wsprintfで浮動小数を扱うには？
…＜プログラム環境＞ Windows XP VC++6.0 MFC AppWizard(exe) ダイアログベース ＜質問＞ wsprintf(a,"%f",b); MessageBox(a); で実行すると"f"が出力されました。 浮動小数を出力するにはどうしたら良い...…
VBAで入力数値について
…Excel VBAでTextBoxに入力された数値が整数か小数か判定し、 小数の場合は、下記のようにしたいのですが、どのようにしたらよいのでしょうか。 TextBoxに入力された数値が、 （１）整数の場...…
Excelで小数部が勝手に繰上げされないようにするには
…Excel2003を利用しています。 =2/3 この数式を書式に関わらず実行すると、小数部が勝手に1繰り上がった 整数にされてしまいます。 「1」と表示されてしまいます。 小数部を切り捨てた整...…
カントールの対角線論法について質問です。
…カントールの対角線論法について質問です。野矢茂樹著の「無限論の教室」によると、 x0 = 0.1111... x1 = 0.1011... x2 = 0.0111... x3 = 0.1010... ... のように 0 から 1 までの小数を２進数で列挙して...…
小数の上から一桁について
…上から一桁の概数うんぬんという問題がでたときに小数の場合、例えば０．３３５の場合上から一桁というのはどこからなのでしょうか。０かとおもえば３といううわさもあり何かしら数学...…
エクセルVBA「スピンボタンで小数を扱う」
…エクセルVBA「スピンボタンで小数を扱う」 エクセルVBAの初心者です。 スピンボタンとテキストボックスを組み合わせて使う際、「0.1、0.2・・・1.0、1.1・・・」というような数の増加を表示...…
10進数の分数 1/32 を16進数の小数で表すと？（基本情報試験）
…10進数の分数 1/32 を16進数の小数で表すと0.08になるようですが、その解説が下記のようになっているのですが、「１/32＝8/256」となる部分が理解できません。ご回答お願いします。 16 進数...…
エクセルで、分数の分子分母をそれぞれ別のセルに移動させるには。
…仕事上で、困ってます。 エクセルで、仕事のデータを入力し、エクセルのマクロVBA・関数を使って計算し、その出た答えを利用して、仕事の段取りをしていますが、データは小数で出て...…
対数・指数の値の大小
…対数表を用いないで、ｌｏｇ(２)３の値を小数第２位以下を切り捨てて、小数第１位まで求めよ。ｌｏｇ(２)３＝ａと置いてみたのですがココからどうしたらいいのか分かりません。 簡単...…
VBAで小数を16進数に変換
…エクセル2003を使用しています。 A列に小数が入力されていて B列に4バイトの16進数に変換した結果を出力するマクロを作りたいと考えています。 例えばA1=1.0のとき B1=0000803F とリトルエン...…
小学生算数 「上から２けた」の考え方
…小学生算数 「上から２けた」の考え方 お世話になります。 数学のカテゴリで恐縮ですが、小学生の子供に算数を教えていてわからなかったので教えてください。 答えを上から２けたのお...…
C言語 配列で座標
…C言語で二次元の配列a[11][11]を考えたとき、a[1][0]はxy座標の(1,0)を、a[0][5]はxy座標の(0, 5)を表しているという風な考えはあっているのでしょうか？ また、C言語で、xy座標で(0.5, 3.1)などの小数...…
Excelで整数部分を表示しない
…Excelで、相関行列などを示すときに、 0.53 ではなく .53 というふうに、整数部分(0)を書かずに表示したいときがあります。 ふつうの数値データ（小数）から、簡単にこのような表示にで...…
平方数でない整数の平方根は無理数であることの証明
…すみません。高齢者なので使用する文字はすべて正の整数とします。 整数の平方根で整数になるのは1,4,9,16のような平方数だけです。例えば5の平方根を考えた場合、 4の平方根は2、 9の平...…
検索で見つからないときは質問してみよう！
質問する（無料）
