［浮動小数点］についての検索結果(約1567件中 361〜380件を表示)

ヤフオクで10円の商品が落札された場合の落札手数料はどうなりますか？

…よろしくお願いします。ヤフオクで10円の商品が落札された場合、落札手数料はどのように計算されるのでしょうか？調べてみても規定がよく変わるせいでタイムリーな説明・解説がうま...…

2016/11/15 19:08
ヤフオク!
回答数(2)

プログラムのおかしいところを教えてください

…ライプニッツの公式により、円周率の近似値を求めるプログラムを作成しなさい。ただし、この公式は収束が遅い。　　　　　　　　１　　　１　　　　１　　　１　　　１ ...…

2002/11/03 12:47
Java
回答数(6)

エクセルにて、端数になるとエラー表示する方法

…題名が分かりにくくて申し訳ありません。とある数字(整数)を、任意の回数で割り、上手く割り切れればそのまま表示。小数点以下の端数が出てしまう場合は、コメントにて警告するよう...…

jsp double型の小数点表示

…質問させて下さい。計算結果の表示でdouble型を使いたいのですが、「1.5」、「2.5」などは小数点を表示させて問題ないのですが、「1」、「2」と表示させたい時に「1.0」、「2.0」と小数...…

2008/09/06 22:35
Java
回答数(1)

VB.NETとInputMan について

…VB.NETとInputMan を使用してプログラミングをしております。 InputManのNumberで小数点以下、3桁を設定したいのです。 MaxValueを[99999.999]に変更し、MinValueを[-99999.999]に変更しました。更に、Format...…

エクセル　.50以下で切り捨て、.51で切り上げの関数

…エクセルでround関数や、rounddown関数、roundup関数など、切り上げ・切捨ての関数が多数ありますが、・.50以下で切り捨てかつ・.51以上で切り上げという関数はあるのでしょうか。 if関...…

2進数　10進数　2の補数　小数

…2進数を10進数に変える問題で困っています。 -30などを2の補数で考えることはできるのですが（-30の2進数は11100010）、 -3.625　など、小数が入ったときはどのように考えればいいのでしょう...…

VBScript 数値の少数化

…VBScript (ASP)での開発です。 3→3.0 10→10.0 1.005→1.0 以上のように、数値を小数第一位で固定して表示したいと思っています。で、FormatNumber(数値,1)というようにしてみたのですが、小数値が...…

エクセルの「セル書式設定」

…エクセルで「セルの書式設定」で「標準」を選択し、「1.10」を入力すると、 ①　「1.1」になってしまう何故か？ ②　また「1.10」と表示できる方法を教えてください。…

利益率の計算などで・・

…利益率などの計算で 0.039÷1.16×100＝3.3620・・・の計算結果の場合は答えは3.3％なのでしょうか？それとも四捨五入？して3.4％が正しいのでしょうか？久しぶり計算という脳内活動...…

2007/04/05 07:29
数学
回答数(3)

Excelのストップウォッチについて

…ExcelのVBAを利用して、ストップウォッチ機能をつけたいと思っております。現在別の方で作っていただいたのが以下になります。 ①ストップウォッチのボタンを押したら、ストップウォッ...…

小数点の引き算

…40.00000ー0.00032＝39.99968ですが、 1桁目の0から2を引けないので、2桁目の0から10を借りて、10ー2で8、2桁目の0は10を貸したので、9ー3で6になる。ここまでは理解出来ます。 3桁目の0は、0ー0...…

2024/05/17 16:28
数学
回答数(13)

VARCHAR型の数値比較

…教えてください。テーブルにVARCHAR型のデータがあるのですが、その内容は、数値や文字です。　2.5 　20 　0未満などなど。仮に4以下のデータを抽出する場合、どのようにかけば...…

2008/03/28 15:11
PostgreSQL
回答数(2)

日商珠算検定について。

…よろしくお願いします。小学五年生の娘に　市販の問題集で　そろばんを　教えました。せっかくなので、試験を受けてみようと　思い、調べたら商工会議所で　個人でも　申し込める...…

ユーザーフォーム上にある「テキストボックス」に小数が入力できない

…以前にユーザーフォーム上のテキストボックスにセル値反映する方法を下記（サンプル１）のようにお教えいただいたのですが、下記のようにマクロを組むとテキストボックスに小数が入力...…

円単位で出来上がったエクセルのシートを千円単位に変更したい。

…お世話になります。現在、円単位で損益計算書などの決算資料を作成しておりますが、結構なボリュームがありまして、一気に円単位を千円単位に変更する方法ってありますか。希望は、...…

C言語で円周率を求めるプログラムを作りたいのですがわかりません。

…C言語で円周率を求めるプログラムを作りたいのですがわかりません。どなたか教えていただけないでしょうか。…

2010/05/08 15:15
C言語・C++・C#
回答数(5)

浮動小数点