［固定小数点］についての検索結果(約10000件中 121〜140件を表示)

FLOPSとGHzの違いについて

…以前UDがん研究プロジェクトに参加しておりました。賛同者の方で、みなさんにこのプロジェクトをもっと知ってもらいたいと、動画を作りになられた方もいます。しかし、私がみた動...…

…Excel2000を使用しています。「セルの書式設定」の「表示形式」でドル（例 $500.55）の通貨表示をよく利用するのですが、ユーザー定義の表示形式で小数点以下の桁数（例では55）にのみ...…

…データ型を通貨型にし、書式も通貨型にしたとき、フォームで￥マークを表示しないようにできないでしょうか？（数値型にすると「小数点以下の表示桁数」を０にしても金額に小数点以...…

…小数点以上３桁、小数点以下１桁までの数をチェックしたく次のようなスクリプトにしましたが、うまくいきません。 if (str.match(/[0-9]{2,3}[\.]?[0-9]?/)!=null){ // OK }else{ // NG } この正規表...…

…Ｃ++で、２つの最大50桁の実数を入力して、その和・差・積を求めるプログラムを作りたいのです。実数をchar型に入力させて、それを1桁ずつint型に変換したいのですが、どのようにやれば...…

…アクセスでの演算で結果を小数点第１位で表示するにはどのようにしたらよいでしょうか。よろしくお願いいたします。…

…m_pDevice->CreateTexture( 128, 128, 1, 0, D3DFMT_A32B32G32R32F, D3DPOOL_MANAGED, &pTex, NULL ); で生成したテクスチャに浮動小数点の値を自分で書き込みたいのですが、うまくいきません。 ...…

…　すいません、パワーポイントでのテキスト上で数字の小数点を揃える方法を教えてください。　宜しくお願い申し上げます。…

…VBAで、小数点以下の数字を取得できる関数または、それに必要な関数を教えていただけたらと思います。たとえば、 1.325…から0.325　 3.256224から0.256224 5.23549から0.23549を取得。といった感...…

…Excel VBAでTextBoxに入力された数値が整数か小数か判定し、小数の場合は、下記のようにしたいのですが、どのようにしたらよいのでしょうか。 TextBoxに入力された数値が、（１）整数の場...…

…Excel2003で、16進どうしの乗算をしたいです。もちろん関数は知っています(Sheet,VBA共に)。しかしデータが掛ける数掛けられる数どちらも64bitあるので計算が出来ません。そこでVBAを使ってコ...…

…エクセルで小数点第2位を切り捨てる方法を教えてください。違うシートで、出た小数点第3位までの数字の、第2位までを使用して掛け算をしたいです。 ROUND(A1,0)だと、整数になってしま...…

…Access2002 windows2000 仮に　フォーム名：計算フォーム　テキストボックス名：txt答え　コマンドボタン：cmd実行　を作ります。 cmd実行をクリックしたとき次の計算を実行さします。 Me![tx...…

…SingleとDoubleともに、整数部分の範囲についてはどのように考えればよいのでしょうか？例えば、小数点以下4桁までを正確に計算できれば良く、変数の値が　54321.****　となる場合は Single...…

…１００．０と入れたいですが入れると小数点以下の０が消えてしまいます。どうしたらいいでしょうか？…

…EXCELで例えば、A1セルに7320000　B1セルに156　C1セルに26と入力してA1/B2*C1とすると電卓では、121.9999と続きますが、EXCEL計算では122.0000と勝手に四捨五入されてしまいます。四捨五入されず、実際...…

…エクセル（XPです）で小数点第2位の切捨てをしたいのですが（何もしないと四捨五入してしまいます）どなたか教えていただけますでしょうか？例えばなのですが、 7900/34700*100＝22.7665...…

…商品の平均単価が小数点（100．3円など）になり売上があった際、売上額が小数点を含んだ数字になった時は扱いはどうするのでしょうか？四捨五入すればよいのでしょうか？それだ...…

…EXCELで8桁の16進文字列を単精度浮動小数点数に変換する方法を教えてください。…

…たとえば１０００円（税抜）の商品は税込で１０５０円となります。ここから５％割引をする時に、電卓で計算すると１０５０×５％－＝９９７．５というように小数点以下がでてきます...…