［固定小数点］についての検索結果(約10000件中 121〜140件を表示)

『笑わない数学微分積分』のΔxについて

…『笑わない数学微分積分』の、Δxが表すなんとか小数が「0ではないが0として扱ってもいい」というのが曖昧で大問題というところだけをぼーっと観てたのですが、Δxを例えば小数点以下0が...…

…一つのセル内に少数点以下を表示させた時、少数点以下の数字だけ色を変えたり、サイズを変えたりすることは可能でしょうか…

…今、請求書のもと（ひな形）を作成中ですが消費税の記載の部分で、計算式が出てこなくて手が止まってしまいました・・・ 10,000*1.05＝10,500 ってのは、簡単なのでわかります。私が求め...…

…お忙しいところ恐れ入りますが教えて下さい。ＡＣＣＥＳＳのクエリ上で計算をしフォームに表示させているのですが、関数を使ったところ、％表示が出来なくなりました。プロシー...…

…小数点以上３桁、小数点以下１桁までの数をチェックしたく次のようなスクリプトにしましたが、うまくいきません。 if (str.match(/[0-9]{2,3}[\.]?[0-9]?/)!=null){ // OK }else{ // NG } この正規表...…

…C言語のプログラム中で得られた10進数の値を，固定長16ビットの2進数に変換したいと考えています．しかしながら，得られた10進数の値が負数であった場合，それを負数と判断し，2の補数...…

…Ｃ++で、２つの最大50桁の実数を入力して、その和・差・積を求めるプログラムを作りたいのです。実数をchar型に入力させて、それを1桁ずつint型に変換したいのですが、どのようにやれば...…

…お世話になります。 I列の数字の小数点をカンマにしたいです。　（例：　1007.25　を1007,25にする）通貨のユーロ表記にするためです。今までは下記のような関数を使っていました。 =SUBSTIT...…

…VBAで、小数点以下の数字を取得できる関数または、それに必要な関数を教えていただけたらと思います。たとえば、 1.325…から0.325　 3.256224から0.256224 5.23549から0.23549を取得。といった感...…

…m_pDevice->CreateTexture( 128, 128, 1, 0, D3DFMT_A32B32G32R32F, D3DPOOL_MANAGED, &pTex, NULL ); で生成したテクスチャに浮動小数点の値を自分で書き込みたいのですが、うまくいきません。 ...…

…　すいません、パワーポイントでのテキスト上で数字の小数点を揃える方法を教えてください。　宜しくお願い申し上げます。…

…アクセスでの演算で結果を小数点第１位で表示するにはどのようにしたらよいでしょうか。よろしくお願いいたします。…

…Excel VBAでTextBoxに入力された数値が整数か小数か判定し、小数の場合は、下記のようにしたいのですが、どのようにしたらよいのでしょうか。 TextBoxに入力された数値が、（１）整数の場...…

…Access2002 windows2000 仮に　フォーム名：計算フォーム　テキストボックス名：txt答え　コマンドボタン：cmd実行　を作ります。 cmd実行をクリックしたとき次の計算を実行さします。 Me![tx...…

…１００．０と入れたいですが入れると小数点以下の０が消えてしまいます。どうしたらいいでしょうか？…

…エクセル（XPです）で小数点第2位の切捨てをしたいのですが（何もしないと四捨五入してしまいます）どなたか教えていただけますでしょうか？例えばなのですが、 7900/34700*100＝22.7665...…

…エクセルにて小数点が入っている大量のデータを小数点だけ外す方法を教えて下さい。小数点切り捨てや切り上げ（round関数）ではなく、小数点だけを外したいのです。例えばセルに、 ...…

…Excel2003で、16進どうしの乗算をしたいです。もちろん関数は知っています(Sheet,VBA共に)。しかしデータが掛ける数掛けられる数どちらも64bitあるので計算が出来ません。そこでVBAを使ってコ...…

…SingleとDoubleともに、整数部分の範囲についてはどのように考えればよいのでしょうか？例えば、小数点以下4桁までを正確に計算できれば良く、変数の値が　54321.****　となる場合は Single...…

…エクセルで小数点第2位を切り捨てる方法を教えてください。違うシートで、出た小数点第3位までの数字の、第2位までを使用して掛け算をしたいです。 ROUND(A1,0)だと、整数になってしま...…