浮動小数点数
の検索結果 (10,000件 161〜 180 件を表示)
最大50桁の実数の和・差・積を求めたい
…C++で、2つの最大50桁の実数を入力して、その和・差・積を求めるプログラムを作りたいのです。 実数をchar型に入力させて、それを1桁ずつint型に変換したいのですが、どのようにやれば...…
エクセル VBA 小数点を含む数字抽出について
…下記の条件の元 数字のみを抽出するマクロは分かったのですが、少数点を含めるとうまく抽出できません 小数点を含む数字を抽出する方法をご教授願えませんでしょうか 条件 B11-B15...…
Googleシートに数字の6.5を打つと7になり 小数点が切り上げられてしまいます。 どこで設定でき
…Googleシートに数字の6.5を打つと7になり 小数点が切り上げられてしまいます。 どこで設定できますか?…
エクセルで、表示されたままの値を抜き出すには
…エクセルで、関数を使わずに表示形式の小数点以下の桁数を入れて四捨五入している表があります。 指定している小数点以下の桁数はまちまちで、2だったり0だったりします。 表示され...…
Excel2010の小数点の計算式の結果に+-を表示する
…次のようにExcel2010の小数点の計算式の結果に+-を表示したい +-の記号は大文字と小文字の場合で表示したいです。全て小文字の+,−になってしまうのでしょうか? 普通に計算すると ...…
「.50」は切り捨て、「.51」は切り上げにしたい
…エクセルです。 小数点以下「.50」は切り捨て、「.51」は切り上げにしたいのです。 50捨51入というようです。 例 1.50→1 1.51→2 IFかなと思ったのです...…
正規表現について
…小数点以上3桁、小数点以下1桁までの数をチェックしたく次のようなスクリプトにしましたが、うまくいきません。 if (str.match(/[0-9]{2,3}[\.]?[0-9]?/)!=null){ // OK }else{ // NG } この正規表...…
Perlの数値計算で有効桁数を上げたい
…通常、Perlで数値計算をする場合、有効桁数は15~16桁になってしまいます。 これを、32桁、64桁と精度を上げて計算する方法はないでしょうか。 現在の環境は、Perl 5.8です。 よろしくお願...…
Accessでクエリを作成したら・・・
…Accessでクエリを作成したら「式で型が一致しません」のエラーが出て、ヘルプには「JOIN式でデータ型の異なるフィールドを使用して2つのテーブルを結合しようとしています。」とあります...…
アクセス2003で秒数削除
…アクセス2003を使っています。 エクセルからデータをアクセスのあるテーブルにインポートしたのですが、そのデータには「時間」という項目があり、例えば、「17:45:33」という感じで...…
オラクルのデータ型・通貨について
…オラクル超初心者です。 SQLでは通貨型(CURRENCY)がありますが、オラクルにも同等の定義であるデータ型があるのでしょうか? ネットで調べて見ましたが、上手いことかゆいところに手が届...…
VBAで入力数値について
…Excel VBAでTextBoxに入力された数値が整数か小数か判定し、 小数の場合は、下記のようにしたいのですが、どのようにしたらよいのでしょうか。 TextBoxに入力された数値が、 (1)整数の場...…
HWNDへの変換
…度々すみません。 またしても型変換で困っています。 CStringの値をHWNDに変換するには どのようにすれば良いのでしょうか? 早く自分で解決できるようになりたいのですが、 他の問題...…
わり算の結果が整数でも小数点以下4桁まで表示されてしまう!
…わり算の結果が整数でも小数点以下4桁まで表示されてしまう! 同じような質問で恐縮なのですが、 例えば、100、101というデータをMySQLの算術演算子/を使って2で割ると、 50.0000、50.5000のよ...…
組み込みCプログラムで実数型
…8~16bit、32bitのマイコンでCの組み込みプログラムを仕事で作りはじめました。 その中で、floatやdoubleといった実数型は使わないようにと教わりました。コードサイズが大きくなること、処理...…
Access ¥マークを表示しない
…データ型を通貨型にし、書式も通貨型にしたとき、フォームで¥マークを表示しないようにできないでしょうか? (数値型にすると「小数点以下の表示桁数」を0にしても金額に小数点以...…
写真の数値は1302でしょうか? それとも赤い数字、小数点第一位がまだ0になっていないので1301...
…写真の数値は1302でしょうか? それとも赤い数字、小数点第一位がまだ0になっていないので1301でしょうか?…
電卓の小数点
…今晩は。 先日、授業でVisual Studio(C#)を使い、 電卓を製作したのですが、 実行して0が表示されている状態で (普通の電卓の場合電源を入れた直後の状態) 小数点のキー"."を押すと、 ...…
検索で見つからないときは質問してみよう!