重要なお知らせ

「教えて! goo」は2025年9月17日(水)をもちまして、サービスを終了いたします。詳細はこちら>

電子書籍の厳選無料作品が豊富!

浮動小数点

の検索結果 (1,567件 201〜 220 件を表示)

行列の積の処理を高速化したい

…3Dのプログラムで行列を扱ってます。 行列の掛け算を行おうとすると for(i= 0;i…

解決

小数点第1位切り上げ?

…小数点第1位を切り上げしなさい?問いに質問です。 5.04の場合,答えは5ですか?それとも6ですか? 私は5と思っていたのですが,エクセルで表計算したときにこの答えでは 6になりますので自身...…

締切

60進法?について 最近、未経験から事務のアルバイトを始めました。 労務や総務系の事務なの...

…60進法?について 最近、未経験から事務のアルバイトを始めました。 労務や総務系の事務なので従業員の方の勤務時間や残業時間を計算することがあるのですが、例えば1ヶ月の勤務時間が...…

締切

エクセルの小数を0.5単位で四捨五入したい

…エクセルで小数を仕様する計算をしております。 小数点以下第一位の数字だけを判断して計算結果を0.5単位に整えたいのですが、 関数の組み方がよくわかりません。 たとえば、 20.09で...…

解決

VBAでの割り算の余りの求め方

…タイトルどおりなのですが VBAでのコーディングを教えてください。 余りを求めてそれを判定に使いたいのですが・・ あと偶数か奇数かの判定の記述があれば それもお教え下さい。…

解決

エクセルで、表示されたままの値を抜き出すには

…エクセルで、関数を使わずに表示形式の小数点以下の桁数を入れて四捨五入している表があります。 指定している小数点以下の桁数はまちまちで、2だったり0だったりします。 表示され...…

締切

long doubleの表示方法

…long doubleの型を使いたいのですが、出力するとき、 printf("%e\n", A); とすると、8桁しか出力されません。 これを16桁まで出力させる方法はないでしょうか。…

解決

組み込みCプログラムで実数型

…8~16bit、32bitのマイコンでCの組み込みプログラムを仕事で作りはじめました。 その中で、floatやdoubleといった実数型は使わないようにと教わりました。コードサイズが大きくなること、処理...…

締切

ファイルメーカーで小数点以下の切り上げ

…ファイルメーカーで小数点以下の切り上げをするに、どのような関数を使えばよろしいでしょうか? 四捨五入と切り捨ては標準であるのですが、切り上げが見当たらず、またどのように計...…

解決

わり算の結果が整数でも小数点以下4桁まで表示されてしまう!

…わり算の結果が整数でも小数点以下4桁まで表示されてしまう! 同じような質問で恐縮なのですが、 例えば、100、101というデータをMySQLの算術演算子/を使って2で割ると、 50.0000、50.5000のよ...…

解決

C言語の四捨五入

…あるC言語の問題で答えを「小数第二位まで正確に 出力してください」とありました 他の正解を貰った回答者の解答を見ると printf("%.2f\n", n); と出力してprintfで小数点を調整してるだけで...…

締切

powf を使わずにべき乗を計算

…組み込み系で開発しているものです。 どうしても 実数のべき乗 を使わねばならないのですが、 powf があまりに遅くて話になりません。 条件 ・sinf, cosf は使ってもよい(高速なライブラ...…

解決

小数か整数かを判定する方法

…お世話になります。 ただいま、VB6で悩んでいる事があり質問させていただきに参りました。 1: あるテキストボックスがあり、それには数字のみ入力するのですが、 小数が入力され...…

締切

エクセルで、小数点は、全て切り上げて、変換する方法は??

…お世話になります。 エクセルで、小数点は、全て切り上げて、変換する方法を教えて下さい。 例) 1.5  → 2 に変換 1.001 → 2 に変換 このように、小数点があれば、全て繰...…

解決

五捨五入

…エクセルで五捨五入を行う場合は、どのような数式を作成すればよいのでしょうか。また、VBAでround関数を使うと五捨五入になると聞いたのですが、どのようなユーザー定義になるので...…

解決

【高校化学】有効数字の指定が無い問題

…【高校化学】有効数字の指定が無い問題 化学の問題などで、答えの有効数字の指定が無い場合がよくあります。 私は小数点以上は上から四桁目を四捨五入、小数点以下は小数以下3桁目を四...…

解決

エクセル2007で平均値を小数点以下第一位にする方法を教えてください。

…いつもお世話になります。 先日エクセルを2007にしました。 平均値を出したのですが、小数点以下第4位まで表示されました。 これを小数点以下第一位までの表示にしたいのですが、 ど...…

解決

ExcelのINT関数の計算結果がおかしい。

…ExcelのINT関数というよりも表計算ソフトのINT関数で 1, INT((4.645*100-464)*10)の結果は4 2, INT((464.5-464)*10)の結果は5 3, INT((4.745*100-464)*10)の結果は5 4, INT((474.5-464)*10)の結果は5 になって...…

締切

小数点第一位とは・・・

…小数第一位とは、小数のどの位ですか? Wikiを見てもさっぱりです。 例えば、1.23456・・・とあると、どの数字が小数点第一位で、第2位なのかわかりません。   数学と言うより、...…

解決

電卓 パソコン カンマの位置の違い

…999円以上の数字を打つときにパソコンと電卓とで不思議に思うことがあります。 例えば「1000」と表記する時に 千の位と百の位の間の下に「,(コンマ)」を入れて 「1,000」とするようで...…

解決

検索で見つからないときは質問してみよう!

Q質問する(無料)