ウォッチ
固定小数点
の検索結果 (10,000件 1〜 20 件を表示)
１６ビットの符号付固定小数点の使い方について
…１６ビットの符号付固定小数点について 最上位(15)ビットが符号ビットで１４～０ビットが少数部という データフォーマットだった場合、－０，２５を表すとしたら、 ０．２５に符号ビッ...…
Access-フォームの小数点以下が切り捨てられてしまう
…テーブルのデータには小数点以下が第二位まで入力してあるのですが、なぜかフォームでは小数点以下が切り捨てられてしまいます（5.24 → 5.00など）。 現在、テーブルのデータ型は数値型...…
Excelで勝手に小数点以下が増える
…Excel2013を使用しています 数式をいれて小数点以下を2桁など指定した後 そのセルの数式を変更したりすると勝手に小数点以下が2桁ではなく全部表示されたりします これを勝手に小数点以...…
小数点以下切捨てした上での足し算
…書式設定で小数点以下の桁数0にし、整数での表示にさせています。 しかしそれらを足し算すると結局正確に小数点以下の数値まで 足されてしまいます。そうしないためには？…
エクセルの小数点以下表示
…エクセルの小数点以下表示でツールバー、セルの書式設定などは表示されていない部分（例えば小数点以下２位までの表示なら３位以下の部分）は四捨五入されているのでしょうか？デフォ...…
小数点以下の桁にカンマが無いのはなぜ？ 素朴な疑問です。 小数点以下にカンマ等の区切り記...
…小数点以下の桁にカンマが無いのはなぜ？ 素朴な疑問です。 小数点以下にカンマ等の区切り記号がないのはなぜでしょうか？ ミリ、マイクロ、ナノと単位も10の-3乗ずつあるのに。 小数...…
EXCEL 小数点以下の桁数を条件によって変えるには
…Ｇ列の書式設定を数値、小数点以下０桁に設定してあります Ｄ列にある特定の文字が入力された時だけ、小数点以下の桁数を１桁にしたいのですが、どのようにすればよいでしょうか？ そ...…
固定小数点数、浮動小数点数について
…学校から課題が出ているのですがさっぱりなので教えていただければ幸いです。 課題：11051120 この数を３２bitの固定小数点数、浮動小数点数であらわせ (1)固定小数点数、浮動小数点数と...…
浮動小数点の比較について
…たとえば、以下のコードで、「違う」と表示されるように、浮動小数点の比較に失敗します。 #include int main() { float f = 0.1; if (f == 0.1) { std::cout …
Excelの小数点以下の桁数の既定値を変更する
…いつも勉強させていただいております。 Excelで数値（例えば50000）を入力して、桁区切りをすると、勝手に50,000.00と小数点第二位までが表示されてしまいます。 私はただ50,000という風にな...…
小数点以下は、どこまで計算するのですか？
…初歩的な質問で、すみません。 電験３種の計算問題についてなんですが、 小数点以下は、なん桁まで計算するのが良いのでしょうか？ 通常の解答をするには、小数点以下は、なん桁ま...…
Excel 小数点以下を切り捨てた値を集計する方法
…エクセル2010を使っている者です。 小数点以下を切り捨てた状態で集計する方法についてお教えください。 A1 3 B1 9 C1 A2 =rounddown(A1*0.8) B2 =ro...…
printfの小数点以下の表示桁数につい
…Java超初心者です。宜しくお願い致します。 System.out.printf("%8f\n",15.8); は８桁表示のはずですが、 実行すると、 15.800000 と、いう風に９桁になります。 詳しい方はきっと当たり前と思うと思...…
Excelの小数点以下表示・非表示の方法について
…Excel2000において、小数点以下の表示方法について教えてください。 条件は以下の通りです。 (1)小数点以下が存在するときは、小数点以下第2位まで表示する。 ※小数点以下第3位の処理は...…
アクセス クエリ計算の小数点以下の四捨五入は自由にできるのですか
…クエリ計算の小数点以下の四捨五入は、項目ごとに自由に切り上げにしたり、切り捨てにしたり設定できるのですか。 それともクエリではなくフォームやレポートの設定で行うのでしょう...…
小数点以下の数字だけ小さいフォントで表示
…教えて下さい エクセルで少数点以下の桁、2まで表示するのですが 小数点以下の数字だけフォントを小さくして、小数点以下の数字だと言う事を分かりやすくしたいのですが方法はござい...…
浮動小数点演算を固定小数点演算へ変換する
…あるプログラムの処理を高速化するために浮動小数点数を固定小数点数に変換したいので、皆様の力を貸してください。 以下のようなプログラムがあります。 -------------------------------------...…
検索で見つからないときは質問してみよう！
質問する（無料）
