［固定小数点数］についての検索結果(約10000件中 1〜20件を表示)

固定小数点数、浮動小数点数について

…学校から課題が出ているのですがさっぱりなので教えていただければ幸いです。課題：11051120　この数を３２bitの固定小数点数、浮動小数点数であらわせ (1)固定小数点数、浮動小数点数と...…

１６ビットの符号付固定小数点の使い方について

…１６ビットの符号付固定小数点について最上位(15)ビットが符号ビットで１４～０ビットが少数部というデータフォーマットだった場合、－０，２５を表すとしたら、０．２５に符号ビッ...…

浮動小数点演算を固定小数点演算へ変換する

…あるプログラムの処理を高速化するために浮動小数点数を固定小数点数に変換したいので、皆様の力を貸してください。以下のようなプログラムがあります。 -------------------------------------...…

2009/09/15 01:04
C言語・C++・C#
回答数(5)

Access-フォームの小数点以下が切り捨てられてしまう

…テーブルのデータには小数点以下が第二位まで入力してあるのですが、なぜかフォームでは小数点以下が切り捨てられてしまいます（5.24 → 5.00など）。現在、テーブルのデータ型は数値型...…

Excelの小数点以下の桁数の既定値を変更する

…いつも勉強させていただいております。 Excelで数値（例えば50000）を入力して、桁区切りをすると、勝手に50,000.00と小数点第二位までが表示されてしまいます。私はただ50,000という風にな...…

Excelで勝手に小数点以下が増える

…Excel2013を使用しています数式をいれて小数点以下を2桁など指定した後そのセルの数式を変更したりすると勝手に小数点以下が2桁ではなく全部表示されたりしますこれを勝手に小数点以...…

エクセルマクロ小数点桁数

…テキストデータからエクセルマクロで吸出しを行う中で数値データをNumberFomatLocalでカンマと小数点を指定したいのですが小数点以下がセルによって2桁3桁だったり、なかったりとバラバラ...…

Excel 入力規則小数点数とは

…Excel 入力規則の「小数点数」という言葉の意味がよくわかりません。どういう数値の、どういう小数点の入力条件を決めるのでしょうか。教えてください、よろしくお願いします。…

小数点以下切捨てした上での足し算

…書式設定で小数点以下の桁数0にし、整数での表示にさせています。しかしそれらを足し算すると結局正確に小数点以下の数値まで足されてしまいます。そうしないためには？…

printfの小数点以下の表示桁数につい

…Java超初心者です。宜しくお願い致します。 System.out.printf("%8f\n",15.8); は８桁表示のはずですが、実行すると、 15.800000 と、いう風に９桁になります。詳しい方はきっと当たり前と思うと思...…

2012/07/08 13:32
Java
回答数(1)

EXCEL 小数点以下の桁数を条件によって変えるには

…Ｇ列の書式設定を数値、小数点以下０桁に設定してありますＤ列にある特定の文字が入力された時だけ、小数点以下の桁数を１桁にしたいのですが、どのようにすればよいでしょうか？そ...…

小数点以下

…簡単なコトだと思うのですが・・・『小数点以下３位未満の端数は、切り捨てる』とは０．１２３４５の場合、どうなるのですか？『小数点以下３位以下の端数は、切り捨てる』とは ...…

2007/10/15 10:58
数学
回答数(1)

2008/03/24 11:35
PHP
回答数(2)

Excel2010のグラフで小数点桁数を変更する

…Excel2010で散布図グラフを作図した時に、キャプションの数値の小数点以下の桁数をホームリボンのアイコンから操作したいのですが、何か方法は無いでしょうか？ご存じの方がいらっし...…

浮動小数点の正規化の必要性について

…　浮動小数点の正規化の必要性について教えてください。　浮動小数点で数を表す際に、正規化は必ずしも必要なもの（行わなければならないもの）なのでしょうか？　　また浮動小...…

固定小数点数