浮動小数点数
の検索結果 (10,000件 41〜 60 件を表示)
Accessで小数点以下の桁数を・・?
…教えてください。 Accessで小数点以下の桁数を表示したいのですが、プロパティで小数点以下の桁数を表示することができるのですが、実際に入力すると値が四捨五入されてしまい小数点以...…
FP4という浮動小数点演算4桁の割り当ては?
…NVIDIAのBlackwellはFP4という浮動小数点演算4桁で行うみたいですが、これらのbitの割り当てってどうなっていますか? 符号部 指数部 仮数部の割り当てです。…
小数点以下の桁にカンマが無いのはなぜ? 素朴な疑問です。 小数点以下にカンマ等の区切り記...
…小数点以下の桁にカンマが無いのはなぜ? 素朴な疑問です。 小数点以下にカンマ等の区切り記号がないのはなぜでしょうか? ミリ、マイクロ、ナノと単位も10の-3乗ずつあるのに。 小数...…
Excelで勝手に小数点以下が増える
…Excel2013を使用しています 数式をいれて小数点以下を2桁など指定した後 そのセルの数式を変更したりすると勝手に小数点以下が2桁ではなく全部表示されたりします これを勝手に小数点以...…
小数点の誤差をなくすのは可能?[ExcelとPHP]
…PHPとExcelのワークシート関数を使って小数点の演算を行い、 両者が正しい値を返しているかを比較しているのですが、 どうしても計算が合いません。 例えば、次のような計算です(小数...…
エクセルの小数点以下表示
…エクセルの小数点以下表示でツールバー、セルの書式設定などは表示されていない部分(例えば小数点以下2位までの表示なら3位以下の部分)は四捨五入されているのでしょうか?デフォ...…
Excelの小数点以下表示・非表示の方法について
…Excel2000において、小数点以下の表示方法について教えてください。 条件は以下の通りです。 (1)小数点以下が存在するときは、小数点以下第2位まで表示する。 ※小数点以下第3位の処理は...…
Excel2010のグラフで小数点桁数を変更する
…Excel2010で散布図グラフを作図した時に、 キャプションの数値の小数点以下の桁数を ホームリボンのアイコンから操作したいのですが、 何か方法は無いでしょうか? ご存じの方がいらっし...…
浮動小数点数の内部表現について教えてください
…float型の内部表現を表示するプログラムを書いていくつか試してみたのですが、どこからどこまでが仮数部でどこからどこまでが指数部なのか良くわかりません。 曲がりなりにも自分で考...…
エラー:浮動小数点の不正な使用
…/*月ごとの平均気温・降水量を構造体の配列に格納した後、 */ /*年間平均気温、年間平均降水量を求めるプログラムを作成せよ。*/ #include void main(void) { int i; double total_kion, total_suiryo, ...…
「小数点以下2桁」と「小数点2桁」
…「小数点以下2桁」と「小数点2桁」 「小数点以下2桁」という表現は正しいかと思うのですが、 同じ意味で「小数点2桁」という記載は正しいのでしょうか? できれば、出展を添えて...…
なぜ、小数点以下の数字を掛けると、数が減るの(小学校4年生)
…小学校4年生の娘なんですが、まだ、小数点以下の掛け算をならっていません。 小数点以下の数を掛けると、なぜ「減るのか」 小数点以下の数を割ると、なぜ「増えるのか」理解できませ...…
小数点を含む数値かどうか判断の判断方法
…プログラム(VB.NET)初心者です。 どうぞよろしくお願いします。 テキストボックスに小数点を含んだ数値かどうかの 判断を行いたいのですが、どのようにチェックをすればいいかがわかり...…
Excel 小数点以下を切り捨てた値を集計する方法
…エクセル2010を使っている者です。 小数点以下を切り捨てた状態で集計する方法についてお教えください。 A1 3 B1 9 C1 A2 =rounddown(A1*0.8) B2 =ro...…
ACCESS データ型の一括変更
…ACCESSのデータ型の変更について質問です。 よそからいただいているACCESSファイルがあるのですが、データがテキスト型で入っていまして、数値型(単精度浮動小数点型)に変更し、IIF関数...…
小数点以下は、どこまで計算するのですか?
…初歩的な質問で、すみません。 電験3種の計算問題についてなんですが、 小数点以下は、なん桁まで計算するのが良いのでしょうか? 通常の解答をするには、小数点以下は、なん桁ま...…
検索で見つからないときは質問してみよう!