重要なお知らせ

「教えて! goo」は2025年9月17日(水)をもちまして、サービスを終了いたします。詳細はこちら>

電子書籍の厳選無料作品が豊富!

浮動小数点実数

の検索結果 (2,329件 1〜 20 件を表示)

浮動小数点の比較について

…たとえば、以下のコードで、「違う」と表示されるように、浮動小数点の比較に失敗します。 #include int main() { float f = 0.1; if (f == 0.1) { std::cout …

解決

浮動小数点の正規化の必要性について

… 浮動小数点の正規化の必要性について教えてください。  浮動小数点で数を表す際に、正規化は必ずしも必要なもの(行わなければならないもの)なのでしょうか?    また浮動小...…

解決

固定小数点数、浮動小数点数について

…学校から課題が出ているのですがさっぱりなので教えていただければ幸いです。 課題:11051120 この数を32bitの固定小数点数、浮動小数点数であらわせ (1)固定小数点数、浮動小数点数と...…

締切

Access-フォームの小数点以下が切り捨てられてしまう

…テーブルのデータには小数点以下が第二位まで入力してあるのですが、なぜかフォームでは小数点以下が切り捨てられてしまいます(5.24 → 5.00など)。 現在、テーブルのデータ型は数値型...…

締切

10進数から2進数に変換 例 185 185÷2=92.5 小数点以下切り捨て 91と勘違いしてしま

…10進数から2進数に変換 例 185 185÷2=92.5 小数点以下切り捨て 91と勘違いしてしまいました。 切り捨てというのは小数点以下の数字を切り捨てるだけという覚え方でいいですか? 解説お願い...…

解決

16ビットの符号付固定小数点の使い方について

…16ビットの符号付固定小数点について 最上位(15)ビットが符号ビットで14~0ビットが少数部という データフォーマットだった場合、-0,25を表すとしたら、 0.25に符号ビッ...…

解決

浮動小数点

…浮動小数点について勉強していますが、本を見てもよくわかりません。 「イクセス表記とは、本来8ビットで表現できる値は0~255であるのに対し、元の値に127を加算することに...…

解決

テーブルに小数点以下の値を入れたい場合

…アクセスのテーブルに0.001と入力したい場合、 データ型を数値型にし、 フィールドサイズは 単精度浮動小数点型と倍精度浮動小数点型では どちらを選べばいいのでしょうか? どちらも小...…

解決

エクセルの小数点以下表示

…エクセルの小数点以下表示でツールバー、セルの書式設定などは表示されていない部分(例えば小数点以下2位までの表示なら3位以下の部分)は四捨五入されているのでしょうか?デフォ...…

解決

小数点以下切捨てした上での足し算

…書式設定で小数点以下の桁数0にし、整数での表示にさせています。 しかしそれらを足し算すると結局正確に小数点以下の数値まで 足されてしまいます。そうしないためには?…

解決

小数点以下の桁にカンマが無いのはなぜ? 素朴な疑問です。 小数点以下にカンマ等の区切り記...

…小数点以下の桁にカンマが無いのはなぜ? 素朴な疑問です。 小数点以下にカンマ等の区切り記号がないのはなぜでしょうか? ミリ、マイクロ、ナノと単位も10の-3乗ずつあるのに。 小数...…

解決

浮動小数点の正規化方法について

…基本情報処理技術者試験を20日に受けます。勉強不足で困っています。どなたか教えてください。 問題「数値を16ビットの浮動小数点表示法で表現する。10進数0.375を正規化せよ:ここでの正...…

解決

AccessからExcelへエクスポート時に小数点以下の桁数がおかしく

…AccessからExcelへエクスポート時に小数点以下の桁数がおかしくなります。 59.20 118.40 118.40 77.70 49.20 ↓↓↓↓↓ 59.20000076 118.4000015 118.4000015 77.69999695 49.20000076 の様になってしまいます。 以下エ...…

解決

Access 倍精度浮動小数点型について。。。

…アクセスの、倍精度浮動小数点型で定義したテーブルを作成しました。 で、その項目に 99999999 とデータを入力した場合にデータが100000000 に自動変換されてしまいました。  このよう...…

解決

小数点以下0の非表示

…教えてください。 PostgreSQLでNUMERIC(8,3)のデータがあるのですが、 そのデータが小数点以下が0だった場合などに 0を表示させたくないのですがどのようにすればよいのでしょうか? 2500.000...…

解決

Excelで勝手に小数点以下が増える

…Excel2013を使用しています 数式をいれて小数点以下を2桁など指定した後 そのセルの数式を変更したりすると勝手に小数点以下が2桁ではなく全部表示されたりします これを勝手に小数点以...…

締切

小数点以下を繰り上げたものをそのままコピーするには

…計算後の数字をさらに小数点以下を繰り上げ(切り捨て)た数字をそのまま数値としてコピーして他のセルに貼りつけることは可能ですか?…

解決

浮動小数点演算を固定小数点演算へ変換する

…あるプログラムの処理を高速化するために浮動小数点数を固定小数点数に変換したいので、皆様の力を貸してください。 以下のようなプログラムがあります。 -------------------------------------...…

解決

16ビット浮動小数点数の表現方法について

…学校の課題において、ある数を2進数で表現し、さらにその数を16ビット浮動小数点数で表しなさい。またそのとき生じる誤差の名称を記しなさい、という課題がでており取り組んでいる...…

解決

EXCEL 小数点以下の桁数を条件によって変えるには

…G列の書式設定を数値、小数点以下0桁に設定してあります D列にある特定の文字が入力された時だけ、小数点以下の桁数を1桁にしたいのですが、どのようにすればよいでしょうか? そ...…

締切

検索で見つからないときは質問してみよう!

Q質問する(無料)