アホな質問かもしれませんが、よろしくお願いします。
GPUでは座標計算の他にRGBの輝度計算も行なっているのは周知の事実ですが、どうして小数点で計算するのでしょうか?RGBの0~255で表すと荒すぎるから小数点で表すことで細かい色まで表すという理由から小数点を使っているんだと思います。だったら別に小数点でなくても桁数が多い整数値で表せばいいのではないかと思うんです。
これは、座標を計算するユニット(vertex shader)が浮動小数点で、このユニットと仕様を統合するために、輝度計算も小数点で表しているということだったら納得ができるのですが・・・。
推測の範囲なので自信が持てないんです。
何かここについて言及している文書やページがあれば、あるいははっきりここの理屈がわかる方がいれば、アホな質問かも知れませんが教えてください。
よろしくお願いします。
No.2ベストアンサー
- 回答日時:
まず、浮動小数点ではなく、浮動小数点数です。
浮動小数点数は、桁数の多い整数とは用途が全く異なります。
例えば、
32106537821065378062178056310
のような数は浮動小数点数で表すのは困難で、桁数の多い整数で表すべきです。
また、
42.56321803891057849015783904718
のような数も同様です。これは桁数の多い固定小数点数を使う必要があります。
浮動小数点数が使えるのは
4236830000000000000000000000000000
や
0.00000000000000000000000000000241638
のように、桁数は多いけれども実際に0以外の数字が入っている桁はごくわずかな場合です。(実際には2進数を使うが分かりやすく10進数で表現した)
浮動小数点数はこのような数を効果的に扱うことができます。
計算で浮動小数点数を用いる主な用途は、
「計算途中で非常に大きい/小さい数になるが、最終的に必要な桁数は数桁」
という場合です。
例えば
10 ÷ 1000億 × 1兆 = ?
という計算を整数や固定小数点数で行えばよほどの桁数がない限り10÷1000億の時点で0になり正しい答えが出せません。
No.1
- 回答日時:
小数点を使うと
小数点以下が必要ない場合0~255の256諧調で済みますね
必要な時だけ小数点以下を使えばいい訳です
小数点を使わない場合かりに5桁にしたとしましょう
0~10000とすると10000諧調必要ですねさらにもっと細かくしたい場合小数点以下を使うか桁をもっと増やすか
効率的ではないですね
以上簡単な説明でした
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- Excel(エクセル) 分数をエクセルに入れる計算式について 4 2022/05/13 09:14
- Excel(エクセル) 給与計算表で縦計(SUM関数)と合計が少し合わない(数円) 3 2022/07/04 10:13
- Excel(エクセル) エクセルのセルの書式設定・ユーザー定義の条件設定について 1 2022/08/17 21:56
- 数学 『数は実在するのか』 6 2023/06/04 15:15
- Excel(エクセル) エクセルの「セル書式」の「表示形式」で 2 2022/08/07 16:44
- Excel(エクセル) 電卓は正しいのに エクセルで計算させると間違った答えです。なぜ? 7 2022/08/11 07:04
- 会計ソフト・業務用ソフト エクセルについて 1 2022/06/15 17:39
- その他(データベース) Accessフォームにて指定のフィールドの平均値を小数点第一位で表示できない 2 2022/08/30 17:19
- 数学 昔の日本人の身長表記の尺や海外の身長表記のフィートはcmに直すと小数点がつきますが、その小数点はフィ 2 2022/04/12 21:26
- 物理学 ベクトルと座標系につきまして 1 2022/04/03 06:23
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
EXCELで上書き保存しないと反映...
-
エクセル0:00と表示される原因
-
エクセルで作業時間数や残業時...
-
ASC関数が上手く出来ない!
-
アンダーバーの後の文字を大文...
-
計算能力
-
エスセルでフィボナッチを・・・。
-
エクセルでの最小二乗法の計算
-
エクセルの計算式
-
エクセルのカメラ機能を、700個...
-
Jw cadにエクセルで作成した表...
-
エクセルで日付をまたいだ作業...
-
エクセルの計算機能が使えません
-
PDFの計算表をエクセルに変換す...
-
輝度を小数点で計算する理由(...
-
電卓は正しいのに エクセルで計...
-
パワーポイントをエクセルファ...
-
【スプレドシート】IMPORTRANGE...
-
エクセルで「500時間」を「何日...
-
ExcelファイルがDoxillionに突...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
EXCELで上書き保存しないと反映...
-
エクセル0:00と表示される原因
-
エクセルのカメラ機能を、700個...
-
gage R&R の計算
-
エクセルで作業時間数や残業時...
-
ポール強度計算書ソフト
-
電卓は正しいのに エクセルで計...
-
時刻の計算の仕方教えてくださ...
-
エクセルを32ビットから64ビッ...
-
エクセルで積分
-
アンダーバーの後の文字を大文...
-
ASC関数が上手く出来ない!
-
COUNTA関数について なんで反...
-
エクセルのSUM関数について
-
エクセルで勤務時間の計算をし...
-
エクセルで関数の数式を入力で...
-
エクセル時間の大小
-
エクセルとスプレッドシートの...
-
鉄筋関係のフリーソフトありま...
-
JWでエクセルのように表計算
おすすめ情報