アホな質問かもしれませんが、よろしくお願いします。
GPUでは座標計算の他にRGBの輝度計算も行なっているのは周知の事実ですが、どうして小数点で計算するのでしょうか?RGBの0~255で表すと荒すぎるから小数点で表すことで細かい色まで表すという理由から小数点を使っているんだと思います。だったら別に小数点でなくても桁数が多い整数値で表せばいいのではないかと思うんです。
これは、座標を計算するユニット(vertex shader)が浮動小数点で、このユニットと仕様を統合するために、輝度計算も小数点で表しているということだったら納得ができるのですが・・・。
推測の範囲なので自信が持てないんです。
何かここについて言及している文書やページがあれば、あるいははっきりここの理屈がわかる方がいれば、アホな質問かも知れませんが教えてください。
よろしくお願いします。
No.2ベストアンサー
- 回答日時:
まず、浮動小数点ではなく、浮動小数点数です。
浮動小数点数は、桁数の多い整数とは用途が全く異なります。
例えば、
32106537821065378062178056310
のような数は浮動小数点数で表すのは困難で、桁数の多い整数で表すべきです。
また、
42.56321803891057849015783904718
のような数も同様です。これは桁数の多い固定小数点数を使う必要があります。
浮動小数点数が使えるのは
4236830000000000000000000000000000
や
0.00000000000000000000000000000241638
のように、桁数は多いけれども実際に0以外の数字が入っている桁はごくわずかな場合です。(実際には2進数を使うが分かりやすく10進数で表現した)
浮動小数点数はこのような数を効果的に扱うことができます。
計算で浮動小数点数を用いる主な用途は、
「計算途中で非常に大きい/小さい数になるが、最終的に必要な桁数は数桁」
という場合です。
例えば
10 ÷ 1000億 × 1兆 = ?
という計算を整数や固定小数点数で行えばよほどの桁数がない限り10÷1000億の時点で0になり正しい答えが出せません。
No.1
- 回答日時:
小数点を使うと
小数点以下が必要ない場合0~255の256諧調で済みますね
必要な時だけ小数点以下を使えばいい訳です
小数点を使わない場合かりに5桁にしたとしましょう
0~10000とすると10000諧調必要ですねさらにもっと細かくしたい場合小数点以下を使うか桁をもっと増やすか
効率的ではないですね
以上簡単な説明でした
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・人生のプチ美学を教えてください!!
- ・10秒目をつむったら…
- ・あなたの習慣について教えてください!!
- ・牛、豚、鶏、どれか一つ食べられなくなるとしたら?
- ・【大喜利】【投稿~9/18】 おとぎ話『桃太郎』の知られざるエピソード
- ・街中で見かけて「グッときた人」の思い出
- ・「一気に最後まで読んだ」本、教えて下さい!
- ・幼稚園時代「何組」でしたか?
- ・激凹みから立ち直る方法
- ・1つだけ過去を変えられるとしたら?
- ・【あるあるbot連動企画】あるあるbotに投稿したけど採用されなかったあるある募集
- ・【あるあるbot連動企画】フォロワー20万人のアカウントであなたのあるあるを披露してみませんか?
- ・映画のエンドロール観る派?観ない派?
- ・海外旅行から帰ってきたら、まず何を食べる?
- ・誕生日にもらった意外なもの
- ・天使と悪魔選手権
- ・ちょっと先の未来クイズ第2問
- ・【大喜利】【投稿~9/7】 ロボットの住む世界で流行ってる罰ゲームとは?
- ・推しミネラルウォーターはありますか?
- ・都道府県穴埋めゲーム
- ・この人頭いいなと思ったエピソード
- ・準・究極の選択
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
EXCELで上書き保存しないと反映...
-
エクセル0:00と表示される原因
-
エクセルで作業時間数や残業時...
-
エクセルで積分
-
エクセルとスプレッドシートの...
-
時刻の計算の仕方教えてくださ...
-
鉄筋関係のフリーソフトありま...
-
エクセルについて
-
電卓は正しいのに エクセルで計...
-
ポール強度計算書ソフト
-
計算方法を教えて下さい
-
和時計+月齢+二十四節気がわ...
-
COUNTA関数について なんで反...
-
エクセルのカメラ機能を、700個...
-
パワーポイントをエクセルファ...
-
エクセルで「500時間」を「何日...
-
【スプレドシート】IMPORTRANGE...
-
エクセルでファイルを閉じても...
-
エクセルを開いたときのシート
-
エクセル文書を保存したらメモ...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
EXCELで上書き保存しないと反映...
-
エクセル0:00と表示される原因
-
エクセルで作業時間数や残業時...
-
エクセルのカメラ機能を、700個...
-
ポール強度計算書ソフト
-
アンダーバーの後の文字を大文...
-
電卓は正しいのに エクセルで計...
-
gage R&R の計算
-
エクセルとスプレッドシートの...
-
時刻の計算の仕方教えてくださ...
-
ASC関数が上手く出来ない!
-
エクセルで積分
-
エクセルの計算式
-
エクセルを32ビットから64ビッ...
-
エクセル時間の大小
-
COUNTA関数について なんで反...
-
エクセルで、積算時間を整数に...
-
エクセル関数の使い方を教えて...
-
エクセルの関数をどう使えばい...
-
エクセル COSθ の値
おすすめ情報