コンピューター内部での数値が、有限桁(有限ビット)で表現されているために生じている問題について教えてください。

A 回答 (1件)

コンピュータは実数計算を有限の桁数でしか計算することができないので、正しいアルゴリズムを組んでも計算をするうちに桁末尾から誤差がだんだん広がってきてしまいます。


いわゆる表現精度の問題ですね。

例)
10÷3=3.33333...
3.33333×3=9.99999
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aと関連する良く見られている質問

Q色の表現方法の#ffffffの他に#fffという3桁の方法について

livedoorのブログをやってまして、最近カスタマイズを楽しんでいます。
ところが、あるシートをいじろうとしたら、全て色の表示が3桁になってました。
今まで16進法の#ff00ffといった6桁のものしかしらなかったのですが、3桁の表現方法もあるのでしょうか。
なにか、参考になるサイトなどがありましたら教えて下さい。

Aベストアンサー

16進法であらわしているのは桁順に
RRGGBB であらわしています、つまり各色2桁づつとっているわけですそこで、2桁つづを1桁であらわす方法もあります

つまり
#FF00BB
ならば
#F0B
とあらわすことができます、
これは昔からの手法で、現在のパソコンのほとんどはフルカラー表示できますが、昔のパソコンはグラフィック性能がよくなく、256色しかだせませんでした
3桁表示ならば合計で256色の表現ができます

この256色の中からMacintoshとWindowsで異なる40色のを除いた216色をwebセーフカラーといい、基本的にどんなマシンでも、同じ色で表現したい時に使っていましたし、現在も使えます。
現在はMacやWinなどのプラットフォームをほとんど気にすることが無いので、6桁を使ってかまいませんし、2桁づつ、同じ色(例#AABBCC等)の時は2桁づつを1文字(#ABC等)にしてもかまいません

ちなみに、16進数以外にも、collar="white" collar="black" collar="red" などと色名での表現も難色か定義されています。

collar="cocktailsolid" とか適当な色でもブラウザが勝手に解釈して適当な色を付けてくれたりしますが、まぁ、ブラウザの種類によって全然色がちがったり色が付かなかったりしますので、お遊びにしか使えないし、正しい表記方法ではないですので、ほどほどに・・・

16進法であらわしているのは桁順に
RRGGBB であらわしています、つまり各色2桁づつとっているわけですそこで、2桁つづを1桁であらわす方法もあります

つまり
#FF00BB
ならば
#F0B
とあらわすことができます、
これは昔からの手法で、現在のパソコンのほとんどはフルカラー表示できますが、昔のパソコンはグラフィック性能がよくなく、256色しかだせませんでした
3桁表示ならば合計で256色の表現ができます

この256色の中からMacintoshとWindowsで異なる40色のを除いた216色をwebセーフカラーといい、...続きを読む

Qパソコン購入後の技術的な問題(取り扱い上生じたトラブル解決)解決サポー

パソコン購入後の技術的な問題(取り扱い上生じたトラブル解決)解決サポートを購入後一年10回まで無料でサービスをするメーカがありましたが、制限無く長期のサービスサポートのメーカは、ありませんか、宜しくお願いします。

Aベストアンサー

山*電気など大型電気店では購入時1年保証を5年保証しているサービスがあります(数千円増し)
サポートでは1年(例外あり)です。(10回との制限がない会社が多い)
サポートに電話する(混んでいることが多い)よりQ&Aサイトで質問するか購入店へ持ち込む方がよいと思いますが・・・

>制限無く長期のサービスサポートのメーカは

ないと思います。

Q32ビットと16ビットの違い

画面設定を、32ビットから16ビットにしたらどのように変化しますか、32ビットから16ビットにしたらパソコンの処理速度とかは変りますかヨロシクお願いします。

Aベストアンサー

こんにちは。
画面設定の32ビット、16ビットとは画面の色のことでしょうか?
画面の色だとすると、32ビットから16ビットにすることにより、扱うデータ量が減るので速度は向上すると思います。ただ、32->16で半分のデータ量だから、速度が倍になるというわけには行かないでしょうけど。
それと、色数が減るので写真等などは多少見劣りするかもしれません。
処理速度が気になるようでしたら、32ビット時と16ビットの時で、ベンチマークソフトなどを動かし処理速度の差を調べてみてはどうでしょうか?
ベンチマークソフトを1つあげておきますので
以下のURLから入手してください。

参考URL:http://www.vector.co.jp/soft/win95/hardware/se235775.html

Qビデオ映像のビット(ビットレート)数などについて

下記の件、教えてください。
1・・まず確認ですが、ビット数とは映像の圧縮のレベルを示すものですか?
2・・ビット数が多いほど画質が、きめ細やかではっきりしてきれいと認識し
  てますが、正しいですか。
  数値が少ないとぼんやりしていて、 圧縮すればするほど良くなるという
  イメージですが…
3・・フルハイビジョンやハイビジョンでのビット数はいくつからいくつまでとか
  決まっているのですか?
4・・同じくSD画質でのビット数はいくつからいくつまでとか?
5・・ビット数は、カメラの性能でまず決まりますか。
6・・あるいは、編集時のPCやソフトによって決まりますか。

Aベストアンサー

まず、ビットレートの概念が曖昧なようですね。
参考URLを少し読んでみてください。

参考URL:http://hivision.f-tools.net/touch/-20070530.html

Qゲーム機は64ビットなのになんでWINは未だ32ビットなの?」・・・

ある人から下記の質問されたのですがわかりません。

教えてください。

ゲーム機は64ビットなのになんでWINは未だ32ビットなの?」「現在64ビットのOSがあればそれは何?」「64ビットに対応するCPUは現在何?」「CPUの動作周波数とFSBの関係は?」

Aベストアンサー

> ゲーム機は64ビットなのになんでWINは未だ32ビットなの?

PCは過去の資産(プログラム等)を活かさないといけないので、簡単に64ビットに移行できなかったのです。「基本的」に64ビットマシンでは32ビットプログラムを実行できないか、実行できても性能が低下してしまいます。現在各メーカーはこの問題を克服しつつ、PCを64ビット化しようとしているところです。

対して、ゲーム機は過去の資産をあまり引きずりません。
PS2は先代PSのゲームができますが、その場合、PS2のCPUは使わず、サブチップで動作させます。
N64も基本的にスーパーファミコンのソフトは動きません。
そうして、過去をすっぱり切り捨て、先端ゲーム機は32ビットから64ビットへ簡単に乗り換えられたのです。
コストさえあうなら、もっと上位のCPUさえ検討したでしょう。

PCは汎用品、ゲーム機は専用品、この違いですね。


このカテゴリの人気Q&Aランキング

おすすめ情報