キャッシュを意識したプログラムのうちかたを教えて

キャッシュを意識した高速なプログラムの打ち方を教えてください。
具体的にどうすればいいのか教えてほしいです。

よろしくおねがいします。

No.5 ベストアンサー 回答者： zwi 回答日時： 2009/02/17 00:22

Windows限定と言うか汎用的なx86系ＣＰＵ限定で良いんでしょうか？

回答番号：No.3さんの回答に似てるんですが、

[命令キャッシュ]
(1)if文のelse/switch等の分岐を避ける。特に大きなコードを含んだ分岐で飛び越すのは避けた方がよい。
(2)処理の回数や時間が長い処理を出来るだけif文の条件が真になる時に通るようにする。
(3)関数やクラスの呼び出しを極力避ける。呼び出す場合は出来るだけ戻ってこない時間の掛かる処理にする。

[データキャッシュ]
(1)データは極力シーケンスにアクセスする。ランダムアクセスする場合も広範囲にアクセスしないように工夫する。
(2)データのアクセスとアクセスは出来るだけ間隔を空けて、レジスタ内で処理をするコードを心がける。
(3)スレッドなどＣＰＵコア間で同期が必要な処理は避ける。データキャッシュのフラッシュが起こる可能性があるため。

上と合わせて、コンパイラ出力のアセンブラレベル命令コードを毎回確認して、無駄なコードが出ていないか確認する。

まぁ、今時のＣＰＵでキャッシュばかり意識し過ぎるとプログラムの可読性が低いやら、結局処理が遅いとか、開発効率が悪すぎるとか、あまりメリットが無いかもしれません。

この回答へのお礼

具体的でわかりやすいです。
返答ありがとうございました。

お礼日時：2009/02/19 01:59

No.7 回答者： BLK314 回答日時： 2009/02/17 00:34

レジスタの積極的な利用を考えるのなら

６４ビット化が最も有力と考えます、

使えるレジスタ数そのものが増えるためです。
関数のパラメータもできるだけレジスタ渡しを採用するようになります。

従来の __fastcallに似ています。
ただし、x86ではレジスタ数そのものが少ないので
効果は？な部分もありました。

この回答へのお礼

返答ありがとうございました。

お礼日時：2009/02/19 02:01

No.6 回答者： jacta 回答日時： 2009/02/17 00:25

> どんなプログラムの場合の高速化なのかといったことは限定せず

> 広くキャッシュにヒットしやすい、キャッシュに適した、
> 高速なコードの書き方を求めています。

一般論であれば、

・可能な限り、プログラムサイズを小さくする。

ことぐらいです。
サイズを縮小するには、単に最適化オプションを調整するだけでなく、ソースコードレベルでの調整も必須になります。

この回答へのお礼

返答がりがとうございました。

お礼日時：2009/02/19 02:00

No.4 回答者： BLK314 回答日時： 2009/02/17 00:07

どのような理由で”キャッシュを意識"する必要があるのかわかりませんが,

一般論としては、あまり意味がないと考えています。
最適化オプションで"コードサイズを優先"にすれば、
かなりコンパクトになり、キャッシュに入る可能性も上がるのではないでしょうか？

本当にキャッシュを意識したいなら
まず、ターゲットのCPUを定めなくてはなりません。
同じＩｎｔｅｌ製のCPUでも
Pentium Dの場合
Core Aのキャッシュに入っているデータをコアBが直接アクセスできず
メモリを介した転送になるので、キャッシュのメリットを享受できません。
Core2Duoならば、キャッシュが共有されていますので
そんな心配は要りません。

このことは、マルチ・スレッドで初めて問題になることで
シングル・スレッドでは関係ないとも言えます。

ただ、CPUを意識しないと、キャッシュを活用したつもりでも
落とし穴にはまることがある一例として挙げさせていただきました。

キャッシュを意識する以前に効率化を検討する必要があると考えます。
こういった問題をわかりやすく取り上げた本として

"Effeective C++"
"more Effective C++"

を推薦します。

この回答へのお礼

マルチ・スレッドもキャッシュを意識する上で重要ですよね
返答ありがとうございます。

お礼日時：2009/02/19 01:57

No.3 回答者： chie65535 回答日時： 2009/02/16 12:51

＞キャッシュを意識した高速なプログラムの打ち方

オートや動的確保の変数、オートや動的確保のクラスオブジェクト、クラス関数、関数などを極力用いないようにする。

変数はすべてグローバル変数にして、良く使う変数は、物理的に近い位置に配置する。

つまり、Ｃ＋＋などは使わず、Ｃを使うのが「大前提」となる。

この回答へのお礼

返答ありがとうございます。
参考にしたいと思います。

お礼日時：2009/02/16 23:41

No.2 回答者： zwi 回答日時： 2009/02/16 10:58

あと、どんなＣＰＵコア限定にするかの情報も欲しいですね。

ＣＰＵ毎に癖がありますから。

No.1 回答者： jacta 回答日時： 2009/02/16 08:25

> 具体的にどうすればいいのか教えてほしいです。

具体的にどんなプログラムなのか、
具体的にどんな処理系（プラットフォームおよびコンパイラ）なのか、
具体的に現在どの程度の時間がかかっていて、どの程度高速化したいのか、

以上を補足してください。

この回答への補足

ごめんなさい。
どんなプログラムの場合の高速化なのかといったことは限定せず
広くキャッシュにヒットしやすい、キャッシュに適した、
高速なコードの書き方を求めています。
VisualC++で開発しています。

情報が少なく答えることができないのであればその場合は
ごめんなさい。返答ありがとうございます。

補足日時：2009/02/16 23:29