必要なgpu.cpu.メモリの確認方法

AIシステムを作成していて、それを別のパソコンに実装します。
予算上最低限のpcをしか用意できないのですが、どのように最低限のスペックを見積もるのかを教えていただきたいです。

このAIシステムで推論したときに使用したときの各使用率ですが、
cpuはマックスで15%
メモリは、マックスで20%（動かしてないときでも11%デフォルトで動いていたので9%？）
GPUはマックスで1%でした。

このシステムを動かしている現在のパソコンは、
13th Gen Intel(R) Core(TM) i9-13900K 3.00 GHz
メモリ128GB
GPUは、Nvidia RTX6000 ada generation（GPUメモリー48GB）です。

よって、計算式としては、
最低限必要なGPUは、48*0.01=0.48GB
最低限必要なメモリは、128*0.09=11.52GB
となります。
最低限のCPU、メモリ、GPUは、
メモリ：16GBで、
GPU、CPUはなんて回答するのがよろしいのでしょうか？

質問者からの補足コメント

• ありがとうございます！
  cpuはどのように考えればいいでしょうか？

  No.1の回答に寄せられた補足コメントです。 補足日時：2024/01/17 12:29

No.2 回答者： masa2211 回答日時： 2024/01/18 21:06

使用率の計測ですが、windows標準のタスクマネージャで計測した値と解釈します。

1.グラボ
GPU使用率は字の通り、GPUの使用率でありグラボのメモリーの使用率ではありません。
で、GPU使用率が低いということは画面表示に使っているだけであって、AIの推論には使っていません。たとえば囲碁AIなどでは、GPU使用率は100％近い値に張り付きます。
以上より、GPUはCPU内臓でも一番安いものでもok。

2.メモリー
メモリーは、AIシステムが9％　windowsその他が11%の計20％使うので26GBが必要。これ以下でも動くことは動きますが、ストレージの一部をメモリー替わりにつかうので、速度が極端に落ちます。よって、PCのメモリーは32GB.

なお、windowsが使うメモリーは、当方の場合で概ね4GB。(win11 home。)メモリー食いのソフトが起動しているので11Gに膨れていると思われる。

3.CPU
AIはグラボで動いているわけではなさそうなので、そうなるとCPU全開で動いているはずですが、それでも15％。ということは、シングルスレッドで動いている可能性が大。（シングルスレッドが全開で動いている。）
ゆえに、CPUについては、開発環境と同じレスポンスが欲しいなら、開発環境と同程度以上のCPU。レスポンスが多少落ちていいなら、i3やセレロンでも可。それでもちょっと落ちるだけ。まあ、比較的最近の世代のCPUは必要で、レスポンスに対し見るべき箇所はシングルコア性能でレスポンスが決まる。

No.1 回答者： Georgia.Rain. 回答日時： 2024/01/17 12:23

少なくともGPUはChipSet内蔵もしくは一番安価なものでOKです。

3D処理をさせる訳ではないのですから。