PC提案事例

地震動に関する研究を行うためのマシンが欲しい。
大量のデータ学習を高速で実施するため、メモリやGPUを充実させたい。
Pythonで自社開発したコードを用いた処理を行う予定だが、SonyのNeural Network Consoleも補助的な役割で使用する。

マシン導入における条件は以下の通り。

PCに詳しくないため、メモリやGPUの容量やバランスなどに不安がある。
曖昧なイメージしか持っていないが、上記の条件を踏まえて適切な構成を提案して欲しい。

GPUを使用した機械学習では、GPUに搭載されているメモリの容量が重要になります。

メインメモリがGPUメモリ以上に必要なケースは少ない

お客様が自作したPythonコードがマシン本体のメインメモリを重視する場合は例外ですが、GPUを使用した一般的な機械学習では、メインメモリから一旦GPUメモリにデータを移動してから動作します。
そのため、メインメモリがGPUメモリ＋α以上に必要になるケースは少ないです。

ご予算とGPUメモリの条件から、NVIDIA GeforceシリーズをGPUとする方針で検討しました。
ご指定のRTX3090は終息のため、後継のRTX4090としています。ビデオメモリ 24GBに対し、メインメモリは64GBと余裕のあるスペックです。

GPUとCPUの使い分け

また、お客様からは以下のご質問をいただきました。

GPUで学習させた場合はインファレンスもGPUで行うパターンが多いと思われます。[3]についてお客様に確認した結果、インファレンスや推定精度の評価、図化を想定しているとのことでした。
CPUのインファレンスは特殊な機能がなくても可能ですが、処理に大変時間がかかる場合があります。そのため、お使いのインファレンスプログラムが (GPUでいうところのCUDAのように) CPUハード側で用意しているベンダー専用の仕組みを使って組み込まれている可能性がないか、確認をお願いしました。
例えば、IntelのDeep Learning Boostを前提にソフトが組み込まれている場合、この仕組みが実装されているCPUを利用する必要があります。

参考：インテル ディープラーニング・ブースト (インテル DLブースト) ※外部サイトに飛びます

確認・ヒアリングの結果、インファレンス部分はCUDAによるGPU利用での対応であることが確認できたため、CPU側はIntel Deep Learning Boostなどを考慮する必要がないと判断しています。

また、GPUメモリの容量を増やす場合、ビデオカード自体を別の製品に変更する必要があります。
候補としてはRTX A6000 48GBが考えられますが、ご予算内での採用が難しいためRTX4090 24GBを選択している旨をお客様にお伝えし、ご理解をいただきました。ご予算に余裕のあるお客様は、RTX A6000に変更した構成でご案内しますので、お気軽にご相談ください。

検索キーワード
機械学習,地震動,マシン,大量のデータ学習,GPU,Geforce RTX4090,メモリ容量,Python,Sony Neural Network Console,インファレンス
Deep learning，Machine learning，Artificial intelligence，Neural networks，Deep neural networks，Deep stacking networks，Supervised learning，Unsupervised learning，Natural language processing，Smart manufacturing，Computational intelligence，Data analytics，learning (artificial intelligence)，Information processing，Computer vision，AI，big data，programming