ローカルLLMに向いたPC？

目次

1. ローカルLLMにしか使わないのか？
2. LLMには何が必要？
3. CUDA使うとしたら？
4. まとめ

ローカルLLMにしか使わないのか？

https://note.com/dkvingway/n/nd2f827e0a826

この記事で、DGX Spark互換機の評価が若干低かったのがなぜかと思って書いてみるというか、もう上に書いている。

結局、LLMにしか使わないか、他にも使うかの話。DGX Spark互換機が活きてくるのはCUDAを使うかどうか。LLMだけに使うという頭が無かったので、そうすると選択肢が変わってくる。

LLMには何が必要？

確かにLLMだけと言われると、演算能力よりもメモリ帯域の方が重要になってくるのか？特に大きなモデルになるとそうなのか？そうなると、MacなのかDGX Spark互換機かと言われたときに、確かにMacに軍配が上がるかもしれない。それで、コスパの話になると、速度が落ちても大きいモデルを動かせる安いマシンがEVO-X2。ただ、GPUの演算性能も含めた性能がどれくらい違うのかと言われるとよく分からない部分がある。結局、高性能ならMac、コスパならEVO-X2となるのか？

CUDA使うとしたら？

言うまでもなく、DGX Spark互換機なのだが、MacだろうとEVO-X2だろうと、外部接続はできるだろうが、そこまでしても大したVRAMの確保が出来ないので、それならDGX Spark互換機を選択するべき。

まとめ

LLM専用でお金は気にしない　Mac
コスパでLLM　EVO-X2
CUDA使うなら　DGX Spark互換機

LLMにしか使わないという選択肢は頭に無かったが、趣味に使うのでなければ確かにそういう話もある。あと、本格的に使うのであればDGX Spark互換機を複数接続できるようであるので、それも考慮する話もあるが、そんな方の話は別の話と言うことで。

大きいセールがある場合はAmazonもしくは楽天から購入するとお得です。
買い物情報はこちらからご確認ください。気分で紹介しています。

アリエクのクーポン情報もまとめています。こちらをご覧ください。

当ページにはアフィリエイトリンクを含む場合があります。