農家は外付けGPUの夢を見るのか

ローカルLLMやり始めると、特に意味は無いのだがいろいろやってみたくはなる。今、一応稼働が安定に入ったところで次に手を出したくなるのが画像生成。ただ、ここで問題が。画像生成を行うには、今のミニPCでは外付けGPUが必要となる。それも、どうせならNVidia。なので買いたいけど買わないが、一応調査してみる。ただ、結果そんなにお金かけるんだったら、ミニPCでなくてもよかったじゃんと言うのは無しで。
GPUドック
OCulinkで接続できるタイプを検討
AOOSTAR AG01 電源内蔵タイプ
Minisforum DEG1 電源外付けタイプ
正直やるとしたら常用。そうなると、電源もGPUもむき出しのMinisforum DEG1は避けたい。では、AOOSTAR AG01なら納得できるのかと言うと、GPUむき出しは正直いやだが、ケース付きのものをそれ以上の金額を払ってまで買うのかと言われれば、ちょっと考えてしまう。
アリエクだとクーポンで下がって19,000円位。保証を考えるとあまりうまくないか?多分パソコンの電源ケーブルが使えるだろうから、海外のケーブルで届いたとて問題はないだろうが、悩む金額差。
グラフィックボード
単純にNVidiaでメモリをどこまで積むかの話だが、12GBで我慢するか、16GBまで頑張るか。
現在想定している使用方法では12GBだと常用は厳しそう。連続バッチ処理をするなら16GBを考えないといけない。
価格.com最安で約40,000円
価格.com最安で約72,000円
ちょっと厳しいどころの話ではないな。ちょっとやってみたいの為にかける金額ではなくなってきている。
どうせなら誰か作ってくれないかな?
結局欲しいのは、速ければ速い方が良いとはいえ、最優先は大容量メモリ。NVidiaのチップが乗ってれば、メモリは市販のメモリが使える様な感じになってればAI用途にはそこそこ使えるんじゃないか?
要するに、私が欲しいのは高速GPUボードではなく、OCulinkで接続できるNVidiaのチップを使用した、市販のメモリが使える外部演算ユニット。これって、メモリが値上がりした今となってはコスパ悪い気がするが、ちょっと前の相場なら面白い気がするのだが。でもニッチ過ぎて誰も作らないんだろうな。
まとめ
ちょっとやってみたいで遊びでできる金額じゃないので、保留と言うか永遠に夢のままのような気がする。なんか劇的にでも値下がりしないと話にならないが、その前にソフトウェアの方がなんか進化しそうではある。8GBに収まる処理になってくると、各段選択肢が増えると思うのでそちらを期待したいと思います。
それと、誰か上で言った演算ユニット安く作って下さい。
SwitchBot 購入はこちらから
SwitchBot公式ページ
クーポン「AF-4903」で5%引き(アフィリエイトクーポンになりますのでご協力お願いします)
割引の詳しい仕組みに関してはこちらのページを参照ください。
大きいセールがある場合はAmazonもしくは楽天から購入するとお得です。
当ページにはアフィリエイトリンクを含む場合があります。
SwitchBot公式ページ
クーポン「AF-4903」で5%引き(アフィリエイトクーポンになりますのでご協力お願いします)
割引の詳しい仕組みに関してはこちらのページを参照ください。