地味にEVO-X2が値下がりしているが・・・
今Amazonにてタイムセールで安売り中
公式が
128GBで¥498,500。しばらく気にしていない間にAmazonでセールとはいえ公式最安値にはならなくなってきたか。しかもそこまで大きいセールでもないのに値下げが入っている。意外にメーカー苦しくなってきているのかもしれない。
全体値下げには来ていないが、セール時に積極的に値下げを入れてくる感じかもしれない。高い高いと言いながら、メーカーも思ったほど売れてなさそう。
ただ、AI Max+ PRO 495が見えてきた
https://ascii.jp/elem/000/004/404/4404013/
AMD純正EVO-EX2に加えて、AI Max+ PRO 495が出てきた。
マイナーバージョンアップだけなのかと思ったら、地味にメモリ上限が192GB。メモリ速度が変わらないのは残念だが、メモリ上限の限界突破は熱い。ただ、今だといくらになるのかもう想像がつかない。
NVIDIA DGX Spark
記事の中でNVIDIA DGX Sparkとの価格比較もあるが、NVIDIA DGX Sparkの利点はCUDAが使える部分。メモリは容量的にも速度的にも変わらないが、192GBが出たら負ける。CUDAが使えるかどうかは確かに意味があるが、LLMを使うだけであれば価格差で検討されるのはされるのだろう。
Mac
そして、今となってはCUDAがなくてもMLXで戦えるMac。しかも、ユニファイドメモリの速度が高速なのは大きい。もちろんグラボに比べれば遅いのだが、今この内蔵GPU比較においては頭一つ飛び出している。しかも一時期に比べて割高感が薄れてきているのが不思議だが、メモリ構成が弱体化した今ではなんかちょっと物足りない。
立ち位置があいまいになったが
各社値上がりやラインナップ変更でどれを選ぶというのが分かりにくくなってきているので、どれを選ぶかというのは正直悩ましい。ただ、AI Max+ PRO 495のメモリ192GBは唯一無二になりうる。ただ、価格がいくらになるか怖いので欲しいとは思うが買うとまではいかない。当然。買える方がうらやましい。
192GBは本当に必要か？
ただ、この場合大きいモデルが動くとしても、モデルが大きければその分処理も重いので動くだけになる可能性がある。今の時点でもメモリ帯域がボトルネックになっているのは明らかなので、それを踏まえて考えないといけない。
ここら辺をチャッピーに聞いてみた
192GBが本当に活きるのは、「巨大モデルを、少ない実効転送量で回せる世界」になった時です。逆に、「巨大モデルを毎回フルで読む世界」のままだとかなり厳しい。つまり分岐点は、「192GBが活きる状態」と「192GBが“載るだけ”になる状態」の違いです。
192GBが活きる状態で最も重要なのは、Active Parameterが小さいことです。例えば「総400Bだが毎回使うのは30Bだけ」というMoE構成なら、モデル全体は巨大でも毎トークン読む量は少ないため、帯域負荷を下げられます。つまり「巨大モデルを保存するための192GB」として意味が出る。逆にDense 400Bを毎回全部読むなら帯域側が先に死ぬため、192GBは単なる置き場所になりやすい。
次に重要なのがMTPやSpeculative Decodingです。もし1回の重い計算で4〜8 tokenまとめて進めるなら、「重いモデルを読む回数」自体を減らせます。これは帯域問題に直撃で効くため、192GB環境で巨大モデルを実用化する鍵になりうる。ただしacceptanceが低いと、rollbackや通常decodeに戻ってしまい、高速化の意味が薄れる。
さらに、強量子化しても精度が崩れないことも重要です。NVFP4やIQ3などの超低bit量子化でも、推論・コード・長文・MTPが破綻しないなら、転送量を大幅に削減できます。すると192GB上に、より巨大なモデルや長文コンテキスト、高並列運用を載せられるようになる。
また、長文運用ではKV cache圧縮が必須になります。256kや1M contextのような長文では、重み以上にKV cacheが巨大化するため、KV quant、pruning、sliding window、compressed attentionなどが成熟しないと、「192GBあるのにKV転送で帯域死」という状態になりやすい。
逆に、192GBが意味薄くなるのは、「巨大モデルを力技で毎回全部読む」世界です。Dense巨大モデルをtokenごとに全計算すると帯域が即死し、192GBは単なる保管庫になります。また、MTPが量子化ノイズで崩れたり、長文でKV cacheが暴走したり、強量子化で推論品質そのものが壊れると、「巨大モデルを使う意味」自体が薄れていく。
結局、192GBが活きる世界とは、「巨大モデルを毎回全部計算しない世界」です。逆に意味が薄いのは、「巨大モデルを力技で毎回読む世界」です。だから今後重要なのは、単純なメモリ容量競争ではなく、sparse化、token efficiency、bandwidth efficiency、speculative execution、KV efficiencyといった方向になっていく。
AI Max+ PRO 495の192GBは、現時点では「未来技術の受け皿」として非常に面白い。ただし、“今のやり方のまま”では持て余す可能性が高く、今後の軽量化技術や実装最適化が揃って初めて本領を発揮するタイプのハードと言える。
こう考えると
そうはいっても、上の状況が実現した場合には通常の環境も速くなってはいるので相対的に遅いのは変わらない。そうであれば結局大きなモデルが動くという意味以外にメリットは少ない。ただ、何らかのブレイクスルーが起きるのであれば話が変わるかも程度で。
SwitchBot公式ページ
クーポン「AF-4903」で5％引き（アフィリエイトクーポンになりますのでご協力お願いします）
割引の詳しい仕組みに関してはこちらのページを参照ください。
大きいセールがある場合はAmazonもしくは楽天から購入するとお得です。
買い物情報はこちらからご確認ください。気分で紹介しています。
アリエクのクーポン情報もまとめています。こちらをご覧ください。
当ページにはアフィリエイトリンクを含む場合があります。