64GBのDDR5-6000 C40は、AIやゲームにおける新たな「最適な選択肢」となるのでしょうか？

昨年お伝えした通り、ゲームやAIワークロードに推奨される理想的なRAM容量は、96GBのシステムメモリでした。それ以来、状況は大きく変化しており、96GBのキットはもはや推奨される選択肢ではないかもしれません。

メモリ市場は劇的に変化しました。AIインフラが膨大な量のDRAMおよびHBMの生産能力を消費しており、コンシューマー向けDRAMの供給と価格に大きな圧力をかけています。2026年には、96GBキットが入手困難になったり、大幅な価格プレミアムがついたりする可能性があり、主流の愛好家向けPC構築において、その魅力は大幅に低下するでしょう。

というわけで、研究室に戻り、この状況下で最善の解決策を見つけようと試みています。

RTX 4090とローカルLLMワークロードを用いて、32GBと64GBの構成を比較するとともに、DDR5の性能が及ぼす影響についても検証しました。

試験システムは以下の通りでした：

• CPU：Intel® Core™ Ultra 7 プロセッサ 270K Plus
• DRAM：CORSAIR VENGEANCE RGB CMH64GX5M2D6000C40
• SSD：MP600 ELITE 2TB PCIe Gen4 x4
• AIO：iCUE LINK TITAN 360 RX RGB AIO
• VGA：RTX4090 24GB XLR8 Gaming UPRISING EPIC-X

結論は明快です。最新のゲームおよびAIシステムにおいては、64GBのDDR5が最適な容量であり、DDR5-6000 C40は容量、性能、実用性のバランスに優れています。

予想通り、32GBのメモリでは、パラメータ数700億の大規模なLLMを処理することはできません。RAMの使用率は95%を大幅に超えており、システムの動作が遅くなってしまいます。一方、64GBのシステムでは約15GBのRAMが残っており、ユーザーは他のタスクを同時に実行することができます。

トークンの生成時間に関しては、大きな違いは見られません。64GBの6000C40キットがわずかにリードしていますが、それが実質的に最速であるという意味ではありません。このグラフでは、2つのキットの中から、最も速い実行結果と最も遅い実行結果を選定しました。

とはいえ、3回の実行の平均では結果は同じでした。5600C40キットと6000C40キットは、プロンプトの処理完了までにほぼ同じ時間を要しました。6000C40キットの方が0.5秒ほど速かったものの、これは誤差の範囲内です。

全体として、64GBのメモリ容量があれば、システムに深刻なメモリ負荷をかけることなく、はるかに大規模なローカルAIワークロードを実行するのに十分な容量でした。この違いは重要です。

しかし、なぜローカルLLMなのでしょうか？ChatGPTなどのオンラインAPIを使えばいいのでは？その理由はプライバシーです。ユーザーがオンラインサービスにインポートしたデータは、一般に公開されてしまう可能性があります。自分が管理するマシン上でLLMを実行すれば、インターネットに接続する必要がなく、その動作を最大限に制御することができます。ローカルLLMのメリットは、プライバシーだけにとどまりません。コスト、カスタマイズ性、コンテキストの長さといった点も、ローカルLLMの利点となる重要な要素です。

テストには、Meta社のLlama 3.1 70B Instructモデルを使用し、Ollamaを通じてローカルで実行しました。 70Bモデルには約700億個のパラメータが含まれており、128Kのコンテキストウィンドウに対応しています。これは、すべてのAIユーザーが70Bモデルを実行すべきだということを示唆するものではありません。とはいえ、一般的に大規模なモデルほど、知識や関係を表現する能力が高く、高度な推論、コーディング、分析、指示に従うといったタスクにおいて優れたパフォーマンスを発揮する傾向があります。

RTX 4090 VGAは、24GBの専用VRAMを搭載しています。これは膨大な量のグラフィックスメモリですが、大規模なローカルAIモデルにとっては必ずしも十分とは限りません。モデルが利用可能なVRAMの容量を超えると、ワークロードの一部はシステムメモリ（RAM）に格納される必要があります。そこで、システムRAMは、Windowsやゲーム、バックグラウンドのアプリケーションのためのリソースという枠をはるかに超えた役割を担うことになります。

主なパフォーマンスワークロードには、Llama3.1 8Bが採用されました。これは、RTX4090が搭載する24GBのVRAMに比べて大幅に容量が小さいため、システムメモリがワークロードにおいて占める割合が低くなります。

モデルに、数千語を生成するといった人工的なベンチマークを実行させるのではなく、AIの日常的な利用を反映したタスクが用いられました。

これらには、計画立案、要約、分析、体系的なコンテンツ作成といった活動が含まれていました。

以下のプロンプトを使用しました：「東京、京都、大阪、広島を巡る10日間の日本旅行を計画しています。日ごとの詳細な旅程表を作成してください。 各日について、主な観光スポット、訪問すべき順序、場所間の移動にかかるおおよその所要時間、おすすめのレストランやグルメスポット、そして実用的なアドバイスを含めてください。旅程の組み立て理由を説明し、スケジュール上の問題点があれば指摘してください。最後に、簡潔な持ち物リストと、移動時間と観光時間の合計時間の内訳をまとめてください。」

PC愛好家市場は変化しつつあります。

• 32GBは、ゲーム用システムや負荷の軽いAIワークロードには依然として実用的な容量ですが、ハイエンドシステムが快適に処理できる範囲をますます制限するようになってきています。
• 96GBは、特定の用途を重視するユーザーにとっては依然として優れた選択肢ですが、現在のメモリの価格や入手状況を考慮すると、愛好家向けの標準的な推奨モデルとして推奨するのは難しい状況です。
• 64GBのキットは中間に位置しており、だからこそ理にかなっているのです。

これらは、最新のゲームやマルチタスク、そして実用的なローカルAIワークロードに対応できる十分な処理能力を備えつつ、大容量キットにますますつきまとうコストや可用性の問題を回避しています。

DDR5-6000 C40の仕様と組み合わせることで、容量とメモリ性能のバランスが優れています。