AI に最適な DRAM の選択

AI ワークロードの要求が厳しくなるにつれ、パフォーマンス向上のために適切な DRAM 構成を選択することが極めて重要になっています。その際、スピードと容量のどちらを優先すべきでしょうか？この記事では、5 種類の DRAM キットをゲーミング/AI PC 上で評価し、最適な DRAM 構成を探ります。

さまざまな DRAM セットアップを Ollama ツールを使用してテストし、3 つの大規模言語モデル (LLM) で 1 秒あたりのトークン数とメモリー使用量を測定します。

テストプラットフォームは、次のコンポーネントで構成されています。

• CPU：Intel Core Ultra 9 285K
• GPU：PNY XLR8 RTX 4090 24GB
• マザーボード：ASRock Z890 Taichi
• SSD：CORSAIR MP700 2TB PCIe 5.0 (Gen 5) x4 NVMe M.2 SSD
• DRAM の構成：
  • 2 x 16GB (6000MT/s)
    CMH32GX5M2B6000Z30K
  • 2 x 24GB (8400MT/s)
    CMHC48GX5M2X8400C40
  • 2 x 32GB (6000MT/s)
    CMP64GX5M2B6000C30
  • 2 x 48GB (7000MT/s)
    CMH96GX5M2B7000C40
  • 4 x 48GB (5200MT/s)
    CMH192GX5M4B5200C38

メモリー要求とサイズが異なる 3 つの LLM（大規模言語モデル）を評価しました。

• Llama 3.2 (3B) - ほとんどの AI PC に適した軽量モデル。
• Llama 3.1 (8B) - スピードと容量の両方を兼ね備えたミッドレンジモデル。
• DeepSeek-R1 (70B) - DRAM の限界を押し広げる大型モデル。

異なるモデルのロードには Ollama ユーティリティを使用しました。Ollama は、推論速度の測定に 1 秒あたりのトークン数スコアを使用します。また、異なる DRAM 構成で各モデルがどのように処理されるかを判断するため、メモリー使用量を追跡しました。テストしたプロンプトは以下のとおりです。

• 「DDR4 メモリーと比較した DDR5 の利点は何ですか？」
• 「人間と機械が共存する世界における AI 革命について短編小説を書いてください。」
• 「ニューラルネットワークの概念とそのトレーニング方法をわかりやすく説明してください。」
• 「強化学習の概念と、その教師あり学習との違いを、例を挙げて説明してください。」

最後に、ファイナルファンタジー XIV Dawntrail ベンチマークをテストし、各 DRAM 構成のゲーミングパフォーマンスを測定しました。この目的は、パフォーマンスを損なうことなく、AI タスクとゲームを同時に処理できる DRAM 構成を見つけることです。

これらの結果から、重要なことがいくつかわかります。

CPU のみを使用した場合、DeepSeek-R1 (70B) モデルは 32GB と 48GB の構成では処理できませんでした。RTX 4090 を使用した場合でも、32GB の DRAM では 70B モデルを動作させるには限界に近い状態です。

最高速 8400MT/s の、CUDIMM キットはゲーミングにおいて他のどの DRAM 構成よりも優れていますが、大型の AI モデルは RTX 4090 で実行しても、使用可能なメモリーはそれほど残っていません。

• AI ワークロードのみ：LLM を GPU なしで実行することはほぼないと考えられるため、最低でも 64GB DRAM キットが望ましいでしょう。さらに大型の LLM を使用する可能性を考慮すると、96GB DRAM キットが理想的です。
• ゲーム + AI：8400MT/s が明らかに優れています。64GB DRAM キットもゲーミングにおいてはそれほど劣っていませんが、RTX 4090 にはシステムメモリーに余裕があるため、これが適しています。

AI を多用するワークロードでは、特に大型モデルにおいて、DRAM 容量が重要な役割を果たします。ただし、ゲーミングと AI の両方を制御するハイブリッドシステムでは、速度とレイテンシーを最適化することも重要です。LLM がさまざまなハードウェア向けに継続的に最適化され、必要なリソースが抑えられるようになってきているとはいえ、より正確な結果を得るためには、より大型のモデルを動作させられるよう余分なメモリー容量を備えておくのが望ましいでしょう。

以上の点を考慮すると、最適な DRAM キットは CMH96GX5M2B7000C40 です。