ローカルAI用のPCを組むのは、ゲーミング用を組むのとは異なります。クロック速度よりもVRAMやメモリ帯域幅が重要になります。RGB照明よりもRAMの容量が重要です。また、ストレージは1つあたり数十ギガバイトにも及ぶモデルを扱える必要があります。ここでは、3つの価格帯ごとに実際に重要なポイントと、それぞれの構成で現実的に動作させられる内容について解説します。
パーツを選ぶ前に、現地のAI推論がハードウェアに実際に何を求めているのかを知っておくと役立ちます:
これは、システム全体を再構築することなく、ローカルAIを試してみたいという方に向けたものです。パラメータ数30億~70億の小型モデルを実行しており、頻繁なクラッシュやスワッピングに悩まされることなく、実際に動作させたいと考えている方に向けたものです。
量子化された7Bモデル(Llama 3 8B Q4など)は、8GBのVRAMに余裕を持って収まり、実用的な速度でトークンを生成します。チャットや文書の要約、基本的なコード支援などが可能です。さらに小型の3Bモデルでも、レスポンスが軽快に感じられるでしょう。
7Bを超えると限界に達し、モデルが処理の一部をCPUやRAMにオフロードするため、動作が著しく遅くなります。しかし、ツール(LM Studio、Ollama)を使い始めたり、習得したりするには、このプランで十分です。
ここで初めて、ローカルAIが実際の業務において真に役立つものだと実感できるでしょう。130億パラメータのモデルをGPU上で完全に実行でき、より長いコンテキストウィンドウを処理でき、システム全体が重くなることなくマルチタスクをこなすことができます。
Quantized 13Bモデルは、VRAMだけで余裕を持って動作します。7Bモデルと比べて、出力品質が明らかに向上し、応答の一貫性が高まり、推論能力も向上し、指示への従順性も高まります。
70Bモデルは、部分的なオフロード(一部のレイヤーをGPUに、残りをRAMに配置)を行うことで実行可能になりますが、処理速度は低下します。より大規模なモデルを試してみたい場合は、64GB RAMオプションを選ぶ価値があります。
この階層は、執筆支援、コーディング、文書分析、および複数の小規模なモデルを並行して実行するなど、実用的なローカルAIタスクの大部分を処理します。
これは、利用可能な最大規模のオープンモデルを高速で実行し、大規模なコンテキストウィンドウや複雑なワークフローにも対応したい方に向けたものです。700億以上のパラメータを持つモデルをスムーズに実行したり、複数のモデルを同時に読み込んだりすることを想定しています。
量子化された700億パラメータのモデルは、量子化レベルによっては、24GBのVRAMに完全に(あるいはほぼ完全に)収まります。ここで得られる出力品質はクラウドAPIに匹敵するものであり、130億パラメータのモデルと700億パラメータのモデルとの間には大きな差があります。
128GBのシステムRAMをバックアップとして活用することで、最も大規模なオープンモデルであっても、部分的なオフロードによってアクセス可能になります。また、高速なNVMeストレージにより、モデルの読み込みや切り替えは数分ではなく、わずか数秒で完了します。
このレベルになれば、単にAIをローカルで実行するだけでなく、クラウドAPIを一切利用しなくても済むほど、十分に高いレベルで運用できるようになります。
人々が思っている以上に重要なことがいくつかあります:
冷却:
電源:
ケース内の気流:
保存速度:
パーツリストを飛ばして、すぐにモデルを動かしてみたいという方には、CORSAIR VENGEANCEゲーミングPCがおすすめです。必要なハードウェアがすべて組み立て済みで、動作確認も済んでおり、2年間の保証も付いています。ゲーミング向けに設計されていますが、特にVRAMとDDR5メモリを豊富に搭載した上位モデルは、ローカルAIの動作にも十分なスペックを備えています。
現在のVENGEANCEのラインナップの一部を、本ガイドのティアに当てはめると以下のようになります:
スターター相当:
中程度相当:
愛好家向け:
すべてのVENGEANCEシステムには、NVMeストレージとCORSAIR製水冷クーラーが搭載されており、米国で組み立てられています。互換性を気にすることなく、保証付きの完成品を手に入れることができます。ランナーアプリをインストールし、モデルをダウンロードするだけで、すぐに走り出すことができます。
専用のAIワークステーションをお探しなら、「CORSAIR AI Workstation 300(AI300)」がおすすめです。これは、ローカルAI処理を目的に一から設計された、コンパクトで専用仕様のワークステーションです。
AI推論に最適化された大容量メモリ構成、大規模モデルに対応するグラフィックスメモリ、そしてCORSAIR AIソフトウェアスタックが標準搭載されているため、設定に週末を費やすことなく、箱から出してすぐにモデルの実行を開始できます。
記事内の製品
JOIN OUR OFFICIAL CORSAIR COMMUNITIES
Join our official CORSAIR Communities! Whether you're new or old to PC Building, have questions about our products, or want to chat about the latest PC, tech, and gaming trends, our community is the place for you.