64 GB DDR5-6000 C40, yapay zeka ve oyun dünyası için yeni ideal seçim mi?

Geçen yıl da belirtildiği gibi, oyun ve yapay zeka iş yükleri için önerilen ideal RAM kapasitesi 96 GB sistem belleğiydi. O zamandan bu yana pek çok şey değişti ve 96 GB’lık bir kit artık önerilen bir seçenek olmayabilir.

Bellek pazarı köklü bir değişim geçirdi. Yapay zeka altyapısı, muazzam miktarda DRAM ve HBM kapasitesini tüketmekte ve bu durum, tüketiciye yönelik DRAM arzı ve fiyatları üzerinde ciddi bir baskı yaratmaktadır. 2026 yılında, 96 GB’lık kitleri bulmak zorlaşabilir ya da bu kitler önemli ölçüde yüksek fiyatlara satılabilir; bu da onları genel meraklı kullanıcılar için kurulan sistemlerde oldukça az çekici hale getirecektir.

Öyleyse, bu koşullar altında en iyi çözümü bulmak için laboratuvara geri dönüyoruz.

RTX 4090 ve yerel LLM iş yükleri kullanılarak 32 GB ile 64 GB yapılandırmaları karşılaştırılırken, DDR5 performansının etkisi de incelendi.

Test sistemi şu şekildeydi:

• İşlemci: Intel® Core™ Ultra 7 işlemci 270K Plus
• DRAM: CORSAIR VENGEANCE RGB CMH64GX5M2D6000C40
• SSD: MP600 ELITE 2 TB PCIe Gen4 x4
• AIO: iCUE LINK TITAN 360 RX RGB AIO
• VGA: RTX 4090 24 GB XLR8 Gaming UPRISING EPIC-X

Sonuç oldukça net: Modern bir oyun ve yapay zeka sistemi için 64 GB DDR5 ideal seçimdir ve DDR5-6000 C40, kapasite, performans ve pratiklik arasında mükemmel bir denge sunar.

Beklendiği gibi, 32 GB bellek, 70 milyar parametreli büyük bir LLM’yi çalıştırmaya yetmiyor. RAM kullanım oranı %95’in oldukça üzerinde ve bu da sistemin yavaşlamasına neden oluyor. Öte yandan, 64 GB’lık sistemde yaklaşık 15 GB RAM boş kalıyordu; bu da kullanıcıların aynı anda başka görevleri de yerine getirmelerine olanak tanıyor.

Jetonların oluşturulma süresi açısından gözle görülür bir fark yok. 64 GB’lık 6000C40 kiti biraz daha önde olsa da, bu onun pratikte en iyisi olduğu anlamına gelmiyor. Bu grafikte, iki kit arasında en hızlı ve en yavaş çalıştırmalar seçilmiştir.

Bununla birlikte, ortalama 3 denemede sonuçlar aynı çıktı. 5600C40 ve 6000C40 kitleri, komutları tamamlamak için neredeyse aynı süreye ihtiyaç duydu. 6000C40 kiti 0,5 saniye kadar daha hızlıydı, ancak bu fark hata payı sınırları içinde.

Genel olarak, 64 GB bellek kapasitesi, sistemi ciddi bir bellek yükü altına sokmadan, çok daha büyük yerel yapay zeka iş yüklerini çalıştırmak için yeterli oldu. Bu ayrım önemlidir.

Peki neden yerel LLM’ler? Neden ChatGPT veya benzeri çevrimiçi API’leri kullanmıyoruz? Gizlilik. Kullanıcıların herhangi bir çevrimiçi hizmete aktardıkları veriler herkese açık hale gelebilir. Bir LLM’yi kendi kontrolünüz altındaki bir makinede çalıştırarak, internete bağlanmanıza gerek kalmaz ve sistemin davranışını en üst düzeyde kontrol edebilirsiniz. Yerel LLM’lerin avantajları sadece gizlilikle sınırlı değildir. Maliyet, özelleştirme ve bağlam uzunluğu, yerel LLM’lerin lehine olan önemli faktörlerdir.

Testler için Meta’nın Llama 3.1 70B Instruct modeli kullanıldı ve bu model Ollama aracılığıyla yerel olarak çalıştırıldı. 70B modeli yaklaşık 70 milyar parametre içerir ve 128K bağlam penceresini destekler. Bu, her AI kullanıcısının bir 70B modeli çalıştırması gerektiği anlamına gelmez. Ancak daha büyük modeller genellikle bilgi ve ilişkileri temsil etme kapasitesi daha yüksektir ve zorlu akıl yürütme, kodlama, analiz ve talimatları takip etme görevlerinde daha iyi performans gösterebilir.

Bir RTX 4090 ekran kartı, 24 GB özel VRAM sunar. Bu, muazzam miktarda grafik belleği anlamına gelir; ancak daha büyük yerel yapay zeka modelleri için her zaman yeterli olmayabilir. Bir model mevcut VRAM kapasitesini aştığında, iş yükünün bir kısmı sistem belleğinde (RAM) tutulmak zorunda kalır. İşte bu noktada sistem RAM’ı, Windows, oyunlar ve arka plandaki uygulamalar için bir kaynaktan çok daha fazlası haline gelir.

Ana performans iş yükü için Llama3.1 8B seçildi. Bu, RTX4090’da bulunan 24 GB VRAM’den önemli ölçüde daha küçüktür; dolayısıyla sistem belleği, iş yükünün daha az önemli bir parçası haline gelmektedir.

Modelden binlerce kelime üretmek gibi yapay bir performans testi yapmasını istemek yerine, yapay zekanın günlük kullanımını yansıtan görevler kullanıldı.

Bunlar arasında planlama, özetleme, analiz ve yapılandırılmış içerik oluşturma gibi faaliyetler yer alıyordu.

Aşağıdaki talimat kullanıldı: “Tokyo, Kyoto, Osaka ve Hiroşima’yı kapsayan 10 günlük bir Japonya seyahati planlıyorum. Gün gün ayrıntılı bir seyahat programı hazırlayın. Her gün için başlıca turistik yerleri, bunları ziyaret etmem gereken sırayı, yerler arasındaki yaklaşık seyahat süresini, önerilen restoranları veya yemek mekanlarını ve pratik ipuçlarını dahil edin. Seyahat programının ardındaki mantığı açıklayın ve olası zamanlama sorunlarını belirtin. Son olarak, kısa ve öz bir valiz hazırlama listesi ile seyahat ve gezi için harcanan toplam sürenin bir özetini verin.”

Bilgisayar meraklıları pazarı değişiyor.

• 32 GB, oyun sistemleri ve daha hafif yapay zeka iş yükleri için hâlâ uygun bir seçenek olsa da, üst düzey bir sistemin rahatlıkla yapabileceği işleri giderek daha fazla sınırlamaktadır.
• 96 GB, uzman kullanıcılar için hâlâ mükemmel bir seçenek olsa da, günümüzün bellek fiyatları ve bulunabilirliği göz önüne alındığında, bunu meraklı kullanıcılar için varsayılan öneri olarak sunmak zorlaşıyor.
• 64 GB’lık setler ortada yer alıyor ve işte bu yüzden mantıklı bir seçim.

Modern oyun deneyimi, çoklu görev ve önemli yerel yapay zeka iş yükleri için yeterli kapasite sunarken, giderek daha büyük donanım setleriyle ilişkilendirilen maliyet ve bulunabilirlik sorunlarını da ortadan kaldırırlar.

DDR5-6000 C40 teknik özellikleriyle birleştiğinde, kapasite ve bellek performansı arasında sağlam bir denge sağlarlar.