Wie bereits im vergangenen Jahr erwähnt, betrug die empfohlene ideale RAM-Kapazität für Spiele und KI-Anwendungen 96 GB Systemspeicher. Seitdem hat sich vieles geändert, und ein 96-GB-Kit ist möglicherweise nicht mehr die empfohlene Option.
Der Speichermarkt hat sich dramatisch verändert. Die KI-Infrastruktur beansprucht enorme Mengen an DRAM- und HBM-Kapazität, was das Angebot und die Preise für DRAM-Speicher im Consumer-Bereich erheblich unter Druck setzt. Im Jahr 2026 könnten 96-GB-Kits schwer zu finden sein oder einen erheblichen Preisaufschlag aufweisen, was sie für einen Mainstream-PC-Aufbau von Enthusiasten deutlich weniger attraktiv macht.
Nun geht es also zurück ins Labor, um unter den gegebenen Umständen die beste Lösung zu finden.
Die 32-GB- und 64-GB-Konfigurationen wurden unter Verwendung einer RTX 4090 und lokaler LLM-Workloads verglichen, wobei gleichzeitig der Einfluss der DDR5-Leistung untersucht wurde.
Das Testsystem war wie folgt aufgebaut:
Die Schlussfolgerung ist eindeutig: Für ein modernes Gaming- und KI-System sind 64 GB DDR5 der ideale Kompromiss, und DDR5-6000 C40 bietet ein hervorragendes Gleichgewicht zwischen Kapazität, Leistung und Praxistauglichkeit.
Wie zu erwarten war, reichen 32 GB Arbeitsspeicher nicht aus, um ein großes LLM mit 70 Milliarden Parametern zu verarbeiten. Die RAM-Auslastung liegt deutlich über 95 %, was das System verlangsamt. Demgegenüber standen beim 64-GB-System noch etwa 15 GB RAM zur Verfügung, sodass die Nutzer gleichzeitig andere Aufgaben ausführen konnten.
Hinsichtlich der Erstellungszeit der Token ist kein großer Unterschied festzustellen. Das 64-GB-6000C40-Kit liegt leicht vorn, was jedoch nicht bedeutet, dass es in der Praxis das beste ist. Für diese spezielle Grafik wurden die schnellsten und langsamsten Durchläufe der beiden Kits ausgewählt.
Allerdings sind die Ergebnisse im Durchschnitt von drei Durchläufen identisch. Die Bausätze 5600C40 und 6000C40 benötigten fast die gleiche Zeit, um die Aufgaben zu erledigen. Der Bausatz 6000C40 war um 0,5 Sekunden etwas schneller, was jedoch innerhalb der Fehlermarge liegt.
Insgesamt boten 64 GB ausreichend Speicherkapazität, um deutlich umfangreichere lokale KI-Workloads auszuführen, ohne das System unter erheblichen Speicherdruck zu setzen. Dieser Unterschied ist von Bedeutung.
Doch warum lokale LLMs? Warum nicht eine Online-API wie ChatGPT oder ähnliche Dienste nutzen? Datenschutz. Daten, die Nutzer in einen Online-Dienst importieren, könnten öffentlich zugänglich werden. Indem Sie ein LLM auf einem Rechner ausführen, den Sie selbst kontrollieren, müssen Sie keine Verbindung zum Internet herstellen und können dessen Verhalten vollständig steuern. Die Vorteile lokaler LLMs beschränken sich jedoch nicht nur auf den Datenschutz. Kosten, Anpassungsmöglichkeiten und die Länge des Kontexts sind wichtige Faktoren, die für lokale LLMs sprechen.
Für die Tests wurde das „Llama 3.1 70B Instruct“-Modell von Meta verwendet, das lokal über Ollama ausgeführt wurde. Das 70B-Modell enthält etwa 70 Milliarden Parameter und unterstützt ein Kontextfenster von 128K. Damit soll nicht suggeriert werden, dass jeder KI-Nutzer ein 70B-Modell ausführen sollte. Größere Modelle verfügen jedoch im Allgemeinen über eine höhere Kapazität zur Darstellung von Wissen und Beziehungen und können anspruchsvolle Aufgaben in den Bereichen logisches Denken, Programmierung, Analyse und Befehlsausführung besser bewältigen.
Eine RTX 4090-Grafikkarte verfügt über 24 GB dedizierten VRAM. Das ist eine enorme Menge an Grafikspeicher, reicht jedoch für größere lokale KI-Modelle nicht unbedingt aus. Sobald ein Modell den verfügbaren VRAM überschreitet, muss ein Teil der Rechenlast im Systemspeicher (RAM) untergebracht werden. In diesem Fall wird der System-RAM zu weit mehr als nur einer Ressource für Windows, Spiele und Hintergrundanwendungen.
Für die primäre Leistungsauslastung wurde Llama3.1 8B ausgewählt. Diese ist deutlich kleiner als die 24 GB VRAM, die auf der RTX 4090 zur Verfügung stehen, was bedeutet, dass der Systemspeicher bei dieser Auslastung eine untergeordnete Rolle spielt.
Anstatt das Modell zu bitten, einen künstlichen Benchmark wie beispielsweise die Generierung von Tausenden von Wörtern durchzuführen, wurden Aufgaben verwendet, die für den alltäglichen Einsatz von KI repräsentativ sind.
Dazu gehörten Tätigkeiten wie Planung, Zusammenfassung, Analyse und die Erstellung strukturierter Inhalte.
Es wurde folgende Vorgabe verwendet: „Ich plane eine 10-tägige Reise nach Japan, die Tokio, Kyoto, Osaka und Hiroshima umfasst. Erstellen Sie einen detaillierten Tagesplan. Geben Sie für jeden Tag die wichtigsten Sehenswürdigkeiten, die Reihenfolge, in der ich diese besuchen sollte, die ungefähre Reisezeit zwischen den einzelnen Orten, Restaurantempfehlungen oder Gastronomiebereiche sowie praktische Tipps an. Erläutern Sie die Gründe für den Reiseplan und weisen Sie auf mögliche zeitliche Probleme hin. Fügen Sie am Ende eine kurze Packliste sowie eine Übersicht über das Verhältnis von Reisezeit zu Besichtigungszeit bei.“
Der Markt für PC-Enthusiasten befindet sich im Wandel.
Sie bieten ausreichend Leistung für modernes Gaming, Multitasking und anspruchsvolle lokale KI-Anwendungen, während gleichzeitig die Kosten- und Verfügbarkeitsprobleme vermieden werden, die zunehmend mit größeren Konfigurationen einhergehen.
In Verbindung mit den DDR5-6000-C40-Spezifikationen bieten sie ein ausgewogenes Verhältnis zwischen Kapazität und Speicherleistung.
PRODUKTE IM ARTIKEL
Stay up to date with CORSAIR. Get our latest News, Guides, and Product Updates in your Google feeds.
Add CORSAIR as a preferred sourceThanks for helping us improve this article.
JOIN OUR OFFICIAL CORSAIR COMMUNITIES
Join our official CORSAIR Communities! Whether you're new or old to PC Building, have questions about our products, or want to chat about the latest PC, tech, and gaming trends, our community is the place for you.