Este memoria DDR5-6000 C40 de 64 GB noul punct optim pentru IA și jocuri?

Așa cum s-a menționat anul trecut, capacitatea ideală recomandată de memorie RAM pentru jocuri și sarcini de lucru legate de inteligența artificială era de 96 GB de memorie de sistem. De atunci, s-au schimbat multe lucruri, iar un kit de 96 GB s-ar putea să nu mai fie o opțiune recomandată.

Piața memoriilor s-a schimbat radical. Infrastructura de IA consumă cantități enorme de capacitate DRAM și HBM, exercitând o presiune semnificativă asupra ofertei și prețurilor memoriilor DRAM destinate consumatorilor. În 2026, kiturile de 96 GB ar putea fi greu de găsit sau ar putea avea un preț mult mai ridicat, ceea ce le-ar face considerabil mai puțin atractive pentru o configurație standard destinată pasionaților.

Așadar, ne întoarcem la laborator pentru a încerca să găsim cea mai bună soluție, având în vedere circumstanțele.

Au fost comparate configurațiile de 32 GB și 64 GB folosind o placă RTX 4090 și sarcini de lucru LLM locale, analizându-se totodată efectul performanței memoriei DDR5.

Sistemul de testare a fost următorul:

• Procesor: Intel® Core™ Ultra 7 270K Plus
• DRAM: CORSAIR VENGEANCE RGB CMH64GX5M2D6000C40
• SSD: MP600 ELITE 2 TB PCIe Gen4 x4
• AIO: iCUE LINK TITAN 360 RX RGB AIO
• VGA: RTX 4090 24 GB XLR8 Gaming UPRISING EPIC-X

Concluzia este clară: pentru un sistem modern de jocuri și inteligență artificială, 64 GB de memorie DDR5 reprezintă soluția optimă, iar DDR5-6000 C40 oferă un echilibru excelent între capacitate, performanță și practicitate.

Așa cum era de așteptat, 32 GB de memorie nu sunt suficienți pentru a rula un model LLM de mari dimensiuni, cu 70 de miliarde de parametri. Gradul de utilizare a memoriei RAM depășește cu mult 95%, ceea ce încetinește sistemul. Pe de altă parte, sistemul cu 64 GB avea încă aproximativ 15 GB de memorie RAM disponibilă, ceea ce le permite utilizatorilor să efectueze simultan și alte sarcini.

În ceea ce privește timpul de generare a token-urilor, nu se observă o diferență semnificativă. Kitul de 64 GB 6000C40 are un ușor avantaj, fără ca acest lucru să însemne că este, practic, cel mai bun. Pentru acest grafic specific, au fost selectate cele mai rapide și cele mai lente rulări dintre cele două kituri.

Cu toate acestea, pe baza unei medii de 3 rulări, rezultatele sunt identice. Kiturile 5600C40 și 6000C40 au avut nevoie, aproape, de același timp pentru a finaliza sarcinile. Kitul 6000C40 a fost puțin mai rapid, cu 0,5 secunde, dar această diferență se încadrează în marja de eroare.

În ansamblu, cei 64 GB au oferit o capacitate de memorie suficientă pentru a rula sarcini locale de IA semnificativ mai mari, fără a supune sistemul unei presiuni severe asupra memoriei. Această diferență este importantă.

Dar de ce tocmai LLM-urile locale? De ce să nu folosim un API online, precum ChatGPT sau altele? Confidențialitatea. Datele pe care utilizatorii le importă în orice serviciu online ar putea fi expuse publicului. Prin rularea unui LLM pe un dispozitiv pe care îl controlezi, nu este necesar să te conectezi la internet și poți controla comportamentul acestuia la maxim. Avantajele LLM-urilor locale nu se limitează doar la confidențialitate. Costul, personalizarea și lungimea contextului sunt factori importanți care vorbesc în favoarea LLM-urilor locale.

Pentru testare s-a utilizat modelul Meta Llama 3.1 70B Instruct, rulat local prin intermediul Ollama. Modelul 70B conține aproximativ 70 de miliarde de parametri și suportă o fereastră de context de 128K. Acest lucru nu are scopul de a sugera că fiecare utilizator de IA ar trebui să ruleze un model 70B. Cu toate acestea, modelele mai mari au, în general, o capacitate mai mare de a reprezenta cunoștințele și relațiile și pot avea performanțe mai bune în sarcini solicitante de raționament, programare, analiză și urmărirea instrucțiunilor.

O placă video RTX 4090 oferă 24 GB de memorie VRAM dedicată. Este o cantitate uriașă de memorie grafică, dar nu este neapărat suficientă pentru modelele locale de IA mai mari. Odată ce un model depășește capacitatea VRAM-ului disponibil, o parte din sarcina de lucru trebuie să fie stocată în memoria de sistem (RAM). În acest moment, memoria RAM de sistem devine mult mai mult decât o simplă resursă pentru Windows, jocuri și aplicații care rulează în fundal.

Pentru sarcina de lucru principală de performanță, a fost selectat modelul Llama3.1 8B. Acesta este semnificativ mai mic decât cei 24 GB de VRAM disponibili pe RTX4090, ceea ce înseamnă că memoria sistemului devine o componentă mai puțin importantă a sarcinii de lucru.

În loc să se ceară modelului să efectueze un test de performanță artificial, cum ar fi generarea a mii de cuvinte, s-au utilizat sarcini reprezentative pentru utilizarea de zi cu zi a IA.

Printre acestea s-au numărat activități precum planificarea, sintetizarea, analiza și generarea de conținut structurat.

S-a folosit următoarea cerință: „Plănuiesc o călătorie de 10 zile în Japonia, care va include Tokyo, Kyoto, Osaka și Hiroshima. Creează un itinerar detaliat, zi cu zi. Pentru fiecare zi, includeți principalele atracții, ordinea în care ar trebui să le vizitez, durata aproximativă a deplasării între locații, sugestii de restaurante sau zone unde se poate mânca, precum și sfaturi practice. Explicați raționamentul din spatele itinerariului și identificați eventualele probleme de programare. La final, furnizați o listă concisă a lucrurilor de împachetat și un rezumat al timpului total petrecut în deplasare față de cel dedicat vizitării obiectivelor turistice.”

Piața pasionaților de calculatoare se schimbă.

• Capacitatea de 32 GB rămâne o opțiune viabilă pentru sistemele de jocuri și sarcinile de lucru mai ușoare legate de inteligența artificială, dar limitează din ce în ce mai mult ceea ce un sistem de ultimă generație poate realiza cu ușurință.
• Capacitatea de 96 GB rămâne o opțiune excelentă pentru utilizatorii avansați, dar prețurile și disponibilitatea actuale ale memoriilor fac dificilă justificarea acesteia ca recomandare standard pentru pasionați.
• Seturile de 64 GB se situează la mijloc și de aceea sunt o alegere rațională.

Acestea oferă o capacitate suficientă pentru jocuri moderne, multitasking și sarcini de lucru locale semnificative bazate pe inteligență artificială, evitând în același timp problemele legate de costuri și disponibilitate asociate din ce în ce mai des cu kiturile mai mari.

Împreună cu specificațiile DDR5-6000 C40, acestea asigură un echilibru excelent între capacitate și performanța memoriei.