De bedste pc-konfigurationer til lokal AI (begynder-, mellem- og entusiastniveau)

At samle en pc til lokal AI er ikke det samme som at samle en til gaming. VRAM og hukommelsesbåndbredde er vigtigere end klokfrekvenser. RAM-kapacitet er vigtigere end RGB. Og lagerpladsen skal kunne rumme modeller, der hver kan fylde flere titusinder af gigabyte. Her er, hvad der rent faktisk gør en forskel på de tre prisniveauer, og hvad du realistisk set kan køre på hvert af dem.

Før du vælger komponenter, er det en god idé at vide, hvilke krav den lokale AI-inferens rent faktisk stiller til din hardware:

• GPU-VRAM: Dette er den absolut vigtigste faktor. Jo mere VRAM du har, desto større modeller kan du køre udelukkende på GPU'en, hvilket er der, hvor du opnår den bedste hastighed.
• System-RAM: Hvis en model ikke kan være i VRAM, overføres den til system-RAM. Jo mere RAM, desto større modeller kan du køre – dog lidt langsommere.
• Hukommelsesbåndbredde: Hastigheden, hvormed data overføres mellem hukommelsen og processoren, har direkte indflydelse på hastigheden for generering af tokens. GPU-hukommelsens båndbredde er typisk 10–20 gange hurtigere end systemets RAM.
• Lagring: Modellerne kan være på mellem 4 og over 50 GB hver. Du bør vælge hurtig lagring (NVMe SSD), så det ikke tager en evighed at indlæse modellerne.
• CPU: Det har mindre betydning for inferens, end man skulle tro, men en solid, moderne CPU sikrer, at alt kører problemfrit, og håndterer fallback, der udelukkende bruger CPU, godt.

Dette er til dig, der gerne vil prøve lokal AI uden at skulle geninstallere hele systemet. Du kører små modeller med 3 til 7 milliarder parametre og ønsker, at de rent faktisk fungerer uden konstante nedbrud eller udskiftning.

• GPU: 8 GB VRAM (f.eks. RTX 5060 eller lignende)
• RAM: 16–32 GB DDR4/DDR5
• Lagringsplads: 500 GB–1 TB NVMe SSD
• CPU: Moderne 6-core eller bedre (f.eks. Intel Core Ultra 5 235, AMD Ryzen 5 9600X)
• Strømforsyning: 550–650 W, 80+ Bronze eller bedre

Kvantiserede 7B-modeller (som f.eks. Llama 3 8B Q4) passer nemt ind i 8 GB VRAM og genererer tokens med en brugbar hastighed. Du kan chatte, sammenfatte dokumenter og få hjælp til grundlæggende kodning. Mindre 3B-modeller vil føles hurtige.

Du vil støde på begrænsninger ved alt over 7B, hvor modellen delvist vil udlægge opgaver til CPU/RAM og blive mærkbart langsommere. Men til at komme i gang og lære værktøjerne at kende (LM Studio, Ollama) er dette niveau helt fint.

Det er her, lokal AI virkelig begynder at føles nyttig i det daglige arbejde. Du kan køre modeller på 13 milliarder parametre udelukkende på GPU'en, håndtere længere kontekstvinduer og udføre flere opgaver samtidigt, uden at det hele går i stå.

• GPU: 12–16 GB VRAM (f.eks. RTX 5070 Ti eller lignende)
• RAM: 32–64 GB DDR5
• Lagring: 1–2 TB NVMe SSD
• CPU: Moderne 8-core eller bedre (f.eks. Intel Core Ultra 7 265K, AMD Ryzen 7 9700X)
• Strømforsyning: 750 W 80+ Gold

Quantized 13B-modeller kører udelukkende i VRAM med masser af ledig plads. Du får en mærkbart bedre outputkvalitet end med 7B-modeller, mere sammenhængende svar, bedre ræsonnement og mere pålidelig efterlevelse af instruktioner.

70B-modeller kan køre ved delvis aflastning (nogle lag på GPU'en, resten i RAM), men de vil være langsommere. Her er 64 GB RAM en god investering, hvis du vil eksperimentere med større modeller.

Dette niveau håndterer de fleste praktiske lokale AI-opgaver: skrivehjælp, kodning, dokumentanalyse og kørsel af flere mindre modeller sideløbende.

Dette er til dem, der ønsker at køre de største tilgængelige åbne modeller med høj hastighed, med plads til store kontekstvinduer og komplekse arbejdsgange. Tænk på modeller på over 70 milliarder parametre, der kører problemfrit, eller flere modeller, der indlæses samtidigt.

• GPU: 24 GB+ VRAM (f.eks. RTX 3090, RTX 4090, RTX 5090) eller to GPU'er, hvis dine programmer understøtter det
• RAM: 64–128 GB DDR5
• Lagring: 2–4 TB NVMe SSD (overvej et dedikeret drev udelukkende til modeller)
• CPU: Moderne 16–24-kernet processor (f.eks. Intel Core Ultra 9 285K, AMD Ryzen 9 9950X3D)
• Strømforsyning: 1000 W+ 80+ Gold eller Platinum

Kvantiserede 70B-modeller kan, afhængigt af kvantiseringsniveauet, rummes helt (eller næsten helt) i 24 GB VRAM. Her opnår man en outputkvalitet, der kan måle sig med cloud-API'er – forskellen mellem en 13B- og en 70B-model er betydelig.

Med 128 GB system-RAM som reserve bliver selv de største åbne modeller tilgængelige via delvis aflastning. Og takket være den hurtige NVMe-lagerplads tager det kun sekunder – ikke minutter – at indlæse og skifte mellem modellerne.

På dette niveau kører du ikke blot AI lokalt – du kører det så effektivt, at du måske helt undgår at bruge cloud-API'er.

Nogle ting, der betyder mere, end man skulle tro:

Køling:

• GPU'er bliver meget varme, når de udsættes for vedvarende AI-inferensbelastninger. Et kabinet med god luftgennemstrømning gør en stor forskel – mere om det nedenfor
• Når det gælder CPU'er, sikrer en kvalitets-CPU-køler stabil drift; en model som CORSAIR iCUE LINK TITAN RX RGB 360 mm kan klare vedvarende belastninger.

Strømforsyning:

• En pålidelig strømforsyning med tilstrækkelig reservekapacitet forhindrer nedbrud under tunge beregningsopgaver. Spar ikke på dette punkt. CORSAIR RMx RM1000x er et fremragende allround-valg til de fleste systemer, og HX1500i er det rette valg, hvis du har et strømkrævende entusiast-system.

Luftstrøm i kabinettet:

• Dit system vil køre med høj belastning i længere perioder, så en god luftgennemstrømning er afgørende for systemets levetid. CORSAIR FRAME 4000D sikrer en solid luftgennemstrømning i et mid-tower-kabinet, eller vælg i stedet FRAME 5000D, hvis du har brug for plads til større radiatorer og mere lagerplads.

Lagringshastighed:

• Det tager et minut at indlæse en 30 GB-model fra en HDD, mens det kun tager få sekunder fra en NVMe SSD. Hvis du jævnligt afprøver forskellige modeller, sparer hurtig lagring en masse tid. CORSAIR MP700 PRO leverer Gen5-hastigheder, så modellerne indlæses lynhurtigt, mens MP600 ELITE er et solidt Gen4-valg, der ikke koster en formue.

Hvis du hellere vil springe komponentlisten over og gå direkte til at køre spil, leveres CORSAIR VENGEANCE-gaming-pc'er med den nødvendige hardware, der allerede er samlet og testet, og som er dækket af en toårig garanti. Selvom de er bygget til gaming, er specifikationerne også velegnede til lokal AI, især de højere konfigurationer med masser af VRAM og DDR5-hukommelse.

Her kan du se, hvordan nogle af de nuværende VENGEANCE-opstillinger passer ind i niveauerne i denne guide:

Svarende til en starter:

• VENGEANCE i7500 med en Core i5-14600K, RTX 5060 og 16 GB DDR5 er et solidt valg til begyndere. De 8 GB VRAM på RTX 5060 klarer kvantiserede modeller på 7 mia. med lethed, og du kan opgradere RAM'en senere, hvis du vil arbejde med større modeller.

Mellemværdien:

• VENGEANCE a7500 med en Ryzen 7 9800X3D, RTX 5070 Ti og 32 GB DDR5 rammer den perfekte balance. 5070 Ti giver dig 16 GB VRAM, hvilket er nok til 13B-modeller, der kører fuldt ud på GPU'en. Og 9800X3D er en af de bedste CPU'er til forbrugere på markedet, så CPU-fallback-ydeevnen er også stærk.

Tilsvarende for entusiaster:

• VENGEANCE a7500 AIR med en Ryzen 9 9950X3D, RTX 5090 og 64 GB DDR5 er det kompromisløse valg. RTX 5090's 32 GB VRAM rummer 70B kvantiserede modeller med plads til kontekst, og 64 GB DDR5 giver dig en generøs reserve til alt, der springer ud af VRAM.

Alle VENGEANCE-systemer leveres med NVMe-lagerplads og CORSAIR-væskekøling og er samlet i USA. Du får en færdigmonteret maskine med garanti, så du slipper for at bekymre dig om kompatibilitet – du skal bare installere din løbeapp, downloade en rute og komme i gang.

Hvis du er på udkig efter en dedikeret AI-arbejdsstation, er CORSAIR AI Workstation 300 (AI300) en kompakt, specialudviklet arbejdsstation, der fra bunden er designet til lokal AI.

Den leveres med en konfiguration med stor hukommelse, der er optimeret til AI-inferens, grafikhukommelse, der kan skaleres til store modeller, samt CORSAIR AI Software Stack, så du kan komme i gang med at køre modeller med det samme i stedet for at bruge en hel weekend på opsætning.