Nvidia Blackwell lanseras – chipplattformen bakom nästa våg av generativ AI

Nvidia Blackwell lanseras – chipplattformen bakom nästa våg av generativ AI

Den 18 mars 2024 presenterade Nvidia Blackwell, en ny GPU- och systemplattform för träning och drift av stora AI-modeller. Flaggskeppschipet B200 och superchipet GB200 kombinerade nya GPU:er med Grace-processorer och snabb NVLink-kommunikation.

Marketplace sammanfattar lanseringen i efterhand. Nvidia positionerade Blackwell som en plattform för modeller med biljoner parametrar, realtidsinferens och stora AI-datacenter. De första systemen skulle levereras genom molnbolag, serverleverantörer och egna DGX-konfigurationer.

Blackwell i korthet

Två chip som fungerar som ett

Blackwell-GPU:n byggdes av två stora chipdelar som kopplades samman med mycket snabb kommunikation. Det gjorde det möjligt att nå högre transistorantal och kapacitet än ett traditionellt monolitiskt chip.

Plattformen riktades mot:

• stora språkmodeller
• multimodal AI
• rekommendationssystem
• vetenskaplig beräkning
• generativ video och bild
• AI-agenter i stor skala

GB200 och NVL72

GB200 kombinerade två Blackwell-GPU:er med en Grace CPU. I racklösningen GB200 NVL72 kopplades många sådana komponenter samman till ett stort gemensamt system.

För verklig AI-prestanda är nätverk, minne och kylning lika viktiga som själva GPU:n. En modell som fördelas över många chip kan förlora tid om kommunikationen blir en flaskhals.

Inferens och lägre kostnad

Nvidia lyfte fram betydligt bättre energieffektivitet och lägre kostnad för inferens jämfört med föregående generation. Leverantörens egna jämförelser berodde på modell, precision och systemkonfiguration och behövde verifieras i verkliga arbetslaster.

Företag bör mäta:

1. kostnad per miljon token
2. token per sekund
3. energiförbrukning
4. utnyttjandegrad
5. nätverks- och minneskostnad

Värme och datacenter

Blackwell-system krävde mycket el och avancerad kylning. Rack med hög effekttäthet drev utvecklingen mot vätskekylning och nya datacenterdesigner.

Chipet kunde inte leverera sin kapacitet utan:

• nätanslutning
• transformatorer
• kylning
• snabb lagring
• höghastighetsnätverk
• kompetent drift

AI-kapplöpningen blev därför lika mycket en energi- och infrastrukturfråga som en chipfråga.

Moln och partner

AWS, Google Cloud, Microsoft Azure, Oracle och flera serverleverantörer planerade Blackwell-baserade erbjudanden. Det gjorde att kunder kunde köpa kapacitet utan att själva bygga ett helt datacenter.

Tillgången kunde ändå vara begränsad och priserna höga under den första utrullningen.

Svenska företag

De flesta svenska företag behövde inte köpa egna Blackwell-rack. Molntjänster, modell-API:er och mindre lokala acceleratorer var ofta mer ekonomiska.

Egen infrastruktur kunde vara relevant för mycket stora AI-volymer, forskning eller särskilda datakrav. Beslutet bör baseras på total ägandekostnad, inte enbart GPU-prestanda.

Vanliga frågor

När presenterades Nvidia Blackwell?

Den 18 mars 2024 på GTC.

Vad är GB200?

Ett superchip som kombinerar två Blackwell-GPU:er med en Nvidia Grace CPU.

Vad är NVL72?

En racklösning där 72 Blackwell-GPU:er kopplas samman med snabb NVLink-kommunikation.

Behöver vanliga företag Blackwell?

Inte nödvändigtvis. Många får bättre ekonomi genom moln eller färdiga AI-tjänster.

Sammanfattning

Nvidia Blackwell lanserades den 18 mars 2024 och blev grunden för nästa generations AI-datacenter. B200, GB200 och NVL72 byggdes för mycket stora modeller och hög inferensvolym.

Plattformen gav stor kapacitet men krävde också el, kylning och nätverk i industriskala. Den verkliga konkurrensfördelen låg därför i hela systemet – inte bara i ett enskilt chip.

Faktaunderlag: Nvidias officiella Blackwell-lansering från 18 mars 2024. Artikeln är en historisk sammanfattning publicerad i efterhand.

Läs också

• Nvidia Vera Rubin – nästa AI-plattform efter Blackwell