JavaScript is currently disabled.Please enable it for a better experience of Jumi. Nvidias nya superprocessor

208 miljarder transistorer finns i Blackwell, eller B200, Nvidias uppföljare till Hopper för moln, server, superdatorer, självkörning och robotik. Betoningen ligger på tillämpningen artificiell intelligens.

Blackwell är döpt efter spelteroetikern David Harold Blackwell.

Nvidia kallar Blackwell för ”världens kraftfullaste chip”. Bortsett från att den titeln snarare tillhör Cerebras WSE, och att Blackwell bokstavligen inte är ”ett chip” utan ”två chiplets” som pratar med varandra i 10 Tbit/s, så har Blackwell 208 miljarder transistorer tillverkade i en processnod kallad 4NP som taiwanesiska TSMC ska ha skräddarsytt för Nvidia. 

Nvidia kategoriserar traditionellt Blackwell som en ”GPU”, en grafikenhet, men den tillämpning för denna massivt parallella multiprocessor som nämns är AI, inte oväntat med tanke på den hajp som finns för AI just nu; i synnerhet generativ AI.

För generativ AI har Blackwell ett block kallat Transformer Engine som arbetar på ”mikrotensorer” och andra koola koncept som TensorRT-LLM och NeMo Megatron-ramverk – läs mer hos Nvidia.

Transformer Engine kan konkret exempelvis arbeta på neuronnät som använder fyrabitarsflyttal, FP4. En B100  har en FP4-prestanda på 20 petaflops.

NV Link stöder nu 1,8 TB/s dubbelriktad genomströmning per GPU vilket ska låta 576 GPU:er kommunicera effektivt när de gör beräkningar på stora språkmodeller. 

Det finns stöd för tillförlitlighet vilket underlättar när Blackwell används för att styra fysiska system där det som är en systemkrasch på en server kan bli en fysisk olycka på en robot eller i ett fordon.

Nvida släppte inte mindre än 40 stycken pressreleaser igår under sin AI-konferens GTC varav många handlade om robotik. En av nyheterna är en speciell datorplattform för humanoida robotar och ett program för att utveckla interaktiva robotar.

Det finns även hårdvarustöd för prediktivt underhåll på Blackwell. Det ska enligt Nvidia komma till nytta när du bygger stora distribuerade AI-system med driftstider på veckor eller månader.

Blackwell har hårdvarustöd för sekretess – ”konfidentiell databehandling” – för att dels skydda IP och dels kunddata. Detta inkluderar nya krypteringsprotokoll som används för att upprätthålla konfidentialitet för medicinska data och finansiella tjänster.

Dessutom har Blackwell nytt stöd för komprimering för databashantering – Nvidia tror att grafikkort står inför en tillväxt på databasmarknaden.

Samtidigt med Blackwell uppgraderas nätverksprotokollen Quantum-X800 InfiniBand och Spectrum-X800 Ethernet till 800 Gb/s.

B200 är Blackwell, en GPU.  GB200 är en systemkrets beståennde av två stycken B200 och en Grace-CPU. 

Blackwell lanseras tillsammans med diverse system för server och moln. Systemlösningar på GB200 ska ge upp till 30 gånger högre prestanda för språkmodeller jämfört med motsvarande H100-processor, och sänka energiförbrukningen upp till 25 gånger.

En av systemlösningarna har en prestanda på 1,4 exaflops för AI och kommer att användas för att bygga nästa generation superdatorer, DGX SuperPOD.

 

MER LÄSNING:
 
KOMMENTARER
Kommentarer via Disqus

Anne-Charlotte Lantz

Anne-Charlotte
Lantz

+46(0)734-171099 ac@etn.se
(sälj och marknads­föring)
Per Henricsson

Per
Henricsson
+46(0)734-171303 per@etn.se
(redaktion)

Jan Tångring

Jan
Tångring
+46(0)734-171309 jan@etn.se
(redaktion)