About / Advertise
Nvidia har just börjat volymtillverka sin nya värstingprocessor Grace Hopper 200 (GH200). Det här är den typ av processor man bygger superdatorer av och som tränar och kör stora neuronnät i serverhallar.
 |
| Länken mellan CPU och GPU är sju gånger snabbare än PCI Express |
Inget för dig som hålle på med inbyggda system, alltså.
Men föregångaren A100 sitter i självkörningsdatorer – så det är tänkbart att GH200 (eller syskon) kan hitta dit med tiden.
Tillsvidare är GH200 världens förmodligen vassaste AI-processor.
Den består av två separata chip, Grace och Hopper som talar med varandra via Nvidias gränssnitt NVLink 4 i upp till 900 Gbyte/s. Det är enligt Nvidia sju gånger mer än om du kopplar samman en CPU och en GPU via PCI Express Gen5.
Båda är tillverkade i TSMC 4N. TDP är mellan 1/2 och 1 kilowatt och den kan vara luft- eller vätskekyld.
Grace är en Armv9-A-baserad processor som Nvidia utvecklat på egen hand för att matcha Hopper. Den består av 72 stycken Demeter-CPU:er (Arm Neoverse V2) och använder upp till 480 Gbyte LPDDR5X-minne.
Hopper-chipet, också känt som H100, finns sedan tidigare i en ensam version som blivit en storsäljare för Nvidia på grund av intresset för generativ AI – det används exempelvis för att träna ChatGPT.
Hopper består av 256 stycken tensorkärnor och har upp till 96 Gbyte minne med en bandbredd på 4 Tbyte/s.
Via gränssnittet NVLink Switch System kan man koppla samman inte mindre än 256 NVIDIA Grace Hopper med en bisektionsbandbredd på 115,2 TByte/s. Det systemet kallas för en DGX GH200. De 256 ska enligt Nvidia fungera som en enda stor GPU
En DGX GH200 ska kunna träna ett neuronnät med en biljon parametrar.
Nvidia för sin egen del slå samma fyra stycken DGX GH200 via Quantum-2 InfiniBand och byggar sig en egen AI-superdator kallad Helios. Den förväntas vara online i slutet av året.
Andra system med GH200 Grace Hopper Superchips förväntas finnas tillgängliga från och med senare i år.
