Nästa år byggs Sveriges snabbaste superdator i Linköping. Den använder en standardlösning från amerikanska Nvidia. Vi har kollat upp vad som sitter på insidan.
En A100-processor på ett kort. |
Åtta kort på ett annat kort. Addera kylning. Addera nätverk, styrning och sekundärminne till en nod kallad DGX A100. Berzelius får 60 noder. |
300 petaflops blir kapaciteten på en superdator som Nationellt superdatorcentrum (NSC) sätter upp i Linköping. Den är optimerad för maskininlärning och använder amerikanska Nvidias senaste grafikprocessor A100.
Kostnaden på 300 miljoner kronor står Knut och Alice Wallenbergs stiftelse (KAW) för. Datorn blir en resurs för det KAW-finansierade AI-forskningsprogrammet Wasp. Sveriges största forskningsprogram någonsin får därmed fått en tung bas att stå på.
Berzelius ska AI-datorn heta. 60 stycken noder kallade DGX A100 med åtta stycken A100-processorer i varje ska ge den en prestanda på 300 petaflops. De knyts ihop med Nvidias Inifibandnät Mellanox och utrustas med 1,5 petabyte datalager från amerikanska DDN.
Berzelius börjar byggas vid årsskiftet. Det kommer att gå ganska fort. Det är en nyckelfärdig lösning som franska Atos levererar sedan i somras. Den kallas DGX SuperPOD och kan beställas med mellan 20 och 140 noder – 100–700 petaflops. Ytterligare Superpoddar ska installeras i Sydkorea, Storbritannien och Indien innan årets slut.
Processorn som är arbetshästen i superdatorn, Nvidia A100, använder ett eget 19-bitars flyttalsformat som heter Tensor Float som är optimerat för neuronnätsberäkningar. Nitton bitar? Jo. Det lagras i 32 bitar och heter TF32 – men beräkningarna ignorerar de minst signifikanta bitarna.
Nvidia har haft en marknadsledande ställning inom hårdvara för maskininlärning ända sedan område fick en nytändning i början av 10-talet. Man kan nästan säga tvärtom – en bidragande orsak till nytändningen var upptäckten att maskininlärning kunde göras effektivt på Nvidia-grafikkort. Sedan dess har Nvida mer och mer optimerat sina grafikprocessorer för maskininlärning.
Föreståndare för NSC är Matts Karlsson och teknikchef är Niclas Andersson.