XAI:s AI-superdator Collossus i Memphis ska expandera från dagens 100 000 GPU:er till en miljon. Därefter kommer den att fortsätta växa ”i evighet”.
Datorn Colossus är den amerikanska entreprenören Elon Musks satsning på de språkmodeller som bland annat driver Chat GPT. Konkurrensen på marknaden ökar investeringarna i att träna upp nya språkmodeller, vilket kräver extrema datorresuresurser.
XAI:s nuvarande språkmodell Grok 2 tränades av 15 000 GPU:er.
Colossus startades upp i september med 100 000 Nvidia H100-GPU:er. Då talades det om en kommande expansion med ytterligare 100 000, varav hälften den nyare H200-GPU:n. Då nämndes att XAI:s investering i Memphis låg på sex miljarder dollar.
Men nu är alltså budskapet en miljon.
Colossus är känd för att Nvidas vd hävdat att den byggts rekordsnabbt.
Projektet skapar ett ekosystem i Memphis. Tusentals nya jobb kommer till orten. Leverantörerna Nvidia, Supermicro och Dell startar lokala avdelningar.
Staden Memphis finns representerad i organisationen som ska hantera den eviga expansionen av Colossus, och talar om satsningen som historisk för stadens ekonomi och som ”att vinna Superbowl, World Series, Stanley Cup och NBA på samma dag”.
Finns det ett lokalt bekymmer är det att Colossus redan idag drar 150 megawatt, som delvis levereras av 14 gasgeneratorer för att elnätet inte klarar det på egen hand.
Bild: Colossus i Memphis (Action News 5)