Amerikanska Cerebras erbjuder superdatorn Andromeda som består av 16 stycken rack av dess kromosomchip WSE med sammanlagt 13,5 miljoner AI-beräkningskärnor.
Det ska teoretiskt gå att koppla samman hela 192 stycken rack med god skalbarhet i prestanda. Men det erbjudande som finns nu från amerikanska Cerebras är alltså Andromeda med 16 rack.
Om du beställer hem Andromeda som byggsats ska den bara ta tre dagar att sätta upp. Konventionella superdatorer är något som universitet ägnar månader åt att montera.
Vill du testa Andromeda innan du köper finns en i Santa Clara som du kan hyra via molnet. Är du student eller forskare är det gratis.
Ingen annan gör så stora chips. Du ser de 12 x 7 rektanglarna? Det är stora chip med normala mått mätt. |
Racket heter CS-2. Det lanserades våren 2021 och fanns som molntjänst en och en samma höst. Chipet i CS-2 heter WSE (wafer scale engine) och är stort som en tallrik. Det lanserades 2019 och i nuvarade version WSE2 i fjol.
Andromeda ska enligt Cerebras ge dig en exaflops i 16 bitars flyttalsprestanda. Det kan sägas motsvara plats 17 på listan Top500 över världens snabbaste superdatorer. På plats 17 finns nämligen en maskin kallad Polaris som kan leverera 700 petaflops i 16 bitars precision.
Men Andromeda jobbar inte med klassiska superdatorberäkningar. Den passar inte på Top500 där du exempelvis använder 64-bitars flyttal när du klassificerar dig.
WSE, CS-2 och Andromeda skapades för att göra AI-beräkningar. Storleken på WSE gör dem unika på det viset att de kan rymma gigantiska artificiella neuronnät som därmed kan tränas mycket snabbare eftersom de inte behöver skyffla data in och ur chipet, vilket typiskt är flaskhalsen för snabba beräkningar.
CS-2-system är dessutom pinsamt skalbara. Andromeda med sina 16 stycken CS-2 tränar olika neuronnät nästan 16 gånger snabbare än en ensam CS-2 – närmare bestämt mellan 15,3 och 15,9 gånger snabbare för olika varianter av språknätet GPT. Normalt går mycket prestanda förlorad när data tvingas gå omvägar utanför chipet.
Cerebras är såvitt känt ensamt om att kunna tillverka ett chip av en komplett kiselskiva. Chipet WSE2 innehåller 2600 miljarder transistorer att jämföra med Nvidia H100 som konkurrerar i samma nisch, AI-beräkningar, men är tillverkad på normalt sätt och har ynka 80 miljarder transistorer.
Läs om Cerebras gigantiska chip i Elektroniktidningens arkiv (länk).