About / Advertise
Det gigantiska AI-chipet Wafer Scale Engine (WSE) som tillverkas av en enda kiselskiva finns nu att beställa i en server. Fortfarande presenterar tillverkaren Cerebras inga ordentliga prestandasiffror.
Du kan läsa om chipets biljon transistorer och övriga extrema egenskaper i den artikel vi skrev om chipet då det släppts i augusti (länk). A4-magasinet Elektroniktidningen hade chipet på omslaget i sitt septembernummer, dock ej i skala 1:1 eftersom det inte riktigt fick plats.
Prestanda för Cerebras jättechip borde kunna vara mycket högre än konkurrerande AI-chip, eftersom det har extremt mycket minne och därmed kommer undan flaskhalsen att accessa externt minne.
Servern heter CS-1 och används för träning av djupa artificiella neuronnät. Cerebras berättar att alla lager i ett komplett neuronnät får plats på chipet samtidigt och kan köras parallellt, istället för att ett lager i taget laddas sekventiellt.
CS-1 är 15 rackenheter hög – en tredjedels rack. Det drar cirka 20 kW. Cerebras ger fortfarande inga prestandsiffror på någon väldefinerad AI-beräkning, utan drar till med att servern har prestanda som hundratals eller kanske tusentals grafikkort som skulle kräva dussintals rack och dra hundratals kW.
Ett chip i denna unika storlek var förstås inte kompatibelt med några standardkomponener, så kylning, anslutningar, strömförsörjning och mönsterkort är specialbyggda.
Som alla chiparkitekturpionjärer lärt sig vid det här laget är det en dålig idé att försöka övertala kunder att byta utvecklingsverktyg, så Cerebras har sett till att CS-1 går att programmera i standardplattformarna Tensor Flow och Py Torch. Det existerar dock även en uppsättning mer arkitekturnära verktyg för dig som hoppas kunna suga ut ännu mer av chipets potential.
Det finns också utvecklingsverktyg som kan berätta hur mycket var och en av de 400 000 beräkningskärnorna deltar i beräkningarna, för att hjälpa dig hitta flaskhalsar för optimering.
Det är en sak att mäta sig mot grafikkort, men de är inte konstruerade från ett tomt ark för djupa neuronnätsberäkningar. Konkurrenten Graphcore släppte sin dedikerade AI-processor i slutet av förra veckan och att döma av de imponerande prestandasiffror mot grafikkort som Graphcore gav, är det kanske fortfarande för tidigt att utnämna någon av dem till definitiv segrare.
Kanske finns det en orsak till att Cerebras inte redovisar specifika prestandamätningar. Kanske har företaget misslyckats med att krama ut sin teoretiska kapacitet i realistiska beräkningsuppgifter?
Lättinstallerad ska CS-1 vara, i alla fall, enligt Cerebras. Det är bara att plugga in en 100 Gbit/s-Ethernetsladd och boota.
