JavaScript is currently disabled.Please enable it for a better experience of Jumi.

Ett chip från Cerebras har minst samma prestanda för maskininlärning som 120 chips från Nvidia. Det visar en jämförelse som en av Cerebras kunder gjort.

En anonym kund, ”ett stort finansinstitut”, tränade upp språknätet Bertlarge dels på en server med Cerebras chip och dels på en server med åtta grafikchip från ”en ledande tillverkare”.

Det gick 15 gånger snabbare på Cerebras server. Träningen avbröts när neuronnäten nått samma perplexitet – det är ett mått på säkerheten i klassificeringarna.

CS-2 använde dessutom mindre än hälften så mycket energi.

Elektroniktidningen antar att jämförelsen gjordes med amerikanska Nvidias vassaste processor A100, annars är den inte särskilt intressant. Nvidia är det ledande företaget inom kommersiellt tillgängliga processorer för maskininlärning.

Cerebras släppte sitt första tallriksstora chip år 2019. Det är konstruerat för maskininlärning men det här är första gången som företaget offentligt presenterat en prestandajämförelse inom detta område, efter vad Elektroniktidningen kunnat notera.

Summa summarum hade alltså ett ensamt chip från Cerebras samma prestanda som 120 chips från Nvidia. Cerebras chip WSE2 har som jämförelse 48 gånger fler transistorer än Nvidias chip Ampere A100.

Tidigare har företaget presenterat jämförelser där chipet utklassat superdatorer för andra typer av beräkningar.

En viktig förklaring till prestandaskillnader brukar vara bandbredd. Beräkningskärnorna på Cerebras chip har större bandbredd mellan sig och större bandbredd ut till kretskortet.

Det här betyder att jämförelsen mellan ett Cerebraschip och 120 Nvdia-chips är lite grand av äpplen mot päron. Det tog 16 timmar för Cerebras server att räkna klart och 252 timmar för Nvidiaservern. Men det betyder inte att 15 samarbetande Nvidiaservrar skulle kunna ha blivit klara på 16 timmar. 

Cerebras chip är extremt. Det utgörs av en kvadrat utskuren ur en enda 300 mm-kiselskiva som under normal chiptillverkning skulle ha styckas upp i hundratals eller tusentals mindre chips.

MER LÄSNING:
 
SENASTE KOMMENTARER
Kommentarer via Disqus