Utöver drygt företag i ekosystemet för neuronkärnor och -kretsar hittar du här även benchmarks och kompilatorer. Klicka för större bild! Kartan är skapad i oktober 2019 av halvledarkonstruktören Shan Tang. Han håller uppdaterad information på denna sida: (länk).

För tre år sedan fick brittiska Graphcore finansiering för att producera en processor optimerad för neuronnäts­beräkningar. I förra veckan nådde den slut fram till potentiella kunder och kan bland annat testas av vem som helst via Micro­sosfts moln Azure.

Så lång tid tar det att gå från finansiering till realisering. Vi har presenterat många kommande konkurrenter till Graphcore genom åren, som förmodligen just nu förberedar att liksom Grahcore få presentera sina exemplar.

Frågan är om det fortfarande finns plats för fler aktörer eller om tåget gått?

Elektroniktidningen har talat med Shan Tang, krets­konstruktör på ett av de stora EDA-företagen. Han håller sedan ett par år koll på aktuell AI-hårdvara. Han noterar kretsar, verktyg, kärnor och tjänster. Ibland adderar han en analys – tyvärr på kinesiska. Han gör det för sitt eget höga nöjes skull så vi nämner inte arbetsgivaren för att ingen ska tro att det är den han talar för, men det är en av de stora aktörerna.

Det är Shan Tang som skapat den snygga kartan härintill och låter oss publicera den fritt – det tackar vi för!

Shan Tang

–Jag tror att i princip alla chip i framtiden kommer att ha en AI-accelerator. Det som kommer att variera är hur mycket area den får, säger Shan Tang.

Aldrig tidigare i historien har en ny tillämpning gett upphov till så många uppstarts­företag inom halvledare.

–Det har i och för sig börjat lugna ner sig lite, men det kommer fortfarande då och då nyheter om nya investeringar.

Den andra vågen uppstartsföretag har svårare att profilera sig, när den första redan är ute och slåss med sina provchips och verktyg.

Denna artikel har tidigare publicerats i magasinet Elektronik­tidningen. För dig som jobbar i den svenska elektronik­branschen är Elektronik­tidningen gratis att prenumerera på – våra annonsörer betalar kostnaden. Här tecknar du prenumeration (länk).

De som har en chans till uppmärksamhet kan möjligen vara de som lanserar fundamentalt ny teknik – som optiska, analoga eller minnesbaserade kretsar. Eller neuromorfa kretsar vars arkitekturer tar ytterligare steg i riktning mot biologiska hjärnor, tror Shan Tang,

–Men de har alla långt kvar till produktifiering av sina koncept.

Som vanligt gäller att hårdvaran är inget utan understöd i mjukvara – en stor huvudvärk. Shan Tang noterar att optimeringsarbetet tycks har flyttat över till kodbibliotek och kompilator.

–AI-chiptillverkarna spenderar mer och mer tid i sina presentationer på att prata om sina mjukvarulösningar.

När kompilatorerna klarar att generera kod för en ensam neuronkärna väntar sedan ännu mer jobb. Kunderna vill ha stöd inte bara för flerkärniga arkitekturer utan även för system på flera chips och flera kort.

Dessutom är smekmånaden över då det enda man behövde sälja in var neuronnäten i sig. Nu kommer kraven på att verktygen ska generera bra kod även för helt andra algoritmer som kan använda beräkningsblocken när inferenserna vilar, för bättre kretsutnyttjande.

Eller kanske är det en ännu bättre kompromiss att skära ner nätet lite grand och använda yta till annat? Det ingår i neuronnätsleveratörens uppgift att göra den avvägningen, särskilt om det handlar om konfigurerbar IP.

–Jag gör den optimistiska bedömningen att kompilatorer för själva neuronnäten kommer att vara mogna och klara år 2020, men att de andra uppgifterna kommer att kräva en kontinuerlig insats under lång tid framöver.

Forskningsresultat har aldrig tidigare så snabbt plockats upp av halvledarindustrin. Men mellan patent och produkt ligger pölar av perspiration.

–Den goda nyheten är att ny teknik snabbt blir produkt och forskarna får en snabb belöning – det kan gynna innovationstakten. Men ingenjörsarbetet som går ner i en implementation är gigantiskt.

–Folk gillar att prata innovationer men de glömmer – kanske medvetet – att nämna slitet efteråt. Det är en fara för både innovatörer och investerare.

Shan Tang bidrar med ytterligare en spaning – att AI-chipboomen driver halvledartekniken framåt.

–Inom EDA/IP, konstruktionstjänster, kiselfabriker och på andra ställen pågår en utveckling accelererad av nya typer av minne, kapsling (chiplets), onchip- och offchipnätverk, och mycket annat. Den utvecklingen kan mycket väl leda till nästa generation av spännande innovationer inom AI-chips.

Han har också en liten varning. Många arkitekturer för att bygga neuronnät fanns på plats redan när startskottet gick för deep learning-vågen.

Så alla med behov och djupa fickor kunde genast sätta igång att utveckla egna chip. Google använder till exempel systoliska arrayer, som användes redan på 80-talet för att konstruera neuronnät.

Shan Tangs varning:

–Misslyckade arkitekturer från 20–30 år sedan lever upp igen. Det gäller att vara försiktig och fråga sig som det som fick dem att misslyckas förra gången det begav sig – verkligen inte längre gäller?