En FPGA för maskininlärning och snabb kommunikation

FPGA-delen finns kvar men har kompletterats med maskininlärningsblock och en NOC för att routa signalerna lika effektivt som i en asic. Det handlar om Speedster 7t, Achronix nya ”FPGA” som ska tillverkas hos TSMC i en 7nm-process.

Kommunikation har länge varit den största marknaden för FPGA:er men AI har snabbt seglat upp som en allvarlig utmanare. Det gäller både tillämpningar i datacenter och ute i noderna.

– FPGA-marknaden var värd fem miljarder dollar i fjol. AI-tillämpningar utgjorde ungefär 40 procent av det. Tillväxten för AI enligt Semico Research kommer att vara knappt 40 procent per år så det är ett viktigt område, säger Steve Mensor på Achronix.

Speedster 7t är ett tydligt tecken på att Achronix vill ta en rejäl bit av den kakan. I botten finns företagets sexvägs uppslagstabeller i den programmerbara logiken som fått sällskap av en ny typ av block kallad MLP (Machine Learning Processor) för att underlätta AI-beräkningarna.

De nya MLP-blocken kan ses som en kombination av tre element som redan finns i FPGA:erna: DSP-block, logik och minne. I MLP:n har de kopplats ihop och optimerats för AI- och ML-uppgifter. Därmed kan de komma runt problemet som finns i vanliga FPGA:er med att routingen begränsar klockhastigheten.

– De kan klockas med 750 MHz.

I MLP:n finns upp till 32 DSP-block plus Block RAM på 72 kbit och register på 2 kbit.

Dessutom är MLP:erna anpassade för AI genom att klara både flyttal och heltal. Repertoaren består av FP16, FP24, BFloat 16, Block Float 16 och 12 liksom Int16, Int8 och Int4.

En annan nyhet är NOC:en, network on a chip, för att skapa snabba förbindelser mellan olika delar av kretsen.

– Man kan alltid routa signaler via FPGA:an men det är långsamt. Man kommer sällan över 100 MHz i klockhastighet trots att kretsen klarar betydligt mer, säger Steve Mensor.

NOC:en ligger i ett separat lager högre upp i stacken och kan programmeras för att skapa snabba förbindelser mellan olika delar av kretsen eller koppla samman en port med en viss del av kretsen.

– Det är lite som att ta motorvägen mellan två stadsdelar istället för att köra i stan där man måsta stanna i varje gathörn.

Speedster 7t har också begåvats med upp till 72 snabba transceivrar som klarar upp till 112 Gbit per sekund. Därmed kan man koppla kretsen till DRAM av den senaste typen, GDDR6, men även till snabba bussar som 400G Ethernet och PCI Express Gen5 som det finns stöd för i de hårda MAC-blocken.

Speedster 7t kommer med 363k till 2,6M sexvägs uppslagstabeller. Minnet går från 100 Mbit till 385 Mbit. Det första kretsarna förväntas komma under fjärde kvartalet och levereras på utvärderingskort.

Företagets utvecklingsverktyg ACE stöder dock redan idag den nya familjen.