JavaScript is currently disabled.Please enable it for a better experience of Jumi. Bäddat för Zeropoint efter genombrottsorder

En första kund i form av en stor aktör, femtio färska miljoner och det faktum att TSMC inte lyckades krympa minnescellerna i steget till 3 nm – det kan signalera starten för ett brett genomslag för göteborgska Zeropoints teknik för minneskomprimering. Elektroniktidningen pratrar med vd Klas Moreau.

Artikeln är
tidigare
publicerad i juninumret av magasinet Elektroniktidningen.
Prenumerera kostnadsfritt!

Zeropoints minnesteknik är bevisad, den har fått tummen upp från Arm och den har fått en första kund.

Dessutom misslyckades TSMC med att krympa ytan som minnescellen upptar i steget från 5 till 3 nm. Och så har Zeropoint resurser till marknadsföring.

Så är scenen satt just nu för Zeropoint och dess teknik att trolla fram extra minne i processorer. Utsikterna ser alltså väldigt goda ut. 

Chipkonstruktörer har i mannaminne kunnat höja prestanda genom att ta rygg på Moores lag. Men i övergången från 5 nm till 3 nm hos världens ledande kiselsmedja TSMC hände någonting besvärligt: minnescellerna kunde inte krympas.

Så nu kliar sig konstruktörerna i huvudet över hur de ska kunna skala ner sina 5 nm-designer till 3 nm. 

N. N.

– De försöker hitta nya sätt att höja packningsgraden, säger Klas Moreau, vd på Zeropoint.

Det här ett gyllene tillfälle för Zeropoint, som med sin teknik i princip kan trolla fram det minne som just försvann. Och detta utan att straffa databehandlingen med fördröjningar.

Zeropoint komprimerar data så att det ryms i färre minnesceller – ner till hälften eller en fjärdedel – se faktaruta intill!

Minneskapacitet är hårdvaluta på ett chip. Mer minne ökar prestandan. Normalt betalar du ett pris i form av transistorer och energiförbrukning. Här får du mer minne gratis, bortsett från IP-blocket från Zeropoint.

– Vi brukar säga att sjuttio procent av minnet är outnyttjat. Har du en snabb teknologi som kan omvandla onyttigt utrymme till nyttigt utrymme har du en enorm potential.

– Med vår ­teknologi dubbleras mängden minne till samma kostnad och energiförbrukning.

Komprimeringen kan sättas in på flera nivåer i minneshierarkin.

– SRAM på chipet kan bli dubbla storleken, direktkopplat DRAM kan bli dubbla ­storleken, CXL-kopplat minne kan bli dubbla storleken. Du får en mycket högre användningsgrad på de fysiska resurserna.

Konceptet är enkelt att förstå men svårare att implementera. Det händer att en potentiell kund gör tummen upp efter Zeropoints presentation. Och sedan tackar de för sig och går hem för att försöka implementera allt på egen hand istället.

Men sedan kommer de tillbaka med svansen mellan benen. Antingen har de inte fått alla komplexa pusselbitar på plats ­eller så har de stoppats på vägen av något av Zeropoints patent.

Flaskhalsen för prestanda i en processor är sedan länge datatransport. Zeropoint höjer processorns prestanda genom att krympa volymen på data när det slussas till processorn och blåsa upp det igen när det kommit fram. I realtid.

Data komprimeras och sedan packas bitarna – tänk Tetris – så att alla platser på databussen fylls. Dessutom måste varje data­värde kunna packas upp igen på sin riktiga minnesadress – det är ofta den svåraste biten för den som försöker implementera tekniken på egen hand.

Komprimering, packning och adressering är i sig inget nytt. Det fantastiska är att Zeropoint har algoritmer som gör allt detta med så kort fördröjning att de lönar sig i realtid.

Det stora genombrottet för Zeropoint kom när företaget i mars till slut kunde annonsera sin första kund, ”en stor global halvledartillverkare”. 

Det är en order som ger Zeropoint en god chans att hamna i molnjättarnas serverhallar. Kunden använder komprimeringen på en kontroller för minnesprotokollet CXL. 

CXL-protokollet går över PCI Express som börjat användas i chip för att inte antalet pinnar på processorerna ska explodera när antalet cpu:er på chipet blir allt fler. Klassiska DRAM-gränssnitt är något snabbare men slukar kring tre gånger fler pinnar. Så nu byts en del av dem ut mot PCI Express.

Zeropoints komprimering är tillämpbar på alla sorters processorer – i en mobil vore en viktig effekt att öka batteritiden – men företaget fokuserar just nu på servermarknaden där det finns gigantiska summor att spara för kunderna.

– Våra produkter är eftertraktade av datacenteroperatörer som försöker övervinna den växande utmaningen med minnesflaskhalsar, säger företagets vd Klas Moreau.

De potentiella kunderna inkluderar några av de största halvledarföretagen i världen.

– Vi jobbar med fler kunder just nu och är i kontraktsförhandling för att knyta upp dem.

Zeropoints teknik har utvecklats under 15 år men det är nu den börjat röra på sig kommersiellt. En viktig milstolpe var när tekniken nyligen blev verifierad. Det skedde med hjälp av en kund – en misslyckad kund.

Kunden drabbades av USA:s halvledarembargo och hindrades i likhet med flera andra kinesiska bolag mellan 2022 och 2023, att tillverka sin systemkrets hos TSMC.

Dock hann denna kund verifiera chipet i TSMC:s 5 nm-nod innan embargot slog till. Till lycka för Zeropoint.

– Sedan dess har vi med självförtroende kunnat hävda att tekniken fungerar.

Utmärkt reklam fick Zeropoint därefter när IP-jätten Arm pekade ut Zeropoints teknik som en partnerlösning för cache­komprimering. 

I maj i år fick Zeropoint en investering på 50 miljoner kronor i en A-runda från bland annat Industrifonden, Matterwave och Climentum.

– Den ger oss en runway en bra bit in i nästa år.

DJUPDYKNING

Här är algoritmerna bakom Zeropoints komprimering.

Zeropoint licensierar komprimeringsalgoritmer i IP-block som arbetar parallellt med och osynligt för den befintliga processorn. 

Data som innehåller regelbundenheter kan komprimeras. Exempelvis kan hundra nollor komprimeras till kod motsvarande ”100 x 0”. Zeropoint har egna komprimeringsalgoritmer. Exakt hur de fungerar är affärshemligheter. 

De komprimerade värdena packas i färre minnesceller – tänk tetris! Beroende på datatyp och sammanhang ryms plötsligt dubbelt så mycket eller fyra gånger så mycket data i samma minnesceller.

Packningen sker i realtid när data flyttas. En cpu hämtar data från ett snabbt litet så kallat cacheminne. Om data inte finns där – en ”cachemiss” – hämtas det automatiskt från primärminne till cache. Det är då Zeropoint komprimerar datat. 

Cacheminnet har sitt eget cacheminne som i sin tur har sitt eget cacheminne som till slut hämtar data från det riktiga RAM-minnet, som även kan vara externt. Zeropoints algoritmer kan stoppas in var som helst i den hierarkin.

Zeropoint har en grundläggande ”ultrasnabb” kompressionsalgoritm som ger bra resultat på diverse data. Men i lösningen ingår även ett antal specialiserade komprimeringsalgoritmer för olika datatrafik – grafik, ljud, AI, et cetera.

Algoritmerna kan kalibreras i flykten eller bytas ut baserat på en kontinuerlig analys av prestanda. En av utmaningarna är att hålla reda vilka algoritmer som använts på redan packade data.

Den här ”reglerloopen” snurrar normalt osynligt för processorn. Men om så önskas kan operativsystemet ge anvisningar om vilka data som är av vilken typ.

– Somliga vill ha det så och andra inte. 

Det finns också möjlighet att ange att datatrafiken mot exempel­vis en GPU ska använda en viss algoritm och en annan mot en CPU. 

Zeropoints algoritmer snurrar i egna parallella rörledningar för att inte påverka prestanda. En av faktorerna bakom att bandbredd sparas är att flera cacherader kan behandlas samtidigt.

En kund har intressant nog valt en betydligt långsammare komprimeringsalgoritm. Det är en öppen standard, LZ4, som Zeropoint gjort en hårdvaruimplementering av. Med LZ4 blir data kompatibelt med processorer i samma nätverk som inte använder Zeropoints hundra gånger snabbare algoritm.

Möjligheten blir exempelvis potentiellt intressant i en utveckling där CXL-kopplat minne börjar delas mellan separata kort – alla processorer behöver då kunna tolka det komprimerade datat och med LZ4 som option blir inte alla komponenter i systemet låsta till att använda Zeropoints teknik. 

Den produkt som Zeropoint säljer mot server just nu heter Densemem. 

Utöver komprimeringen har Zeropoint IP för kryptering enligt en öppen standard. Vissa kunder vill kunna kryptera arbetsminnet i realtid.

– Krypteringen kommer inte att vara en kioskvältare för oss, men vi har den för de kunder som tycker att det är viktigt att ha båda.

Krypteringen påverkar förutsättningen för komprimeringen – de två operationerna måste göras i rätt ordning. En synergieffekt är att det blir mindre data kvar att kryptera efter komprimeringen. Komprimeringen finns för licensiering idag.

BOLAGET

Zeropoint (ZeroPoint Technologies) är en spinoff från Chalmers tekniska högskola. IP-portföljen har utvecklats under 15 år. 

Bolaget grundades av professor Per Stenström och hans doktorand Angelos Arelakis. Basen var en komprimeringsalgoritm snabb nog att vara meningsfull på cacheminne. 

Det är ett Göteborgsbaserat företag.

– Men anknytningen till Göteborg är ganska lös. Vi är ett bolag av elva nationaliteter, har vi kommit fram till, säger vd Klas Moreau.

 Huvudutvecklingen görs av 30 personer i Göteborg. Ytterligare två finns i Brasilien utanför São Paulo – en systemarkitekt och en person som jobbar med hårdvaruverifiering. 

– Det finns mycket god utbildning i Brasilien, men inte så mycket elektronikföretag. 

Och så har Kalifornien sedan ett år en affärsutvecklare på heltid. Det betyder att vd kunnat minska besöken dit.

– Det är där vi har våra kunder.

Prenumerera på Elektroniktidningens nyhetsbrev eller på vårt magasin.


MER LÄSNING:
 
KOMMENTARER
Kommentarer via Disqus

Anne-Charlotte Lantz

Anne-Charlotte
Lantz

+46(0)734-171099 ac@etn.se
(sälj och marknads­föring)
Per Henricsson

Per
Henricsson
+46(0)734-171303 per@etn.se
(redaktion)

Jan Tångring

Jan
Tångring
+46(0)734-171309 jan@etn.se
(redaktion)