När mobilvärlden insåg – från platsannonser – att Apple tänkte stoppa in AI-acceleratorer i sina telefonchips, fick israeliska IP-konstruktören Ceva genast  beställningar på neuronnätskärnor från tre andra tillverkare av systemkretsar för mobiltelefoner.

Denna lilla anekdot om Apples makt att sätta trender i mobilvärlden, berättade Richard Kingston från Ceva igår under en tvådagarskonferens i München för europeisk elektronikmedia.

Smarttelefoner blir med sina AI-chips nu till slut ”smarta” på riktigt, kan man säga. Men de är långtifrån den enda tillämpningen. Systemkameror, övervakningskameror, drönare och självkörande bilar är på väg ut på marknaden med Ceva-kärnor som acceleratorer för neuronnätsalgoritmer.

– Om några få år tror vi att samtliga produkter som innehåller en kamera kommer att använda neuronnät för att bearbeta bilddata, säger Richard Kingston på Ceva.

En kommande kund är ”världens största aktör inom drönare” som ska använda Cevas neuronnät för att undvika kollisioner. 

Utöver bildanalys kommer neuronnätskärnorna i olika produkter att användas för bland annat ljudanalys, sensorfusion, styrning och kommunikation.

Apple använder neuronnäten till att börja med för att göra kameran intelligentare, för att identifiera användaren och för att animera användarens ansikte i realtid.

Dagens neuronnätsalgoritmer körs ofta i molnet. Att de också är på väg ut i ändnoderna är det många som trott och nu kan  Ceva  i sina egna säljsiffror konstatera att så är fallet. 

Flytten till ändnoderna betyder bland annat att användarnas privata sensordata inte behöver snurra runt på Internet och att responstiderna blir kortare. 

Ceva anser sig ha fått en bra start när det gäller AI i ändnoderna.

– De andra IP-spelarna har produkter idag, men vi kom tre, fyra år tidigare in matchen.

Ceva levererar inte bara en näve IP-kärnor utan också en utvecklingsmiljö för att bygga och sjösätta neuronnät. Allt dessutom integrerat med Cevas IP-kärnor för klassisk bildbehandling.

Den typiska leverabeln för Ceva idag är ett en paketlösning som kombinerar klassisk bildanalys med neuronnät. Enligt Richard Kingston är Ceva ensamt om att kunna erbjuda bildanalys och neuronnät i en integrerad mogen kombination..

I framtiden kommer Ceva att göra fler affärer med renodlade neuronnätskärnor utan bildanalys.

Cevas neuronacceleration görs inte bara i kärnor som från grunden är konstruerade för neuronnät, utan också i klassiska DSP-kärnor även om de är uppdimensionerade med adderade parallella aritmetikblock.

Poängen med att fortsätta att använda DSP:er är att de har en programmerbar flexibilitet, som du vill utnyttja om du plötsligt upptäcker att ditt hårda neuronnät är snäppet underdimensionerat, eller har en annan topologi än den dagsfärskaste neuronnätsalgoritmen, som snabbt kan bli omodern.

AI-trenden ger just nu upphov till en liten renässans för coprocessorer eftersom systemlösningen ofta blir att AI-kärnan sitter i ett separat chip. Det finns eller kommer att finnas AI-coprocessorer med Ceva-AI-kärnor för audio, bild och biometri.

En av de första AI-coprocessorerna av det här slaget är bildprocessorn Rockchip RK1608, som innehåller Cevas kärna XM4. Den lanserades i februari och sitter idag bland annat i Vivo X9, Vivo X20 plus, Asus Zenfone Zoom 4 Pro och Selfie Pro. Kapaciteten att köra neuronnätsalgoritmer har dock ännu inte tagts i bruk. Istället gör RK1608 klassisk bildbehandling, som att ge bättre resultat för bilder med stor kontrast. 

Vivo skulle hellre ha velat köra sina bildbehandlingsagoritmer i Qualcomms systemkrets, som driver telefonen i övrigt. Men sådant tillåter inte Qualcomm, och den som gynnades av det blev ironiskt nog konkurrenten Rockchip, som fick in sitt chip i telefonen.

Idag kopplas Rockchip RK1608 in bara när kameran startas i telefonen, men den ligger där latent som en potentiell accelerator för kommande AI-funktioner.   

Coprocessorvågen blir dock kortvarig, tror Ceva, och fler kommer att göra som Apple och integrera ett AI-acceleratorblock direkt i produktens systemkrets, som Apple gör i Iphone X. 

Ceva grundades 2002 och har sitt huvudkontor i USA. Utvecklarna sitter huvudsakligen i Israel, med en avdelning för  Bluetooth i Frankrike. 

Signalkärnor för basbandskommunikation var företagets ursprungliga nisch. Bluetooth är det enda teknikområde Ceva köpt. Övrig teknik är utvecklad av företagets egna cirka 300 ingenjörer.