Texasbolaget Mythic går snart i volym med sin första skarpa krets, M1076. Den använder sin egen AI för att kompensera för de stabilitetsproblem som alltid plågar analoga beräkningar.
Femtio år innan det fanns datorer fanns så kallade analogimaskiner som gjorde beräkningar genom att initiera mekaniska eller elektriska förlopp som hade samma beteende som det man ville styra eller simulera.
Idén har aldrig dött. Och eftersom dagens hetaste beräkningsteknik – maskininlärning på djupa artificiella neuronnät – är biologiskt inspirerad, har många försökt bygga analoga neuronnätskretsar, med förhoppningen att det ska bli effektivt.
Kanske blir Mythic den som till slut lyckas?
Företagets krets sägs i alla fall kunna leverera motsvarande 25 teraops på bara 3 watt. Det är mer än en magnitud effektivare än digitala konkurrenter.
Det fundamentala problemet med analoga kretsar, även denna, är stabilitet. Tillverkningsskillnader, temperaturdrift och spänningsdrift gör att ingen beräkning blir den andra lik.
Men det ska Mythic ha löst. Och på ett genialt sätt i sammanhanget. Kretsen är ju ett neuronnät. Sådana lär sig att identifiera mönster i indata.
Så låt temperaturen vara en del av indata!
Träna nätet i olika temperaturer och ge facit för vad utdata borde vara! Då byggs kompensationer för variabiliteten in i själva nätet.
Det var teorin i ett forskningsprojekt som företaget grundades på för tio år sedan. Och det tycks ha fungerat.
Spänningsvariationer hanteras likadant.
– Vi använder IP som kompenserar för fluktuationerna, berättar företagets medarbetare Chenghwee Chee.
Också de mikroskopiska variationer som finns i tillverkningen säger sig Mythic kunna kompensera för.
Nätet blir möjligen lite större eftersom funktionen som nätet beräknar får fler dimensioner. Men det finns ytterligare en win-win i detta: att träningen med kompensationer i sig resulterar i ett mer stabilt nät.
– Våra modeller blir mer toleranta mot brus. Det är en fördel.
Det är i sig redan en etablerad metod att addera brus under träning av neuronnät, för att göra nätet robustare.
Den analoga beräkningen i Mythic bygger på enklast tänkbara elektriska principer: multiplikation motsvaras av strömmar som flyter genom varierbara motstånd (neuronnätets vikter) och addition är summering av strömmar.
Därutöver behöver neuronen kunna applicera en så kallad aktiveringsfunktion. Där tvingas Mythic faktiskt att växla över tillfälligt till den digitala domänen.
Trösten är att funktionen blir programmerbar och att det går att välja mellan ett flertal olika ickelinjära funktioner.
Chipet byggs i flashminnesceller i en blandning av analog och digital teknik. Arkitekturen kallas för AMP (Analog Matrix Processor). Här finns Risc V-cpu:er, vektoracceleratorer, routrar och SRAM. Plus ett antal analoga beräkningsblock med minnesceller för 80 miljoner vikter.
Nischen är strömsnål edge-AI. Mythic har till och med valt att skruva ner prestanda från 35 till 25 Tops för att kunna sänka strömförbrukningen från fyra till tre watt.
Det som Mythic säljer är kretsarna integrerade på tre kort i olika storlekar. Den senaste lanseringen är ett PCI Expresskort med fyra stycken M1076. Den totala prestandan blir 100 Tops med en förbrukning på 25 watt.
De fyra kan fördela ett och samma nät, med upp till 320 miljoner vikter, mellan sig. Eller så kan de arbeta med varsitt mindre nät. Eller så kan de bearbeta exempelvis en och samma videoström i flera steg. Exempelvis kan ett första nät hitta och markera objekt och ett andra nät kan klassificera objekten.
Mythic föreslår som exempel att man pluggar in kortet i en självflygande drönare för att avsöka högupplöst video efter små objekt. En sådan visade Mythic upp på mässan Embedded World.
Sedan tidigare finns fyra gånger kraftfullare M2- och PCI Express-kort med sexton stycken exemplar per kort, summa 400 Tops på 75 watt.
Mythic demonstreras integrerad med kraftfulla moderkort från Nvida, Qualcomm och NXP. Dessa kort kan ägna sig åt andra uppgifter medan Mythic accelererar datorseendet.
Autonoma drönare, smarta övervakningskameror och industrirobotar är några tillämpningar.
En annan liten specialitet är pose-estimering – att anlaysera kroppsdelarna på filmade personer och presentera dem efter deras skelett som streckgubbar.