About / Advertise
Flest inferenser per joule och flest inferenser per kvadratmillimeter – brittiska Imagination erbjuder IP-kärnor med neuronnät för integration i systemkretsar och säger sig klå konkurrensen i både täthet och i energisnålhet.
Den enkla matematiken bakom konstgjord intelligens |
 |
| En artificiell neuron består av ett antal viktade ingångar. Den beräknar den viktade summan av ingångsvärdena och lägger resultatet på utgången om det ligger över ett tröskelvärde.
Koppla samman några hundra, tusen, miljoner, eller miljarder neuroner till ett nätverk, trimma vikterna, och du får en maskin som känner igen föremål i bilder eller spelar Go som en världsmästare |
Kärnan heter PowerVR 2NX NNA (Neural Net Accelerator) och stöder neuronmatematik med godtycklig precision mellan fyra och sexton bitar för både vikter och data.
Sänkt precision tros ha en begränsad påverkan på neuronnätens felprocent och ökar framför allt bandbredden – mer data kan flyttas från neuronnät till RAM-minne på samma tid.
Prestandan per 2NX-kärna är 2048 viktade summeringar per klockcykel. Flera kärnor kan kopplas parallellt.
I dagens telefoner körs neuronnät i en GPU, CPU eller DSP, men så sent som förra veckan lanserade Apple den första telefonen med en inbyggd neurnonätsskärna för appar. Huawei står på tur att göra detsamma.
Skillnaden mot att byta till en specialsydd kärna är stor, tror Imagination. Exempelvis ska 2NX ge åtta gånger fler inferenser per kvadratmillimeter än en DSP-kärna.
NNA:er har kommit till systemkretsarna för att stanna, enligt Imagination.
– Specialbyggda IP-block för neuronnätsacceleration kommer att vara standard i framtidens systemkretsar, på samma sätt som GPU:er och CPU:er idag, säger Chris Longstaff på Imagination.
Imagination är mest känd för sin familj av grafikkärnor som licensierats till var och varannan telefon. Imagination äger dessutom den klassiska CPU-arkitekturen MIPS.
Sedan tidigare har Imagination erbjudit ett programgränssnitt kallat Deep Learning Network för att simulera neuronnät på företagets GPU:er och CPU:er. Nu när det är ”på riktigt” kan mjukvaruutvecklarna ta sin gamla DNN API-kod och kompilera den till NNA:n istället.
PowerVR 2NX stöder dessutom import av standardramverken Caffee och Tensorflow. Google och Facebook tar fram bantade versioner av dem kallade Tensorflow Lite respektive Caffe2go för bland annat Android, och också dessa planerar Imagination att stödja.
2NX fungerar i alla neuronnätstopologier. Imagination räknar upp de populära djupa näten CNN, RNN och LSTM (Convolutional, Recurrent och Long Short Term Memory).
Och så räknar Imagination upp tillämpningar som artificiella neuronnät redan behärskar eller håller på att lära sig: förbättra kamerabilder, upptäcka fotgängare, följa en blick, upptäcka sömnighet i en blick, läsa vägmärken, känna igen ansikten, förutspå inmatad text och annan användarinteraktion, analysera en folkmassas beteende, upptäcka bedrägeriförsök online, föreslå musik, förstå röstkommandon, ta diktamen, undvika kollisioner och följa mål från drönare,
Inom datorseende har neuronnät fått ett brett genomslag. 79 procent av de som svarade på en enkät från Embedded Vision Alliance i januari avslöjade att de använde eller planerade att använda neuronnät för produkter och tjänster.
Imagination har redan kunder som använder 2NX, bland annat för säkerhetsteknik och i fordonselektronik.
En av kunderna stoppar in nätet i en tevedator och har flera roliga idér kring detta, som att teven automatiskt anpassar programutbudet till vem som sätter sig i tevesoffan – inklusive barnlås – och automatiskt pausar när du reser dig för att hämta mer chips och morotsstavar.
Övervakningskameror kommer enligt Imagination att ha inbyggda neuronnät, dels för att spara datakommunikation och dels för att slippa skicka integritetskritisk information över nätet.
PowerVR 2NX NNA kan licensieras från och med nu.
