Neuronnät körs 2–3 gånger effektivare på NXP:s Cortex M7-processorfamil IMX RT (i.MX RT), efter att NXP tagit fram en optimerad version av Facebooks öppna neuronnätskompilator Glow.
Enligt NXP är detta första gången som Glow porterats till en mikrokontroller. Maskininlärning i edge-tillämpningar är vad NXP ser framför sig som tillämpning och nämner röstinmatning, brusreducering, keyword spotting (KWS) och anomalidetektering som heta områden.
Den optimerade Glowkompilatorn finns i NXP:s utvecklingsmiljö MCUXpresso EIQ Machine Learning (eIQ ML) som även stöder NXP:s 64-bitars Cortex A-kretsfamilj IMX 8.
IMX RT innehåller Cortex M-cpu:er och HiFi 4-dsp:er och det är för dem som Glow optimerats. Det är närmare bestämt IMX RT-modellerna RT685, RT1050 och RT1060 som kan dra nytta av optimeringen redan nu. Stöd för andra IMX RT-modeller är på väg.
Framför allt är det DSP-kärnan HiFi 4 som ger IMX RT en hög neuronnätsprestanda. Ursprungligen var HiFi 4 avsedd att accelerera röst och video, men den har visat sig effektiv på AI allteftersom intresset för det området vuxit. Den har en maximal neuronnätsinferensprestanda på 4,8 GMACs.
NXP citerar analysbolaget Tirias som spår att 98 procent av all edge-elektronik kommer att utnyttja AI år 2025. Vid det laget kommer att det existera mellan 18 och 25 miljarder kretsar med åtminstone mjukvarustöd för maskininlärning, tror NXP.
Glow (Graph Lowering NN compiler) utvecklades på Facebook, som sedan släppte den som öppen källkod i maj 2018, inklusive stöd för maskinnära optimering av det slag som NXP nu gjort. Glow stöder Cortex A, Cortex M och Risc V.