Socionext släpper en prototyp av en strömsnål krets optimerad för inferenser i djupa neuronnät. Tillämpningen är i förlängningen distribuerade inbyggda system.
Socionext beskriver kretsen som en ”quantized DNN engine”. DNN betyder ”djupt neuronnät”. Precisionen i nätets vikter och aktiveringar är låg – åtta bitar, två bitar eller till och med en enda ynka liten bit.
Effekten blir sänkt strömförbrukning. Och även bättre AI-prestanda, om man får tro Socionext.
Dessutom använder Socionext något det kallar för parameterkomprimering som sänker datavolymerna och resursbehoven.
I prestanda använder den 5 watt exekverandes objektdetektering med algoritmen Yolo v3 i 30 bilder per sekund – tio gånger effektivare än en GPU, enligt Soxionext.
På kretsen finns även en fyrkärnig Arm Cortex-A53. Mjukvarumässigt stöds Tensorflow, med tillägg för träningsverktyg för Socionexts hårt kvantifierade viktprecisioner.
Kretsen är ännu bara en prototyp. Den är testad och Socionext har bekräftat att den fungerar som tänkt. Nästa steg är att fintrimma kretsens konstruktion och optimera dess prestanda.
Kretsen är en del i ett forskningsprojekt kallat ”Updatable and Low Power AI-Edge LSI Technology Development” som finansieras japanska FoU-organisationen Nedo (New Energy and Industrial Technology Development Organization).