About / Advertise
En femtedel av strömförbrukningen och kapacitet att göra inferenser i tio gånger större neuronnät. Det är skillnaden mellan franska Green Waves nya AI-processor Gap9 och föregångaren Gap8.
”AI i batteridrivna IoT-enheter” är den slogan som Green Waves säljer sina neuronnätsprocessorer med. De ska vara strömsnåla men ändå kunna sitta i apparater som med rimlig batteritid kan känna igen ansikten, räkna passerande människor, förstå röstkommandon, göra sensoranalys för preventivt underhåll eller göra lidarbaserad navigering.
Gap9:s teoretiska topprestanda är 50 Gops (miljarder operationer per sekund) till en förbrukning av 50 mW. Mer konkret klarar det AI-prestandatestet Mobile Net V1 med en förbrukning av 806 μW per bild per sekund, i upplösningen 160 x 160 punkter.
Förklaringen till den dramatiska prestandaökningen jämfört med Gap8 är ett byte till Globalfoundries snåla FD-SOI tillverkningsprocess FDX i 22 nm med body biasing. Dessutom har det gjorts flera arkitekturförbättringar.
Green Waves IoT-AI-processorer är multikärnor byggda på den öppna cpu-arkitekturen Risc-V. En av Risc-V-cpu:erna i Gap9 är en styrenhet, medan nio cpu:er med gemensamt L1-cache accelererar AI-beräkningarna. Bandbredden inom klustret är 41,6 GB/sec och till L2-cache 7,2 GB/s.
Gap8 hade bara åtta acceleratorer och bara en tjugondel i effektiv minnesbandbredd. Gap9 kan klockas till 400 MHz medan Gap9 stannade på 175 MHz. Det interna RAM:et har gjorts tre gånger större och är nu 1,6 MB.
Vad gäller strömsnålheten finns ett nytt viloläge på 1 mW kallat dozy – dåsig – där kretsen bara klarar av att ta emot data. Från sitt dåsiga tillstånd ruskas Gap9 upp till full vakenhet på några få mikrosekunder medan Gap8 behövde ligga och dra sig i 700 mikrosekunder från sitt motsvarande viloläge. Orsaken ska vara att Gap8:s DC-omvandlare behövde den tiden på sig för att stabiliseras medan Gap9 bytt till en snabb LDO.
Gap9 stöder flyttal i 8, 16 och 32 bitars precision. Den kan också hantera vektorer av fixtal på ner till två bitars precision.
Gap9 har bra stöd för ljudhantering med dubbelriktat synkront flerkanaligt digitalt ljud. Gap9 har dessutom dubbla kamera-gränssnitt för strömsnål lågupplöst bild respektive högupplöst mer energikrävande bild.
AES-kryptering stöds i 128 och 256 bitar. Varje chip har en PUF (Physically Unclonable Function). Det är en teknik som ger chipet ett unikt fingeravtryck, vanligen baserat på slumpmässiga fysiska variationer i tillverkning.
Bland mjukvaruverktygen finns automatisk kodgenerering som minimerar minnestrafiken i neuronnätet. Det finns också ett färdigt neuronnät för ansktsigenkänning i öppen källkod.
Prover av Gap9 ska finnas under detta halvår och massvolymer ska komma nästa år.
Priset du betalar för effektivitetsförbättringarna är ganska skäligt – bara 50 procent mer, gissar Green Waves, som trots alla förbättringar räknar med en fortsatt marknad även för Gap8.
