About / Advertise
Känner igen bilder, tolkar röstinstruktioner och adderar augmented reality. Det gör Huaweis kommande telefon Mate 10 i ett artificiellt neuronnät implementerat i processorn. Det sker på en femtiondel av energin jämfört med om det gjorts i samma processors cpu.
Nu kommer de första mobiltelefonerna som har inbyggt hårdvarustöd för artificiell intelligens av det slag som som kallas djupa artificiella neuronnät och som gör succé inom alla AI-uppgifter som har med språk och bild att göra.
Du använder redan djupa artificiella neuronnät varje gång du ger röstkommandon till din mobiltelefon. Men de näten snurrar i Googles serverfarmar – i grafikkort, cpu:er och en specialutvecklad asic som heter TPU (Tensor Processing Unit).
Nu går vi in i en era då de de djupa näten flyttas ut i ändnoderna. Den kanske största vinsten är kortare responstider, vilket flyttar fram gränserna för vad som går att göra bekvämt – du har inte tid att skicka kamerabilden till molnet för analys om du vill använda djupa neuronnät för målföljning, exempelvis. Eller, som i en demonstration som Huawei gör, låta nätet avgära vad du ska fotografera, och på vilket avstånd och i vilket ljus och med vilken rörelse i bilden, så att den kan välja optimala kamerainställningar automatiskt.
Huawei fick hålla ett av huvudtalen på den nyligen avslutade konsumentelektronikmässan IFA i Berlin och presenterade där sitt mobilchip Kirin 970 och telefonerna Mate 10 och Mate 10 Pro. Huvudnumret var den neuronnätsaccelerator (NPU, neural processing unit) som finns integrerad i Kirin 970.
Som jämförelse är NPU:n 25 gånger snabbare eller 50 gånger energisnålare på det den gör, än om man skulle använt den vassa fyrkärniga ARM-cpu som sitter på samma chip – fyra Cortex A73:or på 2,4 GHz.
I ett test fick NPU:n klassificera innehållet i tusen bilder, varvid ett 4000 mAh-batteri tappade 0,19 procent av sin energi. Förbrukningen varierade mellan 0,25 och 0,75 watt. NPU-blocket kan stängas av och klockjusteras i sin egen domän.
Beräkningar i neuronnät utgörs huvudsakligen av matrismultiplikationer. Så det som finns i NPU:n, liksom i Googles TPU och Nvidias Volta, är en stor uppsättning MAC-enheter som man försökt placera ut så att data från mellanliggande beräkningar kan flöda mellan dem utan att bollas fram och tillbaka till minnet alltför mycket.
En intressant detalj är att Googles TPUv1 har ett block som multiplicerar 256x256-matriser och TPUv2 har två block för 128 x128-matriser, medan Nvidia beskriver sin Volta V100 som att den har 640 stycken 4x4-matrismultiplikatorer och Kirin 970 jobbar i ännu mindre skala med ett okänt antal 3x3-enheter. Delvis beror det säkert på att tillämpningarna är skilda, men kanske också för att tillverkarna fortfarande söker efter optimum.
För dig som vill utnyttja NPU:n i dina appar stöds mjukvaribiblioteken TensorFlow, TensorFlow Lite, Caffe och Caffe2. Du kommer att vilja dela upp dina beräkningar mellan DSP, CPU, NPU och GPU och till stöd för detta har du något som Huawei kallar Heterogeneous Resource Management.
Utvecklingskort med Kirin 970 ska släppas första kvartalet nästa år.
Chipet är en kvadratcentimeter och innehåller 5,5 miljarder transistorer. Det byggs i samma 10 nm FinFET-process hos TSMC som Apple använder i sina processorer A10X och A11.
På chipet finns även fyra Cortex A53:or på 1,8 GHz, en 12-kärnig Mali G72-grafikenhet, en bildbehandlingskärna, en ljudkärna, en kryptokärna, en sensorkärna och ett LPPDDR-gränssnitt.
Modemet finns på samma chip – det får plats mycket på ett chip nu för tiden! – och laddar hem upp till 1,2 Gbit/s. Det är ett Cat 18-modem med 5CC, 4 x 4 MIMO och 256 QAM.
Huawei är världens tredje största mobiltelefonmakare idag men har satt som mål att ha gått om både Samsung och Apple till år 2021.
