Andes Technology släpper kärnor med tillhörande utvecklingsverktyg för AI i kantsystem som hushållmaskiner, robotar, smarta kameror och IoT. Aire heter paketet, vilket ska ska utläsas ”AI Runs Everywhere”.
IP-kärnan heter Andla I350 (Andes Deep Learning Accelerator). Den använder åttabitars heltal och utnyttjar både DMA och lokalt minne.
Den är skalbar från 32 Macenheter och 16 kbyte till 4096 Macenheter och 4Mbyte. Det ska ge en prestanda på mellan 64 Gops och 8 Tops vid 1 GHz.
Verktygen stöder TensorFlow Lite, PyTorch och ONNX. Här finns en optimerare kallad NN Pilot som genererar C-kod efter att eventuellt beskurit näten och kvantiserat vikterna. Inferensmotorn heter TFLM.
Andes är ett framstående namn inom Risc V-cpu:er för inbyggda system. Tanken är att de nya AI-kärnorna ska vara lätta att integrera med det existerande cpu-kärnorna, som bland annat går att utöka med skräddarsydda instruktioner.
En AI-systemlösning skulle inte bara ha nytta av instruktioner för DSP- SIMD- och vektorberäkningar, utan även för för- och efterbearbetning av data till näten.
Du kan stifta mer bekantskap med Andes den 27 juni i San Jose. Andes kommer att prata om AI i fordon, datacenter, kommunikation, IoT och Android. TSMC är hedersgäst.