JavaScript is currently disabled.Please enable it for a better experience of Jumi. Microsoft vill minska beroendet av Nvidia

Microsoft satsar på egna AI-processorer i allt större skala. Nästa år ska den nya Maia 300 börja användas i företagets datacenter, med målet att göra de egna kretsarna till den viktigaste plattformen för AI-inferens. Microsoft räknar med 40 procent högre energieffektivitet än ledande GPU-baserade system.

Microsoft planerar att bygga ut sin Azure Maia-plattform till en kapacitet på flera gigawatt från och med 2027. Satsningen innebär att företaget tar ett stort steg mot att kontrollera den hårdvara som driver dess egna AI-tjänster, i stället för att förlita sig på externa leverantörer som Nvidia.

Redan i dag används Maia 200 för att köra AI-modeller i Microsoft Copilot. Före årets slut ska kretsarna även börja användas för GitHub Copilot och Microsoft Foundry. Plattformen stöder såväl OpenAI:s modeller som Microsofts egna MAI-modeller och modeller med öppen källkod.

Nästa generation, Maia 300, är utvecklad specifikt för inferens, alltså den beräkning som sker när en färdigtränad AI-modell används. Arkitekturen är optimerad för stora språkmodeller med långa kontextfönster och AI-agenter som utför uppgifter i flera steg.

Beräkningskretsarna i Maia 300 tillverkas med TSMC:s tvånanometersprocess N2P. Processorn har en chipletarkitektur där beräkning, minnesstyrning och in- och utmatning är uppdelade på olika kretsar.

Åtta HBM4-minnesstackar ger en sammanlagd minnesbandbredd på 18 terabyte per sekund. Effektbudgeten för en accelerator är 950 watt.

Enligt Microsoft är det allt oftare dataförflyttning snarare än ren beräkningskapacitet som begränsar prestandan i stora AI-system. Maia 300 har därför en arkitektur som minimerar datatransporter mellan beräkningsenheter, minne och nätverk.

I ett komplett racksystem samlas 96 acceleratorer med totalt 27,6 terabyte HBM-minne och en effektbudget på 167 kilowatt. Microsoft uppger att systemet kan leverera upp till sju gånger högre tokengenomströmning än motsvarande Maia 200-system.

Företaget räknar dessutom med att Maia 300 ska producera 40 procent fler token per megawatt än ledande GPU-baserade system. Det är Microsofts egna jämförelser, inte oberoende verifierade mätresultat.

Prenumerera på Elektroniktidningens nyhetsbrev eller på vårt magasin.


MER LÄSNING:
 
KOMMENTARER
Kommentarer via Disqus

Vakant

Sälj och marknads­föring +46(0)734-171099 ads@etn.se
Per Henricsson
Per
Henricsson
+46(0)734-171303 per@etn.se
(redaktion)

 
Jan Tångring
Jan
Tångring
+46(0)734-171309 jan@etn.se
(redaktion)