About / Advertise
Kinesiska ehandelsjätten Alibaba presenterar sin första AI-acceleratorkrets. Den heter Hanguang, efter ett mytiskt svärd och ger Alibabas moln tio gånger högre AI-prestanda för samma energibudget som den existerande grafikkortsplattformen.
Hanguang 800 är en AI-krets avsedd att accelerera neuronnätsinferenser i molnet och presenterades under Alibabas molnkonferens i Hangzhou, av företagets teknikchef Jeff Zhang.
Idag använder Alibaba grafikkort för AI-inferenser. Med den egna acceleratorn ska prestanda öka tio gånger.
Att ange prestanda inom det spretande fältet djupa neuronnät har varit svårt att göra på ett jämförbart sätt. Men ett antal benchmark har så smått börjat etablera sig och Alibaba har valt att mäta sig mot ett specifikt neuronnät kallat ResNet50-v1 som används för bildigenkänning.
När Hanguang 800 laddas med ResNet50-v1 kan det klassificera 78 563 bilder per sekund med en energieffektivtet på 500 bilder per sekund per watt.
Kretsen tillverkas i 12 nm hos TSMC. Den finns redan i volym och Alibaba anänder den själv i sitt moln för bildanalys, produktsökning, översättning och personaliserade rekommendationer.
En av tjänsterna heter Pailitao. Användaren laddar upp egna fotografier på produkter som Palitao känner igen och därefter söker upp en butik som saluför. Tjänsten anropas en miljard gånger om dagen, och med Hanguang 800 blev dess prestanda 12 gånger högre. En timmes databehandling i GPU-rack tar nu fem minuter i Hanguang 800-rack.
Företaget har inge planer på att sätta kretsen på marknaden. Du kan bara använda den som molnkund till Alibaba.
Alibabas halvledarenhet T-Head är en spinoff från Alibabas forskningsinstitut Damo Academy. Här utvecklas bland annat en Risc-V-processor kallad XuanTie 910.
