About / Advertise
Kanadensiska Taalas har fått investerare att lägga upp 50 miljoner dollar på en idé som enligt Taalas kan sänka priset på AI till en tusendel: att specialsy chips för specifika AI-modeller.
Ett chip skulle därmed kunna ersätta ett mindre datacenter fullt av grafikkort, beskriver Taalas i ett pressmeddelande. Företaget gick ur stealth-mode i tisdags och annonserade investeringen.
Taalas fnyser år dagens koncept att ”simulera intelligens på generella datorer”. Istället vill de ”gjuta intelligens direkt i kisel”.
Det som Taalas närmare bestämt planerar är att skapa skräddarsydda chips för specifika AI-modeller. AI-beräkningar ska inte göras på generelllt programmerbara CPU:er och GPU:er utan på asicliknande och hårdkodade kretsar för specifika neuronnät.
Företaget har ett auomatiserat flöde för att gå från en AI-modell specificerad i mjukvara (Pytorch enligt en illustration) till kisel. Taalas pressrelease ger fyra exempel på modeller – Transformer, SSM, Diffuser och MoE.
På sin hemsida säger Taalas samtidigt att chipen kan ”finjusteras”. Elektroniktidningen har frågat Taalas om det som ska bli asicar är generella arkitekturer, specifika modeller, eller färdigtränade nät med fixa vikter.
Konceptet ska inte bara sänka priset på AI-beräkningar till en tusendel utan också möjliggöra tio till hundra gånger större modeller. Plus göra det möjligt att köra stora modeller lokalt i konsumentelektronik.
Taalas beskriver lösningen som ett ”direct-to-silicon foundry”.
Tredje kvartalet i år kommer det första chipet att tillverkas – för en stor språkmodell – och första kvartalet 2025 ska det finnas prover till kund.
Taalas grundare är Ljubisa Bajic, Drago Ignjatovic och Lejla Bajic, alla senast från kanadensiska Tenstorrent. De har även en bakgrund på AMD och Nvidia och har arbetat med såväl NPU:er som GPU:er och CPU:er.
