Sverige har fått chattbott – Grunden. Den kör en öppen LLM på Nvidia H200-servrar som står i Stockholm. Syftet är att erbjuda europeisk suveränitet – att bygga bort beroendet från de amerikanska AI-jättarna.
Elektroniktidningen talar med Grundens grundare Fredrik Andersson.
– Vi bygger enligt alla regler i EU – Främst GDPR och AI Act – så att data inte skall lämna EU. Och i första skedet inte Sverige heller.
Han tryckte på startknappen i förra veckan. Det går bra att registrera sig och testa nu. Det är en AI-tjänst som utmanar motsvarande tjänster från företag som amerikanska Open AI och Anthropic.
Det finns en integritetspoäng med detta. EU:s regelverk kring AI och cybersäkerhet håller på att träda i kraft, och frågan om datasuveränitet är något som diskuteras hett.
Fredrik Andersson pekar på den amerikanska lagstiftningen Cloud Act som ger amerikanska myndigheter rätt att begära ut data från amerikanska företag – även om datan fysiskt ligger på servrar utanför USA.
Än så länge kommer pengarna ur de fem grundarnas egna fickor – jakt på såddfinansiering pågår.
Tjänsten kör språkmodellen GLM 5.1, som har 754 miljarder parametrar och är den typ av samarbetande LLM:er som kallas MoE (Mixture of Experts) vilket i detta fall betyder att högst upp till 40 miljarder parametrar körs i taget. Den gör bra ifrån sig på benchmarks mot aktuella modeller från Anthropic och Open AI (länk).
GLM utvecklas på kinesiska Z, som kör den som en egen tjänst, men dessutom bjuder på den som öppen källkod, så att vem som helst kan sätta upp en tjänst kring den.
– Vi konkurrerar genom att erbjuda den till ett liknande pris med tryggheten att data inte lämnar Sverige och att vi erbjuder DPA och regelverksefterlevnad för europeiska företag och myndigheter.
Hur gör svenska företag idag för att efterleva EU-regler?
– Det finns ingen lösning utan att hyra hårdvara för 500 kronor i timmen.
Varför gör ni detta just nu?
– Vi har haft det på gång ganska länge. Men nu har suveränitetsfrågan blivit viktig, samtidigt som GLM 5.1 släpptes i mitten av april.
Mjukvaran som driver GLM hos Grunden heter SGLang – också den är öppen källkod, utvecklad i universitetssamarbetet LMSYS.
Grunden riktar sig till både utvecklare och vanliga användare. API:et för utvecklare är kompatibelt med det som Open AI använder.
Teamet består av Patrik Rydberg, John Patrick Berlips, Jonas Amandusson och Johan Lopes Helgesson.
Målet är att växa vidare från Sverige till hela EU.