AI håller på att gå från en teknik som svarar på frågor till system som faktiskt utför arbete. En AI-agent kan planera en uppgift, hämta information ur databaser, anropa API:er, använda program, kontrollera resultat och därefter bestämma nästa steg. Flera agenter kan dessutom samarbeta och utföra olika delar av samma uppgift.

Det förändrar belastningen på infrastrukturen i grunden.

En traditionell chatbot kan förenklat beskrivas som en fråga in och ett svar ut. En agentisk tillämpning kan däremot starta en lång kedja av operationer. Under denna kedja används inte bara den stora språkmodellen. Systemet måste också flytta data, hantera minne, köra applikationslogik, göra databasfrågor, kontrollera behörigheter och koordinera andra tjänster.

GPU:n är fortfarande central när själva modellen körs, men en allt större del av arbetet sker runt omkring den. CPU:n får därför en betydligt större roll. Det gäller också minnet, lagringen och nätverket.

Hela systemet avgör prestandan

Det här är en viktig förändring för alla som planerar AI-infrastruktur. Det räcker inte längre att fråga hur många acceleratorer som behövs. Man måste förstå hela arbetsflödet.

Om processorerna inte hinner förbereda och mata data väntar de dyra acceleratorerna. Om nätverket är för långsamt väntar noderna på varandra. Om minneskapaciteten är otillräcklig måste data flyttas oftare. Och om programvarulagret inte kan hantera många samtidiga agenter hjälper det inte hur hög den teoretiska beräkningsprestandan är.

Därför håller också den relevanta måttenheten på att förändras. Ett imponerande benchmarkresultat för ett enskilt chip säger allt mindre om hur väl ett verkligt AI-system fungerar. I datacentret är begränsningarna konkreta. Rackeffekt, kylkapacitet, minnesbandbredd, nätverk, golvyta och tillgänglig el blir alla viktiga.

I praktiken blir racket allt oftare den naturliga byggstenen. CPU:er, GPU:er, nätverk och programvara måste konstrueras som delar av samma system. Det är ingen slump att leverantörerna nu talar allt mer om rackbaserade AI-plattformar snarare än enskilda acceleratorer.

Samtidigt sker en annan förskjutning. Under den första generativa AI-boomen låg mycket av uppmärksamheten på träning av allt större modeller. För de flesta företag kommer den stora vardagsbelastningen i stället från inferens, när färdigtränade modeller används.

Agentisk AI förstärker den utvecklingen. En agent kan anropa en modell många gånger för att slutföra en enda uppgift. Den kan arbeta i minuter eller timmar och fortsätta även när ingen människa sitter framför skärmen. När tusentals sådana agenter arbetar parallellt blir AI en kontinuerlig produktionslast snarare än en serie enskilda frågor.

Det förändrar också ekonomin. Det viktiga är inte bara hur snabbt ett system kan träna en modell, utan hur mycket nyttigt AI-arbete det kan leverera per watt, per rack och per investerad euro under kontinuerlig drift.

Nätverket blir då en del av beräkningsmaskinen. AI-kluster består redan av stora mängder acceleratorer som måste utbyta data med mycket låg latens. Distribuerad inferens och agentiska arbetsflöden ökar dessutom trafiken mellan modeller, databaser, lagring och andra tjänster. Att först välja beräkningsplattform och därefter lägga till nätverket fungerar allt sämre. 

AI flyttar både till molnet och ut till kanten

AI kommer samtidigt inte bara att köras i gigantiska datacenter. En del beräkningar flyttar åt motsatt håll, närmare den plats där data uppstår.

I en fabrik kan latensen vara avgörande. På ett sjukhus kan dataskyddet begränsa vilka uppgifter som får lämna den lokala miljön. I en dator eller industriell utrustning kan lokal AI fungera även utan en molnförbindelse. Resultatet blir en blandning av moln, egna datacenter, edge-system och klienter.

För nordiska företag är detta särskilt relevant. Här kombineras god digital infrastruktur och relativt stark tillgång till fossilfri el med strikta krav på dataskydd och ett växande intresse för var data och beräkningar faktiskt befinner sig. All AI behöver inte ligga i det publika molnet, men all AI behöver inte heller flyttas tillbaka till det egna serverrummet.

Den rätta arkitekturen beror på arbetslasten.

Det är också därför öppenhet och portabilitet blir viktigare. AI-marknaden förändras för snabbt för att någon med säkerhet ska kunna säga vilka modeller, ramverk eller acceleratorarkitekturer som dominerar om fem år. En infrastrukturinvestering har däremot ofta betydligt längre livslängd.

Företag måste därför väga dagens prestanda mot morgondagens handlingsfrihet. Det gäller möjligheten att flytta arbetslaster mellan olika miljöer, byta modeller och ramverk och undvika att hela AI-strategin blir beroende av ett enda tekniskt val.

Öppenhet är i det perspektivet inte en principiell fråga. Det är riskhantering. 

Börja med arbetslasten, inte med GPU:n 

Det viktigaste beslutet inför nästa generations AI-infrastruktur är därför kanske inte vilken GPU som ska köpas. Den första frågan bör vara vad AI faktiskt ska göra.

Hur många användare och agenter ska systemet hantera? Vilka data behöver de komma åt? Hur ofta anropas modellerna? Vilken svarstid krävs? Vad måste köras lokalt? Hur mycket effekt och kylning finns tillgänglig? Och hur snabbt kan behoven växa?

Först när de frågorna är besvarade går det att avgöra hur mycket CPU-, GPU-, minnes- och nätverkskapacitet som behövs.

AI är på väg att bli en del av den normala IT-produktionen. Det betyder att den också måste behandlas som ett systemproblem. De organisationer som fortfarande dimensionerar sin framtida AI-miljö efter gårdagens chatbotar riskerar att bygga fel infrastruktur för morgondagens agenter.

AI är fortfarande beroende av GPU:er. Men AI-infrastruktur är inte längre en GPU-fråga.

Författaren Joakim Stenberg är Northern Europe Sales Director på AMD

Krönikan publicerades i Elektroniktidningen 7/2026. Den kan du läsa här.