Skriv ut

AI-agenter kan redan fatta beslut och utföra uppgifter självständigt. Men ansvaret för besluten ligger fortfarande hos människorna. Det betonar Petra Goude på Kyndryl, som nu öppnat ett europeiskt innovationslabb för agentisk AI i Luxemburg.

– Företag kan delegera uppgifter, men inte ansvar. Det ligger hos människor, säger Petra Goude, chef för Strategic Markets på Kyndryl.

Utvecklingen av agentisk AI innebär att tekniken inte längre behöver begränsas till att besvara frågor eller ge rekommendationer. AI-agenter kan också genomföra åtgärder och fatta beslut på ett företags vägnar.

Enligt Goude är den avgörande frågan därför inte om AI kan agera självständigt, utan när det är lämpligt att låta tekniken göra det och när mänskligt omdöme fortfarande behövs.

Det gäller särskilt inom reglerade verksamheter som finanssektorn, där automatiserade beslut kan få stora konsekvenser för kunder och företag.

– Ansvar kan inte delegeras till tekniken. Även när AI-system stödjer eller fattar beslut ligger det yttersta ansvaret hos det företag som använder dem.

Det innebär att kontrollen måste byggas in i själva beslutsprocessen. Företag måste kunna förklara varför ett beslut fattades, vilka faktorer som påverkade det och vad som faktiskt hände.

Det behövs också tydliga rutiner för mänsklig tillsyn, möjlighet att ingripa och en klar ansvarsfördelning när något går fel.

Samtidigt förändras kraven på medarbetarna. Goude anser att förmågan att kritiskt bedöma AI-systemens rekommendationer blir viktigare än att bara kunna använda tekniken.

– Konkurrensfördelar skapas inte genom att rekrytera personer som vet hur man använder AI, utan genom att utveckla personer som vet när, varför och om det ska användas.

Här ligger svenska företag efter den internationella utvecklingen. Enligt Kyndryls undersökning The Readiness Report uppger endast 18 procent av de svenska respondenterna att medarbetarnas roller formellt har anpassats till AI. Globalt är motsvarande andel 28 procent.

Kyndryl har nu öppnat sitt första innovationslabb för agentisk AI inom EU. Det ligger i Luxemburg och kompletterar företagets tidigare laboratorier i Liverpool och Dallas.

Valet av Luxemburg förklaras av närheten till finanssektorn, den internationella kompetensen och kopplingen till europeisk reglering. Verksamheten ska betjäna kunder i hela Europa, även Norden.

I laboratoriet ska kunder tillsammans med Kyndryls ingenjörer, systemarkitekter och konsulter utveckla prototyper, testa arbetsflöden och ta fram AI-lösningar som kan införas i verksamhetskritiska system.

Kyndryl utvecklar inte verksamheten kring en enda AI-modell, utan arbetar med teknik från olika partner. Företagets roll är framför allt att integrera AI i kundernas befintliga IT-miljöer.

Enligt Goude har agentisk AI redan börjat användas utanför rena pilotprojekt. Hon pekar särskilt på IT-drift, cybersäkerhet, kundservice och processautomatisering.

Inom IT-drift kan AI-agenter exempelvis identifiera grundorsaker till incidenter och initiera åtgärder. Inom cybersäkerhet kan de undersöka larm, prioritera risker och hjälpa säkerhetsteam att reagera snabbare.

Däremot presenterar Kyndryl inga namngivna kundprojekt eller konkreta siffror på vilka förbättringar tekniken hittills har åstadkommit. För Goude är det ändå tydligt att utvecklingen går mot alltmer självständiga AI-system. Därmed blir frågan om ansvar och kontroll allt viktigare.

Det räcker inte att en AI-agent kan fatta ett beslut. Företaget måste också kunna stå bakom beslutet när det granskas eller ifrågasätts.