JavaScript is currently disabled.Please enable it for a better experience of Jumi. AI-agenter får inte spendera pengar

– Kunderna vill ha en copilot, inte en autopilot, säger Emma Bauer, produktchef på Signicat. En ny europeisk undersökning visar att konsumenterna gärna tar hjälp av AI, men inte vill låta AI-agenter genomföra köp på egen hand.

AI-agenter som självständigt söker produkter, jämför priser och genomför betalningar pekas ut som nästa stora steg inom e-handeln. Men konsumenternas förtroende för tekniken släpar efter.

Enligt en undersökning från det norska Signicat är 65 procent av konsumenterna positiva till att använda AI för exempelvis informationssökning, formulär och jämförelser av finansiella produkter. Däremot känner sig 69 procent obekväma med att låta AI genomföra köp åt dem.

Skillnaden blir ännu tydligare när pengar kommer in i bilden. Bara 19 procent skulle lita på att en AI-agent genomför ett köp av mindre värde. Vid större köp sjunker andelen till endast 8 procent.

– Det är stor skillnad mellan att be AI om hjälp och att ge den befogenhet att agera på egen hand. När det handlar om att spendera pengar, använda någons identitet eller signera avtal är det helt avgörande att behålla kontrollen, säger Emma Bauer.

Undersökningen visar också att 39 procent vill ha det sista ordet innan en AI-agent tecknar en finansiell produkt. Ytterligare 32 procent framhåller möjligheten att när som helst ta tillbaka kontrollen.

För utvecklarna av agentisk AI innebär detta en utmaning som sträcker sig långt bortom språkmodellernas tekniska förmåga. Ett betalningssystem måste kunna verifiera vem agenten företräder, vilka befogenheter den har och när användaren måste godkänna en transaktion.

Samtidigt växer säkerhetsproblemen. I en tidigare undersökning från Signicat uppgav 71 procent av företagen inom betalnings- och fintechsektorn att AI redan används för att genomföra bedrägerier mot dem. Över hälften rapporterade dessutom en ökning av antalet lyckade identitetsbedrägerier.

Signicats nya undersökning omfattar 4 050 konsumenter i nio europeiska länder, däribland Sverige. Samtliga hade ansökt om en finansiell produkt under det senaste året. Resultaten beskriver därför inte nödvändigtvis inställningen hos samtliga europeiska konsumenter.

Bild är AI-genererad.

Prenumerera på Elektroniktidningens nyhetsbrev eller på vårt magasin.


MER LÄSNING:
 

vo@etn.se | +358-40 707 25 30

Veijo Ojanperä
Veijo Ojanperä
+358-407072530
vo@etn.se
(redaktör)
Per Henricsson
Per Henricsson
+46-734171303
per@etn.se
(rådgivare)
Jan Tångring
Jan Tångring
+46-734171309
jan@etn.se
(rådgivare)