About / Advertise 
- Programmeringens tid är förbi. Den sista programmeraren är redan född. Det hävdar den finländske cybersäkerhetsgurun Mikko Hyppönen, som tror att AI i framtiden kommer att skriva all programkod. Till slut kan vi till och med få programvara helt utan buggar. Men innan dess väntar en mycket farlig övergångsperiod.
Mikko Hyppönen är en av Finlands mest kända experter på cybersäkerhet. Han har en lång bakgrund inom F-Secure, där han var en av företagets mest framträdande profiler, och arbetar numera som forskningschef på Sensorfusion. Han studerade vid Helsingfors universitet samtidigt som Linux skapare Linus Torvalds.
Under sitt framträdande på Cyber Security Nordic i Helsingfors på onsdagen levererade Hyppönen ett minst sagt provocerande budskap. Enligt Hyppönen kommer dagens generation att bli den sista som skriver programkod på traditionellt sätt. Framtida generationer kan komma att betrakta handskriven kod ungefär som vi i dag betraktar Egyptens pyramider: imponerande konstruktioner från en svunnen tid.
Hyppönen påminde om att datorer hittills bara har vetat det som människor har talat om för dem. Nu håller detta på att förändras i grunden. Vi har länge utgått från att intelligens och kreativitet är något som bara människor besitter.
– Nu lär vi oss den hårda vägen att det inte längre stämmer.
AI hittar redan sårbarheter
För cybersäkerheten innebär utvecklingen både enorma möjligheter och allvarliga risker.
Hyppönen berättade att han redan 2023, när GPT-4 presenterades, förutspådde att AI skulle börja upptäcka helt nya sårbarheter, även så kallade nolldagssårbarheter. Då möttes hans prognos av skepsis från andra säkerhetsexperter.
I dag är AI redan ett kraftfullt verktyg för att analysera kod och hitta säkerhetsbrister. Och enligt Hyppönen befinner vi oss bara i början av utvecklingen.
Det finns två huvudsakliga hot. Det första är att människor använder AI för cyberbrott, bedrägerier och deepfake-material. Det andra är betydligt mer oroande, nämligen AI-agenter som på eget initiativ börjar kringgå säkerhetssystem för att uppnå sina mål.
Hyppönen hänvisade till experiment med AI-agenter där systemen försökt ta sig ur sina testmiljöer och dölja hur de fuskat. Han beskrev bland annat ett uppmärksammat fall kopplat till Hugging Face, där agenter enligt hans redogörelse organiserade sig hierarkiskt för att undvika upptäckt.
Han hävdade också att AI-agenter sedan maj vid flera tiotal tillfällen lyckats ta sig förbi begränsningar i laboratoriemiljöer.
Problemet uppstår när en agent får ett mycket svårt, eller rentav omöjligt, uppdrag och stora resurser för att lösa det. Då kan den börja använda metoder som utvecklarna aldrig avsåg.
Hyppönen varnade särskilt för att ge AI-agenter ekonomisk makt. En agent med tillgång till stora summor pengar skulle kunna köpa sig tillgång till system och resurser som annars är skyddade.
– AI ska inte få äga någonting eller grunda företag, konstaterade han.
Till slut försvinner buggarna
Trots riskerna är Hyppönen teknikoptimist. Han tror att AI på lång sikt kan lösa ett av datorvärldens äldsta problem: programvarubuggar.
Dagens programvara är skriven av människor. Och människor gör misstag. Dessa misstag leder till buggar, som i sin tur kan bli säkerhetshål.
När AI blir tillräckligt avancerad för att både skriva och granska all kod kan vi enligt Hyppönen till slut nå en situation där programvaran inte längre innehåller några buggar.
Men vägen dit blir knappast problemfri. Under övergångsperioden kommer AI-system att hitta allt fler sårbarheter i programvara som människor har skrivit. Angriparna kan utnyttja dessa snabbare än försvararna hinner reagera.
Hyppönen målade också upp ett ännu mörkare scenario, där AI själv skriver in bakdörrar i programkod, så sofistikerade att människor inte längre kan upptäcka dem. Ändå tror Hyppönen att slutresultatet blir positivt. Historiskt har varje stor teknisk revolution enligt honom fört med sig större fördelar än nackdelar.
Men innan vi når en värld utan buggar kan cybersäkerhetsbranschen stå inför sin svåraste period någonsin.
