De omtalade stora AI-språkmodellerna (LLM, large language models) ser ut att innebära en stor utmaning för alla som jobbar med cybersäkerhet.

Iisko Lappalainen

– Jag tycker att när det gäller cybersäkerhet så bör vi vara rädda för AI. Det kommer att bli ett stort problem. Du kan använda den underliggande tekniken, maskininlärning, för att hacka system.

Det sade Iisko Lappalainen på Montavista i en presentation han höll under konferensdelen av Embedded World.

– Jag ser ett hot på nära håll, att AI:ar som GPT4 kan läras att tänka som angripare. De kan snabbt utnyttja sårbarheter och extrapolera fram nya varianter av existerande attacker.

– Jag är säker på att någon kommer att göra det förr eller senare, säger Iisko Lappalainen.

Vissa potentiella möjligheter att använda Chat GPT och andra språkmodeller för cyberattacker har redan uppmärksammats, som sociala attacker som att lura sig till access genom att härma en annan person i text, röst och bild.

– Men AI kommer att bli generellt säkerhetsproblem, tror jag. Man kan använda samma typ av teknik som Chat GPT är baserad på för att bygga andra sorters AI som exempelvis är direkt konstruerade för att hitta sårbarheter i servrar.

Artikeln är tidigare publicerad i aprilnumret av magasinet Elektroniktidningen. Prenumerera kostnadsfritt!

GPT-maskinerna kan skriva programkod. Redan det är imponerande. Men de är dessutom väldigt produktiva vilket gör att det går snabbt att automatiskt skapa och genomföra anpas-sade cyberattacker.

– Du kan exempelvis visa dem en typ av sårbarhet, och då kan de på ett smart sätt skapa nya varianter av den, så kallad fuzzing, och mycket snabbt attackera nya system.

Han visar upp en av sina dialoger med Chat GPT. De konverserar om vilka valmöjligheter som står till buds för att hacka en sajt. Chat GPT producerar utan att protestera kod som kan användas för attacker.

Och det är bara början. Attackerna som Chat GPT visar för Iisko Lappalainen är kända sedan tidigare.

– Du kan hitta samma exempel genom att googla.

– Men samma teknik som Chat GPT är baserad på, kommer även att kunna användas för att bygga en AI som är specialiserad på till exempel just de verktyg som finns för Linux.

– Den skulle kunna utvärdera system efter deras unika sårbarheter. Sedan skulle den kunna skapa mutationer av existerande sårbarheter som passar för just den sajten, testa dem, skapa nya mutationer – och sedan repetera processen.

Maskinen skulle på egen hand kommunicera direkt med Internet istället för att som Chat GPT växla repliker med en användare.

En knapp månad efter vårt samtal, veckan innan tryckning av tidningen, presenteras det öppna projektet Auto GPT som använder GPT4 som verktyg för att uppnå mål – helt på egen hand. Det är just det arbetssätt som Iisko Lappalainen varnar för.