AI-nestor vill bromsa AI

Geoffrey Hinton – en nestor inom maskininlärning – lämnar sitt jobb på Google för att kunna tala mer fritt kring sin oro för risker med AI.

– Jag lämnade så att jag kunde tala om farorna med AI utan att behöva grubbla över vilken påverkan det skulle ha på Google, twittrar Geoff Hinton.

Han meddelade sitt avhopp till Google under april och offentliggjorde det i en intervju i tidningen New York Times den 1 maj.

Efter att Open AI släppte Chat GPT har han sett att det uppstått en intensiv tävling mellan stora företag. Han oroar sig för att försiktigheten sätts åt sidan i ivern att produktifiera tekniken.

Han tycker att hans tidigare arbetsgivare Google hanterade tekniken ansvarsfullt under flera år. Men efter att Microsoft adderade en AI-chattbott till sin sökmotor Bing annonserade Google att det tänkte göra detsamma.

– Teknikgiganterna är låsta i en tävling som kan bli omöjlig att stoppa, säger han till New York Times.

Han tror konkurrensen kommer att resultera i en allt mer avancerad AI, som är en kraftfull teknik och därmed bär på risker.

– Jämför hur det såg ut för fem år sedan med idag. Ta samma skillnad och lägg den fem år fram i tiden – det skrämmer.

Redan med dagens AI-teknik kommer vanliga människor snart att se Internet översvämmas av fejkade bilder, fejkad video och fejkad text.

– Det kommer inte att gå att avgöra vad som är sant längre.

Han tror att utvecklingen kan vara omöjlig att stoppa. Det går inte att övervaka utveckling av AI på samma sätt som det går att övervaka utveckling av kärnvapen.

– Det bästa hoppet är att världens ledande forskare samarbetar för att hitta sätt att kontrollera tekniken.

– Jag tycker inte att det här ska skalas upp mer innan de har förstått om de kan ta kontrollen över det eller inte.

Med det uttalandet ser han ut att placera sig på samma sida som uppropet om att stoppa utvecklingen av mer avancerade nät än Open AI:s GPT-4. Uppropet publicerades för en månad sedan. Bland undertecknarna fanns kollegan Yoshua Bengio, som år 2018 tillsammans med Geoffrey Hinton var en av tre som 2018 fick Turingpriset, datavetenskapens nobelpris, inom området maskininlärning.

Den tredje AI-Turingpristagaren, Yann Lecun, som studerat för Geoff Hinton, har gått ut tydligt mot upproret. Han argumenterar att forskning inte ska hindras, utan att det som ska regleras snarare är produkter och tjänster, som det fungerar inom luftfart och annan säkerhetskritisk verksamhet.

Intervjun med Geoff Hinton i New York Times ligger bakom en betalvägg. Men Geoff Hintons oro för AI är välkänd.

CBS har en färsk öppen intervju med Geoff Hinton där han bland annat berättar om de möjligheter och risker han ser. Han kan tänka sig att AI kommer att visa sig vara en lika stor uppfinning som elektriciteten eller kanske hjulet.

Ett av hans bekymmer sedan flera år är autonoma vapen –”mördarrobotar”. Han vet att USA utvecklar sådana och han har försökt övertala USA att tacka nej till frestelsen. Vapen som kan fatta beslut autonomt på slagfältet kommer att vara effektivare och han påpekar att Putin inte skulle dra sig för att sätta in dem i strid.

CBS frågar honom om AI-tekniken en dag kan komma att leda till att mänskligheten utrotas, och han säger sig inte vara främmande för möjligheten.

För de flesta AI-forskare – inklusive Geoff Hinton – har den senaste tidens utveckling kommit som en stor överraskning.

– Att de här grejorna skulle kunna bli smartare än människor – det var bara ett fåtal som trodde det. De flesta trodde att det var helt fel. Jag trodde det var helt fel. Jag trodde det skulle ligga 30 till 50 år bort i tiden. Det tror jag förstås inte längre.

I kommentarer under intervjun i New York Times beskriver läsare Hinton som en Oppenheimer – atombombens fader – som skapat ett Frankensteins monster och nu hoppar av medan mänskligheten får dras med hans monster i generationer.

Geoffrey Hinton var med när tekniken bakom den nya vågen av maskininlärning baserad på artificiella neuronnät föddes och är fortfarande aktiv forskare. Han är bland annat tidigare handledare av Ilya Sutskever, utvecklingschef på Open AI som startade den senaste AI-vågen när det släppte konversationsbotten Chat GPT.