GOD ELLER OND FORSKNING –

AI och nanoteknik

Riskerna med artificiell intelligens, nanoteknik och syntetisk biologi är enorma. Det menar Olle Häggström, professor i matematisk statistik på Chalmers, som är aktuell med boken “Here Be Dragons: Science, Technology and the Future of Humanity”.

En hel del av den kunskap som utvecklas just nu kan mycket väl leda till mänsklighetens undergång inom 100 år, om det vill sig illa. Därför måste dagens forskare ta ansvar för vad deras resultat kan användas till i samhället. Det menar Olle Häggström, som främst varnar för forskningsområden som AI, nanoteknik och syntetisk biologi.

Olle Häggström varnar för riskerna med Singulariteten.

När det gäller AI handlar de mest dramatiska riskerna om den så kallade Singulariteten. Det är ett tänkt läge i framtiden där maskinerna blir mer intelligenta än människorna och de kommer över en gräns där de själva kan börja förstärka sin egen intelligens. Då skulle de kunna vända sig mot människorna, exempelvis på grund av en slags programmeringsmissar.

På frågan om det redan finns något område där man idag kan slå fast att riskerna är för stora för att det ska vara försvarbart att fortsätta forskningen svarar Olle Häggström:

– Ja, jag vill nog mena att utvecklingen av AI-teknologi för militära drönare och andra vapen är ett sådant område. Den forskningen borde beläggas med ett internationellt embargo.

– Argumentet om att tekniken inte är god eller ond i sig dyker ofta upp. Just det argumentet funkar ofta jättebra som one-liner, men tänker man efter är det katastrofalt dumt, säger han.

Redan för åtta-tio år började han fundera i den banor som han nu har satt på pränt.

Olle Häggström framhåller i förordet att stora delar av boken egentligen ligger utanför hans egen expertis, som är matematisk statistik.

– Jag har två saker att säga till mitt försvar. För det första har jag ansträngt mig hårt för att respektera expertisen hos dem som vet mer än jag om de olika ämnena. För det andra är ämnet för boken så mångfacetterat och interdisciplinärt att vem som helst som skulle ta sig an ämnet skulle finna sig vara ickeexpert på det mesta av den.

Han kände att detta var en bok som behövde skrivas.

– Och då måste någon skriva den, och då kunde det lika gärna vara jag.

Boken Here Be Dragons: Science, Technology and the Future of Humanity gavs ut av förlaget Oxford University Press i slutet av januari.

På torsdag presenterar Olle Häggström sin bok i Göteborg och på måndag i nästa vecka i Stockholm. Här kan du läsa mer om Göteborgs(länk)- och Stockholmseventet (länk).