Vi får väl se?

Bland alla omnämnanden i pressen den senaste månaden i samband med mitt undertecknande av Future of Life Institutes öppna brev och min allmänna frispråkighet i frågor om AI-risk, vill jag här bara nämna några korta rader i Sydsvenska Dagbladet av deras journalist Mattias Oscarsson. Så här skriver han:

”AI kan leda till slutet för mänskligheten”, säger Olle Häggström, matematikprofessor vid Chalmers. ”Artificiell intelligens innebär en större förändring än eld eller elektricitet”, säger Googles vd Sundar Pichai.

Vi får väl se.

Det här var enligt min mening inte helt bra.

Citatet jag tillskrivs är korrekt återgivet och inte på minsta vis illvilligt trunkerat eller så, så detta har jag inget att invända emot. Ej heller har jag något särskilt emot att omnämnas i samma stycke som Sundar Pichai.

Nej, det jag vänder mig emot är de till synes oskyldiga orden ”Vi får väl se”. De signalerar en blott alltför vanligt förekommande passivitet, där framtiden uppfattas som något vi blott har att invänta.¹ Men framtiden är inte ristad i sten, utan beror på vad vi väljer att göra idag. När jag säger att ”AI kan leda till slutet för mänskligheten” är det inte för skojs skull, eller för att informera om ett oundvikligt öde, utan för att mana till handling, så att vi tillsammans skall kunna förhindra att det scenario jag varnar för blir verklighet. Bland det viktigaste vi har att göra nu är att bygga en så bred opinion som möjligt kring ståndpunkten att de risker som exempelvis Google och OpenAI tar med allas vår framtid i potten är oacceptabla (en ståndpunkt jag ägnat mitt mesta krut här på bloggen de senaste månaderna åt att argumentera för), för att på så vis antingen påverka politiska makthavare att via reglering eller på annat vis vidta åtgärder mot dessa AI-bolag, eller sätta moralisk press på bolagen själva, deras chefer och deras AI-utvecklare att börja agera mer ansvarsfullt. Detta arbete har Mattias Oscarsson, som journalist på en av våra främsta landsortstidningar, goda förutsättningar att medverka i, istället för att passivt avvakta utvecklingen och vänta på att få se hur det hela slutar.²

Fotnoter

1) Utöver detta finns med utsagan ”Vi får väl se” ett annat problem, nämligen att vi kanske inte alls får se. Exempelvis är det fullt möjligt att den slutliga AI-apokalypsen går så snabbt att vi inte hinner märka vad som sker.

2) Måhända är jag sträng i överkant när jag här anklagar Oscarsson för passivitet - den artikel jag citerar är ju i själva verket en utmärkt kritisk diskussion av vissa aspekter av AI-utvecklingen. Så ok, helt passiv är han inte. Men läs gärna denna bloggpost som en försiktig påminnelse till honom om att det jämte de viktiga frågorna om bildkonstgenererande AI och dess arbetsmarknadseffekter finns den möjligen ännu viktigare frågan om vikten av att AI inte utplånar mänskligheten.