Porträtterad i Morgenbladet

Norska Morgenbladet slog igår på stort med en artikel om mig som spänner över sex hela tidningssidor. Rubriken är "KI-sellskapene spiller russisk rulett med menneskeheten. Vi må bremse". Dessvärre ligger artikeln bakom betalvägg, och jag hade helst velat dela texten i sin helhet här på bloggen, man jag bör nog inte bita den hand som föder mig i uppmärksamhetsekonomin, och jag nöjer mig därför med att återge några inledande stycken:

Vi nærmer oss adressen vi har fått oppgitt et sted midt i ingenmannsland i Åmål kommune, og mens vi kjører bortover grusveiene i den svenske løvskogen, så fint isprengt gule og røde toner, tenker vi på en liten science fiction-roman som Hannes Alfvén, nobelprisvinner i fysikk, utga i 1966 under pseudonymet Olof Johannesson: Sagan om den stora datamaskinen.

Romanen har form av en historiebok som er ført i pennen av en historiker i fjern fremtid, som vi ganske snart mistenker er en datamaskin:

«Forskjellen mellom ape og menneske er jo liten sammenlignet med forskjellen mellom mennesket og en moderne datamaskin. Likevel må vi nok betrakte menneskets tilblivelse som en av de virkelig viktige hendelsene i den historiske utviklingen. Det var nemlig bare gjennom mennesket at datamaskinene kunne oppstå.»

Her i vår egen tidslinje, i året 2026, har vi på sett og vis allerede underkastet oss. Vi følger slavisk anvisningene fra damen i mobiltelefonen, det er lenge siden vi mistet evnen til å navigere ved hjelp av skilt og veibok. Det har gjort at vi er litt sent ute. Kanskje i dobbelt forstand, for den siste tiden har science fiction-aktige forestillinger om at kunstig intelligens snart kan drepe alle mennesker nådd frem til både NRKs Debatten og toppen av FN-systemet. Det kan tenne en gnist av frykt og tvil i noen og enhver. Skulle vi ha tatt advarslene fra slike som matematikeren og fremtidsforskeren Olle Häggström mer alvorlig? Oppsøkt ham og lyttet?

Det er nemlig få personer i Skandinavia som har befattet seg med trusselen fra kunstig intelligens like lenge, eller like intenst, som Olle Häggström.

Dessuten: Ikke mange kjenner ideene som har formet både håpet om og frykten for overmenneskelig kunstig intelligens så inngående som ham. I over et tiår har nemlig Häggström vært en del av en lenge ganske obskur akademisk subkultur av teknologer, transhumanister, radikale filosofer og effektive altruister som på mange måter har utformet fremtidsvisjonene som nå dominerer samtalen om KI.

I årevis har de prøvd å forberede oss på at vi kan få datasystemer som er bedre enn mennesket til alt, det som kalles superintelligens, og de har filosofert om hva det vil bety – både på godt og på vondt. Vippepunktet, har de forklart, kommer gjerne når maskinene begynner å forbedre seg selv uten å få hjelp av mennesker. Da inntreffer singulariteten, tidspunktet hvor det ikke er noen vei tilbake. Og skal vi tro hva folk i selskaper som Anthropic, Google Deepmind og Open AI selv hevder, er de nå uhyggelig nære å sette denne karusellen i sving.

En fersk forhåndspublisert artikkel med verdensberømte KI-forskere på forfatterlisten sier nå det samme. Foreløpig evidens tyder på at en intelligenseksplosjon faktisk kan skje, konkluderer forskerne. Og det snart. Det blir i så fall «den mest skjellsettende teknologiske utviklingen i menneskehetens historie»: Vi kan få overmenneskelig KI som i ytterste konsekvens, kan lede til at «menneskeheten marginaliseres eller utryddes».

Men nå er i alle fall vi endelig her, i Åmål, med et utvalg motforestillinger i bagasjen og med forsett om å få bedre innsikt i hvordan de som ofte kalles «doomere» tenker. Hva ligger egentlig til grunn for de skremmende anslagene om sjansen for undergang? Hva er det som skiller dem fra forskerne som fortsatt avviser det hele som spekulativ alarmisme? I det vi kjører inn på tunet, kommer den snart 60 år gamle Häggström ut på trammen foran det røde huset og vinker. Han er professor i matematikk ved Chalmers Tekniska Högskola i Göteborg, men ligner der han står, med bustete hår i det grønne, mest på en bonde. I hagen er det flere nyplantede epletrær.

Å gå inn huset hans er som å bli sugd gjennom en tidsportal. Men ikke til fremtiden! Kjøkkenet, også det rødmalt, må være fra 1940-tallet, men er i perfekt stand. Vi serveres marmorkaker og svart kaffe. Her er det sannelig ikke lett å leve seg inn i at det er «Crunch Time for humanity», som Häggström har valgt å kalle sin egen Substack-blogg. Den ble opprettet i et forsøk på å bidra til den skal ende godt, den «ekstremt røffe ferden» han tror vi står foran de neste årene.

Läs hela artikeln här!