Livlig debatt om AI-risk i Opulens

Sedan i januari har i kulturtidskriften Opulens en livlig debatt pågått om AI-risk. Det började med två krönikor den 7/1 och 14/1 av Nette Wermeld Enström som jag fann myckt klokt resonerade. I den andra tog hon avstamp i den franske filosofen Jean-Paul Sartres existentialism och idéer kring mänsklig agens och vårt predikament att själva behöva skapa mening i våra liv, en ingång jag fann intressant och själv ville spinna vidare på, vilket jag gjorde i min text den 19/1. Några veckor senare, den 10/2, fick jag svar från Patrik Stigsson som ansåg att mina farhågor om AI-katastrof var överdrivna, och framkastade en hypotes om att om vi bara låter AI utvecklas fritt så kanske den av sig själv skulle bli en superintelligent och godhjärtad miljövän. Naiviteten i detta förslag påvisar jag pedagogiskt i det svar som publicerades idag, den 16/2. Här är dessa fem inlägg, vilka med fördel kan läsas i kronologisk ordning:

• Nette Wermeld Enström: AI-utvecklare räds sina egna verk, 7 januari 2026.
• Nette Wermeld Enström: AI – Är vi beredda att ta ansvar för utvecklingen?, 14 januari 2026.
• Olle Häggström: AI-utvecklingen måste stävjas snarast möjligt, 19 januari 2026. (Finns även i engelskspråkig översättning här.)
• Patrik Stigsson: När planetens härskare möter sin förmyndare – en replik, 10 februari 2026.
• Olle Häggström: Är AI ett hot? Ja, dags att dra i nödbromsen, 16 februari 2026.

Det är väl inte omöjligt att det kommer fler inlägg och repliker i denna debatt, och min avsikt är att i så fall uppdatera denna bloggpost med nya länkar.

* * *

Edit 23 februari 2026: Ännu en replik har idag tillförts debatten:

• Patrik Stigsson: Är AI ett hot? Vi behöver en vision – inte restriktioner, 23 februari 2026.

Här uppvisar Stigsson stor iver att fabulera fritt i blommiga metaforer, men knappt något intresse alls för att sätta sig in i det relevanta forskningsläget rörande AI-risk. Ett typexempel är hur han säger sig "utgå från ett ifrågasättande av om [modeller som ortogonalitet, instrumentell konvergens och koherent extrapolerad vilja] har tillräcklig empirisk och filosofisk bärkraft för att legitimera långtgående politiska ingrepp", vilket såklart är en ståndpunkt man legitimt kan ha, men så länge han inte gjort arbetet att först sätta sig in i detta teoribygge och sedan förklara för oss andra vilka sprickor i dess bärkraft han tycker sig ha funnit, så blir hans ifrågasättande ointressant.

Så långt går hans ointresse för att läsa att han inte tycks ha gjort mer än att på sin höjd skumma själva den text han replikerar på, något vi exempelvis kan se i hans påstående att "Häggströms grundantagande är att låg sannolikhet i kombination med extrem konsekvens kräver maximal försiktighet", vilket är rent hittepå från Stigssons sida, eftersom jag ingenstans i min text den 16/2 säger att de katastrofscenarier jag varnar för har "låg sannolikhet". Tvärtom påpekar jag att det mesta "i själva verket tyder [...] på att om vi skapar en superintelligent AI utan att med hjälp av AI alignment först ha fått någorlunda styrsel på vad för slags värld den vill verka för, så kommer både mänskligheten och hela biosfären att gå förlorade". Den bristande diskussionsdisciplin Stigsson uppvisar genom sin närmast totala obalans mellan viljan att läsa och lusten att skriva gör att jag finner det utsiktslöst att argumentera vidare med honom, och jag avstår därför från ytterligare replik i denna debatt.

* * *

Edit 2 mars 2026: Nette Wermeld Enström har idag svarat Stigsson:

• Nette Wermeld Enström: Visionerna måste vara verklighetsförankrade, 2 mars 2026.

Mycket bra!