Okunnigt och yvigt i DN om AI

Tack alla vänner (ett halvdussin vid det här laget) som oberoende av varandra hört av sig för att uppmärksamma mig på vilken osedvanligt usel text om AI som publicerades på DN Debatt i söndags. Yep, jag vet. Och ni har alldeles rätt om dess uselhet.¹

Debattartikeln är författad av religionsfilosofen Johan Eddebo, som ansluter sig till en lång tradition av tänkare som med olika argument hävdar att AI inte kan tänka. Det vi ser idag hos GPT-4 och annan avancerad AI är, enligt denna tradition, blott ett slags fejk-tänk.

Gemensamt för snart sagt alla dessa argument - och det kan exempelvis handla om att GPT-4 ibland säger korkade saker, att den bara kan rapportera om fakta den sett under träning, att den är uppbyggd av stendumma komponenter, att den saknar en inre modell av världen, att den är oförmögen till kreativitet, etc, etc² - är att om vi tar dem på allvar så kan de, med minimala modifieringar, appliceras även på oss människor. Så snart denna insikt är gjord har vi stark anledning att misstänka att argumentet antingen är felaktigt eller inbegriper ett intelligensbegrepp så krävande att påståendet om AI:s bristande tankeförmåga blir ointressant. En halvsystematisk genomgång av detta slags argument och hur enkelt de på detta vis kan vederläggas är ämnet för min senaste artikel, rubricerad Are Large Language Models Intelligent? Are Humans?, vilken föregickas av ett inlägg här på bloggen med samma rubrik.

Väldigt vanligt i den tradition Eddebo ansluter sig till är också att anklaga oss som har en mindre inskränkt och antropo-chauvinistisk syn på intelligens för vidskepelse och tro på övernaturligheter. Så t.ex. talar min Chalmerskollega Devdatt Dubhashi i ett inlägg i våras om "fantasi" och "magiskt tänkande", och Marc Andreessen i ett av sommarens mest omtalade inlägg i AI-debatten om "vidskepligt handviftande". Eddebo talar redan i rubriken om att "det självständiga spöket i maskinen är en farlig myt", och släpper sedan alla hämningar med sitt ryande om "tomtar, troll, mirakel och andemakter".³

Jag finner en lite genant ironi i hojtandet med detta slags skällsord från Eddebo och hans meningsfränder. Deras argumentation vilar ju genomgående på idén att mänsklig intelligens skulle inbegripa något unikt som är utom räckhåll för maskinerna. Vad detta unika består i visar sig genomgående vara tämligen undflyende – så till den grad att det nästan verkar handla om något övernaturligt. (Detta i skarp kontrast mot oss som ser intelligens som frukten av ändamålsenlig informationsbehandling, utan tillstymmelse till behov av övernaturligheter.) På så vis skulle dessa anklagelser om tro på det övernaturliga passa betydligt bättre om det riktades mot Eddebo själv, och hans anhang.

Fotnoter

1) Torbjörn Tännsjös svar dagen efter är bättre, men trots att han omtalar Eddebos artikel med träffande ord som "förvirrad" och "tankeröra" så tycker jag inte att han fullt ut lyckas fånga dess undermålighet.

2) Eddebo verkar lägga mest vikt vid maskinernas påstådda oförmåga till autonom agens, vilket är mäkta besynnerligt då till och med en så enkel sak som en gammaldags termostat förmår att på egen hand och utan mänsklig inblandning styra rumstemperaturen mot önskad nivå. (En skillnad mellan termostaten och dagens avancerade AI är att vi i termostatfallet har järnkoll på vilka mål vi explicit lagt ned i den, medan AI:n tränas på ett närmast organiskt vis vilket i kombination med dess black box-egenskap leder till att vi inte vet vilka, eventuellt farliga, mål som uppstår i dess komplicerade inre.)

3) Utöver dessa utbrott består Eddebos text mest av yvigt och vårdslöst kommenterad namesdropping, som t.ex. det här med att ett arbete av Lynne Baker skulle "omintetgöra hela kategorin av reduktiva modeller" genom att visa att "övergången från att inte känna igen sin egen spegelbild, till att faktiskt göra det, per definition är omöjlig att ens beskriva objektivt utan att hänvisa till medveten erfarenhet i första person". Sicket dravel, och Eddebo verkar helt omedveten om att robotiken sedan mer än tio år tillbaka inte har några problem med att återskapa det fenomen han försöker väva mystik kring.

Meningsutbyte med Ulf Danielsson och Torbjörn Tännsjö i DN om AI-risk

Med fysikern Ulf Danielsson har jag, som trogna läsare av denna blogg redan vet, haft många spännande diskussioner genom åren (se t.ex. här och här). Utifrån en gemensam uppslutning kring en naturvetenskaplig världsbild har det gång på gång visat sig att våra respektive intuitioner likväl går isär när det gäller kniviga frågor om exempelvis metafysik, begreppet information, medvetande och AI.

I dagarna har vi på Dagens Nyheters kultursidor haft en diskussion om AI, och mer specifikt om AI-risk. Här är våra inlägg:

• Ulf Danielsson: Släpp förmänskligandet av tekniken och se AI för vad det är, DN, 2 maj 2023.
• Olle Häggström: Vad händer om en överlägsen intelligens är likgiltig inför andra varelser?, DN, 9 maj 2023.
• Ulf Danielsson: Dags att jaga bort demonerna i debatten om AI och framtiden, DN, 11 maj 2023.

Istället för att grotta ned mig i Ulfs slutreplik och exempelvis gå i polemik mot hans inte-så-subtila antydan att jag skulle ha föreställningar om att "de maskiner vi konstruerar på ett mystiskt sätt blir besatta av onda andar", nöjer jag mig här med ett par klargöranden om mitt bidrag den 9 maj.

För det första vill jag i efterhand beklaga att jag lät mig provoceras av Ulf att ge mig in i frågan den eventuella möjligheten till AI-medvetande. Jag borde ha undvikit det, eftersom alltför mycket kraft lagd på den frågan kan ge den oinitierade läsaren intrycket att all eventuell risk för AI-apokalyps förutsätter att AI uppnår medvetande, något som emellertid inte är fallet, eftersom sådan AI-risk är en fråga om vad AI:n gör medan medvetandet är en fråga om huruvida den har subjektiva upplevelser - två kategorier som inte bör förväxlas. Stuart Russell förklarar saken koncist i sin bok Human Compatible: Artificial Intelligence and the Problem of Control:

Suppose I give you a program and ask, `Does this present a threat to humanity?'. You analyze the code and indeed, when run, the code will form and carry out a plan whose result is the destruction of the human race, just as a chess program will form and carry out a plan whose result will be the defeat of any human who faces it. Now suppose I tell you that the code, when run, also creates a form of machine consciousness. Will that change your predictions? Not at all. It makes absolutely no difference.

För det andra har jag ett sensationellt avslöjande: min DN-text är till allra största delen författad tillsammans med filosofen Torbjörn Tännsjö!

Ändå har den publicerade texten enbart mig som undertecknare. Hur kunde det bli så konstigt? Well, när DN Kultur tog emot texten tackade de glatt ja, men med villkoret att författarlistan bara skulle bestå av ett enda namn, vilket de motiverade med att det annars skulle kunna uppstå förvirring hos läsare om vem som egentligen stod för vad i texten. Ett konstigt och (kände jag först) oacceptabelt villkor, men sedan DN-redaktionen visat sig hårdnackad i frågan samtidigt som Torbjörn generöst erbjudit sig att stiga åt sidan gick jag till slut med på att skriva om texten i första person singularis och göra en lite större omskrivning av det avslutande stycket.

Lite synd, eftersom jag nu får fortsätta vänta på äran att även officiellt stå som medförfattare med Torbjörn på någon text, och då jag tycker att ursprungsversionens avslutning var betydligt spänstigare:

Vad gäller sådan AI och utsikten att den kan ta över världen har författarna till denna artikel olika syn på saken. Den ene av oss (Tännsjö) ser det som hoppfullt. Det vore av godo om tänkande maskiner ersatte oss människor, gjorde bättre moraliska bedömningar än vi, levde i samverkan och uppnådde lycka i livet. Den andre (Häggström) är här mer bekymrad. Vad händer om en överlägsen intelligens rätt och slätt är likgiltig för andra varelsers väl och ve? Tänk om den tömmer atmosfären på syre som led i något experiment? Då är det ute med oss. I sin ordning säger Tännsjö. Beklagligt säger Häggström. Men vem man än håller med, kan man inte rimligen vara likgiltig för frågeställningen.

Midvinterbetraktelse över filosofi, utilitarism och det akademiska samtalet

Moralfilosofi är ett viktigt kunskapsområde, och jag gillar när det uppmärksammas i den allmänna debatten. Därför borde jag rimligtvis välkomna att filosofistudenten och kulturskribenten Lapo Lappin häromdagen fick en artikel i ämnet publicerad i tidskriften Kvartal. Ändå vill jag meddela vissa reservationer rörande Lappins text, vilken bär den braskande rubriken Statens etiska råd bjöd in förespråkare av spädbarnsmord. I tur och ordning:

1. Artikeln tar formen av en rapport från en akademisk tillställning i Stockholm veckan innan, nämligen Statens medicinsk-etiska råds etikpristagarseminarium, och skjuter in sig på två av deltagarna, nämligen den välkände svenske moralfilosofen Torbjörn Tännsjö (som i egenskap av pristagare stod i centrum för mötet), och hans ännu mer kände australiensiske kollega Peter Singer. Lappins moralfilosofiska grundsyn skiljer sig kraftigt från Tännsjös och Singers, och det är givetvis helt i sin ordning, men istället för att koncentrera sig på vilka argument dessa förde fram vid seminariet lägger han så stor emfas vid vilka förgripligheter de yttrat i andra sammanhang att hans text blir till en del av den kancelleringskultur i vilken meningsmotståndare skall tystas.^1,2 Han uttrycker stor upprördhet över att Tännsjö och Singer erbjuds plattform av Statens medicinsk-etiska råd (SMER) att framföra sina ståndpunkter, trots att dessa "torde vara välkända för medlemmarna" i detta råd.³ Särskilt anstötligt verkar vara att Singer "fick [...] varma applåder av de församlade etikerna". Artikeln kan knappast förstås som annat än ett försök av Lappin att deplattformera Tännsjö och Singer, vilket enligt min mening är fel sätt att hantera akademiska meningsmotsättningar: bättre än att försöka tysta sina meningsmotståndare är att diskutera med dem.

2. Både Tännsjö och Singer har förvisso uttalat en och annan moraliskt svårsmält tanke, som exempelvis Tännsjös funderingar kring klimatdiktatur, och den singerska idé om postnatal abort som åsyftas i rubriken till Lappins artikel. Jag vill dock mena att det är viktigt att ha en levande och förutsättningslös akademisk diskussion som ifrågasätter de tabun och går utanför det Overtonfönster som för närvarande råder. Bland de olika akademiska discipliner som finns är det just filosofin som oftast varit bäst på detta gränsöverskridande och kritiska tankearbete; Tännsjö och Singer är föredömliga utövare av detta arbete, och jag hoppas se dem fortsätta i många år till.

3. Lappin avvisar den moralfilosofiska inriktning som benämns utilitarism och som både Tännsjö och Singer bekänner sig till. Och fastän jag för egen del känner en försiktig dragning till utilitaristiskt tänkande så kan jag förstå argumenten emot. När motståndet mot utilitarism blir så dogmatisk att man avvisar varje kvantiativ konsekvensetisk avvägning i varje läge blir det dock snudd på absurt, men det är här Lappin hamnar när han gör (det antytt skandalösa) avslöjandet att en av Tännsjös tidigare elever, "Christian Munthe, professor i praktisk filosofi på Göteborgs universitet samt sakkunnig i flera etiska råd, erkände att han förlitar sig flitigt på utilitaristiska resonemang", och när han mot slutet av sin artikel ansluter sig till ståndpunkten att "spridningen av ett utilitaristisk tankesätt [...] bör hindras oavsett vad".⁴

Jag har här inte alls berört själva ämnet för SMER-mötet, nämligen prioriteringar inom vården. Detta förefaller sekundärt även för Lappin vid sidan av hans allmänna angrepp på sina måltavlor Tännsjö och Singer, men han ställer de utilitaristiska principer de förordar mot den så kallade människovärdesprincipen. I ett svar till Lappin i samma tidskrift problematiserar Tännsjö på ett belysande vis begreppet människovärde. Jag vill också rekommendera Christer Sturmarks vittförgrenade och mycket intressanta samtal med Tännsjö och Singer i Fri Tanke-podden, inspelat i nära anslutning till SMER-mötet.

EDIT 22 december: En videoupptagning av SMER-mötet finns nu på YouTube.

Fotnoter

1) Jag känner till en del om kancelleringskulturen, bland annat genom att jag en gång i tiden var en del av den.

2) Lyssna gärna till det senaste avsnittet av Vetenskapligt med Häggström och Livh i vilket vi för ett djuplodande samtal med datalogen och vännen Thore Husfeldt om den skadliga kancelleringskulturen och besläktade frågor om akademisk frihet.

3) Till Lappins försvar skall dock sägas att han så sent som förra året bjöd in Tännsjö som gäst i sin egen podcast och bidrog till ett intressant samtal kring dennes moralfilosofiska ståndpunkter.

4) Frågan är såklart hur bokstavligt "oavsett vad" är tänkt att läsas. Jag skulle knappast tro att Lappin vore beredd att ta till (låt oss säga) spädbarnsmord eller krig om det skulle behövas för att hejda de utilitaristiska tankefigurernas utbredning. Deplatformering av en och annan universitetsprofessor verkar däremot ligga inom ramen för de medel han anser helgas av detta angelägna ändamål.

Tännsjös självbiografi

Det mesta som Torbjörn Tännsjö skriver är läsvärt, men jag vill lägga ett extra gott ord för hans nyutkomna självbiografi Vänsterdocenten.¹ Inledningsvis förklarar han sin uppskattning för intellektuella biografier, och den här boken är verkligen en sådan. Det är i första hand de idéer som sysselsatt honom som står i fokus, inte hans privatliv; av boken framgår att han gift sig mer än en gång och fått mer än två barn, men det är händelser som skymtar förbi i förbifarten, och i ingetdera fallen tycker jag mig ha kunnat utläsa något klart besked om det exakta antalet. Idéerna som behandlas faller mestadels i endera av två kategorier (även om överlappet är icketrivialt), nämligen de som rör hans profesionella gärning som akademisk filosof, och de som rör hans engagemang i den svenska vänsterrörelsen.

Utan tvekan är det den första kategorin av idéer jag har lättast att begripa. Det är inte så att jag delar alla Tännsjös filosofiska ståndpunkter (den moraliska realism han vurmar för har jag nog aldrig omfattat, åtminstone inte i vuxen ålder), men han uttrycker och försvar dem med klarhet och skärpa. Vi får ta del av hur han tänkt kring frihet, yttrandefrihet och demokrati, vi får en rejäl dos utilitarism, liksom därtill en gnutta religionsfilosofi, en intressant djupdykning i ondskans natur, och en förklaring till hans 180-gradersomsvängning i frågan om personlig integritet och privatliv. Det är också med stor behållning som jag tar del av skildringarna av livet och verksamheten på Stockholms universitets filosofiska institution på 1970-talet, och boken blir till en för mig värdefull brygga mellan den tid som skildras i Svante Nordins Ingemar Hedenius-biografi (ytterst läsvärd även den!) och vår egen. Tongivande i den äldre generationen på den tiden var Anders Wedberg och Harald Ofstad. Den förre av dessa har något av idolstatus hos mig i kraft av sin filosofihistoria, och därför var det extra sorgligt att ta del av hur illa hans bana slutade, i samband med införandet av institutionsdemokrati på filosofiska institutionen:

Den personligen välsinnade och på många sätt tålmodige Anders Wedberg, bruten av [sjukdomssviter] men fortfarande i tjänst, inte bara som professor, utan olyckligtvis också som prefekt [...], klarade inte av att lära sig denna för honom okända umgängesform. Vad som för de flesta människor bara skulle ha varit en irriterande episod, blev för Wedberg en personlig katastrof. Han lät sig dras med i en absurd cirkus, med möten som kunde vara tolv timmar i sträck (jag satt själv ordförande vid ett sådant - det ogiltigförklarades senare) och JO-anmälningar som gav upphov till nya möten där man ändlöst diskuterade spetsfundiga frågor om vem som egentligen var prefekt en viss vecka under sist förlidna sommar.

Styrelsens majoritet ville driva igenom vissa smärre ändringar i organisationen av ämnet teoretisk filosofi, vilket skulle gynna icke disputerade lärare. [...] Wedberg motsatte sig förslaget bestämt. Majoriteten svarade med att söka formella fel i Wedbergs ämbetsutövning. Wedberg svarade med att skriftligen försvara sig. Enstaka företrädare för majoriteten producerade nya anklagelseskrifter. Ett kollektivt vanvett grep omkring sig. Högre instanser vid universitetet inträdde, Harald Ofstad och Lars Bergström övertog växelvis ansvaret för prefektsysslan, institutionens självstyrelse upphävdes, men den onda spiralen av anklagelser och motanklagelser bröts inte förrän Anders Wedberg avled. [s 198-199]

Denna och andra skildringar Tännsjö bjuder på av det konfliktfyllda akademiska livet under 1970-talet tjänar som en nyttig påminnelse för en sådan som mig, som har en lätt kverulantisk tendens att motsätta mig de nya vindar som blåser i universitetssverige och tycka (felaktigt) att allt var bättre förr.

Jämfört med den akademiska och filosofiska sidan av den tännsjöska idévärlden finner jag den vänsterpolitiska mer svårsmält. Troligen är det helt enkelt så att jag saknar den förkunskap om 68-rörelsens alla grupperingar och fraktioner som Tännsjö förutsätter att läsaren skall ha. Kanske hade det hjälpt om han inkluderat en ordlista med korta förklaringar till de grundläggande ismerna och vad som skiljer dem åt: socialism, kommunism, rådssocialism, marxism, trotskism, leninism, stalinism, maoism och det ena med det tredje. Jag saknar (åtminstone just nu) det tålamod som krävs för att utan ledsagare ta reda på allt detta: när jag läser om X-ismen att den uppstod som reaktion på en Y-ism som ansågs alltför starkt influerad av Z-ism, då sträcker jag uppgivet händerna i luften och tänker att det här är nog fan inte värt besväret, nog för att jag kan ställa upp på idéer om solidaritet och social rättvisa, men allt det här revolutionsromantiska snacket, var inte det mest bara dumheter?

Mot slutet av boken lättar den politiska dimman något, och det är med stort utbyte jag tar del av kapitlen om Tännsjös "skamliga resor" (hans egen kapitelrubrik, om hur han reste som representant för svensk akademi och svensk vänster till bland annat Nordkorea och DDR), och om arbetet med Vänsterpartiets nya idéprogram efter murens fall. Han avslutar boken med en utsökt cliffhanger inför vad som tydligen skall bli en andra del av självbiografin:

Det är sensommar, 1989. Jag står i begrepp att resa till Helsinfgors med två av mina barn, Josef och Olga. Telefonen ringer just innan vi ska ge oss av. Det är från Tidningarnas Telegrambyrå (TT). Har jag läst i tidningarna om Alf Svenssons utspel? Det har jag inte. Då får jag veta:

Alf Svensson, ledare för Kristdemokraterna, har krävt att du ska avsättas från din docentur vid Stockholms universitet. Har du någon kommentar?

Fotnot

1) Förutom att ha läst boken var jag även med vid boksläppet den 15 mars i år, då Tännsjö förde ett både intressant och trivsamt samtal om boken med Erik Helmerson. Det spelades in, och 48:05 in i videon ställer jag en publikfråga och får svar av både Tännsjö och Helmerson; möjligen kan en eller annan läsare inför speciellt Helmersons svar nicka och tänka att där minsann fick väl den där Häggström sig en välförtjänt läxa. Måhända får jag anledning att återkomma i frågan.

Ruin vs Tännsjö

I det senaste numret (nr 3/2016) av den kolorerade populärtidskriften Modern Filosofi finns ett belysande samtal mellan filosofiprofessorerna Hans Ruin (Södertörns högskola) och Torbjörn Tännsjö (Stockholms universitet). Samtalet handlar om ämnet moralfilosofi, om hur det bedrivs, och hur det bör bedrivas. Om det sistnämnda är Ruin och Tännsjö fundamentalt oense. Samtidigt är de frispråkiga: ingen av dem drar sig för att använda ordet anti-intellektualism för att beskriva den andres position.

Vanligtvis väntar man sig i konfrontationer av detta slag att kunna urskilja några korn av sanning och klokskap hos båda parter, och jag hade nog förväntat mig att behöva nyansera den bild av Ruin som jag gav uttryck för i en bloggkommentar i februari. Men icke. I den här diskussionen hamnar jag entydigt på Tännsjös sida.¹

Väldigt kortfattat är meningsmotsättningen denna: Torbjörn Tännsjö tror på värdet av filosofisk analys, såsom att bena ut begrepp och moraliska föreställningar i deras beståndsdelar, och renodla dessa i exempelvis trolleyologiska och andra tankeexperiment, för att på så vis försöka förstå vari grunden för våra oartikulerade moraliska intuitioner egentligen består, och om denna är riktig eller om vi behöver korrigera våra moraliska ställningstaganden. Hans Ruin ser all denna tankeverksamhet som meningslös, och förordar att vi håller oss till att läsa Aristoteles, Kant och andra gamla klassiker.

Jag har stor respekt för idéhistoria, men jag förstår inte varför ett intresse åt det hållet skulle behöva paras med det slags motstånd mot analys, rationalitet och framsteg som Ruin här uppvisar, och som jag uppriktigt talat finner chockerande. När jag ändå försöker förstå vad som kan tänkas driva honom till sådana bakåtsträvande ståndpunkter kommer jag inte längre än till misstanken att det handlar om ett desperat uttryck för akademisk revirstrid: att han tycker om idéhistoria, men anser att dess plats i universitetsvärlden är alltför undanskymd, något som leder honom till att attackera andra verksamheter. (Jag har ofta och på närmare håll sett samma tråkiga tendens hos matematiker.)

Läs hela meningsutbytet mellan Ruin och Tännsjö här!

Fotnot

1) Därmed inte sagt att jag delar Tännsjös trosvisshet ifråga om existensen av en objektivt sann moral och att denna åtmistone på ett ungefär fångas av hedonistisk utilitarism, något han i artikeln uttrycker så här:

Jag tror att det faktiskt finns ett generellt svar på frågan om vilken handling som är rätt eller fel, och jag tror att svaret ligger åtminstone i närheten av det utilitaristiska kriteriet. Det innebär att en handling är riktig endast om den maximerar lyckan i världen, och den är det just för att den maximerar lyckan i världen.

Tännsjö om en framtid utan människan

Torbjörn Tännsjö behandlar i en stort uppslagen artikel i DN idag en fråga som ligger mig varmt om hjärtat: den om en eventuell robotapokalyps som tar kål på mänskligheten. Hans vinkling framgår av rubriken "Därför blir universum en bättre plats när människan är borta" och ännu mer av ingressen:

Anta att vi kan ersätta människorna med varelser som är bättre på att leva i fred och harmoni. Vore det verkligen så fruktansvärt? I själva verket bör vi bejaka en framtid då universum befolkas av lyck­saliga robotar.

Jag känner stor sympati för hans perspektiv - en utilitarism där inte bara mänskligt välbefinnande och lidande räknas, utan alla kännande varelsers - även om jag inte riktigt kan förmå mig att med samma totala tvärsäkerhet som han döma ut de perspektiv som tillskriver just mänsklighetens överlevnad och blomstring ett särskilt värde. På det stora hela finner jag hans artikel vettig, och jag känner mig glad och smickrad över att han funnit min bok Here Be Dragons värd att ta spjärn emot, men jag har två invändningar mot vad han skriver.

Min första invändning. Tännsjö avfärdar dem som fruktar robotapokalypsen såsom varandes förhäxade av en "märklig och missriktad form av inlevelse" med våra barnbarns barnbarn. Så här tror han att världen efter att robotarna tagit över och gjort sig av med mänskligheten kommer att te sig:

Utvecklingen kommer att fortsätta med artificiella intelligenser, successivt i mindre och mindre format, men med hög sensibilitet, klok kreativitet, gott handlag och obetydliga anspråk på ändliga resurser. Genom deras konstruktion – det är nu kloka maskiner som konstruerar ännu klokare maskiner – kommer det att skapas utrymme för en exponentiell tillväxt av antalet glada varelser i universum, vilka lever i ömsesidig symbios, utan att ställa sig i vägen för varandra. Tänk dig en gnistrande stjärnhimmel, där varje ljus som blinkar mot dig är en lycksalig robot. Och bakom varje ljus, nya himlar.

En vacker vision. Men är det verkligen säkert att det kommer att gå så väl? Personer som lagt mer kraft och tankemöda än Tännsjö på AI-futurologi, som Eliezer Yudkowsky och Nick Bostrom, menar att detta långt ifrån kan tas för givet, eller ens upphöjas till default-scenario. En robotrevolution kan också leda till Paperclip Armageddon (där den maskin som drar igång det stora AI-genombrottet lite obetänksamt programmerats att maximera framtida gemproduktion, med följden att hela det synliga universum omvandlas till en grotesk ansamling gem) eller någon liknande kosmisk meningslöshet. Därför har vi all anledning att oroa oss för vad ett AI-genombrott kan föra med sig, och göra vad vi kan för att se till att utfallet blir bra. Att (som Tännsjö verkar göra) tro att övermänsklig intelligens automatiskt medför övermänsklig klokskap är att förbise Humes lag och distinktionen mellan fakta och värderingar. Det kan visa sig att världen är så beskaffad (dvs att intelligens och klokskap på tillräckligt hög nivå alltid går hand i hand), men att ta det för givet synes mig våghalsigt i överkant.

Min andra invändning. Denna invändning är av underordnat intresse då den inte har så mycket med sakfrågan att göra, utan mest med hur min egen ståndpunkt framställs. Tännsjö gör (som Joar Guterstam redan hunnit påpeka) inte någon riktig rättvisa åt min bok då han tillskriver mig ovan nämnda "märklig[a] och missriktad[e] form av inlevelse", bland annat med följande ord:

Vår omedelbara och ogenomtänkta reaktion, då detta framtidsscenario [att robotarna tar över] kommer på tal, brukar vara just fasa. Hur ska det gå för oss? Hur ska dessa överlägsna varelser komma att behandla oss? [...] Så tänker Häggström.

Här framgår inte att jag i min bok i själva verket lägger stor kraft på att distansera mig från det slags antropocentriska moraluppfattning som Tännsjö kritiserar. Så t.ex. nämner jag på sidan 230, i en uppräkning av stora och svåra värderingsfrågor som vi behöver ta ställning till innan vi kan svara på hur vi bör försöka styra teknikutvecklingen, följande:

(vi) Comparing a future where humans prosper to one in which we are replaced by robots that prosper similarly, is the former automatically preferable to the latter? This question is related to (v), as well as to the moral status of machines. Does a robot with human-level cognitive capacities have the same value as a human? Here, the issue of machine consciousness (discussed in Section 3.8) seems relevant. A future in which humans are replaced by unconscious machines that go on to colonize the rest of the universe seems pointless and absurd. But if the machines are conscious, perhaps there is reason to look more favorably on the scenario.

Se även min diskussion på sidorna 122-123, där jag kritiserar idén att, genom att avdela ett mindre stycke av världsalltet (t.ex. vår egen galax Vintergatan) som ett människoreservat, kompromissa med en hedonistiskt utilitetsmaximerande superintelligent AI:s projekt att omvandla hela universum till hedonium; denna passage är väsentligen en återgivning av argumentationen i min gamla bloggpost Superintelligence odds and ends II: The Milky Way preserve.

Macchiarini-affären: liten läslista

Vi bevittnar en av de största skandaler som någonsin skakat den svenska universitetsvärlden: turerna kring den så kallade stjärnkirurgen Paolo Macchiarini på Karolinska Institutet (KI), om vilka mycket har skrivits, och mycket återstår att skriva. Det kan vara frestande att fokusera på Macchiarini själv, som i den härligt snaskiga historien i Vanity Fair förra månaden. Men karln är uppenbarligen en psykopat och en mytoman, och viktigare än att skärskåda honom personligen tror jag är att förstå systemet kring honom. Hur kunde han släppas fram, och vad bör göras för att hindra att något liknande händer igen? Det här handlar delvis om KI, men diskussionen bör inte stanna där, utan vi bör fråga oss om inte det också finns mer generella strukturer i universitetssverige som behöver rättas till (jag tror att så är fallet). Följande är några av de debattinlägg om Macchiarini-affären jag funnit mest belysande eller av andra skäl uppskattat mest:

• Ulf Danielsson: Skandalen på KI och systemfelet i svensk forskningspolitik, 18 februari 2016. Det är styrningen av svenska universitet som gått (om uttrycket tillåts) över styr. Ulf pekar insiktsfullt på problemen, men innan jag tror på det (av honom förordade) kollegiala styret som vägen till frälsning för de svenska universiteten skulle jag vilja se ett mer konkret förslag på hur det skulle gå till.
• Agnes Wold: Förfallet på KI, Fokus, 19 februari 2016. Jämfört med Ulf Danielsson tar Agnes Wold till ännu skarapre ordalag, och pekar på de sjuka incitamentsstrukturer och den girighet som ledde fram till satsningen på Macchiarini.
• Per Köhler: Humanister är så historielösa, 21 februari 2016. Här avlivas effektivt myten om att allt skulle bli frid och fröjd om blott läkare och forskare fick sig till livs en tillräcklig dos klassisk bildning. Bildning är förvisso bra, men det krävs annat för att förhindra nya fall av forskningsfusk och hänsynslöst utnyttjande av försökspersoner.
• Anders Hamsten: Jag ställer min plats som rektor för KI till förfogande, Dagens Nyheter, 13 februari 2016. Denna text når inte vare sig innehållsmässigt eller stilistiskt tillnärmelsevis upp till de tre föregående, och är till råga på allt författad av en person som rimligtvis kommer att gå till historien som en av de värsta syndarna (jämte Macchiarini själv) i denna förfärliga episod i svensk forskning. Jag nämner den ändå, då jag fann den befriande att läsa. Få saker gör mig så indignerad som när någon som gjort tokfel vägrar medge detta och ta konsekvenserna, så lättnaden blev stor av att till slut höra rektor Hamsten meddela sin avgång och därtill göra det med en hygglig dos ödmjuk självkritik.

Och här är ett par av de debattinlägg jag uppskattat allra minst:

• Lars Leijonborg: KI:s forskning är inte politikernas ansvar, Dagens Industri, 9 februari 2016. Leijonborg skyller ifrån sig. Beklämmande.
• Johan Frostengård: Därför är den medicinska etiken på KI bristfällig, Dagens Nyheter, 19 februari 2016. Ett opåkallat och fullkomligt bisarrt personangrepp på Torbjörn Tännsjö. (Artikeln säger sig vara ett svar på ett inlägg av Tännsjö i samma tidning den 11 februari 2016, och Tännsjö svarar i sin tur den 22 februari 2016.)

Två fall för Streisandeffekten

För tre år sedan skrev jag här på bloggen om den så kallade Streisandeffekten:

Streisandeffekten - så uppkallad efter sångerskan Barbara Streisands misslyckade försök 2003 att hejda spridningen av bilder på hennes residens i Malibu - betecknar hur åtgärder för att hejda informationsspridning lätt kan bli kontraproduktiva. Begreppet har snabbt blivit mycket populärt i bloggosfären, och jag tycker mig i sociala media se en utbredd önskan att vilja medverka till informationsspridningen så snart något luktar Streisandeffekt. Intresset för själva sakfrågan är ofta sekundärt; det är informationsspridandet i sig som, när någon försökt hejda det, upplevs som angeläget och ett slag för yttrandefriheten.

Nu finns ett par aktuella fall, båda med anknytning till bioetik men i övrigt tämligen olika, där jag gärna bidrar till Streisandeffekten, och jag uppmanar därför läsekretsen att ta del av och gärna också sprida följande båda texter:

• Torbjörn Tännsjö: Here's the Philosophy Essay Vox Found Too Upsetting to Publish.
• William Peace: Head Nurses, s 20-22 i Winter 2014-numret av Atrium.

Att jag på detta vis pushar för Tännsjös och Peaces texter betyder inte att jag står bakom deras innehåll.^1,2 Däremot finner jag båda texterna vara läsvärda och intressanta bidrag till den ständigt pågående intellektuella diskussionen kring hur vi bör leva och hur samhället bör utformas.

Fallet Tännsjö är egentligen inte särskilt upprörande, och kan inte förstås som att någon akademisk frihet skulle vara hotad. Hans text beställdes av (en redaktör på) den amerikanske nyhetssajten Vox, men när han levererade den befanns innehållet (trots att det rimligtvis inte kan ha bjudit på några överraskningar för beställaren) vara alltför magstarkt för publicering, och den refuserades (läs gärna Brian Leiters sammanfattning av händelseförloppet). Häri ligger inget brott mot några viktiga yttrandefrihets- eller andra principer (jag har i stora drag inget att invända emot att Vox är fria att själva välja vad de skall publicera), utan mitt deltagande i Streisandeffektsdrevet handlar i detta fall om ren och skär skadeglädje över en sällsynt klantig redaktionell hantering.

Fallet Peace är långt allvarligare. Hans text publicerades i tidskriften Atrium, utgiven av Northwestern Universitys medicinska fakultet, vars dekanus Eric Neilson kort därefter fick syn på den och protesterade mot utgivningen med (den besynnerliga) förevändningen att texten var pronografisk, vilket fick en underhuggare att plocka bort tidskriftsnumret från nätet. Tidskriftsnumrets redaktör Alice Dreger (som också är aktuell med boken Galileo's Middle Finger vilken raffinerat nog (för den här historien) handlar om inskränkningar i akademisk frihet; jag rekommenderar den varmt) protesterade upprepade gånger, men det dröjde 14 månader innan numret åter lades upp på tidskriftens webbsida. Någon avbön från Neilson eller från universitetet har dock inte kommit, och häromdagen fick Dreger nog och meddelade att hon lämnar sin professur vid Northwestern. Här en central passage ur avgångsbrevet:

We all make mistakes, but this was a profound mistake that cut to the very heart of academic freedom. It should have been acknowledged and corrected immediately. That is most definitely not what happened. Instead, what happened was denial, avoidance, blame-shifting, and evasion. To this day, the university has not admitted its mistake, and it has not affirmed its commitment to academic freedom in a way that makes clear that similar incidents will not occur in the future. This failure should be embarrassing to an otherwise great university.

Se även Dregers FAQ om fallet.

Fotnoter

1) Tännsjö driver, med den hedonistiska utilitarismen som utgångspunkt, tesen att världen blir bättre om vi sätter fler barn till världen, och att vi därför har en moralisk förpliktelse att föröka oss. Men hans resonemang håller inte, även om vi skulle acceptera hans utgångspunkt i den hedonistiska utilitarismen. Här är hans enligt min mening avgörande misstag:

Of course, we should see to it that we do not overpopulate the planet in a manner that threatens the future existence of mankind. But we’re nowhere near that point yet, at least not if we also see to it that we solve pressing problems such as the one with global warming. In the mean time, we’re ethically obligated to make as many people as possible.

Påståendet att vi inte är i närheten av den punkt då överbefolkning sätter mänsklighetens framtida överlevnad på spel är ogrundat och troligen felaktigt. Mänskligheten står inför en rad existentiella risker som vi behöver hantera. Vårt överutnyttjande av naturresurser, till vilket överbefolkning bidrar, kan resultera i sociala spänningar och om det vill sig riktigt illa krig och social kollaps, vilket i sin tur kan slå hårt mot vår förmåga att hantera de existentiella riskerna. Ett girigt maximerande av antalet människoliv här och nu riskerar på så vis att försämra utsikterna för mångdubbelt (understatement!) fler människoliv i framtiden.

2) Ämnet för Peaces text - sexuella tjänster utförda av unga kvinnliga sjuksköterskor åt förlamade unga manliga patienter - är mig alltför obekant för att jag skall ha någon bestämd uppfattning om det han skriver.

Läsvärda böcker av Tännsjö och Seierstad

Jag har nyligen läst moralfilosofen Torbjörn Tännsjös senaste bok Fatta! - En upplysningsskrift, i vilken han samlat en rad essäer där han ur moralfilosofisk synvinkel behandlar ett brett spektrum av brännande samtidsfrågor: extremism, fascism, terrorister och självmordsbombare, hederskultur, Mellanöstern-konflikten, massövervakning och yttrandefrihet. Med mera. Även om det långt ifrån är på alla punkter som jag instämmer i hans resonemang fröjdar jag mig åt att ta del av hans ovanliga kombination av oräddhet och tankeskärpa, och jag lär mig mycket av boken. Innan jag påbörjat läsningen uppfattade jag titelns "Fatta!" som ett lite gnälligt "Begrip nu vad jag säger!", men det framkommer snabbt att vad Tännsjö egentligen avser är "Låt oss begripa den andre!". I inledningskapitlet skriver han:

Hur ofta utbrister vi inte, särskilt när vi ser någon utföra en svekfull eller våldsam handling, att vi inte begriper. Den andre, den som sviker, dödar eller lemlästar, framstår som främmande eller obegriplig, kanske galen och irrationell. Inte sällan är emellertid denna reaktion uttryck för en flyktmekanism. Vi begriper visst, men vi vill inte begripa.

För att förstå vår samtid behöver vi övervinna detta flyktbeteende och förstå även terroristen och självmordsbombaren, menar Tännsjö, och i den andan ägnar ett av sina kapitel åt Anders Behring Breivik. Kapitlet är lärorikt men kort, och då jag tycker att fallet Breivik och hans fruktansvärda terrordåd den 22 juli 2011 förtjänar att funderas mer över än vad som ryms i ett kort bokkapitel har jag även läst Åsne Seierstads En av oss: En berättelse om Norge. Boken är välskriven och välresearchad, och behandlar Breiviks uppväxt, hans vuxna liv och hans förberedelser för terrorattacken, följt av (i en detaljerad och fruktansvärt plågsam passage om hundratalet sidor) händelseförloppet i Oslo och på Utøya den 22 juli, och sedan rättegången och lite kort om Breiviks tillvaro i fängelset. Genom att Seierstad parallellt med Breiviks historia också berättar den om några av hans offer på Utøya blir boken till en bredare skildring av vår tids Norge - en skildring där jag slås mer av hur likt Sverige landet är än av de skillnader som givetvis också framkommer. Vad gäller Breiviks föreställningsvärld - sakligt framställd av Seierstad, som inte behöver fylla ut med några avståndstagande värdeord för att vi skall förstå hur främmande och grotesk hon upplever den - så finner jag den frapperande samstämmig med den motbjudande rashygieniska utläggning som jag citerade här på bloggen härom veckan. Främmande och grotesk, men ändå begriplig. Även den psykologi som drev Breivik till hans ohyggliga illdåd blir till stor del begriplig. Han verkar genom hela sitt liv ha längtat desperat efter att passa in och vinna respekt i något socialt sammanhang, men blev till följd av sin bristande känsla för det sociala spelet gång på gång utstött. Till slut sökte han något slags tröst och mening i rollen som ledarfigur och krigshjälte i en inbillad norsk och europeisk motståndsrörelse.

Både Tännsjös bok och Seierstads hör till de bästa jag läst det senaste året - Seierstads kanske också den mest omskakande - och jag rekommenderar dem varmt.

Utilitarism och utomjordingar

En eventuell framtida konfrontation mellan mänskligheten och en fientligt sinnad utomjordisk civilisation är ett kärt tema i science fiction. Mer sällsynt är det i den vetenskapliga litteraturen, men det förekommer faktiskt.¹ En sammanfattning av kunskapsläget, som i brist på empiri domineras av spekulationer över tänkbara scenarier, publicerades för ett par månader sedan i tidskriften Acta Astronautica. I den översikten finns bl.a. en överraskande (men spekulativ) koppling till klimatfrågan, vilken, som jag rapporterade om på Uppsalainitiativet häromdagen, ledde den till att en nyhet om risken för utomjordisk invasion i veckan valsat runt i pressen. Min egen syn på saken är att den risken inte är mycket att bry sig om så länge som kunskapsläget i frågan är så utomordentligt magert som det är i dag, i synnerhet som en rad hot mot vår mänskliga civilisation föreligger vilka (troligtvis) är mer akuta och för vilka vi har ett avgjort bättre grepp om vad som behöver göras.

En i mitt tycke (åtminstone i dagens kunskapsläge) mer fruktbar tillämpning av idéer om möten med utomjordingar är att använda dem som inspiration för filosofiska tankeexperiment. Ett känt exempel är Newcombs paradox, ett något mindre känt är Eliezer Yudkowskys berättelse Three Worlds Collide som i novellform erbjuder högintressant input för moralfilosofiska funderingar. I denna bloggpost skall jag skissera ett tänkt möte med utomjordingar i ett försök att kasta ljus (eller möjligen skugga) över den moralfilosofiska inriktning som kallas utilitarism.

Enligt utilitarismen bör vi välja de handlingar som kommer till störst total nytta. Ett specialfall är den hedonistiska utilitarismen, som likställer nytta med graden av välbefinnande, summerat över alla varelser med förmåga att uppleva välbefinnande eller dess motsats lidande; även lidandet kommer med i kalkylen, i form av minusposter. (Om vi inte insisterar på det hedonistiska perspektivet är vi fria att räkna in sådant som t.ex. kunskap eller estetiska värden, såsom värden i sig själva och inte bara medel för att uppnå välbefinnande.) Det finns goda argument för ett utilitaristiskt synsätt. Personligen är jag emellertid skeptisk till att dogmatiskt binda mig vid en enda morallära, och är således inte beredd att oreserverat ansluta mig till utilitarismen, och i synnerhet inte till den hedonistiska. Men det finns många andra som är mer övertygade om den hedonistiska utilitarismens grundläggande riktighet, däribland (om jag förstått dem rätt) filosoferna Peter Singer och Torbjörn Tännsjö. Jag undrar hur de ställer sig till följande tankeexperiment.

Jorden angrips av en militär styrka av kentuarianer, så kallade därför att de kommer från en planet i omloppsbana runt stjärnan Alpha Centauri. Kentaurianernas avsikt är att tillfångata alla oss människor (eller så många de kan få tag i) i syfte att, för deras eget höga nöjes skull, hålla oss vid liv i små burar och utsätta oss för svår tortyr så länge som möjligt. Det står och väger huruvida invasionen skall lyckas, och det etiska dilemma jag härmed föreslår är huruvida man bör ställa upp för den mänskliga försvarsarmén eller hellre desertera och gå över till den kentaurianska anfallsstyrkan.

Jag gissar att de flesta, inklusive Singer och Tännsjö, spontant tar mänsklighetens parti i denna militära konflikt. Jag har emellertid inte redogjort för samtliga förutsättningar ännu. Så här ligger det nämligen till:

Kentaurianerna har ojämförligt mycket större förmåga än vi människor att känna välbefinnande. Deras sensitivitet i förhållande till vår är närmast att jämföra med hur vi föreställer oss att vår sensitivitet förhåller sig till flugors eller bacillers. Maximalt välbefinnande kan kentaurianerna uppnå på ett enda vis, nämligen genom att se oss stackars människor sprattla under bestialisk tortyr. När de får uppleva detta mår de så bra inombords att det lidande vi stackars människor utsätts för blir till försumbara växelpengar i den hedonistiska uträkningen.

Nå, Peter Singer och Torbjörn Tännsjö, på vilken sida ställer ni er i denna konflikt - människornas eller kentaurianernas? (Själv avser jag kämpa till sista blodsdroppen i den mänskliga försvarsstyrkan.)

Fotnot

1) I den häromåret utkomna antologin Global Catastrophic Risks, om existentiella hot mot mänskligheten, upptar konfrontationer med utomjordingar tre av totalt mer än 500 sidor, vilket jag uppfattar som närmast en överrepresentation i förhållande till temats förekomst i litteraturen som helhet.

Tännsjö om risken att underblåsa extremism

Torbjörn Tännsjö skriver, i en läsvärd och ödmjukt resonerande artikel på DN Debatt häromdagen, om en fråga som fått förnyad aktualitet efter terrordåden i Oslo och på Utöya. Bör vi i samhällsdebatten visa återhållsamhet i kritiken mot exempelvis islamska sedvänjor, inför risken att sådan kritik kan underblåsa extremism och i förlängningen i värsta fall resultera i terrordåd? Tännsjö finner här ett svårlöst dilemma, och avslutar sin artikel på följande vis.

Företeelser som islamofobi är, det vet vi nu, en realitet och det är inte helt långsökt att tänka att också saklig kritik av islam, liksom satir riktad mot den, kan underblåsa sådana stämningar.

Det är lätt att tänka fel och överdrivet principfast här. Jag tar bara ansvar för mina resonemang, min konst, kan man frestas säga. Om någon missuppfattar min kritik eller min satir som stöd för våldsam aktion mot muslimer, så är det inte min sak. Jag har bara velat blottlägga islams irrationella, smaklösa och vidskepliga karaktär, egenskaper islam delar med kristendom och judendom. Men minns att även om terroristen är fullt ut ansvarig för sina dåd, så kan jag också ha ett medansvar. Jag är rimligen ansvarig, inte bara för vad jag tänker och säger, utan också för hur det kan tänkas uppfattas och utnyttjas av andra.

Detta är ett paradoxalt och obehagligt ansvar att bära. Om jag ålägger mig självcensur, om jag blir försiktig, för att inte ge ideologisk näring åt personer som Breivik, så har det öppna samhället fått stryka på foten. Om jag framhärdar och utnyttjar det öppna samhällets alla möjligheter för att säga min mening och utveckla min konst, kan oskyldiga människor bli offer för illgärningar, som jag visserligen inte har någon direkt del i, men som jag oavsiktligt kan ha uppmuntrat.

Jag vet sannerligen inte vad jag ska tänka om detta.

Det är bra att Torbjörn Tännsjö tar upp denna svåra diskussion, och det är bra att min gode vän Patrik Lindenfors (Sveriges idag kanske vassaste religionskritiker) fortsätter diskussionen i ett självkritiskt blogginlägg. Även jag kan ha anledning att idka självrannsakan, och har provocerats av Tännsjös och Lindenfors texter att fundera på frågan. Jag förstår problematiken, tycker inte alls att den är lätt, men tenderar att landa i en mer principfast ståndpunkt jämfört med Tännsjö och Lindenfors.

Jag menar att det öppna samhället och det öppna samtalet hör till de viktigaste saker vi har att försvara, inte bara som medel för att uppnå andra värden, utan som höga värden i sig själva. Jag tror därför att vi bör vara, om uttrycket tillåts, mycket försiktiga med att iaktta det slags försiktighet som Tännsjö och Lindenfors diskuterar.

Centralt för det öppna samhället är att om jag har kritiska uppfattningar om något samhällsfenomen - det må vara monarkin, det uppluckrade strandskyddet, fotbollslandslagets 4-4-2-spel, Israels utrikespolitik, halalslaktens rituella djurplågeri, könsstympning eller hederskultur - så känner jag mig fri att uttrycka dessa utan att oroa mig över om jag eller någon annan skall drabbas av våld till följd av mina yttranden. Till de viktigaste diskussioner som finns hör att kritisera, och även göra narr av, envåldshärskare och diktatorer som Khaddafi och Kim Jong Il; hit kan också räknas profeten Muhammed som, trots att han varit död i över ett årtusende, fortfarande håller miljoner människors sinnen i ett järngrepp. Många är de exempel på hur människor i mindre lyckligt lottade samhällen än vårt visat stort personligt mod i att våga kritisera sina härskare - jag tänker här på de folkliga resningarna i de östeuropeiska diktaturerna 1989, och på 2011 års motsvarigheter i arabvärlden.

I detta perspektiv, nog vore det ändå ynkligt om vi i den fria världen, vi som löper så oerhört mycket mindre risker att slås ned med våld (terrorism är trots allt ett marginellt fenomen hos oss), inte vågade stå för våra uppfattningar, utan räddhågset höll tillbaka med tanke på hur extremister i olika läger skulle kunna tänkas reagera.