This is to all my American friends and readers over there. I suspect that many of you are Bernie fans, which is absolutely fine of course, but I fear that quite a few Bernie fans are planning to do something terribly stupid in November. So please, consider this - the harsh reality, expressed by a Twitterer named BWD:
I don't give a fuck if you don't like Hillary Clinton. Hold your nose and vote. There's a Nazi at the gate.
Det är något med den här bilden som håller mig kvar. Kanske kattens lugn och mjukhet i kontrast med astronautens brådska och raketens hårdhet. Men helt klart också bildens antydan om att den fysiska verklighet vi tycker oss leva i inte är den fundamentala, att det finns en högre verklignet vars invånare kan kika ned på oss som i en låda.
Idén är inte ny. Den dyker upp i många sammanhang, från de stora världsreligionerna till populärkulturella filmer som The Matrix och The Truman Show. Den har emellertid haft svårt att vinna acceptans såsom seriös hypotes värdig vetenskapligt studium.
Det sistnämnda har emellertid börjat luckras upp en liten smula på senare år, mest tack vare filosofen Nick Bostroms så kallade simuleringsargument, som han presenterade i sin uppsats Are you living in a computer simulation i tidskriften Philosophical Quarterly 2003, och som sedan dess tilldragit sig en del uppmärksamhet. Jag skriver mycket om Bostroms olika arbeten i min senaste bok Here Be Dragons: Science, Technology and the Future of Humanity, men just simuleringsargumentet tar jag inte upp annat än som allra hastigast, i en fotnot på sidan 151. I min föregående bok Riktig vetenskap och dåliga imitationer från 2008 ägnar jag däremot simuleringsargumentet en längre diskussion på sidorna 126-128:
Bostrom konstaterar [...] att om vi - den mänskliga civilisationen - överlever de faror som lurar det närmaste århundradet eller så, så kommer den teknologi vi (eller de robotar som eventuellt efterträder oss) då förfogar över att vara närmast ofattbart mer avancerad än den vi har idag. Bland annat kommer vi att ha tillgång till praktiskt taget outtömlig datorkraft. Framtidens historiker kan väntas vara mycket intresserade av vad som egentligen hände de där kritiska årtiondena som föregick "det stora teknologiska språnget". De kommer att använda delar av den enorma datorkraften till att göra omfattande och detaljerade datorsimuleringar av vad som egentligen hände då, och dessa simuleringar kommer att vara så verklighetstrogna att de virtuella människor som befolkar dem får medvetanden, så som vi själva. Men tack vare att så ofantligt många sådana datorsimuleringar genomförs, så överstiger det antal virtuella människor genom historien som tror sig leva år 2007 vida det antal om knappt 7 miljarder människor som verkligen upplevde (originalversionen av) 2007. Och därför är det långt troligare att vi hör till de virtuella människorna i dessa datorsimuleringar än att vi utgör originalen. Vi lever alltså i the Matrix.
Man kan spekulera vidare kring detta scenario. Varför skulle det vara förbehållet professionella historiker att köra dessa simuleringar?
Nog kunde det bli ett populärt nöje, åtminstone bland lagom nördigt inriktade personer, att i sina datorer upprepa historien, eller ännu hellre
se hur den hade utvecklats då förutsättningarna varieras på olika sätt? Kanske Gud egentligen är en pubertetsfinnig 15-åring anno 2243 som kommit att fundera över det otroligt jämna amerikanska presidentvalet år 2000 och över vad som egentligen hade kunnat hända om den där religiöse och halvt imbecille alkoholisten till motkandidat faktiskt hade vunnit?
[...]
Bostroms uppsats kan förstås som att han inte blott hävdar att det är möjligt att vi lever i the Matrix, utan rentav att det är ytterst troligt. Och även om jag inte kan slå fast att han har fel, så går det att peka på ett antal obevisade antaganden
som hans resonemang hänger på. (Av de följande pekar Bostrom själv på de första två, medan han däremot inte säger något om det tredje.)
För det första behöver det, som Bostrom själv påpekar, föreligga en icke-försumbar sannolikhet att vi - den mänskliga civilisationen - lyckas nå den tänkta teknologiska nivån innan vi förgör oss själva. Jag vill gärna tro att så är fallet, men om man skall vara realistisk så framstår
det som en vidöppen fråga. [...] För det andra förutsätter Bostroms argument den så kallade datorteorin för medvetande, som säger att fenomenet medvetande inte är beroende av något specifikt slags materiellt medium för att kunna uppstå, så att t.ex. kisel kan gå lika bra som kött och blod; detta behövs för att datorsimuleringarnas virtuella människor skall erhålla medvetanden. Åter har vi att göra med en vidöppen fråga. Och för det tredje bygger Bostroms sannolikhetsargument på det implicita antagandet att det existerar en mekanism enligt vilken "vi"
- de medvetna varelser du och jag råkar finna oss identiska med - väljs ut på måfå enligt likformig fördelning bland alla medvetanden i universum. Vad som skulle ligga bakom en sådan mekanism har jag svårt att se, men vem vet?
Under de år som passerat sedan jag skrev dessa rader har jag kommit att se något mer positivt på simuleringsargumentet och tanken att vi faktiskt bor i en datorsimulering. Ja, argumentet vilar alltjämt på obevisade premisser, men detta gör det inte irrelevant för frågan om världens yttersta beskaffenhet. Inte så att jag tror att vi bor i en datorsimulering, men idén synes mig långt ifrån orimlig. Den mer allmänna tanken att det skulle existera en högre verklighet än den fysiska som vi upplever, och att det skulle kunna finnas en skapare och en avsikt bakom vårt världsallt, ter sig därmed inte heller orimlig. Detta har lett till en förskjutning i min syn på religion. Tanken på en skapare går inte längre lika lätt att utan vidare avfärda, även om jag fortfarande finner andra delar av det kristna (för att nu nämna den religion jag råkar vara närmast bekant med) tankegodset lika orimligt som tidigare: evidentiellt ogrundade och fullkomligt godtyckliga bisarrerier om äpplen, ormar och jungfrufödslar, om en hämndlysten Gud som håller sig med detaljerade föreskrifter om vad samtyckande vuxna människor får lov att företa sig bak sovrummets dörrar, och om hur vår väg till evigt liv går via det bestialiska ihjältorterandet av en man i 30-årsåldern för snart 2000 år sedan.
Men är inte tanken på att vi kanske bor i en datorsimulering djupt oroande? Är det inte fasansfullt att tänka sig att hela det som vi uppfattar som vår värld och vår tillvaro bara är på låtsas? Njae, inte så farligt, har jag varit böjd att svara på dessa frågor, och ansluta mig till den uppfattning som David Chalmers försvarar i sin utomordentligt läsvärda uppsats The Matrix as metaphysics, att även om det skulle existera en högre verklighet relativt vilken vår tillvaro och vår värld spelar rollen av en datorsimulering, så ändrar inte den saken på det faktum att våra liv och vår värld är verkliga.
We need to ask what proportion of the conscious AIs (at least the ones relevantly epistemically indistinguishable from us) live in large, stable sims, and what proportion live in small or unstable sims?
I see no reason here for high levels of optimism. Maybe the best way for the beings at the base level of reality to create a sim is to evolve up billions or quadrillions of conscious entities in giant stable universes. But maybe it's just as easy, just as scientifically useful or fun, to cut and paste, splice and spawn, to run tiny sims of people in little offices reading and writing philosophy for thirty minutes, to run little sims of individual cities for a couple of hours before surprising everyone with Godzilla. It's highly speculative either way, of course! That speculativeness should undermine our confidence about which way it might be.
If we're in a sim, we probably can't know a whole lot about the motivations and computational constraints of the gods at the base level of reality. (Yes, "gods".) Maybe we should guess 50/50 large vs. small? 90/10? 99/1? (One reason to skew toward 99/1 is that if there are very large simulated universes, it will only take a few of them to have the sims inside them vastly outnumber the ones in billions of small universes. On the other hand, they might be very much more expensive to run!)
If you/I/we are in a small sim, then some version of radical skepticism seems to be warranted. The world might be only ten minutes old. The world might end in ten minutes. Only you and your city might exist, or only you in your room.
Detta snuddar vid den mardröm som benämns Boltzmannhjärnor, och som vore väldigt skön att kunna avfärda som overklig. Scott Aaronson, som i sin underbart infallsrika uppsats The ghost in the quantum Turing machine tar upp Bolzmannhjärneproblemet (som en bland en rad andra frågor av jämförbart bråddjup) utifrån ett perspektiv som påminner om Bostroms simuleringsargument, och föreslår en väg ut ur mardrömmen - en väg som jag dessvärre finner en smula långsökt och lam. Eller döm själva!
Elon Musk säger sig vara nästan bombsäker på att vi bor i en datorsimulering. Få andra uttrycker denna ståndpunkt så tvärsäkert, men frågan finns idag på den filosofiska och vetenskapliga agendan på ett helt annat sätt än för 15 år sedan. Dess ökade legitimitet manifesterades tidigare i år i hur den togs som tema för 2016 års upplaga av den så kallade Isaac Asimov Memorial Debate - en paneldiskussion på American Museum of Natural History i New York. Panelens samlade vetenskapliga kompetens var blytung, eller vad sägs om följande namn: David Chalmers, Zohreh Davoudi, James Gates, Lisa Randall, Max Tegmark och Neil deGrasse Tyson (moderator). Och diskussionen blev klart sevärd!
"Sverige anses stå för drygt en promille av världens utsläpp av växthusgaser, i praktiken är siffran väsentligt lägre om man tar hänsyn till våra växande skogar, som alltså absorberar betydande mängder koldioxid. I det perspektivet är det felaktigt att betrakta Sverige som klimatbov." Så skrev Sverigedemokraternas miljöpolitiske talesperson Martin Kinnunen i Dagens Nyheter i förra månanden. Det låter nästan som ett eko av meteorologiprofessor emeritus Lennart Bengtsson, som bl.a. yttrat följande:
Europa står för tillfället för ca 10% av de globala utsläppen och lilla Sverige som alltid vill gå i spetsen står för så där 0.2-0.0% beroende om man tar med nettoupptaget i den svenska vegetationen eller inte. Ibland tror jag att jag befinner mig i en förtrollad skog och inte i verkligheten när jag läser och lyssnar på vad politikerna säger att de vill göra. Det måste väl i himmelens namn finnas mer angelägna uppgifter!
Dessa "Varför just vi?"- och "Sverige är ju ändå så litet"-argument är beklämmande vanliga. Haken är naturligtvis att alla parter kan resonera likadant, varpå ingen tar tag i saken och det går åt helvete. Den vanligaste metaforen för detta slags problematik i situationer som kräver samarbete är allmänningens tragedi, som också blivit till ett viktigt teoretiskt ramverk, föremål för en stor litteratur inom samhällsvetenskaperna. Min gode vän och Uppsalainitiativet-kollega Lars Karlsson föreslår en alternativ metafor i den sommarfabel om myrstacken som han publicerade häromveckan. Så här börjar den:
Det var en gång en myrstack som låg i en skog. Det var en fin och välbyggd stack, och dess drottning var väldigt stolt över den. Så en dag kom en vresig gammal björn förbi och rev större delen av stacken. Med stacken sönderriven var myrorna illa ute: de saknade skydd mot regn, kyla och värme och de föll ofta offer för rovdjur eller sjukdomar.
Drottningen kände att något måste göras. Hon talade med myrorna om att de måste reparera stacken, men varje myra hon talade med svarade ungefär så här:
"Det finns tusen myror i stacken. Det jag kan bidra med är så litet att det inte skulle märkas. Varför ska jag slita och släpa när det ändå inte gör någon märkbar skillnad?"
Och myrorna hade det hemskt och en del av dem dog, och det som fanns kvar av stacken förföll alltmer. Drottningen vädjade till sina myror:
"Så här kan det inte fortsätta. Vi måste göra något, innan vi alla går under."
Men varje myra svarade ungefär så här:
"Det vore hybris att tro att lilla jag kan rädda stacken. De andra är många fler än jag är: de får fixa det."
Det här kunde slutat som en riktig myr-tragedi. Lyckligtvis fanns det...
1) Obs! Spoiler! Trots svårigheten att koordinera ett samarbete lyckas myrorna med det, och lite längre fram i fabeln heter det att "alla myror (med några få undantag, och ni kan gissa vad de myrorna hette)" deltog i arbetet med att bygga upp stacken igen. Jag vill delta i gissningsleken. Först och främst gissar jag att en av de samarbetsvägrande myrorna hette Martin Kinnunen, och att en annan av dem hette Lennart Bengtsson. Sedan fyller jag på med namn som Lars Bern, Patrik Engellau, Nigel Farage, Michael Gove, Donald Trump och Jimmie Åkesson. Men detta är som sagt bara mina gissningar, och det skulle vara intressant att få besked från Lars om huruvida jag är på rätt spår.
Den största claim to fame inom schacket som jag uppnått och troligen någonsin kommer att uppnå är att jag en gång 1980, tolv år gammal, kom med på samma bild som dåvarande schackvärldsmästaren Anatolij Karpov. Fotograf var Lars Grahn, som numera driver Sveriges utan konkurrens bästa schackblogg Inte Bara Schack. Min berättelse om vad jag hade på bilden att göra finns med som ett slags extramaterial mot slutet av hans dagsfärska bloggpost Dortmund - rond 4.
I min bloggpost Quickologisk sannolikhetskalkyl (16 maj 2015) påvisade jag de grava felaktigheterna i Göran Lambertz försök att i sin bok Quickologi tillämpa sannolikhetsteori för att kvantifiera evidensläget i ett känt rättsfall. Lambertz försök att först försvara och därefter korrigera sina kalkyler triggade mig till två uppföljande bloggposter Lambertz laborerar med pseudokvantiteter (4 augusti 2015) och Ohederlig nyårsbetraktelse (7 januari 2016), av vilka framgår att Lambertz misslyckats med dessa korrigeringar. I sin aktuella Halvårsbetraktelse [WebCite 7 juli 2016] tillstår han att jag riktat kritik mot hans kalkyler:
Dessa beräkningar har föranlett protester från matematikprofessorn Olle Häggström i Göteborg, som menar att det är fel att räkna på det sätt som jag har gjort. Han menar också att det inte finns något sätt att beräkna den samlade sannolikheten av flera bevis för att den misstänkte är skyldig.
Jag välkomnar den första av dessa båda meningar, som är en korrekt återgivning av min ståndpunkt. Med den andra meningen, däremot, tillskriver Lambertz mig en ståndpunkt som jag inte omfattar, som jag inte kan tänka mig att jag någonsin skulle ha givit uttryck för, och som jag tvärtom ganska tydligt tagit avstånd från.1 Jag hörde av mig till Lambertz och protesterade, varvid en något irriterad brevväxling tog vid, men när jag några dagar senare konsulterade hans Halvårsbetraktelse igen [WebCite 12 juli 2016] hade han faktiskt ändrat ovanstående passage till följande:
Dessa beräkningar har föranlett protester från matematikprofessorn Olle Häggström i Göteborg, som menar att det är fel att räkna på det sätt som jag har gjort. Men han har inte velat säga hur man bör räkna, och än mindre har han velat hjälpa till. (Efter att denna Halvårsbetraktelse publicerades har han sagt att man bör räkna med den s.k. Bayes´ sats och även gett mig vissa anvisningar för hur det går till. Jag har bett honom att hjälpa mig att räkna utifrån det förenklade exempel som jag nämner nedan, om ett inbrott.)
Denna passage utgör en klar förbättring, ty i sak är den riktig. (Jag bortser här från att Halvårsbetraktelsen i övrigt innehåller en hel del dumheter som på ett iögonfallande vis ignorerar att jag påvisat det felaktiga i hans egenpåhittade sannolikhetskalkyl.) Men det är något i tonen jag inte gillar. Han visar ingen tacksamhet infor den beredvillighet jag visat (i mina tre bloggposter och i en del kompletterande epostkorrespondens) att hjälpa honom mönstra ut sina pseudomatematiska felslut, utan antyder tvärtom - med formuleringen "än mindre har han velat hjälpa till" - att jag skulle brista i hjälpsamhet och vara en riktig snåljåp med min tid. Låt mig därför, i fem korta punkter, förklara varför jag inte tänker stå till tjänst som Göran Lambertz privata matematikbiträde.
1. Universitetsprofessorer är inte en resurs som allmänheten och övriga samhället (justitieråd och andra) har att fritt förfoga över. Lambertz har inte ens föreslagit hur mitt arbete för honom skulle finansieras. Jag har visserligen en del tid (mestadels fritid) jag kan styra över ganska fritt, men gör mina egna prioriteringar, och hoppas att Lambertz trots allt kan respektera min ståndpunkt att jag finner det angelägnare att lägga tid på mitt projekt att finna vägar att tillförsäkra mänskligheten en långsiktigt blomstrande framtid än att lägga samma tid på hans projekt att ärerädda Seppo Penttinen och Christer van der Kwast (och sig själv).
2. Lambertz tycks luta sig mot tankefiguren "den som påpekar att ett argument eller ett analysverktyg är felaktigt och ogiltigt är skyldig att erbjuda något annat istället". But that just ain't so. Jag har gjort Lambertz en stor tjänst som pekat ut hans felaktigheter, och är inte skyldig honom något alls.
3. Det verkar hopplöst att jobba för någon som misstror en, såsom Lambertz uppenbarligen gör gentemot mig. Av diskussionen till min bloggpost Ohederlig nyårsbetraktelse framgår hans misstro med all önskvärd tydlighet, och han menar uppenbarligen att jag antingen (a) saknar grundläggande kunskaper i sannolikhetsteori, eller (b) avsiktligt försöker narra honom. (Kanske förstår han inte hur ohyggligt förolämpande detta är.)
4. Misstron går åt båda håll. Det skulle kännas hopplöst att jobba åt en person som inte ser på matematiken och statistiken som redskap för att ta reda på sanningen, utan som ett sätt att slå fast en redan på förhand bestämd sanning; detta hans förhållningssätt (som jag å det bestämdaste vill fördöma) framgår med all önskvärd tydlighet av hans kommentar den 10 januari 2016 kl 13:17 till Ohederlig nyårsbetraktelse, samt av hans bok Quickologi och annorstädes. Om jag ställde upp och hjälpte honom skulle jag behöva nagelfara, kolla och dubbelkolla varenda liten siffra och varenda litet påstående (om sökhundar eller födelsemärken eller vad det vara må) som han bidrar med som input i analysen. Det skulle snabbt bli outhärdligt att behöva jobba på det viset.
5. När jag i det i Fotnot 1 citerade ebrevet erbjöd Lambertz ett par timmars one-on-one om de sannolikhetsteoretiska elementa som han så väl behöver, så avböjde han, och meddelade (ebrev 9 augusti 2015 kl 13:10) att "det har dykt upp ett par personer som säger sig villiga att hjälpa mig långsamt framåt, så jag nöjer mig tills vidare med det". Men om detta är sant, så har han ju redan fått tillgång till matematisk experthjälp (får vi väl ändå anta att det rör sig om), så varför tjata på mig?
Fotnot
1) För ett exempel på sådant avståndstagande, se t.ex. hur jag, i ett ebrev den 9 augusti 2015 kl 10:48, skrev till honom att "även om jag tror att det i princip finns en väg framåt mot matematisk kvantifiering av evidensläget, så ser jag ingen som helst möjlighet att ett en- eller tvåtimmarsmöte av det slag jag här skisserar skulle räcka för att förstätta dig i ett kunskapsläge där du är rustad att på egen hand anträda denna väg framåt". Ebrevet finns återgivet i sin helhet i den avslutande fotnoten till Ohederlig nyårsbetraktelse.
"Jeg bruger mange sider i min bog på at diskutere kunstig intelligens og konsekvenserne af et gennembrud på dette område." Så lyder, i dansk översättning, ett yttrande jag undslapp mig till den danske journalisten Rene Pedersen härom veckan. I svenska öron klingar det en aning... konstigt, men saken är den att artificiell intelligens (AI) faktiskt heter kunstig intelligens på danska.
There is no denying that advances in science and technology have brought us prosperity and improved our lives tremendously [...] but there is a flip side: some of the advances that may lie ahead of us can actually make us worse off, a lot worse.1
Det återstår att se om denna och andra insikter från min bok kommer att sätta avtryck i Världsbankens fortsatta arbete...
Fotnot
1) Låt mig passa på och bjuda på den lite längre passage varur citatet är hämtat:
There is a widely held conception that progress in science and technology is our salvation, and the more of it, the better. This seems to be a default assumption, not only among the general public, but also in the research community including university administration and reseach funding agencies, all the way up to government ministries. I believe the assumption to be wrong, and very dangerous. There is no denying that that advances in science and technology have brought us prosperity and improved our lives tremendously, or that further advances have the potential to bring glorious further benefits, but there is a flip side: some of the advances that may lie ahead of us can actually make us worse off, a lot worse, and, in the extreme case, cause the extinction of the human race.
We urgently need to find ways to push scientific and technological progress in directions that are likely to bring us good, and away from those directions that spell doom. This cannot be done if we stick to the erroneous view that all such progress is good for us. The first thing we need is to be able to distinguish those advances whose potential is mostly in the direction of prosperity and human flourishing from those whose potential is more in the direction of destruction and doom, and we need to find safe ways to handle those technologies that come with elements of both. Our ability to do so today is very limited, and my ambition with this book is to draw attention to the problem, so that we can work together to improve the situation, and avoid running blindfolded and at full speed into a dangerous future.
Jag gillar den nya episoden för dess remarkabla förening av ett antal av mina intressen - tillfälliga såväl som mer långvariga. Först och främst har vi Simone de Beauvoir själv - en av centralfigurerna i 1900-talets franska existentialism, liksom i Sarah Bakewells aktuella bok At the Existentialist Café som jag för närvarande läser med stort intresse. Mitt intresse för filosofi har alltid dragit mer åt det anglosaxiska och analytiska hållet, och jag har därför i hög grad försummat existentialismen, men jag har (mycket tack vare Existential Comics) kommit att ana att den har viktiga saker att säga om vad det innebär att vara människa. Bakewells bok känns som en utmärkt och engagerande introduktion till ledande existentialistiska tänkare som de Beauvoir, Jean-Paul Sartre, Albert Camus och Martin Heidegger, för att nämna några av bokens huvudpersoner.
Jag roas också av hur de Beauvoir i Existential Comics-episoden avbildas på Terminator-hjälten Sarah Connor. Jag har ju, en smula populistiskt, använt mig flitigt av Terminator-filmerna som avstamp för diskussioner om en eventuell robotapokalyps i verkligheten, bland annat i ett framträdande i svensk TV förra sommaren.
Den nya episoden behandlar ett centralt moralfilosofiskt problem i samband med ett eventuellt genombrott i artificiell intelligens som leder till övermänskligt intelligenta maskiner: vilka värderingar vill vi att dessa maskiner skall ha? Denna frågeställning leder snabbt till stora svårigheter, vilka bl.a. behandlas i Avsnitt 4.6 av min bok Here Be Dragons, och mer utförligt i Nick Bostroms Superintelligence.
Till slut får vi i Terminator: The Simone de Beauvoir Chronicles nosa lite på den förtjusande inriktning av modern moralfilosofi som benämns trolleyologi, och vi får klart för oss bakgrunden till att de Beauvoir/Connor är en sådan "badass motherfucker". Läs den!
Inom ramen för årets Almedalsvecka i Visby arrangerar Sveriges Radio onsdagen den 6 juli kl 10.30-12.00 en programpunkt rubricerad "När tar robotarna över politik och media?". En av de medverkande är yours truly. Enligt de uppgifter jag fått kommer det inte att bli någon direktsändning, men däremot en inspelning som skall gå att ta del av på webben i efterhand. Återkommer när jag vet mer.
