Rekommenderas varmt: Sam Harris podcast

I minst ett år har jag haft tillräckligt många vänner (med intellektuell smak tillräckligt i linje med min egen) som varmt rekommenderar den amerikanske neurovetaren och samhällsdebattören Sam Harris podcast Waking Up för att inse att den är riktigt bra. I förra veckan gjorde jag äntligen slag i saken och började lyssna, så nu tillhör jag de frälsta, och skriver denna bloggpost i avsikt att rekrytera fler själar åt Harris.

Sam Harris har ett brinnande samhällsengagemang och en uppsättning filosofiska och vetenskapliga intressen som uppvisar ett påtagligt överlapp med mina. Han är synnerligen analytiskt lagd, han gillar att se svåra frågor belysta från olika håll, och han utmanar gärna sig själv genom att på stort allvar ta del av meningsmotståndares argument. Ofta, men långtifrån alltid, landar han i ungefär samma ståndpunkter som jag. Om hans analyser leder honom mot kontroversiella och impopulära ståndpunkter så väjer han inte för det.

Ett typiskt avsnitt av Waking Up utgörs av ett samtal mellan Harris och någon annan person vars tankar han intresserar sig för. Dessa samtal är vanligtvis cirka två timmar långa, vilket medger befriande fördjupning i en tid som i allt högre grad kommit att domineras av tweets och andra ytliga snapshots (men det bidrog nog också till att det dröjde så länge som det gjorde innan jag började lyssna på podcasten). Jag har nu på mindre än en vecka hunnit höra Sam Harris samtala med följande nio personer, och jag tycker mig ha hört tillräckligt för att våga påstå att den som gillar min blogg sannolikt kommer att älska Waking Up.

• Charles Murray. Det här är det senaste avsnittet av Waking Up, och det som (via påstötningar från Patrik Lindenfors och Anders Emretsson) fick mig att till slut börja lyssna på podcasten. De läsare som känner till statsvetaren Charles Murray gör det nog från hans och den sedemera framlidne Richard Herrnsteins bok The Bell Curve: Intelligence and Class Structure in American Life från 1994, eller - troligare - från den långdragna och mycket aggressiva debatt som följde på boken. I denna debatt (som ännu inte svalnat; hans framträdanden kan fortfarande mötas med upplopp) framställdes Murray som rasist och värre saker än så, och jag tycker faktiskt att vi som i ett par decennier burit på det intrycket är skyldiga honom den lilla tjänsten att ta del av detta podcastavsnitt och få reda på vilken klok och sansad person han faktiskt är, och vilket starkt engagemang för social rättvisa han (trots att han politiskt drar åt höger) har.

• Paul Bloom. Jag tvekar inte att karaktärisera detta samtal med psykologen Paul Bloom som ett ustökt och rentav virtuost samspel mellan två intelligenta herrar med viktiga saker på hjärtat. I centrum för diskussionen står (den för mig tidigare okända men troligvis väldigt viktiga) distinktionen mellan empati och medkänsla, och jag får snart hem Blooms aktuella bok med den provokativa titeln Against Empathy: The Case for Rational Compassion.

• David Chalmers. Det finns få (om ens någon) nutida forskare inom medvetandefilosofi som är mer framstående än David Chalmers. Detta samtal tror jag kan fungera ypperligt som nybörjarintroduktion till området. (För mig, som alltid intresserat mig för medvetandefilosofi, och dessutom läst flitigt om det de senaste 15 åren, blev det dock mest skåpmat, om än välformulerad sådan.)

• Stuart Russell. Här kan jag använda copy-and-paste ganska effektivt: Det finns få (om ens någon) nutida forskare inom artificiell intelligens (AI) som är mer framstående än Stuart Russell. Detta samtal tror jag kan fungera ypperligt som nybörjarintroduktion till AI-risk. (För mig, som intresserat mig för och dessutom läst flitigt om saken de senaste 8-9 åren, blev det dock mest skåpmat, om än välformulerad sådan.)

• Daniel Dennett. Frågan om människans fria vilja och huruvida sådan är möjlig i ett materiellt universum hör till dem som tidigare intresserat mig men som jag senare tröttnat på, och det skall villigt erkännas att jag började lyssna på detta podcastavsnitt mer av nyfikenhet på hur Harris och Dennett socialt skulle hantera den situation de skapat genom den extremt arga debatt de haft med varandra i frågan några år tidigare. Det visar sig att de helt klart är on speaking terms, men att en viss odör av gammal surdeg likväl kans skönjas. I sakfrågan har de inte flyttat sig nämnvärt: att de ger olika svar på frågan om huruvida fri vilja existerar beror enbart på att de har olika uppfattning om vad som är en relevant definition av fri vilja, och inte alls på någon eventuell skillnad i uppfattning om hur världen är beskaffad (men det visste vi redan).

• Gary Kasparov. I min ungdom hörde Kasparov - schackgeni och så småningom världsmästare, och möjligen rentav den störste schackspelaren genom alla tider - till mina allra största idoler. Hans roll efter avslutad schackkarriär som ledande rysk oppositionell och antiputinist är beundransvärd. I samtalet med Sam Harris är det delarna om Putin, Trump och internationell storpolitik som är värda att lyssna på. I diskussionen om artificiell intelligens (något Kasparov ofta tillfrågas om i kraft av sin historiska roll som den förste schackvärldsmästare som tvingats se sig besegrad av ett datorprogram) har han däremot väldigt lite av värde att tillföra.

• Anne Applebaum. Författaren och journalisten Anne Applebaum har sällsynt god nutidshistorisk överblick över sovjetisk/rysk, europeisk och amerikansk politik. Liksom Harris samtal med Kasparov kretsar det med Applebaum i hög grad kring Trump, Putin, realpolitik och diktaturens mekanismer, men är avgjort intressantare.

• Lawrence Krauss. Harris diskussion med fysikern Lawrence Krauss spänner, liksom så många andra av hans samtal, över många områden. Här är det delarna om kärnvapenhotet som är intressantast, medan den om tolkningar av kvantmakanik känns som om jag hört den hundra gånger förut, och käbblet om vilket som är farligast av kristen och islamsk fundamentalism snabbt blir tjatigt.

• William MacAskill. Filosofiämnet anklagas ofta för att vara fast positionerat så högt upp i elfenbenstornet att det aldrig någonsin får någon praktisk betydelse. Men anklagelsen är felaktig, och den 30-årige (29 vid tiden för programmets inspelning) Oxfordfilosofen William MacAskills verksamhet är ett strålande motexempel. Han är frontfigur (såväl intellektuellt som entreprenöriellt) för den nya och snabbt växande effektiv altruism-rörelsen, som jag känner stor sympati med, och samtalet behandlar väldigt nyanserat frågan om hur vi bäst kan göra världen bättre. Vissa psykologiska aspekter har starka beröringspunkter med ovan nämnda avsnitt med Paul Bloom. Jag har beställt MacAskills bok Doing Good Better och ser fram emot att läsa den.

Yudkowskys brutala uppgörelse med zombie-begreppet

Vilket område av filosofin gillar jag allra bäst? Jag kan nog inte svara bestämt på det, men den som läser min senaste bok Here Be Dragons lockas måhända att tro att det är antingen vetenskapsfilosofi eller moralfilosofi, då dessa ägnas varsitt helt kapitel i boken (Kapitel 6 rubricerat "What is science?" med 31 sidor, respektive Kapitel 10 rubricerat "What do we wnat and what should we do?" med 24 sidor) medan ett område som medvetandefilosofin får nöja sig med ett avsnitt (Avsnitt 3.8 rubricerat "Uploading: philosophical issues" med 9 sidor). Av dessa tre är det nog ändå medvetandefilosofin jag läst mest om genom åren, och jag har kvar en särskid kärlek till det området.

Två favoriter bland nutida medvetandefilosofer är David Chalmers och (i synnerhet) Daniel Dennett. Centralt i Chalmers tänkande är begreppet zombie, i betydelsen en varelse som fysiskt är identisk med en vanlig människa, ned till minsta molekyl och minsta elementarpartikel, men med skillnaden att den saknar medvetande. Han hävdar inte att zombier finns, men väl att de är tänkbara, och att de mycket väl skulle kunna finnas i ett annat universum. Dennett har lagt en del kraft på att attackera zombie-begreppet, och hävda att det bara är om man inte tänkt igenom saken ordentligt som man kan förledas att tro att zombier är tänkbara. Både Chalmers och Dennett skriver lysande, men det finns faktiskt en författare som överträffar Dennett i dennes egen specialgren (zombie-slakt), nämligen Eliezer Yudkowsky. 2008 skrev han texten Zombies! Zombies? och han har nu återvänt till den och publicerat en lätt redigerad och uppdaterad version under rubriken Zombies redacted. Läs den! Som ett smakprov på den skoningslösa skärpan och brutaliteten i Yudkowskys zombie-slakt erbjuder jag följande passage. Den inehåller ovanligt mycket kursivering, vilken i de flesta fall indikerar att Yudkowsky är så indignerad över att någon kan föreslå något så vettlöst som zombier att han inte kan låta bli att höja rösten - men ingenstans får indignationen honom att förlora tankeskärpan.

[Here] is the position taken by Descartes and most other ancient thinkers: The soul is of a different kind, but it interacts with the body. Descartes's position is technically known as substance dualism - there is a thought-stuff, a mind-stuff, and it is not like atoms; but it is causally potent, interactive, and leaves a visible mark on our universe.

Zombie-ists are property dualists - they don't believe in a separate soul; they believe that matter in our universe has additional properties beyond the physical.

"Beyond the physical"? What does that mean? It means the extra properties are there, but they don't influence the motion of the atoms, like the properties of electrical charge or mass. The extra properties are not experimentally detectable by third parties; you know you are conscious, from the inside of your extra properties, but no scientist can ever directly detect this from outside.

So the additional properties are there, but not causally active. The extra properties do not move atoms around, which is why they can't be detected by third parties.

And that's why we can (allegedly) imagine a universe just like this one, with all the atoms in the same places, but the extra properties missing, such that every atom moves the same as before, but no one is conscious.

The Zombie World might not be physically possible, say the zombie-ists - because it is a fact that all the matter in our universe has the extra properties, or obeys the bridging laws that evoke consciousness - but the Zombie World is logically possible: the bridging laws could have been different.

But why, oh why, say that the extra properties are epiphenomenal and undetectable?

We can put this dilemma very sharply: Chalmers believes that there is something called consciousness, and this consciousness embodies the true and indescribable substance of the mysterious redness of red. It may be a property beyond mass and charge, but it's there, and it is consciousness. Now, having said the above, Chalmers furthermore specifies that this true stuff of consciousness is epiphenomenal, without causal potency - but why say that?

Why say that you could subtract this true stuff of consciousness, and leave all the atoms in the same place doing the same things? If that's true, we need some separate physical explanation for why Chalmers talks about "the mysterious redness of red". That is, there exists both a mysterious redness of red, which is extra-physical, and an entirely separate reason, within physics, why Chalmers talks about the "mysterious redness of red".

Chalmers does confess that these two things seem like they ought to be related, but why do you need to assert two separate phenomena? Why not just assert one or the other?

Once you've postulated that there is a mysterious redness of red, why not just say that it interacts with your internal narrative and makes you talk about the "mysterious redness of red"?

Isn't Descartes taking the simpler approach, here? The strictly simpler approach?

Why postulate an extramaterial soul, and then postulate that the soul has no effect on the physical world, and then postulate a mysterious unknown material process that causes your internal narrative to talk about conscious experience?

Why not postulate the true stuff of consciousness which no amount of mere mechanical atoms can add up to, and then, having gone that far already, let this true stuff of consciousness have causal effects like making philosophers talk about consciousness?

I am not endorsing Descartes's view. But at least I can understand where Descartes is coming from. Consciousness seems mysterious, so you postulate a mysterious stuff of consciousness. Fine.

But now the zombie-ists postulate that this mysterious stuff doesn't do anything, so you need a whole new explanation for why you say you're conscious.

That isn't vitalism. That's something so bizarre that vitalists would spit out their coffee. "When fires burn, they release phlogiston. But phlogiston doesn't have any experimentally detectable impact on our universe, so you'll have to go looking for a separate explanation of why a fire can melt snow." What?

Läs hela Zombies redacted här!

Det här med att vi kanske bor i en datorsimulering

Det är något med den här bilden som håller mig kvar. Kanske kattens lugn och mjukhet i kontrast med astronautens brådska och raketens hårdhet. Men helt klart också bildens antydan om att den fysiska verklighet vi tycker oss leva i inte är den fundamentala, att det finns en högre verklignet vars invånare kan kika ned på oss som i en låda.

Idén är inte ny. Den dyker upp i många sammanhang, från de stora världsreligionerna till populärkulturella filmer som The Matrix och The Truman Show. Den har emellertid haft svårt att vinna acceptans såsom seriös hypotes värdig vetenskapligt studium.

Det sistnämnda har emellertid börjat luckras upp en liten smula på senare år, mest tack vare filosofen Nick Bostroms så kallade simuleringsargument, som han presenterade i sin uppsats Are you living in a computer simulation i tidskriften Philosophical Quarterly 2003, och som sedan dess tilldragit sig en del uppmärksamhet. Jag skriver mycket om Bostroms olika arbeten i min senaste bok Here Be Dragons: Science, Technology and the Future of Humanity, men just simuleringsargumentet tar jag inte upp annat än som allra hastigast, i en fotnot på sidan 151. I min föregående bok Riktig vetenskap och dåliga imitationer från 2008 ägnar jag däremot simuleringsargumentet en längre diskussion på sidorna 126-128:

Bostrom konstaterar [...] att om vi - den mänskliga civilisationen - överlever de faror som lurar det närmaste århundradet eller så, så kommer den teknologi vi (eller de robotar som eventuellt efterträder oss) då förfogar över att vara närmast ofattbart mer avancerad än den vi har idag. Bland annat kommer vi att ha tillgång till praktiskt taget outtömlig datorkraft. Framtidens historiker kan väntas vara mycket intresserade av vad som egentligen hände de där kritiska årtiondena som föregick "det stora teknologiska språnget". De kommer att använda delar av den enorma datorkraften till att göra omfattande och detaljerade datorsimuleringar av vad som egentligen hände då, och dessa simuleringar kommer att vara så verklighetstrogna att de virtuella människor som befolkar dem får medvetanden, så som vi själva. Men tack vare att så ofantligt många sådana datorsimuleringar genomförs, så överstiger det antal virtuella människor genom historien som tror sig leva år 2007 vida det antal om knappt 7 miljarder människor som verkligen upplevde (originalversionen av) 2007. Och därför är det långt troligare att vi hör till de virtuella människorna i dessa datorsimuleringar än att vi utgör originalen. Vi lever alltså i the Matrix.

Man kan spekulera vidare kring detta scenario. Varför skulle det vara förbehållet professionella historiker att köra dessa simuleringar? Nog kunde det bli ett populärt nöje, åtminstone bland lagom nördigt inriktade personer, att i sina datorer upprepa historien, eller ännu hellre se hur den hade utvecklats då förutsättningarna varieras på olika sätt? Kanske Gud egentligen är en pubertetsfinnig 15-åring anno 2243 som kommit att fundera över det otroligt jämna amerikanska presidentvalet år 2000 och över vad som egentligen hade kunnat hända om den där religiöse och halvt imbecille alkoholisten till motkandidat faktiskt hade vunnit?

[...]

Bostroms uppsats kan förstås som att han inte blott hävdar att det är möjligt att vi lever i the Matrix, utan rentav att det är ytterst troligt. Och även om jag inte kan slå fast att han har fel, så går det att peka på ett antal obevisade antaganden som hans resonemang hänger på. (Av de följande pekar Bostrom själv på de första två, medan han däremot inte säger något om det tredje.) För det första behöver det, som Bostrom själv påpekar, föreligga en icke-försumbar sannolikhet att vi - den mänskliga civilisationen - lyckas nå den tänkta teknologiska nivån innan vi förgör oss själva. Jag vill gärna tro att så är fallet, men om man skall vara realistisk så framstår det som en vidöppen fråga. [...] För det andra förutsätter Bostroms argument den så kallade datorteorin för medvetande, som säger att fenomenet medvetande inte är beroende av något specifikt slags materiellt medium för att kunna uppstå, så att t.ex. kisel kan gå lika bra som kött och blod; detta behövs för att datorsimuleringarnas virtuella människor skall erhålla medvetanden. Åter har vi att göra med en vidöppen fråga. Och för det tredje bygger Bostroms sannolikhetsargument på det implicita antagandet att det existerar en mekanism enligt vilken "vi" - de medvetna varelser du och jag råkar finna oss identiska med - väljs ut på måfå enligt likformig fördelning bland alla medvetanden i universum. Vad som skulle ligga bakom en sådan mekanism har jag svårt att se, men vem vet?

Under de år som passerat sedan jag skrev dessa rader har jag kommit att se något mer positivt på simuleringsargumentet och tanken att vi faktiskt bor i en datorsimulering. Ja, argumentet vilar alltjämt på obevisade premisser, men detta gör det inte irrelevant för frågan om världens yttersta beskaffenhet. Inte så att jag tror att vi bor i en datorsimulering, men idén synes mig långt ifrån orimlig. Den mer allmänna tanken att det skulle existera en högre verklighet än den fysiska som vi upplever, och att det skulle kunna finnas en skapare och en avsikt bakom vårt världsallt, ter sig därmed inte heller orimlig. Detta har lett till en förskjutning i min syn på religion. Tanken på en skapare går inte längre lika lätt att utan vidare avfärda, även om jag fortfarande finner andra delar av det kristna (för att nu nämna den religion jag råkar vara närmast bekant med) tankegodset lika orimligt som tidigare: evidentiellt ogrundade och fullkomligt godtyckliga bisarrerier om äpplen, ormar och jungfrufödslar, om en hämndlysten Gud som håller sig med detaljerade föreskrifter om vad samtyckande vuxna människor får lov att företa sig bak sovrummets dörrar, och om hur vår väg till evigt liv går via det bestialiska ihjältorterandet av en man i 30-årsåldern för snart 2000 år sedan.

Men är inte tanken på att vi kanske bor i en datorsimulering djupt oroande? Är det inte fasansfullt att tänka sig att hela det som vi uppfattar som vår värld och vår tillvaro bara är på låtsas? Njae, inte så farligt, har jag varit böjd att svara på dessa frågor, och ansluta mig till den uppfattning som David Chalmers försvarar i sin utomordentligt läsvärda uppsats The Matrix as metaphysics, att även om det skulle existera en högre verklighet relativt vilken vår tillvaro och vår värld spelar rollen av en datorsimulering, så ändrar inte den saken på det faktum att våra liv och vår värld är verkliga.

Emellertid. När jag i förra månaden tog del av filosofen Eric Schwitzgebels aktuella bloggpost If you/I/we live in a sim, it might well be a short-lived one så kändes tanken på att vi bor i en datorsimulering betydligt läskigare:

We need to ask what proportion of the conscious AIs (at least the ones relevantly epistemically indistinguishable from us) live in large, stable sims, and what proportion live in small or unstable sims?

I see no reason here for high levels of optimism. Maybe the best way for the beings at the base level of reality to create a sim is to evolve up billions or quadrillions of conscious entities in giant stable universes. But maybe it's just as easy, just as scientifically useful or fun, to cut and paste, splice and spawn, to run tiny sims of people in little offices reading and writing philosophy for thirty minutes, to run little sims of individual cities for a couple of hours before surprising everyone with Godzilla. It's highly speculative either way, of course! That speculativeness should undermine our confidence about which way it might be.

If we're in a sim, we probably can't know a whole lot about the motivations and computational constraints of the gods at the base level of reality. (Yes, "gods".) Maybe we should guess 50/50 large vs. small? 90/10? 99/1? (One reason to skew toward 99/1 is that if there are very large simulated universes, it will only take a few of them to have the sims inside them vastly outnumber the ones in billions of small universes. On the other hand, they might be very much more expensive to run!)

If you/I/we are in a small sim, then some version of radical skepticism seems to be warranted. The world might be only ten minutes old. The world might end in ten minutes. Only you and your city might exist, or only you in your room.

Detta snuddar vid den mardröm som benämns Boltzmannhjärnor, och som vore väldigt skön att kunna avfärda som overklig. Scott Aaronson, som i sin underbart infallsrika uppsats The ghost in the quantum Turing machine tar upp Bolzmannhjärneproblemet (som en bland en rad andra frågor av jämförbart bråddjup) utifrån ett perspektiv som påminner om Bostroms simuleringsargument, och föreslår en väg ut ur mardrömmen - en väg som jag dessvärre finner en smula långsökt och lam. Eller döm själva!

Elon Musk säger sig vara nästan bombsäker på att vi bor i en datorsimulering. Få andra uttrycker denna ståndpunkt så tvärsäkert, men frågan finns idag på den filosofiska och vetenskapliga agendan på ett helt annat sätt än för 15 år sedan. Dess ökade legitimitet manifesterades tidigare i år i hur den togs som tema för 2016 års upplaga av den så kallade Isaac Asimov Memorial Debate - en paneldiskussion på American Museum of Natural History i New York. Panelens samlade vetenskapliga kompetens var blytung, eller vad sägs om följande namn: David Chalmers, Zohreh Davoudi, James Gates, Lisa Randall, Max Tegmark och Neil deGrasse Tyson (moderator). Och diskussionen blev klart sevärd!

Aaronson om Newcombs paradox

Igår berättade jag om Scott Aaronsons underbara bok Quantum Computing since Democritus, och om hans charmerande tendens att bjuda läsaren på spännande små utvikningar. En av dessa utvikningar rör det fantasieggande filosofiska tankeexperiment som bär namnet Newcombs paradox. Jag sammanfattade själv häromåret tankeexperimentet med följande ord:

An incredibly intelligent donor, perhaps from outer space, has prepared two boxes for you: a big one and a small one. The small one (which might as well be transparent) contains $1,000. The big one contains either $1,000,000 or nothing. You have a choice between accepting both boxes or just the big box. It seems obvious that you should accept both boxes (because that gives you an extra $1,000 irrespective of the content of the big box), but here’s the catch: The donor has tried to predict whether you will pick one box or two boxes. If the prediction is that you pick just the big box, then it contains $1,000,000, whereas if the prediction is that you pick both boxes, then the big box is empty. The donor has exposed a large number of people before you to the same experiment and predicted correctly [every] time, regardless of whether subjects chose one box or two.¹

Så vad väljer du, att ta den stora lådan, eller båda lådorna? Är du en så kallad one-boxer, eller en two-boxer? I en av de tidiga artiklarna om paradoxen, från 1969, skriver Robert Nozick så här:

To almost everyone, it is perfectly clear and obvious what should be done. The difficulty is that these people seem to divide almost evenly on the problem, with large numbers thinking that the opposing half is just being silly.²

Jag har själv (fram tills nu) inte riktigt kunnat ta ställning inför den spänning mellan å ena sidan kausalt och å andra sidan statistiskt-prediktivt tänkande som problemställningen lyfter fram, och därmed inte kunnat svara på om jag är en one-boxer eller en two-boxer. Därför triggades min nyfikenhet rejält av följande löfte från Aaronson:

I can give you my own attempt at a resolution, which has helped me to be an intellectually fulfilled one-boxer. [Quantum Computing since Democritus, s 296]

Och när jag ser hans argument så sliter jag mitt hår över att inte ha kommit på det själv, för argumentet föreslår ju praktiskt taget sig självt för den som är bekant med antingen Nick Bostroms simuleringsargument (vilket jag är) eller Stuart Armstrongs tankeexperiment med den aggressivt förhandlande nyblivet superintelligenta AI:n (vilket jag också är).

Now let's get back to the earlier question of how powerful a computer the Predictor has. Here's you, and here's the Predictor's computer. Now, you could base your decision to pick one or two boxes on anything you want. You could just dredge up some childhood memory and count the letters in the name of your first-grade teacher or something and based on that, choose whether to take one or two boxes. In order to make its prediction, therefore, the Predictor has to know absolutely everything about you. It's not possible to state a priori what aspects of you are going to be relevant in making the decision. To me, that seems to indicate that the Predictor has to solve what one might call a "you-complete" problem. In other words, it seems the Predictor needs to run a simulation of you that's so accurate it would essentially bring into existence another copy of you.

Let's play with that assumption. Suppose that's the case, and that now you're pondering whether to take one box or two boxes. You say, "all right, two boxes sounds really good to me because that's another $1,000." But here's the problem: when you're pondering this, you have no way of knowing whether you're the "real" you, or just a simulation running in the Predictor's computer. If you're the simulation, and you choose both boxes, then that actually is going to affect the box contents: it will cause the Predictor not to put the million dollars in the box. And that's why you should take just the one box. [Quantum Computing since Democritus, s 296-297]

I ljuset av detta argument ansluter jag mig härmed till lägret av one-boxers.

Fotnoter

1) Jag har här förvrängt mitt eget citat en smula genom att ändra "90% of the time" till "every time", för att bättre ansluta mig till hur tankeexperimentet vanligtvis (och så även i Aaronsons bok) framställs. För den centrala problematiken gör detta inte någon större skillnad. Skälet till att jag i mitt ursprungliga citat talar om 90% är att stycket är hämtat från min recension av William Eckhardts bok Paradoxes in Probability Theory, där författaren insisterar på 90%-formuleringen.

2) Nozicks påstående om "almost evenly" kan jämföras med David Chalmers opinionsundersökning 40 år senare om filosofers inställning till filosofiska spörsmål, där (bland 931 svarande) 21% säger sig vara one-boxers, mot 31% two-boxers (medan återstående 47% kategoriseras under det mer svårtolkade svaret "others").

Några favoritepisoder ur Existential Comics

Vi som gillar filosofi- och vetenskapsnördiga engelskspråkiga tecknade serier lever i goda tider. Mina favoriter är nog Randall Munroes xkcd, Zach Weinersmiths Saturday Morning Breakfast Cereal (SMBC), och Corey Mahlers Existential Comics.¹ Av dessa tre är det bara xkcd som jag regelbundet återger här på bloggen, men det beror inte på att de båda andra skulle vara sämre, utan på att de sällan har det behändiga format som jag önskar att bilder jag lägger upp på bloggen skall ha.² Så när jag nu vill ägna denna bloggpost åt att slå ett slag för den intelligenta och folkbildande Existential Comics, som gärna tar hjälp av modern populärkultur för att förklara de stora filosofernas tankegångar, så avstår jag från att klippa in bilder och nöjer mig istället med att länka till några av mina favoritepisoder:

• Karl Marx spelar Monopol med Sigmund Freud, Rudolf Carnap och Friedrich Nietzsche. Det ser ut att gå illa för honom, men... clickbait!

• När Marx en tid senare möter sina filosofvänner i ett parti poker har de lärt sig en del om hans metoder.

• Om filosofi vore fotboll: VM-final mellan Frankrike och Tyskland. (Monty Python var, som en del läsare kanske minns, inne på något liknande redan 1974.)

• Immanuel Kant vs Simone de Beauvoir.

• På skattjakt med Thomas Hobbes, Karl Marx, John Rawls och Ayn Rand.

• Ett av mina favoritgräl bland nutida filosofer är det mellan David Chalmers och Daniel Dennett om zombier. Men tänk om de själva vore zombier!

• Kombinationen stängningsdags, obetald barnota, Derek Parfit, Slavoj Zizek, Noam Chomsky och Peter Singer bör om möjligt undvikas.

• Om David Hume vore Kapten Kirk och Bertrand Russell vore Mr Spock.

• Om Sartre vore Seinfeld och Kierkegaard vore Kramer.

• Trolleyologi (som jag skrev om för några år sedan) är en klass av moralfilosofiska tankeexperiment som syftar till bättre inblick i våra spontana moraliska ställningstaganden genom att så gott det går söka isolera enskilda aspekter i dessa. I en aktuell Existential Comics-episod får vi veta hur trolleyologi skulle kunna te sig om den istället omfamnade hela det slags vittförgrenade komplexitet som våra verkliga moraliska ställningstaganden dagligen inbegriper.

• Mitt under pågående rättegång ilsknar Sartre till på Nietzsche och ballar ur en smula.

Fotnoter

1) En härlig serie i samma anda är Andrew Valdens Rymdslottet, men den kommer ändå inte med i min uppräkning här eftersom den är på svenska, och dessutom noga räknat inte är någon tecknad serie.

2) Ändå tillät jag mig att reproducera en episod av SMBC i somras. Och här är en SMBC-pärla i det lite mindre formatet:

Vilken egenskap hos mänskliga hjärnor är det som ger upphov till medvetande?

Ulf Danielsson och jag har under hösten fört ett lågintensivt bloggsamtal om artificiell intelligens och medvetandets plats i ett materiellt universum. Mitt senaste inlägg i samtalet - ett kort tillägg som jag den 18 oktober fogade till en bloggpost som i övrigt är från den 14 oktober - kokar ned till en fråga till Ulf, nämligen huruvida det är rätt tolkat att han underkänner CTOM (the computational theory of mind) som rimlig kandidat till förklaring till vad det egentligen är i vårt fysiska universum som ger upphov till medvetande. I sin nya bloggpost Dra ur sladden bekräftar Ulf att jag på denna punkt tolkar honom rätt:

Min personliga uppfattning är att CTOM som hypotes är godtycklig och ogrundad. Jag ser inget som helst skäl till varför en digital maskin vars relevanta komponenter, enskilt eller i samspel, kan förstås i termer av välkänd och klassisk fysik skulle kunna leda till något som ett medvetande. Däremot tvingas jag med grund i min egen subjektiva erfarenhet erkänna existensen av ett medvetande i biologiska hjärnor. Den rimligaste slutsatsen, baserat på fysikalisk förståelse och subjektiv erfarenhet, blir att medvetanden så långt är förbehållna biologiska system där medvetande uppstår på ett för oss hittills okänt sätt.

Själv är jag inte med på Ulfs konklusion om vari "den rimligaste slutsatsen" består. Med sitt uttalande kommer han väldigt nära en ståndpunkt hos vetenskapsfilosofen Massimo Pigliucci, som jag bemöter i Avsnitt 3.8 i min kommande bok Here Be Dragons: Science, Technology and the Future of Humanity. I sitt bidrag till den spännande antologin Intelligence Unbound: The Future of Uploaded and Machine Minds från 2014 går Pigliucci till attack mot CTOM och mot David Chalmers försvar av teorin ifråga i samma antologi. Och i Here Be Dragons svarar jag så här, med ett resonemang som jag tycker duger även till att ifrågasätta Ulfs ovan citerade tankegång:

[Pigliucci repeatedly asserts that] "consciousness is a biological phenomenon", and [he complains] that Chalmers' contribution to the same book
proceeds as if we had a decent theory of consciousness, and by that I mean a decent neurobiological theory. (emphasis in the original)
But this merely presupposes what Pigliucci wants to prove, namely that consciousness is a biological phenomenon. Pigliucci knows of one example of a conscious entity, namely himself, and he has a reasonable case for assuming that most other humans are conscious too, and also that in all these cases consciousness resides (at least to a large extent) in the brain. Since all these brains are neurobiological entities, isn't that just what we need for the claim that a theory of consciousness needs to be neurobiological? Well, no, because being neurobiological entities is not the only thing that these brains have in common. They are also, e.g., material objects, and they are computing devices. Pigliucci thinks that being a neurobiological entity is the relevant property around which a decent theory of consciousness needs to be centered. Other philosophers (panpsychists) think that being a material object is the relevant property, and yet others (supporters of CTOM) think that being a computational device is the relevant property. Any discussion of the pros and cons of CTOM ought to start with the admission that it is an open problem to decide which of these generalities (or some other one, such as being bipedal, or being created in the image of God) is the relevant one for the fundamental nature of consciousness. Instead postulating from the outset, as Pigliucci does, which of them is the right one, short-circuits the discussion in such a way as to make it trivial.

Zombier i tunnelbanan

Idag bjuder jag på en gammal xkcd-teckning föreställande zombier i tunnelbanan. Till eventuell besvikelse för dem i läsekretsen som delar mitt intresse för medvetandefilosofi är det dock inte fråga om några så kallade filosofiska zombier - dessa av filosofen David Chalmers så omhuldade hypotetiska varelser som i sina fysiska manifestationer är på pricken lika dig och mig, som dock inte har något verkligt inre liv, och som bekämpats så mästerligt av både Daniel Dennett och Eliezer Yudkowsky. Nej, här är det frågan om ett annat slags zombier, nästan lika skrämmande:¹

Fotnot

1) Jag känner mig nästan säker på att xkcd-tecknaren Randall Munroe funnit inspiration till sin teckning (publicerad den 15 juli 2009) i David Heatley snygga New Yorker-omslag den 12 februari 2007.

Filmtajm!

Nu, kära läsare, är det filmtajm! Två aktuella YouTube-filmer som jag omöjligt kan unanhålla er har kommit till min kännedom (båda för övrigt genom vännen Patrik Lindenfors försorg).

Den första av dem har vi redan presenterat på Uppsalainitiativet, men jag gör det här också eftersom den så väl illustrerar ett återkommande tema här på bloggen: den eskalerande galenskapen inom det amerikanska Republikanska partiet. Känsliga personer varnas: det här är enbart för den som står ut med att se republikanska kongressledamöter ägna sig åt rena rama Stockholmsinitiativs-pajaserierna.

Den andra filmen är något så ovanligt som en rap om Singulariteten. De läsare som är insatta i ämnet kommer att känna igen många referenser och glädjas åt musik- och videomakarnas humoristiska fyndigheter. De som är mindre insatta kommer i bästa fall att få sin nyfikenhet frestad och en impuls att lära sig mer. Låt mig då för säkerhets skull framhålla att videon i sig inte är att betrakta som någon pålitlig kunskapskälla, liksom inte heller Ray Kurzweils missionerande utgör den bästa och mest vederhäftiga vägen in i ämnet. Helst av allt rekommenderar jag Nick Bostroms bok Superintelligence, men för den som inte orkar med en hel bok lyfter jag gärna fram Eliezer Yudkowskys lite kortare text, David Chalmers ännu lite kortare text, eller (för den som verkligen har bråttom) Max Tegmarks pyttekorta text om samma ämne.

Dennetts bästa någonsin?

Det finns ingen nutida filosof som jag läst mer av än Daniel Dennett (och knappast någon dåtida heller för den delen), och jag vill alldeles bestämt räkna honom till de främsta bland vår tids filosofer. Med detta vill jag inte ha sagt att jag är övertygad om att han har rätt i allt, och jag känner mig heller inte särskilt säker på att han av framtiden kommer att betraktas som en av de mest betydelsefulla och revolutionerande tänkarna från decennierna närmast före och efter millennieskiftet. Däremot har han gott om goda idéer, och han skriver oerhört bra och ofta väldigt roligt. Framställningskonsten är en aspekt som absolut inte bör underskattas, och speciellt inom filosofin tror jag inte att den kan separeras från teoribygge och problemlösning.

Dennett skriver om bland annat vetenskapsteori, evolutionsbiologi, artificiell intelligens, intentionalitet, fri vilja och - framför allt - frågan om medvetandets plats i ett materiellt universum. Vad gäller det sistnämnda driver han en stenhård materialism, och idén att om blott vi tillräckligt envist kartlägger hjärnans funktioner i stort och smått så kommer medvetandet att framstå som en nödvändig konsekvens, och det mysterium kring medvetandet som av David Chalmers döpts till the Hard Problem att gå upp i rök, på samma sätt som den allt mer detaljerade förståelse för livets mekanismer vi tillägnat oss under 1900-talet gjort all undran kring någon élan vital obsolet.

Dennetts båda mest uppmärksammade böcker är från 90-talet: Consciousness Explained (1991) och Darwin's Dangerous Idea (1995). Av hans senare arbeten är jag betydligt mer förtjust i den lilla läckerbiten Sweet Dreams (2005) än i den mer hetlevrat omdebatterade Breaking the Spell: Religion as a Natural Phenomenon (2006). Bland guldkornen i hans produktion bör vi heller inte glömma den i samarbete med Douglas Hofstadter redigerade antologin The Mind's I (1981), som någon gång mot slutet av 80-talet blev mitt första allvarliga möte med medvetandefilosofin.¹

Jag har nu med glupande aptit och obruten läsglädje tagit mig igenom Dennetts nyaste bok Intuition Pumps and Other Tools for Thinking (2013), i vilken han för samman de flesta områden han tidigare skrivit om.² Jag känner mig frestad att utnämna den till hans bästa bok någonsin. Helt klart är i alla fall att detta är den bok som jag tills vidare kommer att rekommendera Dennett-nybörjare att inleda med. Hans val att dela upp den i hela 77 kapitel, om i snitt 5-6 sidor var, där man med blott en liten förenkling kan konstatera att varje kapitel ägnas åt att presentera en enda väl avgränsad tankefigur, bidrar kraftigt till dess lättlästhet. För oss erfarna Dennett-konnässörer är det mesta han skriver inte helt nytt, men den nya paketeringen är ändå njutbar, och av framställningen framgår som aldrig tidigare hur väl hans filosofiska insatser hänger ihop i en helhet.

Den del av boken som blev allra mest givande för mig personligen är - lite överraskande - det knippe kapitel som behandlar fri vilja, där han till slut lyckas övertyga mig, på ett sätt som han misslyckats med i sina båda tidigare böcker Elbow Room (1984) och Freedom Evolves (2003), om att han behandlat rätt problem. Jag har alltsedan tonåren ansett det uppenbart att det inte går att komma utanför arvets och miljöns kausala inverkan, att kvantmekanisk slump inte hjälper, och att den fria viljan därför är en illusion. Nästan inget Dennett säger i de båda tidigare böckerna har jag haft något att invända emot i sak, men jag har tyckt att han begår ett demagogiskt trick då han omdefinierar den fria viljan på ett sätt som låter honom hävda att den existerar. Nu, äntligen, känner jag att valet av definition inte är så självklart som jag trott. Följande passage i Intuition Pumps är viktig:

There has been quite a chorus of eminent scientists saying, point blank, that free will is an illusion: neuroscientists Wolf Singer, Chris Firth, and Patrick Haggard; psychologists Paul Bloom and Daniel Wegner; and a few rather well-regarded physicists, Stephen Hawking and Albert Einstein. Could so many brilliant scientists be wrong? Many - not all, and maybe not most - philosophers say yes. They say this is a job for philosophy! Are they right? I think so.

The scientists have typically been making a rookie mistake: confusing the manifest image with what we might call the folk ideology of the manifest image. The folk ideology of color is, let's face it, bonkers; color just isn't what most people think it is, but that doesn't mean that the manifest world doesn't really have any colors; it means that colors - real colors - are quite different from what most folks think they are. The folk ideology of consciousness is also bonkers - resolutely dualistic and mysterian; if that were what consciousness had to be, then Wright would be right (see p. 313)³: we'd have to say that consciousness doesn't exist. But we don't have to treat consciousness as "real magic" - the kind that doesn't exist, made of wonder tissue⁴; we can recognize the reality of consciousness as a phenomenon by acknowledging that folks don't yet have a sound ideology about it. Similarly, free will isn't what some of the folk ideology of the manifest image proclaims it to be, a sort of magical isolation from causation. I've compared free will in this sense to levitation, and one of the philosophical defenders of this bonkers vision has frankly announced that free will is a "little miracle". I wholeheartedly agree with the scientific chorus that that sort of free will is an illusion, but that doesn't mean that free will is an illusion in any morally important sense. It is as real as colors, as real as dollars.

Unfortunately, some of the scientists who now declare that science has shown that free will is an illusion go on to say that this "discovery" matters, in a morally important sense. They think that it has major implications for morality and the law: nobody is ever really responsible, for instance, so nobody ever deserves to be either punished or praised. They are making the mistake people make when they say that nothing is ever solid, not really. They are using an unreconstructed popular concept of free will, when they should be adjusting it first, the way they do with color and consciousness (and space and time and solidity and all the other things that the ideology of the manifest image gets wrong). (s 355-356)

Point taken!

Intuition Pumps är en bok osedvanligt rik på intressanta insikter. Jag vågar nästan lova att jag i en eller flera framtida bloggposter kommer att återkomma till andra delar av den.

Fotnoter

1) Med "allvarliga" menar jag här att det var första gången jag tog del av professionella filosofers texter om saken. Tidigare hade jag som gymnasist funderat en del på egen hand (och med stort (och jag höll på att skriva pubertalt) allvar) över den fria viljans problem, och innan dess funderat över såväl inverterade qualia som metafysisk solipsism (dock naturligtvis utan att känna till dessa svåra ord).

2) Med "intuitionspumpar" avser Dennett ett särskilt slags tankeexperiment: "little stories designed to provoke a heartfelt, table-thumping intuition - 'Yes, of course it has to be so!' - about whatever thesis is being defended" (s 5-6). Väl valda intuitionspumpar är hans kanske allra mest karaktäristiska metodologiska signum. Boken bjuder på många sådana, men utelämnar också ett stort antal av dem han diktat ihop tidigare i sin rika produktion, inklusive den underbara novell "Where am I?" som Dennett (s 431) utnämner till sin mest kända intuitionspump. Den återfinns i ovan nämnda The Mind's I, och jag gjorde reklam för den i denna bloggs barndom.

3) Dennett syftar här på vetenskapsjournalisten Robert Wrights följande yttrande:

Of course the problem here is with the claim that consciousness is "identical" with physical brain states. The more Dennett et al. try to explain to me what they mean by this, the more convinced I become that what they really mean is that consciousness doesn't exist.

4) Dennett använder konsekvent fetstil för att signalera att det handlar om ett specifikt tankeverktyg som definieras och förklaras på annan plats i boken.

Rekommenderad läsning: Yudkowsky om Singulariteten

Med Singulariteten menas det hypotetiska men inte otänkbara och kanske inte ens osannolika framtidsscenario i vilket AI (artificiell intelligens) når en nivå där den är bättre än oss människor på att skapa AI, vilket leder till en snabbt eskalerande kaskad av allt intelligentare maskiner, tills de lämnat mänskligheten långt bakom sig, troligtvis med enorma konsekvenser för vår värld. Jag anser att Singulariteten förtjänar långt mer uppmärksamhet än den hittills fått i vetenskap och publik diskussion. Därför har jag skrivit om den en del här på bloggen, och givit en del lästips. Min förstahandsrekommendation har hittills varit David Chalmers utmärkta uppsats The Singularity: A Philosophical Analysis, men se även mina läslistor i bloggposterna Okunnigt om artificiell intelligens och mänsklighetens gränser och Efterlängtat temanummer om singulariteten, samt min recension av James Millers bok Singularity Rising.

Frågan är dock om inte Chalmers får maka på sig från förstaplatsen bland mina läsrekommenadtioner rörande Singulariteten, sedan en av de stora på området, Eliezer Yudkowsky, nu släppt sin nya uppsats Intelligence explosion microeconomics. Yudkowsky är upphovsman till och har i hög grad specialiserat sig på det som kallas Friendly AI - ett mycket svårt men potentiellt extremt viktigt projekt, som handlar om hur vi ser till att en eventuell Singularitet resuterar i en superintelligens som har vårt eget (mänsklighetens) bästa för ögonen och som delar våra värderingar. Den nya uppsatsen handlar om den mer basala frågan om huruvida en Singularitet alls är möjlig. Titeln "microeconomics" syftar här på att kärnfrågan är vad för avkastning en AI får då den satsar kognitiva resurser (tänkande) på att utöka sina kognitiva resurser. Yudkowsky inleder (på s 4-6) med att formulera två välkända men motstridiga argument som landar i diametralt motsatta slutsatser:

Argument [1]: For most interesting tasks known to computer science, it requires exponentially greater investments of computing power to gain a linear return in performance. Most search spaces are exponentially vast, and low-hanging fruits are exhausted quickly. Therefore, an AI trying to invest an amount of cognitive work w to improve its own performance will get returns that go as log(w), or if further reinvested, log(w + log(w)), and the sequence log(w), log(w + log(w)), log(w + log(w) + log(w + log(w))) will converge very quickly.

[...]

Argument [2]: The history of hominid evolution to date shows that it has not required exponentially greater amounts of evolutionary optimization to produce substantial real-world gains in cognitive performance—it did not require ten times the evolutionary interval to go from Homo erectus to Homo sapiens as from Australopithecus to Homo erectus. All compound interest returned on discoveries such as the invention of agriculture, or the invention of science, or the invention of computers, has occurred without any ability of humans to reinvest technological dividends to increase their brain sizes, speed up their neurons, or improve the low-level algorithms used by their neural circuitry. Since an AI can reinvest the fruits of its intelligence in larger brains, faster processing speeds, and improved low-level algorithms, we should expect an AI’s growth curves to be sharply above human growth curves.

Båda argumenten ser i förstone vettiga ut, men (minst) ett av dem måste vara fel: om det andra är rätt kan vi se fram emot en intelligensexplosion, om det första är rätt är en sådan omöjlig. Yudkowsky gör ingen hemlighet av att han tror mer på det andra och på dess slutsats, men han diskuterar i sin 92-sidiga uppsats frågan ur många synvinklar och med imponerande skärpa.

Uppsatsen är sprängfylld av insikter och exceptionellt lärorik - jag rekommenderar den varmt! Särskilt spännande vore om några av de "Singularitetsförnekare" som finns bland mina vänner och i bloggens läsekrets ville läsa den och ge sina reaktioner.

Efterlängtat temanummer om Singulariteten

Det är inte säkert att den så kallade Singulariteten - ett hypotetiskt framtidescenario där AI (artificiell intelligens) överskrider mänsklig intelligens och orsakar en explosionsartad fortsatt utveckling - kommer att inträffa. Däremot finns goda argument för att något sådant kan inträffa, och för att det inte är helt osannolikt. Meningarna om detta går isär, men med tanke på vilka enorma konsekvenser för mänskligheten en eventuell Singularitet skulle få, så vill jag mena att frågan är värd att ta på allvar. En bra och välavvägd introduktion (som jag flera gånger hänvisat till här på bloggen) är David Chalmers uppsats The Singularity: a philosophical analysis, publicerad i Journal of Consciousness Studies.

Det har länge varit känt att samma tidskrift avser publicera ett temanummer med reaktioner på Chalmers uppsats. Med tanke på vilken snäv och närmast subkulturell krets som hittills intresserat sig för Singulariteten är det enligt min mening hög tid att begreppet diskuteras i något bredare akademiska kretsar, och sagda temanummer - som nu äntligen utkommit - är därför starkt efterlängtat. Tyvärr har tidskriften den dåliga smaken att gömma artiklarna bakom en betalvägg¹, men lyckligtvis har Luke Muehlhauser på bloggen Less Wrong skrapat ihop en egen innehållsförteckning med länkar till de av texterna (flertalet) som är tillgängliga i preprintversion på andra håll på nätet.

Att döma av de tillgängliga texterna är tidskriftsnumret minst sagt ojämnt.² Jag har ännu inte hunnit lusläsa samtliga dessa texter, men kan ändå säga något om var och en:

• Francis Heylighen tar i uppsatsen A brain in a vat cannot break out: why the Singularity must be extended, embedded and embodied sin utgångspunkt i forskningsområdet embodied cognition. Han påpekar att en mänsklig hjärna inte fungerar utan ett ständigt signalutbyte med kropp och omvärld, och hävdar att det på samma vis inte går att skapa en AI instängd i sin burk. Istället tror han mer på att en övermänsklig intelligens kan uppstå ur självorganiserande nätverk som Internet.
  
  
• I det korta men inte alldeles lättsmälta bidraget Response to "The Singularity" by David Chalmers argumenterar Drew McDermott för att Singulariteten inte kommer att inträffa. Centralt i hans resonemang är påståendet ("bevisat" i ett appendix) att Moores lag inte kan vara sann med mindre än att P=NP (vilket få teoretiska dataloger tror är fallet), något som jag dock har svårt att förstå som annat än en begreppsförvirring. P kontra NP är en rent matematisk frågeställning, och kan inte ensamt besvara frågor om hur den fysiska världen är beskaffad, som t.ex. den om huruvida och i så fall hur länge Moores lag kommer att gälla i framtiden.³
  
  
• Singulariteten är förknippad med enorma risker, då vi inte vet vad de överlägsna AI-varelserna kommer att ha för inställning till oss människor. Kanske blir den slutet för mänskligheten? En ofta föreslagen metod är att hålla den superintelligenta AI:n instängd i en burk där den inte förmår göra oss någon skada, tills dess att vi övertygat oss om att det är av godo att släppa loss den. Det finns dock goda grunder för att ifrågasätta om en sådan strategi är möjlig att med framgång implementera. I texten Leakproofing the Singularity: artificial intelligence confinement problem fördjupar sig Roman Yampolskiy i denna problematik.
  
  
• Ben Goertzel följer, i texten Should humanity build a global AI nanny to delay the Singularity until it’s better understood?, detaljerat upp ett annat förslag från Chalmers uppsats om hur vi skulle kunna agera inför den stundande och eventuellt mycket farliga Singulariteten. Med Chalmers ord:
  
  
  It is certainly possible that AI+ systems will be disinclined to create their successors, perhaps because we design them to be so disinclined. [...] Furthermore, it may be that AI+ systems will have the capacity to prevent such progress from happening.
  
  
  
• Robin Hanson pekar i Meet the new conflict, same as the old conflict på likheter mellan å ena sidan den eventuella intressekonflikten människor och AI-varelser emellan, och å andra sidan de intergenerationella intressekonflikter som är välbekanta redan i dagens samhälle.
  
  
• I sitt bidrag Can intelligence explode? diskuterar Marcus Hutter de kontraintuitiva konsekvenserna av att AI-varelser kan implementeras på hårdvara med olika hastigheter.
  
  
• En ofta föreslagen metod för oss människor att få hänga med de superintelligenta AI-varelserna bortom Singulariteten är att ge upp våra skröpliga kroppar och ladda upp våra medvetanden på datorer. Attraktiviteten i ett sådant förfarande ser ut att hänga på om den uppladdade individen verkligen blir jag, något som leder till svåra filosofiska frågor om personlig identitet. I She won't be me levererar Susan Blackmore ett passionerat försvar för en Parfitsk syn på personlig identitet, nära den jag tidigare diskuterat här på bloggen.
  
  
• I texten Philosophers and futurists, catch up! gnölar Jürgen Schmidhuber över att Chalmers och andra ignorerar hans teoretiska konstruktion av något som kallas Gödelmaskiner och som tydligen är jättejätteviktigt.
  
  
• Den postsingulära världen väntas bli obegriplig. I ett klassiskt citat från 1983 skriver Vernor Vinge att
  
  
  [the] singularity [...] already haunts a number of science-fiction writers. It makes realistic extrapolation to an interstellar future impossible. To write a story set more than a century hence, one needs a nuclear war in between [...] so that the world remains intelligible.
  
  Likväl har Vinge själv, liksom en rad andra science fiction-författare, försökt sig på att skriva om Singulariteten och framtiden bortom den. Damien Broderick ger i essän Terrible angels: the Singularity and science fiction en litteraturöversikt.⁴
  
  
• Den genomsnittliga nivån på visionaritet och intellektuellt mod är hög i detta tidskriftsnummer, men det finns ett bidrag som i detta avseende sticker ut mer än de andra, nämligen Inevitable existence and inevitable goodness of the Singularity av Frank Tipler. Jag vågar påstå att Tipler överskrider gränsen till det topp tunnor tokiga flera gånger om, då han längs ogenerat teleologiska resonemang bl.a. säger sig visa (a) att fysikens ultimata lagar (tvärtemot vad fysiker i allmänhet hävdar) redan är kända, (b) att dessa fysikens lagar medför att Singulariteten kommer att inträffa, och (c) att dessa samma lagar omöjliggör konstruktionen av AI-varelser som inte är fredliga eller som inte vill oss väl. Hur i hela fridens namn har den här sortens knasbollerier kunnat ta sig igenom tidskriftens refereegranskningsprocess?

Av Muehlhausers innehållsförteckning får vi dessutom veta att ännu ett nummer av tidskriften kommer att ägnas åt reaktioner på Chalmers text, plus ett svar från Chalmers själv. Ett utmärkt smakprov får vi då han länkar till en text av Carl Shulman och Nick Bostrom, som utreder huruvida vi möjligen - förledda av att vi själva blivit till på evolutionär väg - lurats att underskatta svårigheterna i att skapa AI på mänsklig nivå med hjälp av genetiska och evolutionära programmeringsmetoder.

Fotnoter

1) Denna praktik strider mot andan i vårt (mänsklighetens) gemensamma projekt vetenskapen. Extra stötande är att den ofta benämns publicering trots att det handlar om motsatsen - en kommersiell privatisering av vetenskapliga texter. Men denna fråga (som jag hoppas återkomma till) ligger utanför ämnet för dagens bloggpost.

2) Och så är väl egentligen alltid fallet med antologier, något jag här på bloggen sett mig föranledd att påpeka i ett par närbesläktade sammanhang.

3) Mot slutet av sin text skriver McDermott att han anser att

it would be a pity for too many smart people to devote time and mental effort to thinking about the Singularity, [because] there are other possible events, unambigous catastrophes, with higher probability

...och förklarar sedan att han avser ett scenario där global miljökollaps medför social oro och i förlängningen kärnvapenkrig. Det är möjligt att McDermott har rätt i sin sannolikhetsbedömning, men jag menar att det inte för den sakens skull är oförnuftigt att diskutera Singulariteten. Vi har många stora utmaningar framför oss, och behöver förhålla oss till dem alla. Vad som enligt min mening verkligen vore oförnuftigt skulle vara om vi satte oss ned för att försöka rangordna de olika utmaningarna, och sedan koncentrera all vår kraft på att lösa enbart den som hamnar högst på listan, ignorerandes de övriga.

4) Science fiction är en illa sedd genre, något jag finner orättvist. Romaner är (utöver deras rena underhållningsfunktion) i första hand till för fördjupa vår förståelse för vad det innebär att vara människa. Det senare är inte helt fixt genom tiderna, utan beror av samhällets utformning, vilken i sin tur beror av teknikutvecklingen. Att en och annan författare inte nöjer sig med att behandla vad det är att vara människa idag eller i förfluten tid, utan tillåter sig att fördjupa sig i hypotetiska framtidsscenarier, anser jag vara mycket värdefullt. Margeret Atwood tycks hålla med, i sin bok In Other Worlds (som jag inte läst utan bara är bekant med via Joyce Carol Oates recension i senaste New York Review of Books).

Edit 11 april 2012: En uppföljning till Fotnot 1 finns här.

Okunnigt om artificiell intelligens och mänsklighetens framtid

Om fjorton dagar, fredagen den 24 februari kl 10.15, avser jag hålla ett föredrag med rubriken When human reasoning is transcended i seminarieserien Human reasoning på Institutionen för filosofi, lingvistik och vetenskapsteori vid Göteborgs universitet. Det blir möjligen det viktigaste ämne jag talat över i föredragsform. Därtill är det ett ämne om vilket jag är katastrofalt okunnig. Att jag trots detta sistnämnda dristar mig att tala om det försvarar jag med att alla andra¹ är minst lika okunniga som jag, och att kollektiv brist på kunskap i en viktig fråga inte är någon godtagbar ursäkt för att ignorera den.

Läsare i göteborgstrakten är mycket välkomna att komma för att lyssna och diskutera. Allra mest givande tror jag att diskussionen kan bli om de kritiska invändningarna höjer sig över känslomässiga och sakligt ogrundade utrop som "Det där tror jag inte kan hända!" och istället är sakligt förankrade och noga genomtänkta, gärna efter kritiskt studium av någon eller några av de uppsatser som jag avser utgå ifrån i mitt föredrag:

• Nick Bostrom och Eliezer Yudkowsky: The ethics of artificial intelligence
  
  
• David Chalmers: The Singularity: a philosophical analysis
  
  
• Bill Joy: Why the future doesn't need us
  
  
• Luke Muehlhauser: Facing the Singularity
  
  
• Eliezer Yudkowsky: Artificial intelligence as a positive and negative factor in global risk

Fotnot

1) Detta är blott en mild överdrift. Det finns ett litet antal personer, inklusive flertalet av de i slutet av bloggposten uppräknade författarna, vilkas okunskap i ämnet bara är nästan lika stor som min, men likväl ändå klart inom gränserna för vad som förtjänar betecknas som katastrofalt.

Singularitet 2045?

Med den braskande rubriken Maskinerna tar över år 2045 signalerar det aktuella numret av Ny Teknik en tidtabell för när den högsta intelligensen på vår planet inte längre kommer att finnas hos oss människor av kött och blod, utan hos datorer. Artikeln i Ny Teknik är ytlig och okritisk, vilket är synd då ämnet är fruktansvärt viktigt.

Årtalet 2045 är hämtat från Ray Kurzweils uppmärksammade bok The Singularity is Near från 2005. Kurzweil bygger sin prediktion i första hand på det som kallas Moores lag, som finns i olika varianter och som beskriver hur olika slags datorprestanda ökar exponentiellt med en fördubbling var 18:e eller 24.e månad. När väl den övermänskliga intelligensen är på plats kommer den, enligt Kurzweil och andra bedömare, och med Moores lag som ett slags turbomotor, att generera en explosionsartad utveckling av allt högre intelligenser, vilket är bakgrunden till termen Singulariteten.

Kurzweils bok har drag av frälsningspredikan, och som motvikt är det bra att läsa Bill Joys dystopiska essä Why the future doesn't need us från 2000 (som jag gjorde reklam för i en tidigare bloggpost). Den text jag emellertid helst av allt rekommenderar som introduktion till begreppet Singulariteten är David Chalmers välgenomtänkta och balanserade uppsats The Singularity: A Philosophical Analysis. Jag ser också med förväntan fram emot det specialnummer av Journal of Consciousness Studies som kommer inom några månader och som (vilket framgår på Chalmers blogg) skall bjuda på en rad framstående tänkares reaktioner på Chalmers uppsats.

Min egen syn på Singulariteten är ungefär följande. Om den inträffar, så kommer den att förändra världen på ett så genomgripande sätt att inget i samhället och våra (eller våra efterföljares) liv kommer att vara sig likt. Den kan föra oss - och nu tillåter jag mig ett bombastiskt bildspråk som i detta sammanhang dock är mer på sin plats än i de flesta andra - till ett paradis eller rakt ned i helvetet. Om vi inte innan dess hinner utlösa någon katastrof som antingen tar kål på oss helt och hållet (vilket det så klart finns stor risk för) eller kastar tillbaka civilisationen till stenåldersnivå, betraktar jag det som troligt att Singulariteten för eller senare inträffar.

Tidtabellen, däremot, är jag skeptisk till. Kurzweils basunerande av årtalet 2045 fungerar måhända som PR-trick, men synes mig inte alldeles vederhäftigt. Moores lag är ingen naturlag utan blott en empirisk observation vars giltighetsområde (bortom vad vi redan sett) vi vet väldigt lite om. Och utvecklingen mot en Singularitet handlar naturligtvis inte bara om hård- utan även om mjukvaruutveckling, och det senare förefaller ännu svårare att förutsäga och förse med pålitliga tidtabeller. Vi vet inte vilka nya svårigheter (eller fantastiska genvägar) som kan tänkas dyka upp på den jungfruliga mark som det handlar om att beträda. Beläggen för att Singulariteten skulle inträffa 2045, snarare än 2025 eller 2200, är enligt min mening svaga.

Hur långt räcker naturvetenskapens världsbild?

Förra hösten anordnade Folkuniversitetet och Föreningen för populärvetenskap tillsammans en serie föreläsningar i Göteborg med samlingsrubriken Om världsbilder. Jag inbjöds att hålla en av föreläsningarna, vilket jag tackade ja till, och höll den 17 oktober 2010 ett anförande med rubriken "Hur långt räcker naturvetenskapens världsbild?". Exklusivt för bloggens läsare presenterar jag härmed föreläsningen i skriftlig form.

* * *

Den inbjudan jag fick från Ove Lundgren att tala i den här föreläsningsserien var mycket smickrande, då han inviterade mig att hålla en föreläsning "om min världsbild". Tänk någon kan intressera sig för just min världsbild! Samtidigt kändes det som ett väldigt utmanande ämne att tala om, och i ett försök att göra det hela till en aningen mindre pivat angelägenhet anmälde jag en rubrik som talar om naturvetenskapens världsbild snarare än min egen världsbild. Hurpass väldefinierat begrepp "naturvetenskapens världsbild" är kan man såklart diskutera, men i den mån den är det tror jag att det föreligger hyfsat god överensstämmelse mellan den och min egen. Jag skall ändå försöka problematisera.

När jag här pratar om världsbild, så syftar jag på vår bild av faktiska sakförhållanden om vår värld, sådana saker som t.ex. "Jorden är den femte största planet som kretsar kring Solen" eller "framför mig i den här föreläsningssalen finns ett trettiotal åhörare". Sådana påståenden kan vara sanna eller falska (det kan finnas oupptäckta planeter större än Jorden, och jag kan gravt missta mig på antalet personer här i lokalen), men de handlar om sakförhållanden, dvs vad som faktiskt, objektivt sett, föreligger. Med sakpåståenden menar jag alltså påståenden som är objektivt sanna eller objektivt falska.

Här exkluderar jag etiska påståenden som t.ex. "det är fel att dräpa" och estetiska påståenden som t.ex. "Älvsborgsbron är vacker", om vilka jag menar att något objektivt rätt och fel inte finns. Jag är alltså etisk och estetisk relativist. Enligt detta synsätt finns det alltså ingen objektiva sanningar av vare sig etisk eller estetisk natur. Detta är dock lite subtilt: även om "det är fel att dräpa" inte är ett faktapåstående, så kan "du där på första bänk anser att det är fel att dräpa" vara ett faktapåstående och kan som sådant vara objektivt sant eller objektivt falskt (trots att det handlar om din subjektiva uppfattning). Och även om "Älvsborgsbron är vacker" inte är ett faktapåstående så kan "många göteborgare är stolta över Älvsborgsbron, som de finner vacker" vara det.

Observera dock att trots att jag anser att det inte finns något objektivt rätt och fel i t.ex. etiska frågor, så hindrar inte det mig från att ha starka åsikter i sådana - jag är emot könsstympning, jag vill att vi skall vara rädda om Moder Jord, etc, etc - åsikter som jag inte ens drar mig för att predika inför andra. Jag vill inte att könsstympning skall förekomma (vare sig i Sverige eller någon annan stans), jag vill att så många som möjligt skall instämma i detta, och jag låter inte min etiska relativism hindra mig från att predika min åsikt om könsstympning.

Detta med etisk och estetisk relativism är omtvistat: t.ex. instämmer inte alla etikfilosofer i den etiska relativismen. Och omvänt finns det de som går längre i sin relativism och hävdar att inte ens det jag kallar faktapåståenden är sanna eller falska, annat än relativt exempelvis någon kulturell kontext. Någon objektiv sanning finns alltså inte enligt denna uppfattning, utan bara subjektiva uppfattningar: det som är "sant för mig" behöver inte vara "sant för dig". Inget finns på riktigt - allt är blott sociala konstruktioner. Denna extrema form av relativism är (även om den det senaste årtiondet förefaller vara på tillbakagång) populär i kretsar som kallar sig postmoderna.

Mycket finns att invända mot den, som t.ex. min gode vän fysikern Alan Sokal (mannen bakom det som kallas the Sokal Hoax och som blev ett hårt slag mot den postmoderna relativismen) gjorde, då han i en debatt bjöd hem sina meningsmotståndare med följande ord:

Var och en som tror att gravitationslagen blott är en social konvention är välkommen att prova att överskrida konventionen genom fönstret i min lägenhet. Jag bor på 22:a våningen.

Detta är förvisso skämtsamt, men pekar ändå på ett allvarligt faktum. Till och med den mest hårdföra postmoderna relativist som skall korsa gatan men stannar upp på trottoaren för att släppa förbi den framrusande lastbilen istället för att bli överkörd tror innerst inne att lastbilen finns på riktigt och alltså alls inte är en social konstruktion.

Om man vill vara lite allvarligare kan man peka på relativismens självupphävande egenskap, som förekommer i många varianter. Här är en: Antag att du, som en sann relativist, hävdar att "det inte existerar några objektiva sanningar". Menar du då att detta påstående är objektivt sant? Om ja, så är det självmotsägande och därmed falskt – och således inget att bry sig om. Om nej, om det alltså inte är objektivt sant, då är det ju bara något du känner för att säga, utan grund i något faktiskt – och således inget att bry sig om. Beträffande hur avgörande denna invändning mot relativismen är går meningarna isär. Jag betraktar den som ett allvarligt problem för relativismen i dess mest extrema former, medan det finns andra som hävdar argumentet blott pekar på att det föreligger kommunikationssvårigheter mellan relativister och icke-relativister. (Den som vill kan fundera över hur dessa båda argument – Sokals skyskrapeargument och relativismens självupphävande egenskap – kan modifieras för att riktas som kritik mot den etiska och den estetiska relativism jag säger mig försvara. Eventuellt kan jag få vissa problem att värja mig. Filosofi är svårt.)

Jag insisterar alltså på att det finns en objektiv fysisk verklighet. Men att bevisa detta låter sig knappast göras. Hur kan jag överhuvudtaget veta att det finns en verklighet därute som återspeglas av de sinnesintryck jag upplever? Hur kan jag veta att föreläsningssalen här, och alla ni som sitter här, inte blott är inbillningar i mitt medvetande? Allt jag har är ju sinnesretningar som jag väljer att tolka som t.ex. syn- och hörselintryck, vilka i sin tur antas härröra från något som finns därute men som jag strängt taget inte kan komma i direktkontakt med (jag kan ge mig på att greppa efter den här stolen och kan påstå att jag nu har direktkontakt med den, men allt jag har som stöd för det är ju blott mina känselintryck). Hur vet jag att jag inte bor i The Matrix - ni vet filmen där huvudpersonen så småningom får klart för sig att allt han tyckt sig uppleva blott är en datorsimulering. Svaret är väl att jag inte kan veta det. Inte säkert. Försök har gjorts att bygga upp helt säker kunskap, men med magra resultat. Descartes kände att han stod på säker mark med sitt Cogito ergo sum – "jag tänker, alltså finns jag", och jag känner en viss böjelse att hålla med, men även det kan säkert också ifrågasättas. (En del hävdar att matematisk kunskap kan vara absolut säker. Och visst kan jag känna mig säkrare på att 7+3=10 än på det mesta annat, men kan jag verkligen vara absolut 100% bombsäker på att jag inte räknat fel?)

Jag kan alltså inte bevisa att det finns en objektiv fysisk verklighet, men jag tror att den finns. Om ni pressar mig på varför, så kan jag peka på att saker och ting i så hög grad beter sig som om de fanns att det vore märkligt om de inte fanns. (Men det är klart, det kan ju vara en konspiration, som i The Matrix...) Och om ni pressar vidare så går jag nog över till en pragmatisk argumentation. Hypotesen att det finns en objektiv verklighet där ute som återspeglas i mina sinnesintryck, inklusive att den framrusande lastbilen faktiskt finns på riktigt och därför är värd att akta sig för, har hittills visat sig fungera såpass väl att jag - åtminstone tills vidare - väljer att hålla fast vid den.

*

Nå, ni blir säkert besvikna om detta är allt jag har att meddela om min världsbild: att jag tror att världen faktiskt existerar. Något mer borde jag väl kunna leverera. Här skulle jag kunna påbörja en lång lista med påståenden om vår värld, som jag tror på. En del av dem är vardagliga och tämligen triviala, som t.ex.

• Jag tror att det här i Göteborg finns gott om spårvagnar men ännu fler bilar.
  


• Cirka 55 km öster om Göteborg (fågelvägen) tror jag att staden Borås ligger, och att mina föräldrar bor där.

...så låt oss lägga sådana åt sidan och fokusera på lite grandiosare utsagor:

• Jag tror att materien är uppbyggd av atomer.
  


• Jag tror att en vattenmolekyl består av en syreatom sammanfogad med två väteatomer.
  


• Jag tror att AIDS orsakas av HIV-viruset.
  


• Jag tror på Newtons gravitationslag - som en approximation vilken fungerar utmärkt under förhållanden som vi är vana vid men som under extrema förhållanden behöver ersättas med Einsteins allmänna relativitetsteori eller möjligen något ännu mer allmänt och raffinerat som vi ännu inte känner till.
  


• Jag tror att människor och chimpanser härstammar från gemensamma anfäder som levde för cirka sex miljoner år sedan.
  


• Jag tror att evolutionen fortskridit genom årmiljonerna utan gudomliga ingripanden.
  


• Jag tror att jordens medeltemperatur de senaste decennierna stigit med i genomsnitt någon dryg tiondels grad per decennium, och att denna ökning under återstoden av det här århundradet kan väntas accelerera om vi inte styr om kursen från den kraftiga ökning i fossilbränsleförbränning som för närvarande pågår.
  


• Jag tror att universum (eller den del av universum som vi idag känner till) blev till genom den så kallade Big Bang för mellan 12 och 15 miljarder år sedan.

Och så vidare. Inget av det här vet jag som sagt fullständigt säkert, men i samtliga fall tycker jag mig ha tillräcklig anledning att vara någorlunda säker - exakt hur säker kan dock variera från fall till fall.

Det här kommer att bli väldigt spretigt och till slut ganska långrandigt om jag fortsätter listan. Bättre då att jag försöker förklara varför jag tror på dessa saker, och sätta in dem i något slags system. Låt mig börja med att säga något om vad jag menar med vetenskap.

Om någon försöker lura er att de kan ge ett enkelt och exakt kriterium på vad som är respektive inte är (god) vetenskap, så tro dem inte! Saken är komplicerad, och även om jag ofta i enskilda fall kan skilja det ena från det andra så känns det orealistiskt att försöka formulera en generell regel som osvikligt skiljer vetenskap från icke-vetenskap. Men om jag något så när skall försöka ringa in det så handlar det om att med hjälp av empiri och rationellt tänkande försöka vidga vår kunskap om världen. Någon principiell skillnad mot när vi gör samma sak i vardagslivet (säg att jag letar efter min borttappade strumpa, eller försöker förstå varför motorgräsklipparen inte startar) menar jag att det inte är - däremot bedrivs väl vetenskapliga undersökningar som regel med långt större systematik, och också med stöd av den stora kunskapsmängd som ackumulerats genom åren om vilka vägar som fungerar bättre än andra när det gäller att nå tillförlitliga resultat: hit hör en rad matematiska och statistiska metoder, försöksplanering, användandet av kontrollgrupp och placebo i medicinska studier, etc etc.

Något som också kan beskrivas som en grundpelare i det vetenskapliga förhållningssättet (mest relevant i naturvetenskapen, men gäller för all del också i övriga någorlunda sunda vetenskaper - vilket exkluderar delar av teologin och kanske en del annat) är naturalismen: antagandet att allt vi ser omkring oss har naturliga förklaringar. Ordet naturalism har ett par approximativa synonymer: materialism och fysikalism. Vissa filosofer vill dra mer eller mindre subtila skiljelinjer mellan dessa, men jag skall betrakta dem som synonyma. Ordet materialism (kanske det minst lämpliga ordet, då det kan föra tankarna till exempelvis Marx historiematerialism eller glupsk konsumism, saker som inte alls har att göra med den materialism vi talar om här) betonar hur världen är uppbyggd av materia (inklusive energi, vilket är en annan sida av samma sak). Ordet fysikalism betonar vetenskapens reduktionistiska hierarki, där reducerandet av frågeställningar till mer grundläggande storheter alltid till slut landar i fysiken, via kedjor som t.ex. sociologi-psykologi-neurologi-biokemi-fysik. Men i hög grad är detta olika sidor av samma mynt, och de tre orden naturlaism, materialism och fysikalism har betydelser som sammanfaller eller åtmistone kraftigt överlappar.

Någon kan säkert tycka att det låter ovetenskapligt att rätt och slätt anta att världen är naturlig. Borde vi inte hålla den frågan öppen? Här gäller det att skilja på metodologisk och metafysisk naturalism. Den metafysiska naturalismen är en världsbild och en trosföreställning, som säger att allt har en naturlig förklaring. Metodologisk naturalism handlar inte om någon världsbild eller trosföreställning, utan är en metodföreskrift för framgångsrik vetenskap. Vi formulerar, i Karl Poppers anda, hypoteser om naturliga förklaringar till fenomen vi ser om kring oss, och gör vad vi kan för att testa förklaringarna, vilket ofta leder till falsifiering och förkastelse, varpå nya hypoteser behöver formuleras. Alla dessa hypoteser kan sägas ligga inom ramen för den övergripande hypotesen att världen är naturlig. Även den, kan vi föreställa oss, är möjlig att förkasta i ljuset av evidens: vi kan tänka oss en situation där den metodologiska naturalismen kör fast, där vi har en uppsättning fenomen som envist motstår varje försök till naturlig förklaring, och där vi till slut ser oss nödsakade att konstatera att hypotesen om att världen är naturlig är ohållbar - vilket i så fall blir ett s.k. paradigmskifte (jfr Sven-Eric Liedmans föreläsning lite längre fram i den här föreläsningsserien) av mått, och ett läge för total omprövning av vår syn på vetenskapen.

Även om vi konceptuellt håller isär den metodologiska och den metafysiska naturalismen kan vi såklart erkänna att det finns ett samband mellan dem. Ju större framgång den metodologiska naturalismen har, desto större blir lockelsen i att tro på den metafysiska naturalismen. (Så fungerar i alla fall jag; andra personer kan såklart ha andra böjelser.)

Nå, hur framgångsrik är den metodologiska naturalismen? Totalt framgångsrik, bara delvis framgångsrik, eller står den rentav inför kris och paradigmskifte? Innan jag försöker besvara det, låt mig först säga något om vad vi egentligen menar med med naturliga förklaringar. Vi får inte ha en alltför snäv definition, som att kräva att ett fenomen skall kunna reduceras till våra idag kända naturlagar. I så fall skulle vi avhända oss möjligheten att inom vetenskapens ram modifiera naturlagar eller formulera nya. Det finns, menar jag, inte något i sig ovetenskapligt i att undersöka om det möjligen kan existera ESP-fenomen, tankeöverföring via något slags kraftfält eller liknande av hittills okänd art, ty om ESP finns kan vi ju rimligtvis inkorporera det, via nya naturlagar, i en naturalistisk världsbild.

Men här riskerar vi att göra definitionen alltför vid, ty om precis allt går för sig att inkorporera, då blir det ju ett tomt påstående att hävda att något är naturligt. Så någon slags gränsdragning behöver vi göra. Ett försök till definition som gjorts är att dela upp allt som finns i två kategorier - materia vs medvetande - och sedan deklarera allt som i grunden är uppbyggt av materia som naturligt, medan allt som i grunden härrör ur ett medvetande är övernaturligt; med en sådan syn skulle världen, om den är skapad av en högre makt i form av ett medvetande, vara övernaturlig hur naturlig den än må te sig i alla sina detaljer. Jag föredrar en annan definition, där naturligt är det vars egenskaper och dynamik kan beskrivas i termer av (reduceras till) enkla lagar – naturlagar om vi så vill. Exakt vad "enkel" här betyder vill jag inte precisera, men jag kan nog tänka mig en generös definition. Det tycks finnas lite olika uppfattningar bland fysiker om hur enkla grundläggande lagar för universum man kan hoppas på: den amerikanske fysikern Steven Weinberg är bl.a. i boken Dreams of a Final Theory optimistisk, medan åtminstone vissa i en yngre generation av fysiker, som t.ex. Ulf Danielsson i Uppsala, lutar åt att lagarna kan komma att visa sig inte alls så enkla och vackra som man tidigare hoppats.

*

Hur som helst, jag skulle svara på hurpass framgångsrik vetenskapens metodologiska naturalism har varit och är. Jag vågar påstå att den uppvisat oerhörda framgångar. Vi vet massor om allt från solsystemet, Vintergatan och universum ned till celler, molekyler, atomer och elementarpartiklar. Hela den enorma teknikutveckling vi sett det gångna århundradet, med datorer, månlandningar, mobiltelefoner, USB-minnen och GPS:er (samt dessvärre också atombomben) bygger på denna vetenskap.

Många kunskapsluckor återstår. Vi vet inte vad den "mörka materia" ute i universum, som vi inte kan se men var existens vi tycker oss kunna sluta oss till genom dess gravitationella påverkan på synlig materia, består av. Allmänna relativitetsteorien och kvantfysiken är var för sig spektakulärt kraftfulla verklighetsbeskrivningar, men vid tillräckligt höga energier börjar de motsäga varandra, och någon lösning på denna konflikt (exempelvis i form av den Final Theory Weinberg syftar på) har vi ännu inte lyckats hitta. Även om vi vet mycket om livets utveckling har vi dålig kläm på hur det startade. Etc.

Många kunskapsluckor som sagt. Men ingen har påstått att det skulle vara enkelt att forska, och att vi skulle kunna avkräva naturen alla svar bums, så jag tycker inte det är det minsta nedslående att så mycket återstår. På tal om just livets utveckling har det ju från kreationistiskt håll gjorts stor sak av felande länkar. Men det finns faktiskt ingen anledning att vänta sig att våra fossiler skall ge fullständiga rekonstruktioner av det biologiska utvecklingsträdet. Och om man mellan två arter X och Y saknar "den felande länken", vad händer då om vi hittar just en sådan felande länk Z? Jo, då fördubblas problemet: plötsligt saknar vi "den felande länken" mellan X och Z, och den mellan Z och Y.

*

Inget av detta finner jag som sagt särskilt oroande i detta sammanhang, eller som skäl att allvarligt ifrågasätta naturalismen. Men det finns ett problem som framstår som betydligt mer oroande, och det är problemet med det mänskliga medvetandet. Hur kan det fysiska omkringskuffandet av elektroner och joner i det nervknyte jag har innanför pannbenet ge upphov till inre upplevelser, ett medvetande? Jag har lite svårt att hitta de rätta orden här: ord som på ett precist sätt beskriver problemet, och det har rentav sagts att problemet med medvetandet är det enda av naturvetenskapens riktigt stora öppna problem som vi inte ens klarar av att formulera ordentligt.

Det finns en känd uppsats från 70-talet av filosofen Thomas Nagel som redan i titeln antyder ett försök att formulera problemet: "What is it like to be a bat" – hur känns det att vara en fladdermus? Om han istället hade frågat "Hur känns det att vara en sten?" så hade vi genast svarat att frågan är fel ställd - det känns naturligtvis inte alls. Men "Hur känns det att vara Hillary Clinton?" upplever vi däremot som en meningsfull fråga, därför att vi utgår ifrån att hon, precis som vi själva (men i motsats till stenen), har ett medvetande. Vad gäller fladdermusen kan vi eventuellt känna oss lite osäkra på om den har ett medvetande eller inte. Strängt taget kan man hävda att vi egentligen inte heller har någon information att gå på i fallet med en sten eller med Hillary Clinton, ty den ende som noga taget kan veta något om hennes eventuella medvetande är hon själv. Den sortens skepsis till existensen av andra medvetanden än det egna kallas solipsism, och kan möjligen motiveras filosofiskt, men skulle i längden kännas fruktansvärt ensamt. Möjligen är det därför vi tenderar att utgå från att andra människor har medvetanden liknande det egna.

Om vi nu accepterar en naturalistisk världsbild så uppstår frågan hur materia kan ge upphov till medvetande. Den australiensiske filosofen David Chalmers kallar problemet "the Hard Problem", för att särskilja dess speciella status jämfört med allehanda "enklare" problem (Hur kombineras signalerna från två ögon till djupseende? Hur går det till när vi prioriterar mellan olika sinnesintryck som samtidigt pockar på vår uppmärksamhet? Etc, etc.) som visserligen är högintressanta vetenskapliga frågeställningar men som saknar det filosofiska bråddjup som problemet med medvetandets existens utgör.

Chalmers gillar att formulera problemet i termer av s.k. zombies - inte det slags zombie som figurerar i skräckfilmer, utan filosofiska zombies. En sådan zombie är en figur som fysiskt sett är på pricken lik dig eller mig, ned till minsta molekyl och minsta elementarpartikel, men som saknar inre subjektiva upplevelser. En zombie beter sig exakt som du eller jag, uppvisar exakt samma känsloyttringar, förmår återge exakt samma barndomsminnen, etc, etc., men inombords är det så att säga beckmörker. The Hard Problem blir då: varför är vi inte alla zombies?

En annan filosof, den i breda läsekretsar (däribland jag själv) mycket populäre Daniel Dennett, avvisar zombietanken, och har till och med hittat på ett ord för föreställningen om filosofiska zombies - att de överhuvudtaget skulle vara logiskt möjliga - the zombic hunch: den zombiska böjelsen. Han menar att när vi analyserat problemet, och de neurala och kemiska processer som försiggår i våra hjärnor, tillräckligt noggrant, så kommer det att uppenbaras att frågan om zombier är lika inkoherent och knasig som om vi skulle fråga oss om det kan finnas tingestar som fysiskt sett, ned till minsta elementarpartikel, är uppbyggda exakt som kakelugnar, dock utan att vara kakelugnar. (Lite oklart framstår det dock huruvida Dennett i böcker som Consciousness Explained verkligen menar sig ha genomfört en sådan analys, eller om han bara hävdar att det är så det kommer att gå.)

Hur som helst, om det finns något enda problem där naturvetenskapen hittills stött på patrull på ett sätt som skulle kunna vara en kandidat till det slags kris för naturalismen, eller paradigmskifte, som jag skissade på för en stund sedan, så menar jag att det är the Hard Problem angående medvetandet. Vissa tänkare, som t.ex. filosofen Colin McGinn, påpekar att den precis på samma sätt som en hund omöjligt kan förstå den kopernikanska världsbilden med solen i centrum och planeterna i cirkelformade banor runt den (eller ens sjuans multiplikationstabell), så kan det gott vara så att det finns saker som av rent fysiologiska skäl ligger bortom vad en mänsklig hjärna kan begripa, och att the Hard Problem hör till denna kategori.

Själv tycker jag att det ännu är för tidigt att ge upp om vår fömåga att reda ut det här, eller att proklamera någon naturvetenskapens kris eller paradigmskifte. Lite perspektiv får vi om vi betänker följande. För 100 år sedan var det svårt att föreställa sig hur död materia kunde formera sig till levande varelser utan medverkan av någon mystisk elan vital - något som vi nu, tack vare biologins och biokemins fantastiska framgångar inte längre finner bekymmersamt. Länge tyckte vi istället att förekomsten av intelligenta varelser var gåtfullt, med mycket tack vare datorrevolutionen har även det mysteriet lösts upp - vi vet ju nu hur vi konstruerar maskiner som kan styra kryssningsrobotar och besegra även de allra starkaste mänskliga stormästarna i schack. Nu återstår problemet med medvetna varelser, men kanske kan vi, med lite tålamod, vänta oss att även det problemet upplöses.

*

Ett problem som ofta nämns i samma andetag som det om våra medvetanden är den fria viljans problem, som jag bekymrade mig en del över när jag var yngre, men som jag numera tror är ett missförstånd (ungefär så som Dennett tycker att the Hard Problem är ett missförstånd). Problemet är följande: om våra hjärnor blott har att rätta sig efter naturlagarna, hur kan det då finnas utrymme för fri vilja? Om världen är deterministisk (dvs om naturlagarna inte medger utrymme för "verklig slump") verkar det helt kört. Men möjligheten att naturen i grund och botten skulle innehålla t.ex. kvantmekaniska slumpfenomen ger inte mycket tröst: om min fria vilja består i att mina handlingar styrs av någon roulettekula så är det väl inte mycket till fri vilja.

Ett sätt att se den principiella skillnaden mellan medvetandeproblemet och den fria viljans problem är följande. Den fria viljan kan mycket väl vara inbillad, men medvetandet kan inte gärna förklaras bort på det viset, ty om det är inbillat, vad är det då som inbillar sig om inte ett medvetande?

Denna lösning på den fria viljans problem (att den är inbillad) är inte på minsta vis paradoxal, men kan möjligen uppfattas som en smula obehaglig. Jag menar dock att den inte ens är det. Låt mig citera ett stycke ur min bok Riktig vetenskap och dåliga imitationer från 2008 - ett stycke som är inspirerat av den amerikanske datalogen Douglas Hofstadter (någon här kanske har läst han berömda bok Gödel Escher Bach; inspirationen till nedanstående kommer dock från hans färskare I Am a Strange Loop). På sid 175-176 i min bok skriver jag så här:

Insisterandet på fri vilja är ett missförstånd. Visst har jag en vilja, men den är knappast fri, då mina val ju ständigt stöter på hinder: margarinet är slut, jag glömde förrådsnyckeln i lägenheten och jag saknar förmåga såväl att flyga som att bevisa Riemannhypotesen. Livet är en labyrint vars väggar utgörs av dessa bivillkor och frustrationer. En del av bivillkoren dyker upp i min egen hjärna i form av starka eller ibland oemotståndliga känslor: kättja, sockersug, impulsen att klia på gårdagens myggbett och det maniska undvikandet av trottoarens betongskarvar. Dessa drivkrafter finns där jämte mer komplexa sådana: mina ambitioner och förhoppningar om att vara välförberedd på torsdagens seminarium, [...] om att åter nå ned till min personliga rekordtid på Göteborgsvarvet, om att vara snäll mot vänner och familj, om att betala av bostadslånet och om att leva någorlunda miljövänligt. Vad är då min vilja annat än det stycke neurologisk informationsbehandling som väger samman alla dessa villkor, drivkrafter och önskningar för att nå fram till ett entydigt svar om vad jag skall göra härnäst? Och vad i hela fridens namn skulle det innebära att min vilja är fri - att jag, även sedan sammanvägningen resulterat i att jag skall ta spårvagnen, ändå kunde ha valt cykeln? Vad vore poängen med det? Jag är glad åt att ha en vilja, men varför låta mig störas av det faktum att denna är uppbyggd av nervknippen och molekyler som liksom alla annan materia har att rätta sig efter naturlagarna? Jag vågar påstå att det går att vänja sig vid denna tanke utan att ens moraluppfattning eller tro på det meningsfulla i att leva slås i spillror.

*

När jag kikar på programmet för den här föreläsningsserien slås jag av den rikliga förekomsten av religion i temat för de kommande föreläsningarna - jag tror nästan att präster, teologer och religionshistoriker är i majoritet bland talarna. Därför kanske jag avslutningsvis borde säga något om huruvida det i min världsbild finns plats för någon Gud. Om någon rätt och slätt frågar mig om jag tror på Gud, och begär ett rakt ja/nej-svar, så svarar jag (vilket ni kanske redan anat av vad jag hittills sagt) nej, jag tror inte på Gud.

Men håller jag Guds existens för helt utesluten? För att svara på det måste jag begära en närmare definition av vad som menas med Gud. Om ni menar den Gud som det står om i Bibeln - den person av manskön som skapade världen på sex dagar, som har detaljerade synpunkter på vad vi får göra bakom sovrummets dörrar (även med samtyckande vuxna), som utsatte Abraham för ett sadistiskt spratt och så när fick denne att ta livet av sin son Isak... den Gud som skickade sin egen son (som på något outgrundligt vis också är han själv) att korsfästas och torteras för att befria oss från våra synder - om det är den Guden ni menar, så måste mitt svar bli att, ja, den Guden är så långsökt och konstig att jag i brist på evidens håller hans existens för utesluten. Eller i alla fall nästan utesluten - om övertygande evidens för hans existens skulle dyka upp så är jag nog beredd att ändra mig. Så låt mig säga så här: jag håller hans existens för att vara lika utesluten som tanken att månen består av grönmögelost: om det faktiskt visar sig att månen är gjord av grönmögelost så är jag beredd att böja mig för det, men jag finner ingen som helst anledning att vänta mig att någon sådan bevisning skulle dyka upp.

Å andra sidan är det ju inte alla troende (låt oss för enkelhets skulle hålla oss till kristendomen) som är bokstavstroende på detta vis. Det ena efter det andra i Bibeln kan man ju, med bibehållen gudstro, hävda är metaforer av olika slag, och backa allt längre (så som jag uppfattar att t.ex. KG Hammar gör) från den konkreta gudsbild som presenteras i Bibeln mot en allt mer abstrakt. Efter riktigt långt backande återstår bara att man tror på "något slags högre makt", eller rentav på "något". Ju längre man backar mot det abstrakta och diffusa, desto mindre utesluten finner jag guden ifråga. Och någonstans på denna diffusa glidande skala finns väl någon punkt (som jag dock inte kan precisera då sammanhanget som sagt är så diffust) där jag inte längre kan säga mycket mer än "ingen aning, om det är detta du menar med Gud så kan väl Gud gott existera". Men å andra sidan, ju mer man sedan tillfogar om att Gud bryr sig om vad vi människor har för oss, vill oss väl, ingriper via bönhörelse, erbjuder ett liv efter detta, etc, desto mer långsökt och osannolik framstår i mina ögon teorin om hans existens.