Ett meningsutbyte med Tobias Malm om Paperclip Armageddon, mål och preferenser

För den oinvigde kan det lätt framstå som förbluffande hur mycket kraft som AI-futurologer lägger på att diskutera gem (pappersklämmor), och då i synnerhet scenarier där en gemtillverkningsmaskin går överstyr i ett så kallat Paperclip Armageddon, där den omvandlar hela vår planet och eventuellt stora delar av övriga världsrymden till en gigantisk ansamling av gem. Vad är det då som är så viktigt med just gem? Inget alls egentligen - det fungerar precis lika bra med häftstift. Gemtillverkningsmaskinen används bara som ett illustrerande exempel på att det inte krävs någon ondsint Lex Luthor (med ambitionen att hämnas på mänskligheten) för att ett ogenomtänkt genombrott inom artificiell intelligens skall bli ett hot mot mänsklighetens överlevnad. Även jag faller utförligt tillbaka på detta exempel i min bok Here Be Dragons, där jag på s 116 introducerar tankegången med följande ord:

It may perhaps be tempting to think that as long as we don't give [the potentially superintelligent AI] an outright destructive goal such as "kill all humans", the outcome will not be disastrous. This, however, is very naive. An instructive and oft-repeated example introduced by Bostrom (2003c) is the paperclip maximizer. The seed AI is given the goal of producing as many paperclips as it can.²⁶³ Once this results in a superintelligent AGI, the machine is likely to find ways to transform most of our planet into a monstrous heap of paperclips, followed by a similar transformation of the entire solar system, and probably (if the informed speculations in the upcoming Chapter 9 about the eventual feasibility of interstellar and intergalactic travel are right) the Milky Way, and most of the observable universe. Such a scenario will look very unappetizing to us humans, and as soon as we realize what the machine is up to we would try to do everything in our power to stop it. But we're up against someone who is so much more intelligent than we are that our chances of succeeding are (unlike what Hollywood would have us think) microscopic. Perhaps most likely, before we even have the time to think about how to organize our resistance, the machine will have realized what we might be up to, and exterminated us simply as a safety precaution.

263) This might be a sensible goal for someone who owns a paperclip factory and sets out to fully automatize it by means of an AGI [artificial general intelligence]. What seems a bit silly, however, is for someone who plans to take our civilization into its next era by means of an intelligence explosion to choose such a narrow and pedestrian goal as paperclip maximization. What makes the paperclip maximizer intelligence explosion a somewhat less silly scenario is that an intelligence explosion might be triggered by mistake. We can imagine a perhaps not-so-distant future in which moderately intelligent AGIs are constructed for all sorts of purposes, until one day one of the engineering teams happens to be just a little bit more successful than the others and creates an AGI that is just above the intelligence threshold for serving as a seed AI.

Häromveckan fick jag på Facebook en fråga från Tobias Malm (som även tidigare bidragit till spännande diskussioner här på bloggen) rörande Paperclip Armageddon, vilken ledde till en belysande diskussion om vilka slags varelser och maskiner kan ha mål, drivkrafter och preferenser. Med Tobias tillåtelse återger jag diskussionen, minimalt redigerad, här:

TM: Här är en fråga om problematiken gällande AI och gem: hur kan det ses som ett hot att en superintelligent maskin skulle förvandla hela världen till gem?

Det är förvisso sant att intelligens inte garanterar att de uppsatta målen kommer att ifrågasättas utifrån något slags moraliskt ramverk. Dock är ju det sagda målet att tillverka gem inte samma som det menade målet, det vill säga att till exempel skapa en viss mängd gem för att kunna sälja dem på den öppna marknaden och tjäna pengar. Och att uppfatta det menade målet är ju i högsta grad en intelligensfråga. Kort sagt: varför skulle en superintelligent AI också vara superautistisk, givet att vi inte väljer att bygga den så - och varför skulle vi välja det när vi kan undvika det?

OH: I det tänkta scenariot har maskinen, genom dess ursprungliga programmering, som mål att maximera antalet gem, inte att uppfylla våra outtalade önskningar.

Låt oss föreställa oss vad som skulle kunna få den att byta mål. Kanske stannar den någon gång till och reflekterar över om den skall byta till något mer modest mål, något som är mer i linje med våra önskningar. "Hm", tänker den, "skall jag byta till det modesta målet, eller skall hålla fast vid gemproduktionsmaximering?". För att bestämma sig för om den skall byta eller inte behöver den ett kriterium. Och eftersom den ännu inte har bytt utan bara kontemplerar saken, så har den fortfarande kvar sitt gemmaximeringsmål, så detta blir det kriterium den använder. Den frågar sig alltså: "Vad kommer att ge flest gem, fasthållande vid gemmaximeringsmålet, eller byte till det mer modesta målet", och den kommer snabbt fram till att fastållande vid gemmaximeringsmålet sannolikt ger betydligt fler gem än byte, och den håller därför fast vid gemmaximeringsmålet.

Så ungefär lyder Omohundro-Bostrom-teorins argument för Paperclip Armageddon. Den teorin är dock inte någon Säker Sanning Ristad i Sten. Den skulle kunna vara felaktig, t.ex. om det finns någon universell princip om att varje tillräckligt intelligent varelse kommer att vilja behaga sin skapares önskningar. Det tycks vara en sådan princip du implicit lutar dig mot i ditt argument, och det är fullt möjligt att du har rätt i att en sådan universell princip föreligger, men jag tycker att det verkar lite långsökt.

TM: Hade det här varit en konversation IRL hade jag avbrutit dig redan efter din första mening ("I det tänkta scenariot har maskinen...") och sagt att du missförstått min fråga vilket antagligen hade besparat dig lite tid. Dock är det säkert mitt fel att du missförstod, för jag kanske inte var tillräckligt tydlig. Jag menar hur som helst inte att maskinen förväntas ändra/byta sitt mål (därmed det jag skrev ovan om att intelligens inte leder till att målet ifrågasätts utifrån något moraliskt ramverk/princip).

Det jag menar är att målet för en tillräckligt intelligent maskin alltid kommer att vara det avsändaren menar snarare än någon specifik utsaga samt att det enbart krävs intelligens för att förstå vad en avsändare menar. Om jag till exempel frågar vår superintelligenta AI om den "kan öppna fönstret" kan vi förvänta oss att den, genom sin intelligens, inte kommer att svara "ja" och sen inte göra någonting. Sannolikt kommer den förstå att jag menade något mer än att få veta huruvida den kunde öppna fönstret eller inte, rimligtvis skulle den antagligen också förstå att den skulle behöva flytta på det som står lutat mot fönstret så att det inte trillar ut.

Alltså: en tillräckligt intelligent AI skulle inse att jag uttrycker en önskan med "kan du öppna fönstret" i likhet med "öppna fönstret på ett preferenstillfredställande sätt utifrån mitt perspektiv". Om en AI kan förestå mänsklig psykologi så pass bra att den vet vad "kan du öppna fönstret" syftar på – vilket nog krävs för att kunna ta över världen och undfly "lådan" etc – så borde den rimligtvis även förstå att "maximera antalet gem" i kontexten att en affärsman som vill försörja sin familj betyder något mer än "maximera antalet gem, punkt."

Min fråga lyder alltså: en superintelligent AI måste väl vara tillräckligt intelligent för att kunna ta emot kommandon genom att utvärdera preferenser bakom ord, snarare än att bara ta orden rakt upp och ner och sen ändå på något märkligt sätt förstå hur man omvandlar ett solsystem till gem?

OH: Aha OK Tobias, då har du missförstått Paperclip Armageddon-scenariot. Maskinen är inte superintelligent när den får sitt gemmaximeringsmål. Det är först efter att detta mål lagts fast som den går in i den eskalerande rekursiva självförbättringsspiral som för den till superintelligensnivåer.

TM: Okej Olle, det får scenariot att framstå som mycket rimligare. Men då handlar det alltså inte om ett mål - vilket var ett begrepp som förvirrade mig - utan om en funktion i likhet med: ta notis om hur många gem som skapas per sekund, testa olika versioner av dig själv och spara och arbeta vidare utifrån versionerna som skapar fler gem per sekund än versionen innan. Detta kan jag föreställa mig att man kan programmera utan att maskinen förstår mänskligt språk, och ja, med en tillräckligt kraftig dator skulle den kanske kunna bli så bra på att maximera gem att mänskligheten får göra plats för 3D-skrivare. Tack för att du tog dig tiden att förklara detta. Jag känner fortfarande att något skaver, men måste fundera mer på det innan jag kan formulera det.

Här kunde vi, vad Paperclip Armageddon anbelangar, gott ha avrundat diskussionen, men jag blev lite provocerad av Tobias påstående om att "då handlar det alltså inte om ett mål", vilket tydde på att han hade en enligt min uppfattning alltför snäv idé om begreppet mål. Jag fortsatte därför diskussionen, men från och med nu handlade den inte egentligen om Paperclip Armageddon, utan mer om vad vi bör mena med mål och liknande begrepp.

OH: Mål är ett ganska vitt begrepp. Hillary Clinton har som (ett av sina) mål att bli USA:s första kvinnliga president, och jag har som mål att bli klar med tentarättningen innan jag tar helg imorgon. Även dagens målsökande robotmissiler har mål. Liksom termostaterna i våra bostäder. Om man vill kan man försöka dra en skarp skiljelinje någonstans längs den långa vägen mellan å ena sidan termostaternas skäligen enkla mål, och å andra sidan Hillary Clintons mål att bli USA:s första kvinnliga president, men jag tror inte att det går. Jag tror att man landar i något slags ohållbar John Serlesk geggamoja.

TM: För mig förlorar begreppet mål sin betydelse om det räcker med att något orsakar något annat för att detta ska bli dess "mål".

En sten som rullar ner för en backe har inte som mål att komma ner till slutet av backen, därom tror jag vi båda håller med varandra. Om jag sätter upp en stolpe i mitten av backen som får stenen att rulla åt höger istället för vänster tror jag att vi båda håller med varandra att stenen fortfarande inte har som mål att rulla åt höger.

Utan att, så att säga, gå vilse i det kinesiska rummet vill jag hävda att stenen aldrig kommer att ha som mål att hamna någonstans oavsett hur komplicerad vägen med för backen blir.

Vi kan t ex. tänka oss att vi sätter ut stolpar på ett sådant sätt att stenen följer ett mönster som får den att rita ett ansikte i jorden och den skulle ändå inte ha det som mål och detta av precis samma anledning som när det bara satt en stolpe i backen.

Här skulle Searle gå in och prata om att hjärnan funkar likadant - att den bara är massa stenar och stolpar - och att det är ett problem för våra intuitioner om medvetandet. Jag är förvisso beredd att hålla med om att det uppstår genuina filosofiska problem med den mekaniska hjärnan, nu tänker jag dock inte börja ta ställning för att mål kräver något utöver systemets inneboende delar. Istället vill jag påstå att ett mål kräver en preferens hos systemet för det systemet orsakar.

Om vi kräver en preferens hos systemet kan vi dra en ganska skarp skiljelinje mellan maskiner med och utan mål. En termostat, t ex. har inget mål med denna definition, men en dator som får någon typ av inre belöning (vi kan låta det vara osagt vad känslor har för metafysik nu) av något den orsakar och därför väljer att orsaka har ett mål. Ergo: ett mål är inte synonymt med verkan efter orsak, utan med prefererad verkan.

Naturligtvis är inte din definition objektivt fel, jag tycker bara inte att den fångar in det vi vanligtvis menar med begreppet. Ett exempel på det är att du antagligen skulle protestera om jag sa att du hade som mål att ha sönder din grannes dyra vas bara för att du orsakade det.

OH: Jag likställer inte mål med orsaksamband.

TM: Okej, men hur skiljer sig din definition från min?

OH: Termostaten "prefererar" en temperatur på tjugo grader. I alla fall är det så den beter sig, vilket är det enda vi har att gå efter utan att förfalla till chauvinism.

TM: Jag tycker inte att den beter sig som att den prefererar - alltså i någon grad tycker om - någon särskild temperatur (lika lite som stenen som rullar ner för en backe tycker om att rulla åt höger istället för vänster bara för att det står en stolpe i dess väg). Det finns väl inga goda skäl att anta att den mår bra av temperaturen den orsakar och därför orsakar den?

OH: Men om inte termostaten har mål och preferenser, hur tusan förklarar du då dess målmedvetna beteende? Så fort temperaturen understiger 20 så slår den ju på radiatorn, och så fort det blir varmare än 20 slår den av.

Nej, här skojar jag såklart. Givetvis kan du förklara det med termostatens elektroniska kopplingsschema. Men det finns en allvarlig poäng här, nämligen att om du väljer den förklaringsnivån så kan jag välja samma slags förklaring till ditt beteende. Att du tycks eftersöka klarhet om Paperclip Armageddon beror alls inte på att du har en preferens för sådan klarhet, utan på konfigurationen av molekyler och elementarpartiklar innanför ditt skallben. Kan jag hävda. Men jag gör det som regel inte, eftersom det är praktiskt för den makroskopiska förståelsen att tänka på ditt beteende i termer av preferenser och mål. Detsamma gäller, i viss mån, termostaten.

Jag tror inte att "mål" och "preferenser" har någon metafysisk existens, något som går utanpå deras agenters fysiska konstitution av molekyler etc. Om vi vill kan vi därför rycka på axlarna åt vår diskussion och kalla den semantik. Men jag tror att det faktiskt finns ett värde i diskussionen, inte för att avgöra vad (vilka mål) som faktiskt finns, utan i vilka fall det är intressant och praktiskt att tänka i termer av mål. Här finns ingen absolut gräns. I fallet med den rullande stenen är det nästan helt ointressant. I fallet med Hillary Clinton är det uppenbart intressant och viktigt (att ge en rent mikroskopisk-fysikalisk förklaring till hennes beteende vore idiotiskt). Och däremellan en lång skala, där det kanske blir mest en smaksak var man drar gränsen för vilka man vill tillskriva mål och preferenser. Jag drar medvetet min gräns lägre än de flesta. (Du är inte den ende som sparkat bakut inför termostatexemplet.) Men jag tror att det allmänt är klokt, inför en okänd komplex framtid med robotar och allt möjligt, att försöka tänka mer vidsynt och mindre chauvinistiskt kring egenskaper som vi hittills (men felaktigt) tänkt på som unikt mänskliga.

TM: Ja, jag kommer ihåg att du är eliminativ materialist/reducerbar fysikalist. Och utifrån det perspektivet är din uppfattning helt förståelig och frågan om vad ett mål är måste te sig förhållandevis enkel. Jag tror emellertid att mentala tillstånd – till exempel behag – existerar i sin egen rätt och därmed inte bara är enskilda partiklar betraktade från ett makroskopiskt perspektiv.

Jag tror det eftersom vi inte tittar på behag som vi tittar på atomer som formar en sten från ett visst perspektiv. Vi upplever behag och det går inte att applicera ett mikroskop på den upplevelsen som visar oss några atomer. Behag är inte en observation och det är bara observationer som kan vara föremål för zoomning från makroskopiskt till mikroskopiskt.

Märk väl att jag inte argumenterar för att behag är något mystiskt som svävar omkring i andevärlden nu, jag menar bara att behag inte påminner om den sortens saker vi brukar reducera ner till enskilda beståndsdelar. Det är enkelt att förstå att Vintergatan kan reduceras ner till stjärnor och att stjärnor kan reduceras ner till atomer. Vi kan titta närmare och se hur observationen av det enskilda blir till en observation av en mångfald. Det är inte lika enkelt att titta närmare på upplevelsen av behag, vi kan inte koncentrera oss på det jättenoga och plötsligt se något annat än behag. Vad exakt behag är för sorts sak vet jag inte, men om vi ser det som en objektivt existerande företeelse (olikt Vintergatan som rent objektivt ju bara är atomer), så behöver vi kanske inte tillerkänna termostaten något mål.

OH: Well said, klargörande. Men jag tycker nog att även den som avvisar det du kallar eliminativ reduktionism har anledning att försöka vara lite mindre fördomsfull i frågan om vem eller vad som kan ha preferenser eller uppleva behag. Kan du verkligen veta säkert hur det känns (eller inte känns) att vara en termostat?

TM: Nej, detta är jag benägen att hålla med om. Dock vill jag inte bli allt för öppen, jag vill helst inte behöva inkludera termostater i mina moraliska överväganden.

Återbesök hos teleportören

Som minnesgoda läsare vet så skrev jag i januari i år en bloggpost om teleportering (i tillägg till en fiktiv historia inbegripandes mig, min käresta, en teleporteringsmaskin och en finkrog på planeten Mars, som jag lät undslippa mig månaden innan). I kommentarsutrymmet till den bloggposten utvecklades en längre debatt mellan mig och en läsare vid namn Tobias Malm rörande den centrala filosofiska frågeställningen i samband med teleportering: överlever den som låter sig teleporteras, eller dör vederbörande och ersätts av en ny individ med samma psykologiska egenskaper som den gamla?

Tobias tipsade mig nyligen om en bra och underhållande animerad kortfilm av den kanadensiske mångsysslaren John Weldon. För den som inte orkar läsa mina långrandiga bloggposter i ämnet förklarar filmen elegant den filosofiska problematiken kring teleportering. Håll till godo:

Dör man av att teleporteras?

I ett tidigare blogginlägg presenterade jag ett tankeexperiment inbegripandes ett hypotetiskt framtida färdmedel kallat teleportering, som går till på följande vis. Under narkos får man sin kropp scannad, atom för atom. Kroppen destrueras samtidigt som den fullständiga informationen från scanningen skickas till destinationsorten, där kroppen sedan rekonstrueras, åter atom för atom. Sedan man väckts upp ur narkosen kan man fortsätta med sitt liv som om ingenting har hänt.

Mitt teleporteringsscenario väckte viss opposition i bloggens kommentarstråd, främst längs två linjer. Thomas Svensson hävdar att vi aldrig kommer att kunna genomföra scanning och rekonstruktion med tillräcklig precision för att teleportering skall kunna fungera. Denna fråga skall jag här låta bero - det kan hända att Thomas har rätt, men det kan också hända att han har fel, och jag tror knappast att någon idag är i stånd att avgöra vilket.

Tobias Malm har en helt annan invändning. Han accepterar (åtminstone som ett tankeexperiment) premissen att teleporteringstekniken fungerar så till vida att den nya kroppen blir en exakt kopia av den gamla, men han hävdar att den inte alls duger som transportmedel, eftersom resenären dör och ersätts av en ny (exakt likadan) person. Ett längre meningsutbyte Tobias och mig emellan ledde inte till något närmande mellan våra uppfattningar. Jag tänker här göra ett nytt försök att förklara mitt ställningstagande, grundat i filosofen Derek Parfits teori för personlig identitet.

Derek Parfits Reasons and Persons från 1984 är en underbar bok och gissningsvis¹ ett av de bästa och viktigaste filosofiska arbeten som utkommit under min livstid. Den teori om personlig identitet som Parfit lägger fram i boken (såsom jag uppfattar honom) och som jag här vill försvara, kan vid första påseende synas kontraintuitiv, rentav frånstötande. Vid närmare skärskådan är det dock svårt att hitta något fel i den. Dessutom har den en stora dygd i att den håller sig helt inom en naturalistiska världsbild, dvs inget annat behöver antas existera än rent fysikaliska ting: materia, energi, etc. Specifikt behöver vi inte postulera existensen av någon Cartesisk icke-materiell "själ", något som annars leder till enorma filosofiska svårigheter.

En egenhet hos Parfits syn på personlig identitet är att personlig identitet är en egenskap som kommer i olika grader. Jag är nästan (men inte 100%) samma person som den 43-åring vi kan kalla Olle2010, jag är i något mindre grad samma person som 33-åringen Olle2000, och jag är i ännu mindre grad men ändå i någon mån samma person som 5-åringen Olle1972.

Personlig identitet är viktigt för hur vi lever våra liv. När jag, Olle07:35, står och steker ett par frukostägg så är det med avsikten att den person Olle07:45 som kommer att existera om 10 minuter skall få njuta av smaken av stekta ägg framför TV:s morgonnyheter. Då jag steker äggen tänker jag mig inte detta som någon altruistisk handling åt någon person vem som helst, utan jag tänker mig att jag gör det åt mig själv, vilket förutsätter att Olle07:45 är samma person som jag. Vad är det då som gör Olle07:45 till samma person som mitt nuvarande jag, Olle07:35? Denna personliga identitet brukar vi ta för så självklar att vi inte funderar över saken, men en filosof behöver reda ut vad som egentligen menas. Parfits svar är att den personliga identiteten består i att Olle07:45 har psykologiska egenskaper som i mångt och mycket överensstämmer med Olle07:35, inte minst att han delar i stort sett alla de minnen som Olle07:35 har av sitt liv fram till denna morgon klockan 07:35. Inget utöver detta krävs för att personlig identitet skall anses gälla.

Mer allmänt, antag att personen M₀ lever vid tidpunkten s, låt t vara en senare tidpunkt, och låt U vara en given upplevelse (t.ex. smakupplevelsen av stekta ägg). Centralt i detta sammanhang är att försöka förstå vad följande påstående betyder.

M₀ överlever till tidpunkten t och erfar då upplevelsen U. (1)

Parfit hävdar att (1) är samma sak som följande påstående.

Det existerar vid tiden t någon person M₁ som upplever U
och vars medvetandetillstånd är en psykologisk fortsättning
på det medvetandetillstånd M₀ hade vid tiden s. (2)

Med psykologisk fortsättning menas här att M₁ vid tidpunkten t har någorlunda samma psykologiska konstitution som M₀ och delar (någorlunda okorrumperat) de minnen som M₀ vid tidpunkten s hade av sitt liv fram till tiden s. Ett annat sätt att säga detta är att M₁ vid tiden s upplever sig ha varit M₀ vid tiden t, på ett sätt som någorlunda överensstämmer med M₀:s uppfattning om sig själv.²

Vi kan uppfatta (1)=(2) som Parfits definition av vad det innebär att överleva till en viss tidpunkt och då uppleva något. Många, inklusive Tobias Malm om jag förstått honom rätt, skulle här hävda att likhetstecknet mellan (1) och (2) missar något väsentligt - att den långtgående likheten mellan M₀:s och M₁:s medvetanden inte räcker, utan vi behöver på något vis slå fast att det handlar om samma exemplar av medvetande. Men vad detta innebär är ingalunda klart. Ett stycke terminologi kan vara på plats: låt mig använda ordet överlevnad för att beteckna det förhållande mellan Olle07:35 och Olle07:45 som med den här redovisade Partifska synen krävs för att vi skall vara någorlunda samma person, och ordet Öfverlefnad (med stort Ö och två små f) för det lite oklara extra som krävs för att en anti-Parfitian som Tobias skall bli nöjd och hävda att Olle07:35 och Olle07:45 är samma person. (Utan att veta riktigt vad Öfverlefnad innebär väljer jag att använda beteckningen anti-Parfitian för den som avvisar den Parfitska synen på personlig identitet för att istället kräva Öfverlefnad.³)

Notera att med Parfits definition (1)=(2) spelar det ingen roll om jag gått till fots från köket till TV-rummet, eller om jag (en smula extravagant, måhända) använder mig av teleportern - oavsett vilket val av transportmedel jag väljer överlever jag. För att jag skall Öfverlefva krävs dock att jag går till fots - väljer jag teleportern Öfverlefver jag inte utan ersätts (med det anti-Parfitianska synsättet) av en ny och identiskt likadan person.

Rättså mycket av det tidigare meningsutbytet Tobias och mig emellan handlade om ett tänkt teleporteringshaveri, där jag (OH) avser teleportera mig från Jorden till Mars, men där något tekniskt haveri inträffar så att destruktionen av den gamla kroppen inte blir av, så att det plötsligt finns två personer, OH1 (på Jorden) och OH2 (på Mars), som båda gör anspråk på att vara jag. Vad som, med det Parfitska synsättet, händer här är att OH överlever i dubbla upplagor. För en anti-Parfitian kan det synas absurt att ett medvetande på detta vis delar upp sig i två olika medvetanden som sedan fortsätter att gå skilda vägar, men om vi skärskådar (2) ser vi att det blott handlar om att det samtidigt finns två olika personer (OH1 och OH2) som båda uppfyller kraven på att utgöra en psykologisk fortsättning på OH, vilket inte tycks mig vara någon uppenbar absurditet.

I samma meningsutbyte hävdade jag att (vad jag nu kallar) anti-Parfitianism svårligen låter sig förenas med naturalism. För att inskärpa denna poäng, låt mig kontra med ännu ett tankeexperiment. Denna gång har vi byggt om teleportern till en kopiator: när scanningen är klar skapas en ny kropp, som en exakt kopia av den gamla, utan att den gamla destrueras. Låt oss säga att Tobias nyttjar en sådan kopiator, så att vi därmed får två personer, TobiasI (med Tobias originalkropp) och TobiasII (med den kopierade kroppen). Vidare tänker vi oss att just den här kopiatorn är utrustad med följande extrafunktion: de två kropparna skickas, alltjämt i nedsövt tillstånd, in i en karusell, som snurrar ett slumpmässigt antal halv-varv för att sedan skicka den ena kroppen till destruktion, och den andra till uppväckning ur narkosen vid en given tidpunkt t. Det hela sker automatiskt och bakom lyckta dörrar, och det finns inget sätt för någon att rekapitulera vilken av kropparna det var som destruerades och vilken som blev kvar. Spelar det någon roll om det är TobiasI som blir kvar och väcks ur narkosen (Scenario A) eller om det är TobiasII (Scenario B)?

Världens fysiska tillstånd vid tiden t är identiskt likadant i Scenario A och i Scenario B. Som god naturalist kan jag därför inte särskilja de båda scenarierna, och därmed heller inte finna något skäl att föredra det ena scenariot framför det andra. Med ett Parfitskt synsätt är det också egalt för Tobias vilket av dem som skall inträffa, ty han överlever i båda fallen.

För en anti-Parfitian ser saken emellertid annorlunda ut, ty enligt denne Öfverlefver Tobias i Scenario A men inte i Scenario B. Vi kan därför anta att anti-Parfitianen av hänsyn till Tobias tycker att världen vid tiden t under Scenario A är att föredra framför världen vid tiden t under Scenario B. Vi ställer nu anti-Parfitianen följande fråga: Finns det någon skillnad mellan tillståndet i världen vid tiden t under Scenario A och tillståndet i världen vid tiden t under Scenario B? Om anti-Parfitianen vill hålla sig till ett naturalistiskt synsätt hanmnar han i ett svårt dilemma. Å ena sidan, om han svarar ja, så medger han att det finns skillnader mellan de två världarnas tillstånd som inte är fysikaliska (ty att de är fysikaliskt identiska har vi redan antagit som en av premisserna i tankeexperimentet) och måste därför ge upp sin naturalism. Å andra sidan, om han svarar nej, så har han därmed medgett att han föredrar den ena av två identiska världar, vilket måste betecknas som ett tämligen irrationellt ställningstagande. Av detta skäl hävdar jag att anti-Parfitianismen knappast låter sig förenas med naturalism.

Efter denna kritik mot anti-Parfitianismen, låt mig avsluta med att ta upp och bemöta två naturliga invändningar mot det Parfitska synsättet.

Invändning 1. Jag vet av egen erfarenhet att det Parfitska synsättet är fel, ty jag har gott om minnen av hur jag faktiskt Öfverleft från en tidpunkt s till en senare tidpunkt t.

Svar. Om du skärskådar vad du faktiskt minns rörande tidpunkterna s och t, så är det nog för det första att du var medveten vid tiden s (samt vad du då upplevde), för det andra att du var medveten vid tiden t och att ditt medvetandetillstånd då var en psykologisk fortsättning på ditt tillstånd vid tiden s (samt vad du vid tiden t upplevde), och för det tredje att ditt medvetandetillstånd just nu är en psykologisk fortsättning såväl på ditt tillstånd vid tiden s som på ditt tillstånd vid tiden t. Allt detta faller inom ramen för den Parfitska överlevnaden (med litet ö och inga f). Minns du något mer i sammanhanget? Nej, jag tänkte väl det. Ditt vittnesmål är därför helt kompatibelt med det Parfitska synsättet.

Invändning 2. Om du inte tror att du kommer att Öfverlefva utan blott överleva, varför bryr du dig då överhuvudtaget om hur det går för den person som bär ditt namn och ditt personnummer i framtiden?

Svar. En mycket bra fråga! Orsaken till mitt beteende är nog helt enkelt att jag tillhör homo sapiens - en djurart som uppkommit via selektion medelst naturligt urval, något som lett till att endast de individer som tenderar att på olika vis försöka gynna sin egen framtid lever tillräckligt länge för att lyckas reproducera sina gener in i framtiden. Nu vill jag dock inte begå det naturalistiska felslutet och se denna förklaring som ett försvar för mitt agerande. Kanske borde vi försöka bli mindre ensidiga i ombesörjandet av det egna framtida välbefinnandet, och satsa något mer än vi gör idag på andras framtida välbefinnande. Detta är i själva verket vad många etikfilosofer genom tiderna hävdat - alltifrån vem det nu är som skrivit Tredje Mosebok 19:18 ("du skall älska din nästa såsom dig själv") till Parfit själv.

Fotnoter

1) Mer än en gissning kan jag strängt taget inte prestera, med tanke på vilken försvinnande liten andel av den filosofiska litteraturen jag är bekant med.

2) Detta kan tyckas diffust, t.ex. med min upprepade användning av ordet "någorlunda". Att göra personlig identitet till något mer diffust och gradvis än något som gäller antingen helt och hållet eller inte alls, är dock som sagt en del av poängen med Parfits analys.

3) Det kan så klart finnas många olika anti-Parfitianska synsätt; här väljer jag att försöka hålla mig så nära Tobias Malm som möjligt i vad jag beskriver som anti-Parfitianismen. Det är inte säkert att beskrivningen blir 100% rättvis; jag är av uppenbara skäl inte någon idealisk talesman för anti-Parfitianism.