Det senaste numret (nr 4/2021) av Filosofisk tidskrift inleds med en artikel av Lars Bergström med titeln Hotet från medvetna maskiner. Till formen ligger artikeln ungefär halvvägs mellan å ena sidan ett fristående filosofiskt diskussionsinlägg, och å andra sidan en recension av min senaste bok Tänkande maskiner. Jag blir smickrad av det utrymme han ägnar mina tankar, och ännu mer av hans välvilliga bedömning att jag "skriver bra, medryckande och engagerat, och boken förefaller mycket initierad".
Ända sedan 2016, då jag ägnade några sidor av min bok Here Be Dragons åt det berömda tankeexperiment av filosofen John Searle som benämns det kinesiska rummet har Lars och jag gång på gång återkommit till att debattera våra olika tolkningar av det, mestadels via email men ibland i publicerade texter, som nu senast i Lars nya text som till större delen behandlar detta ämne. Jag har uppskattat vårt meningsutbyte, men börjar nu känna att det nått en point of diminishing returns och tvekar inför att fortsätta. Trots detta väljer jag här att (mest for the record) notera några reflektioner på Lars senaste inlägg.
Vad jag däremot inte vill är att här ägna kraft åt att ännu en gång förklara bakgrunden, så den som inte redan är bekant med det kinesiska rummet uppmanas att, innan hen fortsätter läsandet av denna bloggpost, stifta bekantskap med Searles tankeexperiment genom att läsa exempelvis Lars nya artikel, eller s 69-71 i Here Be Dragons, eller s 232-237 i Tänkande maskiner, eller (för den som föredrar texter som är fritt tillgängliga på nätet) s 5-7 i mitt preprint Aspects of mind uploading. Lars och mitt meningsutbyte koncentrerar sig nästan helt på den variant av tankeexperimentet som Searle utformat som svar på den kritik som benämns systemsvaret. I denna variant ber Searle oss att föreställa oss att han internaliserat hela det kinesiska kinesiska rummet, bland annat genom att memorera hela den (ofantliga) regelbok som på engelska ger instruktioner om algoritmisk manipulation av kinesiska skrivtecken. De reflektioner om Lars senaste inlägg jag här vill nedteckna är fyra till antalet:
1. Genom hela vårt långdragna meningsutbyte har jag försvarat ståndpunkten att Searles kropp under de givna omständigheterna härbärgerar två medvetanden: dels det som tillhör Searle-E (som talar engelska men inte ett ord kinesiska), och dels det som tillhör Searle-K (som talar kinesiska men inte ett ord engelska). Lars däremot har å sin sida hävdat att enbart Searle-E är medveten. Denna menigsåtskillnad kan förefalla solklar, men när Lars nu (på s 6 i sin nya artikel) skriver att jag "tycks vara övertygad om att Searle-K är medveten och förstår kinesiska" så känner jag att jag behöver förtydliga och nyansera.
Egentligen har jag ingen stark uppfattning om huruvida min position (att Searle-K är medveten) eller Lars' (att Searle-K saknar medvetande) är riktigt. Allra troligast är enligt min uppfattning att ingendera positionen är vare sig rätt eller fel, utan de är snarare meningslösa, eftersom det tankeexperiment de grundar sig i verkar så orealistiskt att den postulerade situationen helt enkelt är omöjlig. Men om vi nu ändå för diskussionens skull tänker oss att situationen föreligger, är då Searle-K medveten eller omedveten? Från min sida har hela vårt meningsutbyte gått ut på att visa att Searles argument mot CTM-teorin (se punkt 4 nedan) inte håller, och för att Searles argument skall hålla krävs att det är uteslutet att Searle-K är medveten. Min strategi har hela tiden varit att peka på Searle-K:s medvetenhet som en fullt rimlig möjlighet givet den postulerade situationen. Jag inser att min iver att påvisa att denna möjlighet är rimlig då och då glidit över i ett språkbruk som fått det att låta som att jag faktiskt är (med Lars' ord) "övertygad om att Searle-K är medveten och förstår kinesiska", men då har jag alltså gått en smula överstyr. Jag beklagar detta. Allt jag vill påvisa är att Searles och Lars' övertygelse om att Searle-K saknar medvetande vilar på lösan sand, att det är fullt rimligt att tänka sig att Searle-K är medveten, och att Searles vederläggning av CTM-teorin därmed inte håller.
2. På s 6 i Lars artikel läser vi följande:
- Häggström anser [...] att vi "utifrån kan observera" två olika personer som bebor Searles kropp [...]. Jag tror inte att andra observatörer skulle hålla med om det. Vid första anblick verkar det kanske som att Searle kan både engelska och kinesiska. Men när han sedan försäkrar att att han inte förstår kinesiska, och att han bara konverserar på kinesiska med hjälp av en regelbok, så skulle man väl godta detta.
Min nästa kritik mot denna passage är något jag återkommit till gång på gång i detta meningsutbyte Lars och mig emellan, nämligen hur han närmar sig Searle-E och Searle-K med förutfattade meningar som diskriminerar till Searle-E:s förmån på ett sätt som går ut över Searle-K så till den grad att det på förhand verkar bestämt att inget denne säger är värt att ta på allvar. När Searle-E (som Lars typiskt nog benämner "Searle" i sitt osynliggörande av stackars Searle-K) "försäkrar att att han inte förstår kinesiska" så tar Lars det som en sanning - vilket för all del även jag är benägen att göra - men när Searle-K å sin sida försäkrar att han förstår kinesiska så anser Lars denna upplysning vara så irrelevant att han inte ens bemödar sig om ett explicit avfärdande. En sådan fördomsfull förhandsinställning är knappast ändamålsenlig när man har att utröna vem eller vilka av Searle-E och Searle-K som besitter medvetande. Det kan såklart hända att Lars har rätt i sitt intuitiva ställningstagande att Searle-K saknar medvetande, men han kommer (precis som Searle) inte ens i närheten av att leda i bevis att så är fallet.
3. En förgrening av Lars och mitt meningsutbyte ägde rum i nr 3/2021 av tidskriften Sans. Denna förgrening avslutar Lars med ett påpekande om att man ju skulle kunna fråga Searle-K vad något visst skrivtecken som denne använder i konversationen betyder på engelska. Searle-K skulle inte kunna besvara detta, trots sin förmåga att konversera på kinesiska. Någon ytterligare utveckling av detta resonemang ger inte Lars i Sans-utbytet, men av kontext och ton får jag intrycket att han menar det som en demonstration av att Searle-K saknar medvetande och verklig förståelse av kinesiska. Detta är förbryllande, eftersom samma argument skulle kunna användas på (gissningsvis) hundratals miljoner kineser som behärskar kinesisk skrivkonst utan att kunna ett ord engelska för att visa att dessa saknar medvetande. Lars argument har uppenbarligen för stor räckvidd och måste därför vara felaktigt.
I vår efterföljande privata korrespondens förklarade Lars att det inte var så han avsåg sin argumentation, och utvecklade en annan innebörd, vilken han också återger i den nya artikeln (s 6):
- Om Searle-K inte kan engelska, så har han ingen nytta av regelboken. Den är nämligen skriven på engelska, eftersom den skall begripas av Searle, som bara kan engelska.
4. Det som alls gör Searles tankeexperiment värt att diskutera är att det är den oftast anförda invändningen mot CTM-teorin, vilken av Lars (s 4) omtalas som...
- det som brukar kallas "beräkningsteorin om medvetande" (the computational theory of mind, förkortat CTM), vilken lite förenklat innebär att medvetandet består av beräkningar eller symbolmanipulation, något som även kan produceras digitalt i en dator.
- Däremot är detta inget argument mot CTM. Det är nämligen fullt förenligt med att en dator kan vara medveten.
