söndag 9 januari 2022

Ännu en vända genom det kinesiska rummet

Det senaste numret (nr 4/2021) av Filosofisk tidskrift inleds med en artikel av Lars Bergström med titeln Hotet från medvetna maskiner. Till formen ligger artikeln ungefär halvvägs mellan å ena sidan ett fristående filosofiskt diskussionsinlägg, och å andra sidan en recension av min senaste bok Tänkande maskiner. Jag blir smickrad av det utrymme han ägnar mina tankar, och ännu mer av hans välvilliga bedömning att jag "skriver bra, medryckande och engagerat, och boken förefaller mycket initierad".

Ända sedan 2016, då jag ägnade några sidor av min bok Here Be Dragons åt det berömda tankeexperiment av filosofen John Searle som benämns det kinesiska rummet har Lars och jag gång på gång återkommit till att debattera våra olika tolkningar av det, mestadels via email men ibland i publicerade texter, som nu senast i Lars nya text som till större delen behandlar detta ämne. Jag har uppskattat vårt meningsutbyte, men börjar nu känna att det nått en point of diminishing returns och tvekar inför att fortsätta. Trots detta väljer jag här att (mest for the record) notera några reflektioner på Lars senaste inlägg.

Vad jag däremot inte vill är att här ägna kraft åt att ännu en gång förklara bakgrunden, så den som inte redan är bekant med det kinesiska rummet uppmanas att, innan hen fortsätter läsandet av denna bloggpost, stifta bekantskap med Searles tankeexperiment genom att läsa exempelvis Lars nya artikel, eller s 69-71 i Here Be Dragons, eller s 232-237 i Tänkande maskiner, eller (för den som föredrar texter som är fritt tillgängliga på nätet) s 5-7 i mitt preprint Aspects of mind uploading. Lars och mitt meningsutbyte koncentrerar sig nästan helt på den variant av tankeexperimentet som Searle utformat som svar på den kritik som benämns systemsvaret. I denna variant ber Searle oss att föreställa oss att han internaliserat hela det kinesiska kinesiska rummet, bland annat genom att memorera hela den (ofantliga) regelbok som på engelska ger instruktioner om algoritmisk manipulation av kinesiska skrivtecken. De reflektioner om Lars senaste inlägg jag här vill nedteckna är fyra till antalet:

1. Genom hela vårt långdragna meningsutbyte har jag försvarat ståndpunkten att Searles kropp under de givna omständigheterna härbärgerar två medvetanden: dels det som tillhör Searle-E (som talar engelska men inte ett ord kinesiska), och dels det som tillhör Searle-K (som talar kinesiska men inte ett ord engelska). Lars däremot har å sin sida hävdat att enbart Searle-E är medveten. Denna menigsåtskillnad kan förefalla solklar, men när Lars nu (på s 6 i sin nya artikel) skriver att jag "tycks vara övertygad om att Searle-K är medveten och förstår kinesiska" så känner jag att jag behöver förtydliga och nyansera.

Egentligen har jag ingen stark uppfattning om huruvida min position (att Searle-K är medveten) eller Lars' (att Searle-K saknar medvetande) är riktigt. Allra troligast är enligt min uppfattning att ingendera positionen är vare sig rätt eller fel, utan de är snarare meningslösa, eftersom det tankeexperiment de grundar sig i verkar så orealistiskt att den postulerade situationen helt enkelt är omöjlig. Men om vi nu ändå för diskussionens skull tänker oss att situationen föreligger, är då Searle-K medveten eller omedveten? Från min sida har hela vårt meningsutbyte gått ut på att visa att Searles argument mot CTM-teorin (se punkt 4 nedan) inte håller, och för att Searles argument skall hålla krävs att det är uteslutet att Searle-K är medveten. Min strategi har hela tiden varit att peka på Searle-K:s medvetenhet som en fullt rimlig möjlighet givet den postulerade situationen. Jag inser att min iver att påvisa att denna möjlighet är rimlig då och då glidit över i ett språkbruk som fått det att låta som att jag faktiskt är (med Lars' ord) "övertygad om att Searle-K är medveten och förstår kinesiska", men då har jag alltså gått en smula överstyr. Jag beklagar detta. Allt jag vill påvisa är att Searles och Lars' övertygelse om att Searle-K saknar medvetande vilar på lösan sand, att det är fullt rimligt att tänka sig att Searle-K är medveten, och att Searles vederläggning av CTM-teorin därmed inte håller.

2. På s 6 i Lars artikel läser vi följande:
    Häggström anser [...] att vi "utifrån kan observera" två olika personer som bebor Searles kropp [...]. Jag tror inte att andra observatörer skulle hålla med om det. Vid första anblick verkar det kanske som att Searle kan både engelska och kinesiska. Men när han sedan försäkrar att att han inte förstår kinesiska, och att han bara konverserar på kinesiska med hjälp av en regelbok, så skulle man väl godta detta.
Jag uppfattar denna passage som kärnan i Lars argumentation, men som sådan också som ett stort antiklimax. Jag vill ogärna tänka mig att analytisk-filosofisk forskning går ut på att reproducera gemene mans spontana föreställningar (och vad "andra observatörer skulle hålla med om") när de konfronteras med olika scenarier. Poängen med verksamheten borde väl vara att gå bortom detta och i görligaste mån lista ut hur det faktiskt förhåller sig, snarare än att stanna vid vad folk får för intryck av dessa situationer. (Och om folks spontana intryck verkligen kunde användas som pålitlig ledning om hur det faktiskt förhåller sig skulle Lars härmed ha upptäckt ett fantastiskt kraftfullt medvetandefilosofiskt redskap, som till exempel genast skulle ge svar på de tidigare så besvärliga problemen med solipsism och panpsykism.)

Min nästa kritik mot denna passage är något jag återkommit till gång på gång i detta meningsutbyte Lars och mig emellan, nämligen hur han närmar sig Searle-E och Searle-K med förutfattade meningar som diskriminerar till Searle-E:s förmån på ett sätt som går ut över Searle-K så till den grad att det på förhand verkar bestämt att inget denne säger är värt att ta på allvar. När Searle-E (som Lars typiskt nog benämner "Searle" i sitt osynliggörande av stackars Searle-K) "försäkrar att att han inte förstår kinesiska" så tar Lars det som en sanning - vilket för all del även jag är benägen att göra - men när Searle-K å sin sida försäkrar att han förstår kinesiska så anser Lars denna upplysning vara så irrelevant att han inte ens bemödar sig om ett explicit avfärdande. En sådan fördomsfull förhandsinställning är knappast ändamålsenlig när man har att utröna vem eller vilka av Searle-E och Searle-K som besitter medvetande. Det kan såklart hända att Lars har rätt i sitt intuitiva ställningstagande att Searle-K saknar medvetande, men han kommer (precis som Searle) inte ens i närheten av att leda i bevis att så är fallet.

3. En förgrening av Lars och mitt meningsutbyte ägde rum i nr 3/2021 av tidskriften Sans. Denna förgrening avslutar Lars med ett påpekande om att man ju skulle kunna fråga Searle-K vad något visst skrivtecken som denne använder i konversationen betyder på engelska. Searle-K skulle inte kunna besvara detta, trots sin förmåga att konversera på kinesiska. Någon ytterligare utveckling av detta resonemang ger inte Lars i Sans-utbytet, men av kontext och ton får jag intrycket att han menar det som en demonstration av att Searle-K saknar medvetande och verklig förståelse av kinesiska. Detta är förbryllande, eftersom samma argument skulle kunna användas på (gissningsvis) hundratals miljoner kineser som behärskar kinesisk skrivkonst utan att kunna ett ord engelska för att visa att dessa saknar medvetande. Lars argument har uppenbarligen för stor räckvidd och måste därför vara felaktigt.

I vår efterföljande privata korrespondens förklarade Lars att det inte var så han avsåg sin argumentation, och utvecklade en annan innebörd, vilken han också återger i den nya artikeln (s 6):
    Om Searle-K inte kan engelska, så har han ingen nytta av regelboken. Den är nämligen skriven på engelska, eftersom den skall begripas av Searle, som bara kan engelska.
Även detta argument har för stor räckvidd, bland annat då det kan tillämpas för att visa att jag inte förstår svenska. På samma sätt som Searle-K:s förståelse av kinesiska är beroende av regelboken, så är min förståelse av svenska beroende av (många av) mina neuroners synapsavfyrningströsklar, och på samma sätt som Searle-K inte vet ett endaste dyft om vad som står i regelboken så är jag lyckligt ovetande om alla detaljer rörade synapsavfyrningströsklarna. Vad Lars här i sin iver att underkänna Searle-K som medvetet subjekt förbiser är att det även i våra inre pågår en stor mängd viktig informationsbearbetning som vi alldeles saknar inblick i och förståelse för. Att samma sak gäller Searle-K kan därför inte användas som argument mot att denne skulle vara medveten, med mindre än att vi samtidigt underkänner våra egna medvetanden.

4. Det som alls gör Searles tankeexperiment värt att diskutera är att det är den oftast anförda invändningen mot CTM-teorin, vilken av Lars (s 4) omtalas som...
    det som brukar kallas "beräkningsteorin om medvetande" (the computational theory of mind, förkortat CTM), vilken lite förenklat innebär att medvetandet består av beräkningar eller symbolmanipulation, något som även kan produceras digitalt i en dator.
Gott så, och det viktiga här är att substratet beräkningarna implementerats på i princip inte spelar någon roll: så länge beräkningarna är desamma är det oviktigt (för uppkomsten av medvetande) om substratet är ett biologiskt nervsystem, ett elektroniskt kretskort eller ett kinesiskt rum. Konstigare blir det när Lars (s 8) efter att ha försvarat Searles argument skriver så här:
    Däremot är detta inget argument mot CTM. Det är nämligen fullt förenligt med att en dator kan vara medveten.
Här verkar Lars ha glömt vad CTM handlar om. Man kan tro att Searles argument är korrekt, och man kan tro på CTM, men eftersom Searles argument är ett påstått motbevis till CTM kan man inte utan motsägeslse tro på båda. (Däremot verkar det fullt konsistent att acceptera Searles argument mot CTM samtidigt som man tror på datormedvetande, eftersom datormedvetande skulle kunna vara möjligt av andra skäl än just CTM.)

onsdag 5 januari 2022

Do Look Up!

Filmen Don't Look Up är en satirisk skildring av makthavares reaktioner på att en komet är på kollisionskurs med Jorden, och hade Netflix-premiär under julhelgen. Varning för spoilers i det som nu följer.

Filmen blev snabbt föremål för omfattande diskussion, varav en överraskande stor förgrening på svensk Twitter och annorstädes kommit att handla om att håna SVT:s Morgonstudion för det inslag i måndags i vilket de tog filmen som utgångspunkt för ett samtal om hotet mot oss från kometer och asteroider med Alexis Brandeker, astronom och docent vid Stockholms universitet. Hånet går ut på att det...
    [f]ör de allra flesta (förutom Morgonstudions redaktion) är [...] uppenbart vilka verkliga händelser som filmen baseras på. Igenkänningsfaktorn är hög, och filmteamet – inklusive regissör, manusförfattare och skådespelare – har upprepade gånger bekräftat att kometen är en metafor för just klimatkrisen.
Jag finner denna kritik en smula inskränkt. Risken för komet- och asteroidnedslag på Jorden är ett fascinerande ämne som absolut förtjänar utrymme i nyhetsmedia, och att ta avstamp i en film som Don't Look Up är knappast någon dålig ingång. Klimatfrågan har inte ensamrätt på nyhetsbevakning och samhällsdiskussion, och skaparna av filmen har knappast heller någon ensamrätt (eller ens sanningsföreträde) på att tolka den. Det är förvisso sant att de avsett den som en allegori över klimatfrågan, men andra (inklusive Matt Yglesias) har föreslagit att den alternativt och med fördel kan ses som en kommentar till covid-krisen. Själv ser jag tydliga paralleller till svårigheten att få makthavare att på allvar ta till sig frågan om hur vi undviker en AI-katastrof, och min gode vän Thore Husfeldt föreslår på Facebook att...
    the comet in Don’t Look Up! [is] an obvious analogy to Critical Theory. Science!Grrrl is Helen Pluckrose, bearded-scruffy-white-male is James Lindsay. Civilisation will end, but nobody’s listening! How can you not see that obvious analogy?1
...men tillägger för säkerhets skull snabbt att...
    it’s completely arbitrary what the comet “stands for”, and straight-faced discussions about that it *really-really* stands for just get shrugs from me. I. Don’t. Care. In particular, I would never seriously endorse the position “This is a timely satire warning us about Critical Theory.” When I write stuff like that, it’s obviously!satirical. Only somebody who thinks the comet is obviously!climatechange would ever think something else. To me, the movie is “about society”, and pretty funny.
Yup, just så.

Ett centralt tema i filmen är svårigheten för gemene man att veta vem man skall tro på i svåra vetenskapliga frågor av stor och akut samhällsrelevans. "Vem kan man lita på?" skrev jag i rubriken till ett kapitel om denna fråga i en Formas-antologi för drygt ett decennium sedan, och den har inte blivit lättare sedan dess.2 Denna epistemiska svårighet behandlas på ett alldeles lysande vis i Scott Alexanders dagsfärska kommentar till filmen, där han bland annat påpekar hur inkonsekvent den förhåller sig till problemet, i så måtto att den inte förmår bestämma sig för vilket av följande båda narrativ den skall förorda, utan fladdrar hit och dit:
    The first narrative says “there’s a consensus reality constructed by respectable people, and a few wild-eyed weirdos saying they’ve seen through the veil and it’s all lies...and you should trust the weirdos!” The second starts the same way, but ends “...and you should trust consensus reality!”.
Lite tidigare i bloggposten ger han följande exempel:
    Unfortunately, Don’t Look Up can’t stop contradicting itself.

    It depicts a monstrous world where the establishment is conspiring to keep the truth from you in every possible way. But it reserves its harshest barbs for anti-establishment wackos, who are constantly played for laughs. “THE COMET IS A MARXIST LIE!” says the guy on the Facebook stand-in. Maybe not literally, but at least he’s genre-savvy.

    It depicts elites as simultaneously incompetent and omnicompetent. There’s a great scene where Female Scientist is talking to some rioters. The rioters bombard her with conspiracy theories - the elites have built bunkers! They’re lying low, totally safe, laughing at the idea of the comet wiping out the hoi polloi. “No,” Female Scientist answers, “they’re not that competent”. It’s a great line, played completely seriously. But later we learn that Tech CEO literally built a 2,000 person starship in less than six months so he and the other elites could escape.

Varken jag eller Scott Alexander har något färdigt och vattentätt svar på vem man kan lita på, men jag rekommanderar hans välgenomtänkta bidrag till diskussionen om denna viktiga fråga.

Fotnoter

1) Den som ine känner till Pluckrose och Lindsay och deras korståg mot Critical Theory kan hitta lite kontext exempelvis i samtalet med Thore i det senaste avsnittet av Vetenskapligt med Häggström och Livh.

2) Exempelvis tycker jag mig ha noterat att många av dem som för tio år sedan lärde sig (korrekt, enligt min mening) att IPCC är en utmärkt auktoritet att vända sig till för en rättvisande bedömning av det klimatvetenskapliga kunskapsläget gjort den förhastade generaliseringen att den svenska Folkhälsomyndigheten har en motsvarande ställning som pålitlig kunskapskälla i covid-frågor.

tisdag 21 december 2021

Midvinterbetraktelse över filosofi, utilitarism och det akademiska samtalet

Moralfilosofi är ett viktigt kunskapsområde, och jag gillar när det uppmärksammas i den allmänna debatten. Därför borde jag rimligtvis välkomna att filosofistudenten och kulturskribenten Lapo Lappin häromdagen fick en artikel i ämnet publicerad i tidskriften Kvartal. Ändå vill jag meddela vissa reservationer rörande Lappins text, vilken bär den braskande rubriken Statens etiska råd bjöd in förespråkare av spädbarnsmord. I tur och ordning:

1. Artikeln tar formen av en rapport från en akademisk tillställning i Stockholm veckan innan, nämligen Statens medicinsk-etiska råds etikpristagarseminarium, och skjuter in sig på två av deltagarna, nämligen den välkände svenske moralfilosofen Torbjörn Tännsjö (som i egenskap av pristagare stod i centrum för mötet), och hans ännu mer kände australiensiske kollega Peter Singer. Lappins moralfilosofiska grundsyn skiljer sig kraftigt från Tännsjös och Singers, och det är givetvis helt i sin ordning, men istället för att koncentrera sig på vilka argument dessa förde fram vid seminariet lägger han så stor emfas vid vilka förgripligheter de yttrat i andra sammanhang att hans text blir till en del av den kancelleringskultur i vilken meningsmotståndare skall tystas.1,2 Han uttrycker stor upprördhet över att Tännsjö och Singer erbjuds plattform av Statens medicinsk-etiska råd (SMER) att framföra sina ståndpunkter, trots att dessa "torde vara välkända för medlemmarna" i detta råd.3 Särskilt anstötligt verkar vara att Singer "fick [...] varma applåder av de församlade etikerna". Artikeln kan knappast förstås som annat än ett försök av Lappin att deplattformera Tännsjö och Singer, vilket enligt min mening är fel sätt att hantera akademiska meningsmotsättningar: bättre än att försöka tysta sina meningsmotståndare är att diskutera med dem.

2. Både Tännsjö och Singer har förvisso uttalat en och annan moraliskt svårsmält tanke, som exempelvis Tännsjös funderingar kring klimatdiktatur, och den singerska idé om postnatal abort som åsyftas i rubriken till Lappins artikel. Jag vill dock mena att det är viktigt att ha en levande och förutsättningslös akademisk diskussion som ifrågasätter de tabun och går utanför det Overtonfönster som för närvarande råder. Bland de olika akademiska discipliner som finns är det just filosofin som oftast varit bäst på detta gränsöverskridande och kritiska tankearbete; Tännsjö och Singer är föredömliga utövare av detta arbete, och jag hoppas se dem fortsätta i många år till.

3. Lappin avvisar den moralfilosofiska inriktning som benämns utilitarism och som både Tännsjö och Singer bekänner sig till. Och fastän jag för egen del känner en försiktig dragning till utilitaristiskt tänkande så kan jag förstå argumenten emot. När motståndet mot utilitarism blir så dogmatisk att man avvisar varje kvantiativ konsekvensetisk avvägning i varje läge blir det dock snudd på absurt, men det är här Lappin hamnar när han gör (det antytt skandalösa) avslöjandet att en av Tännsjös tidigare elever, "Christian Munthe, professor i praktisk filosofi på Göteborgs universitet samt sakkunnig i flera etiska råd, erkände att han förlitar sig flitigt på utilitaristiska resonemang", och när han mot slutet av sin artikel ansluter sig till ståndpunkten att "spridningen av ett utilitaristisk tankesätt [...] bör hindras oavsett vad".4

Jag har här inte alls berört själva ämnet för SMER-mötet, nämligen prioriteringar inom vården. Detta förefaller sekundärt även för Lappin vid sidan av hans allmänna angrepp på sina måltavlor Tännsjö och Singer, men han ställer de utilitaristiska principer de förordar mot den så kallade människovärdesprincipen. I ett svar till Lappin i samma tidskrift problematiserar Tännsjö på ett belysande vis begreppet människovärde. Jag vill också rekommendera Christer Sturmarks vittförgrenade och mycket intressanta samtal med Tännsjö och Singer i Fri Tanke-podden, inspelat i nära anslutning till SMER-mötet.

EDIT 22 december: En videoupptagning av SMER-mötet finns nu på YouTube.

Fotnoter

1) Jag känner till en del om kancelleringskulturen, bland annat genom att jag en gång i tiden var en del av den.

2) Lyssna gärna till det senaste avsnittet av Vetenskapligt med Häggström och Livh i vilket vi för ett djuplodande samtal med datalogen och vännen Thore Husfeldt om den skadliga kancelleringskulturen och besläktade frågor om akademisk frihet.

3) Till Lappins försvar skall dock sägas att han så sent som förra året bjöd in Tännsjö som gäst i sin egen podcast och bidrog till ett intressant samtal kring dennes moralfilosofiska ståndpunkter.

4) Frågan är såklart hur bokstavligt "oavsett vad" är tänkt att läsas. Jag skulle knappast tro att Lappin vore beredd att ta till (låt oss säga) spädbarnsmord eller krig om det skulle behövas för att hejda de utilitaristiska tankefigurernas utbredning. Deplatformering av en och annan universitetsprofessor verkar däremot ligga inom ramen för de medel han anser helgas av detta angelägna ändamål.

söndag 14 november 2021

Till flockimmunitetsstrategins försvar (tro det eller ej!)

Covid-19-pandemin är en global katastrof av stora mått, men personligen har jag kommit väldigt lindrigt undan. Jag har haft turen (a) att inte förlora några anhöriga eller nära vänner i virusets käftar, och (b) att tillhöra den priviligierade kategori som lätt kunnat ställa om sitt arbete till att utföras på distans och i övrigt inrätta pandemilivet på ett bekvämt sätt.

Om jag ändå skall orda något om de obehag jag trots allt haft, så har det värsta helt klart varit den oro jag i perioder känt för riskgruppstillhöriga personer jag bryr mig om, och för hur samhället som helhet skall klara pandemin. Det näst värsta är den anstöt och i vissa fall rentav vrede jag väckt hos en del andra när jag understått mig att kritiskt kommentera hur den svenska Folkhälsomyndigheten (FHM) och statsepidemiolog Anders Tegnell hanterat virusets framfart. Det är långt ifrån första gången jag väcker sådana reaktioner, men den avgörande skillnaden mot tidigare är att reaktionerna denna gång kommit inte bara från (typ) skogstokiga klimatförnekare och kreationister i internets undervegetation, utan även från personer jag tycker om och respekterar intellektuellt. Det har varit jobbigt. Ändå har jag framhärdat, då jag dels anser coronafrågan viktig, dels föröker leva så gott jag kan enligt slagordet "speak the truth, even if your voice trembles". Nu senast idag, på Göteborgs-Postens debattsida.

Min GP-artikel kommer otvivelaktigt att väcka nya bestörta reaktioner, i synnerhet som jag insisterar på min tolkning av skeendena i Sverige våren 2020 som att FHM i mars det året anammade en flockimmunitetsstrategi. Vissa debattörer både då och senare som tagit detta f-ord i sin mun har tänkt på strategin i termer av att "kallblodigt låta folk dö i den utopiska framtida flockimmunitetens tjänst",1 och sett FHM:s agerande som ondskefullt, vilket förståeligt nog väckt arga motreaktioner. Men det är inte alls så jag tänker på saken. Låt mig förklara:

Den vanligaste invändningen mot f-ordet är att det från FHM:s sida inte handlar om någon strategi, utan att de helt enkelt bedömt att
    det är orealistiskt2 att få stopp på smittspridningen med mindre än att så stor del av befolkningen nåtts av smittan att flockimmunitet uppnåtts.
Låt oss kalla denna bedömning B. Vad FHM gör, hävdar man, är helt enkelt att rätta mun efter den matsäck som bedömningen B utgör. Jag håller med om det, men låt oss titta närmare på vad det innebär.

Att hävda att människoliv aldrig får vägas mot pengar, och att smittspridningen behöver hejdas till (bokstavligen) varje pris är naivt och orimligt, och ett motsvarande tänkande inom (säg) trafiksäkerhet skulle föra med sig ett tak för hastighetsbegränsningar på 10 km/h (eller vad som nu skulle krävas för att få ned trafikdöden till noll). Vilka åtgärder som sätts in mot smittspridningen är därför alltid en avvägning mellan den önskade dämpande effekt på smittspridningen som åtgärden väntas ha, och de eventuella negativa effekter på annat som är att vänta. När det gäller befarade negativa hälsoeffekter av exempelvis skolstängningar är detta en tydlig del av FHM:s uppdrag, då de har att se till folkhälsan som helhet och inte bara covidsmittan, men i avvägningen behöver också ingå samhällets ekonomiska kostnader i övrigt.

Låt oss nu tänka oss, en smula förenklat men för konkretionens skull, att FHM överväger någon social distanseringsåtgärd som i ett tvåmånadersperspektiv skulle rädda 100 000 personer från att nås av smittan. Hur skall man då betrakta denna effekt på smittspridningen i ovanstående avvägning? Det beror på hur man ställer sig till bedömning B. Om man inte accepterar bedömning B, utan tvärtom tror att det är möjligt att kväsa smittan utan att flockimmunitet uppnåtts, kan det vara naturligt att tänka på den i termer som
    100 000 färre personer smittas, punkt slut. (A1)
Om man däremot godtar bedömning B är det rimligare att tänka på den i termer av
    100 000 färre personer smittas under den kommande tvåmånadersperioden, mot att 100 000 fler smittas under den 12-månadersperiod3 som därefter följer. (A2)
Värdet av (A2) är givetvis lägre än (A1),4 och därför kommer avvägningen mot andra effekter av de övervägda åtgärderna i de flesta fall att resultera i att en lägre åtgärdsnivå bedöms som optimal under antagande (A2) än under (A1). Det är detta bruk av (A2) i avvägningen, och de lägre åtgärdsnivåer som därmed följer, som jag betecknar med ordet flockimmunitetsstrategi.

Och märk väl: om man gjort bedömning B och har tillräckligt goda skäl att anse den riktig, så anser jag att det vore vansinne att begagna sig av (A1) istället för (A2) i sina avvägningar. Givet bedömning B är en flockimmunitetsstrategi det enda raka.

Ovanstående klargörande av vad jag menar hoppas jag skall dämpa upprördheten kring mitt (uppenbart sanna) påstående om att FHM i mars 2020 beslöt sig för en flockimmunitetsstrategi.

Men hur skall vi värdera FHM:s agerande i mars 2020? Hur klok var deras bedömning B? Bedömningen kan anses falsifierad i och med den snabba utvecklingen och utrullningen av vacciner, men detta kom ju (för så gott som oss alla) som en stor överraskning, och det vore orättvist mot FHM att i efterhand begära att de skulle ha förutsett detta.

Det som ändå gör mig kritisk är hur snabbt de låste sig fast vid bedömning B och flockimmunitetsstrategin i ett läge då de i hög grad (precis som alla andra) famlade i mörkret beträffande virusets spridnings- och skadlighetsegenskaper. Deras våghalsiga val kunde mycket väl ha stått oss mycket dyrare (i termer av i onödan förlorade människoliv) än det faktiskt gjorde. Olika värden på virusets centrala parametrar ger helt olika svar på vad som är rätt strategi,5 och jag är övertygad om att ett klokt och försiktighetsbaserat drag i början av mars 2020 hade varit att sätta in betydligt snabbare och skarpare åtgärder,6 i avvaktan på ett snabbt förbättrande kunskapsläge och eventuell senare övergång till flockimmunitetsstrategi.

Fotnoter

1) Detta är en korrekt återgivning av en tankefigur som förekommit, men inte något autentiskt citat av någon specifik person; likväl använder jag citattecken för att på så vis bidra till att tydliggöra att ståndpunkten inte är min egen.

2) Vad som bedöms orealistiskt är här knappast något absolut begrepp, utan relativt vissa premisser, som t.ex. kan handla om att det inte kan komma på fråga att bryta mot svensk grundlag och andra principer för vårt samhällsbygge genom att efter kinesisk förebild med våld eller hot om våld stänga in folk i deras bostäder. Mer allmänt är gränsen flytande mellan att göra bedömning B som ett sakligt konstaterande och som ett ställningstagande om att vissa pandemibekämpningsstrategier inte är önskvärda.

3) Eller vilken tidsrymd man nu ränkar kommer att krävas innan flockimmunitet uppnåtts.

4) Värdet är dock inte noll, då de 100 000 smittotillfällena skjuts till en framtid då vi kan räkna med att läkekonsten gått framåt vad beträffar förmåga att bota sjukdomen, eller ett tillfälle då sjukvården är mindre överlastad. Det sistnämnda representerar precis det platta ut kurvan-tänkande som diskuterades så flitigt våren 2020.

5) För att ge två extra tydliga exempel som ligger utanför vad som rimligtvis hade kunnat gälla för covid-19 givet vad vi visste då (men som ligger helt inom det realistiskas ram för vad som kan drabba oss i nästa stora pandemi, 2025 eller 2040 eller när det nu blir): För ett virus med R0=1.3 och en IFR (dödlighet) på 75% skulle vägen mot flockimmunitet innebära både massdöd och risk för samhälleligt sammanbrott, medan en snabb kväsning av viruset vore både möjlig och nödvändig. Om istället R0=10 och IFR=0.001% samt i övrigt nästan uteslutande milda symptom finns ingen anledning och knappt ens någon möjlighet till något annat än att låta viruset svepa genom befolkningen intill dess flockimmunitet uppnåts.

6) Detta är inte ens någon efterhandskonstruktion från min sida. Den 11 mars 2020 var jag, som ett uttryck för lätt desperation över FHM:s tröghet, medundertecknare på en artikel i SvD där vi manade folk till mer långtgående försiktighet än vad FHM vid samma tidpunkt rekommenderade.

söndag 24 oktober 2021

Tre nya avsnitt av Vetenskapligt med Häggström & Livh

Podden Vetenskapligt med Häggström & Livh rullar på! Jämfört med med min förra rapportering här på bloggen har vi nu inte mindre än tre nya avsnitt ute.

I det första av dessa tre (och det fjärde totalt), talade vi med Stefan Schubert om grundidéerna i det enligt min uppfattning mycket viktiga tankesystem som på senare år vuxit fram under beteckningen effektiv altruism, och om hans egen psykologiska forskning kring hur människor förhåller sig dessa idéer. I det nästpåföljande avsnittet valde vi för omväxlings skull att inte bjuda in någon gäst alls, utan istället fokusera samtalet på de tankar om artificiell intelligens och dess samhällspåverkan som jag lyfter i min i våras utkomna bok Tänkande maskiner. Och i det allra senaste avsnittet, publicerat i förrgår, bjöd vi in klimatforskaren Christian Azar för att bland annat diskutera den ibland lite svåra balansgång som kan uppstå när man som forskare vill förse makthavare med relevant kunskap för att göra världen bättre utan att för den sakens skull tära på det förtroendekapital som vetenskapen besitter.

Vi är nu uppe i sex avsnitt, och fler är på gång. Här är den fullständiga listan över de avsnitt vi hittills publicerat:

tisdag 7 september 2021

Befängt möte i SVT om AI-futurologi

SVT:s programserie Mötet går ut på att i 15 minuter långa avsnitt tussa ihop två personer med radikalt olika åsikt i någon fråga. I det senaste avsnitt som nu är tillgängligt på SVT Play möts Anders Hedman (docent i människa-datorinteraktion vid KTH) och Fredrik Löfgren (robotutvecklare vid Linköpings universitet) för att diskutera vår framtid med robotar och AI. Deras samtal är i stort sett från början till slut befängt, och båda två företräder ståndpunkter som (fastän helt olika) får mig att slita mitt hår över vilken närmast bottenlös naivitet som förekommer bland forskare på området.

Hedman, å ena sidan, ser datorer och robotar som själlösa skal, och är av någon anledning bombsäker på att inte bara de robotar vi har idag, utan även varje tänkbar framtida robot, saknar medvetande. Någon antydan till förklaring till varför så skulle vara fallet ges inte, och angående datorkreativitet1 avfärdar han de exempel på detta vi ser redan idag med hänvisning till att maskinen ju innerst inne ingenting förstår. Han verkar sitta så hårt fast i det jag kallar neurochauvinism2 att varje tanke på sociala relationer mellan människa och maskin fyller honom med avsky, och hans biologiska hjärna verkar rätt och slätt stängd för tanken att något annat än just biologiska hjärnor skulle kunna vara säten för kännande subjekt. I slutändan kan det för all del komma att visa sig att Hedmans medvetandemetafysik är korrekt, ty frågan om medvetandets plats i universum och vilka slags entiteter som är medvetna är alltjämt vidöppen,3 men just den saken gör hans tvärsäkerhet i frågan epistemiskt djupt omdömeslös.

Löfgren, å andra sidan, drar åt motsatt uppfattning i frågan om robotmedvetande, om än kanske inte med fullt lika hög grad av dogmatism som sin samtalspartner. Det som verkligen provocerar mig hos Löfgren är istället hans äppelkäckt bekymmersfria syn på framtida AI-utveckling. Han medger visserligen på något ställe i programmet att visst finns det risker, men detta verkar mest vara en läpparnas bekännelse, och till och med tanken på att mänskligheten skulle kunna tänkas gå under och ersättas av en population av superintelligenta robotar får honom att rycka på axlarna och säga att det är väl helt i sin ordning - evolutionens gång helt enkelt. Den sammanblandning han här gör mellan intelligensnivå och moraliskt värde gör att jag nästan känner förståelse för Hedman när denne anklagar Löfgren för fascism (fastän han gör det på ogenomtänkta grunder). Att världen skulle kunna gå mot en ljus framtid ifall robotar ersätter människor är som jag ser det inte alls otänkbart, men att så automatiskt skulle bli fallet är naivt att ta för givet, och man kan undra hur Löfgren ser på något så groteskt motbjudande och meningslöst som en gemapokalyps.4

En riktigt dålig diskussion blev det hur som helst, och på sätt och vis är jag medskyldig till detta. I våras var jag nämligen indragen i långt gångna underhandlingar om att medverka som motpart åt Fredrik Löfgren i detta program. Jag vill gärna tänka mig att en sådan konfrontation hade kunnat bli betydligt vettigare än det som nu blev. Säker kan jag dock inte vara, bland annat med tanke på att det handlar om flera timmars inspelning som brutalt klipps ned till 15 minuter, och klippning kan ju göras illasinnat. (Av samma skäl kan det i princip vara så att både Hedman och Löfgren är betydligt mindre flänga än de framstår i programmet, och därför bör denna bloggpost för säkerhets skulle läsas som att den inte handlar om Hedman och Löfgren själva utan bara om de nidbilder av dem som SVT presenterat.)

Tacksam känner jag mig hur som helst över att jag drog mig ur, vilket jag tog chansen att göra när någon programassistent jag inte minns namnet på för tredje gången ville flytta på det inspelningstillfälle jag med stor möda gjort plats för i min kalender. Vid det laget hade jag hunnit se det bisarra och snudd på lyteskomiska avsnitt i vilket min gode vän Christer Sturmark konfronteras med en galen spiritist, vilket gav mig kalla fötter. Det beryktade Saltkråkan-avsnittet, som om möjligt är ännu värre, såg jag först senare, och jag gratulerade mig själv ännu en gång till att ha sluppit undan medverkan i ett sådant spektakel.

Fotnoter

1) Se s 40-43 i min bok Tänkande maskiner.

2) Tänkande maskiner, s 236.

3) Tänkande maskiner, s 223-241.

4) Tänkande maskiner, s 103-111.

torsdag 2 september 2021

Interviewed by Erich Grunewald

I was recently interviewed by Erich Grunewald, who posted the interview on his blog (with a linkpost also at LessWrong). We covered a variety of topics, but the main focus was on Sweden: its intellectual, academic and political landscape, and how I navigate these waters. I feel it turned out fairly intereting, and even those readers who know me well are likely to find out a thing or two about me that they didn't already know.