Min recension av MacAskills What We Owe the Future

I ett blogginlägg i förra månaden utlovade jag en recension av William MacAskills nya bok What We Owe the Future. För er som otåligt väntat på denna är tiden nu kommen, för min text Filosoferna som tänker stort om framtiden har denna morgon publicerats på Dagens Arena.

(I själva verket skickade jag in mitt manus redan i början av september, i förhoppningen att de som helt digitalt forum skulle kunna arbeta med korta pressläggningstider - vilket passade mig bra eftersom jag gärna ville ansluta till anglosfärens mycket omfattande uppmärksamhet kring bokens lansering i augusti, och dessutom hoppades kunna sätta agendan för diskussion om boken på svenska. Föga anade jag att ett svenskt riksdagsval med tillhörande regeringsförhandlingar skulle innebära att allt material av mer blickhöjande och långsiktig karaktär skulle läggas på is även i digitala tidskrifter.)

Så här inleder jag min text:

Varför skall vi göra något för framtida generationer – vad har de någonsin gjort för oss? Den unge Oxfordfilosofen William MacAskill försöker i sin nyutkomna bok What We Owe the Future ge ett noggrant och gravallvarligt svar på denna populära ironiska cynism. Vi har, menar han, starka moraliska skäl att verka för en bra värld åt kommande generationer. Så långt är hans idé knappast särskilt originell. Det är en gammal visdom att ett samhälle är gott när gamla människor planterar träd i vilkas skugga de aldrig kan räkna med att få svalka, och medeltida katedralbyggen som kunde spänna över många århundraden genomfördes enligt samma princip. Tanken om att arbeta för en bättre framtid är central i både miljörörelsen och andra politiska inriktningar.

För att förstå vad som är så nytt och omvälvande i MacAskills budskap att han talar om ”en moralisk revolution” kan vi börja med att titta på hans bakgrund. Som student i Oxford i slutet av 00-talet var han tillsammans med ett litet antal jämnåriga idealister drivande i att skapa det filosofiska tankesystem som kommit att benämnas effektiv altruism (EA), och i att grunda den sociala rörelse som bär samma namn. Grundidén är att inte nöja sig med att idka välgörenhet, utan se till att man gör så stor nytta som möjligt med de resurser man har. Inte heller detta låter särskilt originellt, men det allvar och den systematik som EA-rörelsen kommit att ägna effektivitetsfrågan avviker kraftigt från hur de flesta av oss är vana att tänka. Den som står i begrepp att köpa en bil, en telefon eller ett paket frukostflingor är ofta angelägen om att få bästa möjliga valuta för pengarna, medan den som är på väg att ge pengar till välgörenhet sällan ens reflekterar över om UNHCR gör mer nytta per donerad krona än Rädda Barnen eller vice versa. Det var till stor del insikten att effektiviteten – mängd nytta per donerad krona – kan skilja sig drastiskt mellan olika projekt och välgörenhetsorganisationer som drev de tidiga EA-entusiasterna. Vad som menas med ”nytta” i detta sammanhang är delvis en öppen fråga, men ett exempel är ”antal räddade levnadsår”, och de fann en gammal rapport från Världsbanken som pekade på att effektiviteten i projekt med denna inriktning kunde skilja sig åt med upp till en faktor 10 000.

Liknande tankar fanns på andra sidan Atlanten, där finansanalytikerna Holden Karnofsky och Elie Hassenfeld redan 2007 startade organisationen GiveWell, som utreder effektiviteten i olika välgörenhetsprojekt och vars topplista över effektiva sådana än idag är en viktig resurs för personer som vill donera med EA-inriktning. Listan har ofta toppats av olika malariabekämpningsprojekt i tredje världen, och genomsnittskostnaden för att via dessa rädda ett människoliv uppskattas till...

Med denna cliffhanger hoppas jag locka er vidare till min essä i Dagens Arena!

New preprint on the Hinge of History

My latest preprint, entitled The Hinge of History and the Choice between Patient and Urgent Longtermism, is out now. Some terminological explanation and further context:

• The Hinge of History means, roughly, the most important time in the entire human history (past, present and future), in which we either get our act together or do something really bad that destroys all or most of future value. This can be made more precise in various ways discussed in the preprint. An increasingly popular idea is that the Hinge of History is now. Will MacAskill pushes back against this idea in a recent paper called Are we Living at the Hinge of History?, and in my preprint I push back against his pushback.
• Longtermism, in the words of MacAskill in his recent book What We Owe the Future, is ''the idea that positively influencing the longterm future is a key moral priority of our time''.
• Talk of urgent vs patient longtermism refers to whether this positive influence is best achieved via concrete object-level action now or via saving resources for such action at later times.
• The media attention around What We Owe the Future has been stupendous, not only in intellectually oriented and/or effective altruism-adjacent outlets such as Astral Codex Ten and podcasts by Tyler Cowen, Sean Carroll and Sam Harris, but also in mainstream media such as The New Yorker, Time Magazine, The Guardian and the BBC. I share the wide-spread enthusiasm for the book, and intend soon to help fix the relative shortage of reviews in Swedish.
• It has been pointed out that MacAskill sometimes defends far-reaching positions in academic papers and backs down to more moderate stances in his book, an example being how in a paper with Hilary Greaves he lays out the case for strong longtermism defined as the view that ''far-future effects are the most important determinant of the value of our options [today]'', but is content in the book with the somewhat more watered-down longtermism defined as above. Another example of this is his defense of patient longtermism in Are we Living at the Hinge of History, which is toned down in What We Owe the Future almost to the point of pressing the mute button. One may raise an eyebrow at this inconsistency, but in my opinion it is perfectly reasonable to explore principled positions in theoretical discussions taking place in seminar rooms and the academic literature, while choosing not to defend them in broader contexts.

Click here to find my new preprint!

* * *

Edit December 19, 2022: New and (somewhat) revised version uploaded now.

Jag framträder i Oslo den 14 och 15 september

Lystring alla vänner i Oslotrakten! I mitten av nästa månad gör jag två föredragsframträdanden som ni har möjlighet att kostnadsfritt delta i:

• Onsdagen den 14 september 2022 klockan 17:30-19:00 ger jag ett föredrag med rubriken Longtermism, Astrid Lindgren, the Unabomber and AI Alignment. Lokal är Litteraturhuset, Wergelandsveien 29, och det hela är ett arrangemang av Effektiv Altruisme Norge.
• Torsdagen den 15 september 2022 klockan 12.00-13:00 talar jag på BI (Norwegian Business School) Campus Oslo över ämnet AI Risk and AI Alignment at the Hinge of History.

Vid båda tillfällen har jag avsikten att ge gott om utrymme för frågor och publikdiskussion.

EA and me

I was recently asked to contribute a 150-word text about my relation to effective altruism (EA), for publication in a pamphlet-of-sorts along with similar texts from other supporters of EA. I submitted the text below. After a couple of rounds of email exchange with the editor about how my text could be made less controversial we came to a standstill, and the text was rejected. I nevertheless like it, so am happy to share it here, with URL links added for your convenience:

About a decade ago I began my mid-career shift from being a typical ivory tower mathematics professor towards an increasing focus on AI safety, existential risk and related topics. This move was largely driven by the EA-like idea of wanting to address the world's most pressing issues. Yet the EA movement appeared on my radar only gradually. Initially I was skeptical, as ranking ways to do good in terms of efficiency reminded me of Bjorn Lomborg’s ploy that we shouldn’t fight climate change because fighting malaria is more cost effective. Of course there are many things we ought to do! But when in 2017 I read Will MacAskill’s Doing Good Better, I realized that current EA thinking is less naive than I thought. I have since then become increasingly impressed by all the good theoretical and practical work done in EA, and I now consider myself a warm supporter of both the movement and its core ideas.

Om empati och kärnvapen

Titeln på den amerikanske psykologen Paul Blooms senaste bok Against Empathy provocerar, men det är en läsvärd och intressant bok, med en beaktansvärd huvudpoäng som jag tangerat i en tidigare bloggpost: vår empatiska förmåga begränsar sig till inkännande med en eller några få personer åt gången, vilket skapar en bias för just dessa personer - en bias som ofta leder till dåliga beslut när olika intressen behöver vägas mot varandra. Bloom förespråkar en mer rationellt kalkylerande medkänsla. Den unge skotske filosofen William MacAskill är i sin bok Doing Good Better: How Effective Altruism Can Help You Make a Difference (som är ännu bättre än Blooms!) inne på en liknande linje, men han lägger mindre kraft på själva psykologin och mer på att ge råd och anvisningar om vilka beslut som faktiskt är kloka. (Båda dessa utmärkta böcker kom jag att läsa tack vare författarnas medverkan i varsitt avsnitt av Sam Harris podcast Waking Up.)

Blooms betoning av empatins negativa sidor är förståelig med tanke på hur ensidigt empatin prisats genom åren, men frågan är om den mörka bild av empatin han därmed tecknar är riktigt rättvis. Här är ett klassiskt förslag (som känns extra aktuellt just nu med den pågående besinningslösa upptrappningen i retoriken mellan Norkoreas juvenile ledare Kim Jong-Un och USA:s dito Donald Trump) av den amerikanske juridikprofessorn Roger Fisher om hur empatin skulle kunna användas för att åstadkomma bättre beslut i internationella storkonflikter.

Jag gillar Fishers förslag, dock med reservation för att det kanske inte fungerar just i fallet då USA:s president heter Donald Trump.

Rekommenderas varmt: Sam Harris podcast

I minst ett år har jag haft tillräckligt många vänner (med intellektuell smak tillräckligt i linje med min egen) som varmt rekommenderar den amerikanske neurovetaren och samhällsdebattören Sam Harris podcast Waking Up för att inse att den är riktigt bra. I förra veckan gjorde jag äntligen slag i saken och började lyssna, så nu tillhör jag de frälsta, och skriver denna bloggpost i avsikt att rekrytera fler själar åt Harris.

Sam Harris har ett brinnande samhällsengagemang och en uppsättning filosofiska och vetenskapliga intressen som uppvisar ett påtagligt överlapp med mina. Han är synnerligen analytiskt lagd, han gillar att se svåra frågor belysta från olika håll, och han utmanar gärna sig själv genom att på stort allvar ta del av meningsmotståndares argument. Ofta, men långtifrån alltid, landar han i ungefär samma ståndpunkter som jag. Om hans analyser leder honom mot kontroversiella och impopulära ståndpunkter så väjer han inte för det.

Ett typiskt avsnitt av Waking Up utgörs av ett samtal mellan Harris och någon annan person vars tankar han intresserar sig för. Dessa samtal är vanligtvis cirka två timmar långa, vilket medger befriande fördjupning i en tid som i allt högre grad kommit att domineras av tweets och andra ytliga snapshots (men det bidrog nog också till att det dröjde så länge som det gjorde innan jag började lyssna på podcasten). Jag har nu på mindre än en vecka hunnit höra Sam Harris samtala med följande nio personer, och jag tycker mig ha hört tillräckligt för att våga påstå att den som gillar min blogg sannolikt kommer att älska Waking Up.

• Charles Murray. Det här är det senaste avsnittet av Waking Up, och det som (via påstötningar från Patrik Lindenfors och Anders Emretsson) fick mig att till slut börja lyssna på podcasten. De läsare som känner till statsvetaren Charles Murray gör det nog från hans och den sedemera framlidne Richard Herrnsteins bok The Bell Curve: Intelligence and Class Structure in American Life från 1994, eller - troligare - från den långdragna och mycket aggressiva debatt som följde på boken. I denna debatt (som ännu inte svalnat; hans framträdanden kan fortfarande mötas med upplopp) framställdes Murray som rasist och värre saker än så, och jag tycker faktiskt att vi som i ett par decennier burit på det intrycket är skyldiga honom den lilla tjänsten att ta del av detta podcastavsnitt och få reda på vilken klok och sansad person han faktiskt är, och vilket starkt engagemang för social rättvisa han (trots att han politiskt drar åt höger) har.

• Paul Bloom. Jag tvekar inte att karaktärisera detta samtal med psykologen Paul Bloom som ett ustökt och rentav virtuost samspel mellan två intelligenta herrar med viktiga saker på hjärtat. I centrum för diskussionen står (den för mig tidigare okända men troligvis väldigt viktiga) distinktionen mellan empati och medkänsla, och jag får snart hem Blooms aktuella bok med den provokativa titeln Against Empathy: The Case for Rational Compassion.

• David Chalmers. Det finns få (om ens någon) nutida forskare inom medvetandefilosofi som är mer framstående än David Chalmers. Detta samtal tror jag kan fungera ypperligt som nybörjarintroduktion till området. (För mig, som alltid intresserat mig för medvetandefilosofi, och dessutom läst flitigt om det de senaste 15 åren, blev det dock mest skåpmat, om än välformulerad sådan.)

• Stuart Russell. Här kan jag använda copy-and-paste ganska effektivt: Det finns få (om ens någon) nutida forskare inom artificiell intelligens (AI) som är mer framstående än Stuart Russell. Detta samtal tror jag kan fungera ypperligt som nybörjarintroduktion till AI-risk. (För mig, som intresserat mig för och dessutom läst flitigt om saken de senaste 8-9 åren, blev det dock mest skåpmat, om än välformulerad sådan.)

• Daniel Dennett. Frågan om människans fria vilja och huruvida sådan är möjlig i ett materiellt universum hör till dem som tidigare intresserat mig men som jag senare tröttnat på, och det skall villigt erkännas att jag började lyssna på detta podcastavsnitt mer av nyfikenhet på hur Harris och Dennett socialt skulle hantera den situation de skapat genom den extremt arga debatt de haft med varandra i frågan några år tidigare. Det visar sig att de helt klart är on speaking terms, men att en viss odör av gammal surdeg likväl kans skönjas. I sakfrågan har de inte flyttat sig nämnvärt: att de ger olika svar på frågan om huruvida fri vilja existerar beror enbart på att de har olika uppfattning om vad som är en relevant definition av fri vilja, och inte alls på någon eventuell skillnad i uppfattning om hur världen är beskaffad (men det visste vi redan).

• Gary Kasparov. I min ungdom hörde Kasparov - schackgeni och så småningom världsmästare, och möjligen rentav den störste schackspelaren genom alla tider - till mina allra största idoler. Hans roll efter avslutad schackkarriär som ledande rysk oppositionell och antiputinist är beundransvärd. I samtalet med Sam Harris är det delarna om Putin, Trump och internationell storpolitik som är värda att lyssna på. I diskussionen om artificiell intelligens (något Kasparov ofta tillfrågas om i kraft av sin historiska roll som den förste schackvärldsmästare som tvingats se sig besegrad av ett datorprogram) har han däremot väldigt lite av värde att tillföra.

• Anne Applebaum. Författaren och journalisten Anne Applebaum har sällsynt god nutidshistorisk överblick över sovjetisk/rysk, europeisk och amerikansk politik. Liksom Harris samtal med Kasparov kretsar det med Applebaum i hög grad kring Trump, Putin, realpolitik och diktaturens mekanismer, men är avgjort intressantare.

• Lawrence Krauss. Harris diskussion med fysikern Lawrence Krauss spänner, liksom så många andra av hans samtal, över många områden. Här är det delarna om kärnvapenhotet som är intressantast, medan den om tolkningar av kvantmakanik känns som om jag hört den hundra gånger förut, och käbblet om vilket som är farligast av kristen och islamsk fundamentalism snabbt blir tjatigt.

• William MacAskill. Filosofiämnet anklagas ofta för att vara fast positionerat så högt upp i elfenbenstornet att det aldrig någonsin får någon praktisk betydelse. Men anklagelsen är felaktig, och den 30-årige (29 vid tiden för programmets inspelning) Oxfordfilosofen William MacAskills verksamhet är ett strålande motexempel. Han är frontfigur (såväl intellektuellt som entreprenöriellt) för den nya och snabbt växande effektiv altruism-rörelsen, som jag känner stor sympati med, och samtalet behandlar väldigt nyanserat frågan om hur vi bäst kan göra världen bättre. Vissa psykologiska aspekter har starka beröringspunkter med ovan nämnda avsnitt med Paul Bloom. Jag har beställt MacAskills bok Doing Good Better och ser fram emot att läsa den.