Min recension av MacAskills What We Owe the Future

I ett blogginlägg i förra månaden utlovade jag en recension av William MacAskills nya bok What We Owe the Future. För er som otåligt väntat på denna är tiden nu kommen, för min text Filosoferna som tänker stort om framtiden har denna morgon publicerats på Dagens Arena.

(I själva verket skickade jag in mitt manus redan i början av september, i förhoppningen att de som helt digitalt forum skulle kunna arbeta med korta pressläggningstider - vilket passade mig bra eftersom jag gärna ville ansluta till anglosfärens mycket omfattande uppmärksamhet kring bokens lansering i augusti, och dessutom hoppades kunna sätta agendan för diskussion om boken på svenska. Föga anade jag att ett svenskt riksdagsval med tillhörande regeringsförhandlingar skulle innebära att allt material av mer blickhöjande och långsiktig karaktär skulle läggas på is även i digitala tidskrifter.)

Så här inleder jag min text:

Varför skall vi göra något för framtida generationer – vad har de någonsin gjort för oss? Den unge Oxfordfilosofen William MacAskill försöker i sin nyutkomna bok What We Owe the Future ge ett noggrant och gravallvarligt svar på denna populära ironiska cynism. Vi har, menar han, starka moraliska skäl att verka för en bra värld åt kommande generationer. Så långt är hans idé knappast särskilt originell. Det är en gammal visdom att ett samhälle är gott när gamla människor planterar träd i vilkas skugga de aldrig kan räkna med att få svalka, och medeltida katedralbyggen som kunde spänna över många århundraden genomfördes enligt samma princip. Tanken om att arbeta för en bättre framtid är central i både miljörörelsen och andra politiska inriktningar.

För att förstå vad som är så nytt och omvälvande i MacAskills budskap att han talar om ”en moralisk revolution” kan vi börja med att titta på hans bakgrund. Som student i Oxford i slutet av 00-talet var han tillsammans med ett litet antal jämnåriga idealister drivande i att skapa det filosofiska tankesystem som kommit att benämnas effektiv altruism (EA), och i att grunda den sociala rörelse som bär samma namn. Grundidén är att inte nöja sig med att idka välgörenhet, utan se till att man gör så stor nytta som möjligt med de resurser man har. Inte heller detta låter särskilt originellt, men det allvar och den systematik som EA-rörelsen kommit att ägna effektivitetsfrågan avviker kraftigt från hur de flesta av oss är vana att tänka. Den som står i begrepp att köpa en bil, en telefon eller ett paket frukostflingor är ofta angelägen om att få bästa möjliga valuta för pengarna, medan den som är på väg att ge pengar till välgörenhet sällan ens reflekterar över om UNHCR gör mer nytta per donerad krona än Rädda Barnen eller vice versa. Det var till stor del insikten att effektiviteten – mängd nytta per donerad krona – kan skilja sig drastiskt mellan olika projekt och välgörenhetsorganisationer som drev de tidiga EA-entusiasterna. Vad som menas med ”nytta” i detta sammanhang är delvis en öppen fråga, men ett exempel är ”antal räddade levnadsår”, och de fann en gammal rapport från Världsbanken som pekade på att effektiviteten i projekt med denna inriktning kunde skilja sig åt med upp till en faktor 10 000.

Liknande tankar fanns på andra sidan Atlanten, där finansanalytikerna Holden Karnofsky och Elie Hassenfeld redan 2007 startade organisationen GiveWell, som utreder effektiviteten i olika välgörenhetsprojekt och vars topplista över effektiva sådana än idag är en viktig resurs för personer som vill donera med EA-inriktning. Listan har ofta toppats av olika malariabekämpningsprojekt i tredje världen, och genomsnittskostnaden för att via dessa rädda ett människoliv uppskattas till...

Med denna cliffhanger hoppas jag locka er vidare till min essä i Dagens Arena!

New preprint on the Hinge of History

My latest preprint, entitled The Hinge of History and the Choice between Patient and Urgent Longtermism, is out now. Some terminological explanation and further context:

• The Hinge of History means, roughly, the most important time in the entire human history (past, present and future), in which we either get our act together or do something really bad that destroys all or most of future value. This can be made more precise in various ways discussed in the preprint. An increasingly popular idea is that the Hinge of History is now. Will MacAskill pushes back against this idea in a recent paper called Are we Living at the Hinge of History?, and in my preprint I push back against his pushback.
• Longtermism, in the words of MacAskill in his recent book What We Owe the Future, is ''the idea that positively influencing the longterm future is a key moral priority of our time''.
• Talk of urgent vs patient longtermism refers to whether this positive influence is best achieved via concrete object-level action now or via saving resources for such action at later times.
• The media attention around What We Owe the Future has been stupendous, not only in intellectually oriented and/or effective altruism-adjacent outlets such as Astral Codex Ten and podcasts by Tyler Cowen, Sean Carroll and Sam Harris, but also in mainstream media such as The New Yorker, Time Magazine, The Guardian and the BBC. I share the wide-spread enthusiasm for the book, and intend soon to help fix the relative shortage of reviews in Swedish.
• It has been pointed out that MacAskill sometimes defends far-reaching positions in academic papers and backs down to more moderate stances in his book, an example being how in a paper with Hilary Greaves he lays out the case for strong longtermism defined as the view that ''far-future effects are the most important determinant of the value of our options [today]'', but is content in the book with the somewhat more watered-down longtermism defined as above. Another example of this is his defense of patient longtermism in Are we Living at the Hinge of History, which is toned down in What We Owe the Future almost to the point of pressing the mute button. One may raise an eyebrow at this inconsistency, but in my opinion it is perfectly reasonable to explore principled positions in theoretical discussions taking place in seminar rooms and the academic literature, while choosing not to defend them in broader contexts.

Click here to find my new preprint!

* * *

Edit December 19, 2022: New and (somewhat) revised version uploaded now.

Tre nya avsnitt av Vetenskapligt med Häggström & Livh

Podden Vetenskapligt med Häggström & Livh rullar på! Jämfört med med min förra rapportering här på bloggen har vi nu inte mindre än tre nya avsnitt ute.

I det första av dessa tre (och det fjärde totalt), talade vi med Stefan Schubert om grundidéerna i det enligt min uppfattning mycket viktiga tankesystem som på senare år vuxit fram under beteckningen effektiv altruism, och om hans egen psykologiska forskning kring hur människor förhåller sig dessa idéer. I det nästpåföljande avsnittet valde vi för omväxlings skull att inte bjuda in någon gäst alls, utan istället fokusera samtalet på de tankar om artificiell intelligens och dess samhällspåverkan som jag lyfter i min i våras utkomna bok Tänkande maskiner. Och i det allra senaste avsnittet, publicerat i förrgår, bjöd vi in klimatforskaren Christian Azar för att bland annat diskutera den ibland lite svåra balansgång som kan uppstå när man som forskare vill förse makthavare med relevant kunskap för att göra världen bättre utan att för den sakens skull tära på det förtroendekapital som vetenskapen besitter.

Vi är nu uppe i sex avsnitt, och fler är på gång. Här är den fullständiga listan över de avsnitt vi hittills publicerat:

1. Grandiosa framtider med Anders Sandberg, 16 juli 2021.

2. Pengar, pandemi och puffning med Linda Thunström, 5 augusti 2021.

3. Mitt i planeten med astronom Maria Sundin, 18 augusti 2021.

4. Medmänsklighet på smartast möjliga sätt med Stefan Schubert, 3 september 2021.

5. Tänkande maskiner, 29 september 2021.

6. Klimatforskare Christian Azar om att förse politiker med fakta, 22 oktober 2021.

EA and me

I was recently asked to contribute a 150-word text about my relation to effective altruism (EA), for publication in a pamphlet-of-sorts along with similar texts from other supporters of EA. I submitted the text below. After a couple of rounds of email exchange with the editor about how my text could be made less controversial we came to a standstill, and the text was rejected. I nevertheless like it, so am happy to share it here, with URL links added for your convenience:

About a decade ago I began my mid-career shift from being a typical ivory tower mathematics professor towards an increasing focus on AI safety, existential risk and related topics. This move was largely driven by the EA-like idea of wanting to address the world's most pressing issues. Yet the EA movement appeared on my radar only gradually. Initially I was skeptical, as ranking ways to do good in terms of efficiency reminded me of Bjorn Lomborg’s ploy that we shouldn’t fight climate change because fighting malaria is more cost effective. Of course there are many things we ought to do! But when in 2017 I read Will MacAskill’s Doing Good Better, I realized that current EA thinking is less naive than I thought. I have since then become increasingly impressed by all the good theoretical and practical work done in EA, and I now consider myself a warm supporter of both the movement and its core ideas.

No free lunch?

Huruvida gratisluncher existerar eller inte har ju av och till varit föremål för het debatt (se t.ex. mina gamla gräl med den amerikanske matematikern och neokreationisten William Dembski), men nu på måndag ser frågan ut att avgöras i ett samarrangemang här på Chalmers mellan föreningarna Chalmers Students for Sustainability och Effective Altruism Chalmers; se mötets Facebooksida för mer information. Kom och lyssna, kom och ät!

Nu höjer jag ett bekymrat pekfinger mot två professorskollegor på ekonomsidan

I en debattartikel rubricerad Dags att skrota flygskammen i Dagens Industri häromdagen meddelar ekonomprofessorerna Per-Olov Johansson och Bengt Kriström att "ur klimatsynpunkt är en flygresa mellan Umeå och Stockholm inget problem". Jag kan bara konstatera att för att påstå något sådant behöver man virra bort sig så totalt i sofistikerade marginaleffektsresonemang, i kombination med en statisk samhällssyn, att man inte längre kan se det enkla faktum att ett utsläpp är ett utsläpp är ett utsläpp.

Ack ändå om författarna hade landat (no pun intended) i något i stil med att...

vi finner det överraskande och en smula perverterat att den som önskar hålla nere CO₂-utsläppen med rådande system inte verkar ha anledning att undvika inrikesflygandet, varför andra sätt att minska detta flygande (med vidhängande utsläpp som ju trots allt finns där) snarast bör utformas.

Men något sådant säger de dessvärre inte, utan de stannar vid budskapet att vi glatt kan flyga vidare utan att bekymra oss. Den sortens lättsinne bekymrar mig. Överhuvudtaget skulle jag vilja råda mina professorskollegor på ekonomsidan att vara lite mer vaksamma mot marginaleffektsresonemang¹ av typen...

oj, en rullatorburen gammal pensionär har irrat sig in i de ruffiga hamnkvarteren, då är det oproblematiskt om jag rånar honom, för annars kommer garanterat någon annan att göra det.

Fotnot

1) Härmed inte sagt att jag kategoriskt skulle vara emot marginaleffektsresonemang, vilka ju bland annat har kommit att bli ett centralt analysverktyg i den effektiv altruism-rörelse jag har ett gott öga till. Jag vill absolut inte fördöma resonemang av typen "om jag drar i spaken så att spårvagnen växlas in på ett sidospår blir nettoeffekten fyra sparade människoliv", men vill varna för att i praktiska situationer (där det som regel går att lyfta sig ur den snävaste problemformuleringen och överväga en korrigering av förutsättningarna) betrakta resonemanget som oproblematiskt och upphöja det till sista ordet.

Om effektiv altruism i P4

Idag har jag för tredje gången inom loppet av en månad besökt P4 Göteborgs förmiddagsprogram (jag var ju där såväl fredagen den 5 som onsdagen den 17 oktober). Stefan Livh, som brukar ta emot, var denna gång på semester, så jag fick istället snacka med den vikarierande programledaren Erika Löthberg. Vårt samtal börjar cirka 1:23:30 in i sändningen, och håller med diverse avbrott på tills min önskelåt för dagen (Over the Rainbow med Judy Garland från 1939) drar igång vid cirka 1:48:35.

Denna gång slog jag ett slag för effektiv altruism, som är den gemensamma beteckningen på ett gryende forskningsområde och en snabbt växande social rörelse, vilka båda handlar om hur man som individ med ambitionen att bidra till att göra världen bättre kan åstadkomma det så effektivt som möjligt. Den som vill veta mer om det vi pratade om kan exempelvis ta del av EA Sveriges introduktion till effektiv altruism, GiveWells topplista över effektiva välgörenhetsprojekt, och karriärrådgivningsorganisationen 80,000 hours.

Paul Christiano has just climbed to the top of my to-read list

The 80,000 Hours Podcast (run by the nonprofit organization 80,000 Hours, which offers career advice to young people guided by the principles of effective altruism) seems generally to be an incredibly good resource for learning about some of the most important yet underappreciated issues confronting humanity today. Its host Robert Wiblin (Director of Research at 80,000 hours) does the interviews extremely competently, having typically done some serious homework on the topics that come up.

Still, the amazing recent 3 hours and 52 minutes long episode with computer scientist Paul Christiano stands out. Despite its length, I found every minute of the episode highly worthwile and informative, and it convinces me that Christiano does some of today's most important, creative and cutting-edge work on AI alignment and AI safety. Highly recommended! One of my top near-term priorities right now is to become more closely acquainted with, e.g., his work on prosaic AI alignment, on iterated distillation and amplification, on "AI safety via debate", and on the possibility of unaligned yet morally valuable AI. And as a bonus, and mostly just for pleasure, I am about to read his Eight unusual science fiction plots.