Do Look Up!

Filmen Don't Look Up är en satirisk skildring av makthavares reaktioner på att en komet är på kollisionskurs med Jorden, och hade Netflix-premiär under julhelgen. Varning för spoilers i det som nu följer.

Filmen blev snabbt föremål för omfattande diskussion, varav en överraskande stor förgrening på svensk Twitter och annorstädes kommit att handla om att håna SVT:s Morgonstudion för det inslag i måndags i vilket de tog filmen som utgångspunkt för ett samtal om hotet mot oss från kometer och asteroider med Alexis Brandeker, astronom och docent vid Stockholms universitet. Hånet går ut på att det...

[f]ör de allra flesta (förutom Morgonstudions redaktion) är [...] uppenbart vilka verkliga händelser som filmen baseras på. Igenkänningsfaktorn är hög, och filmteamet – inklusive regissör, manusförfattare och skådespelare – har upprepade gånger bekräftat att kometen är en metafor för just klimatkrisen.

Jag finner denna kritik en smula inskränkt. Risken för komet- och asteroidnedslag på Jorden är ett fascinerande ämne som absolut förtjänar utrymme i nyhetsmedia, och att ta avstamp i en film som Don't Look Up är knappast någon dålig ingång. Klimatfrågan har inte ensamrätt på nyhetsbevakning och samhällsdiskussion, och skaparna av filmen har knappast heller någon ensamrätt (eller ens sanningsföreträde) på att tolka den. Det är förvisso sant att de avsett den som en allegori över klimatfrågan, men andra (inklusive Matt Yglesias) har föreslagit att den alternativt och med fördel kan ses som en kommentar till covid-krisen. Själv ser jag tydliga paralleller till svårigheten att få makthavare att på allvar ta till sig frågan om hur vi undviker en AI-katastrof, och min gode vän Thore Husfeldt föreslår på Facebook att...

the comet in Don’t Look Up! [is] an obvious analogy to Critical Theory. Science!Grrrl is Helen Pluckrose, bearded-scruffy-white-male is James Lindsay. Civilisation will end, but nobody’s listening! How can you not see that obvious analogy?¹

...men tillägger för säkerhets skull snabbt att...

it’s completely arbitrary what the comet “stands for”, and straight-faced discussions about that it *really-really* stands for just get shrugs from me. I. Don’t. Care. In particular, I would never seriously endorse the position “This is a timely satire warning us about Critical Theory.” When I write stuff like that, it’s obviously!satirical. Only somebody who thinks the comet is obviously!climatechange would ever think something else. To me, the movie is “about society”, and pretty funny.

Yup, just så.

Ett centralt tema i filmen är svårigheten för gemene man att veta vem man skall tro på i svåra vetenskapliga frågor av stor och akut samhällsrelevans. "Vem kan man lita på?" skrev jag i rubriken till ett kapitel om denna fråga i en Formas-antologi för drygt ett decennium sedan, och den har inte blivit lättare sedan dess.² Denna epistemiska svårighet behandlas på ett alldeles lysande vis i Scott Alexanders dagsfärska kommentar till filmen, där han bland annat påpekar hur inkonsekvent den förhåller sig till problemet, i så måtto att den inte förmår bestämma sig för vilket av följande båda narrativ den skall förorda, utan fladdrar hit och dit:

The first narrative says “there’s a consensus reality constructed by respectable people, and a few wild-eyed weirdos saying they’ve seen through the veil and it’s all lies...and you should trust the weirdos!” The second starts the same way, but ends “...and you should trust consensus reality!”.

Lite tidigare i bloggposten ger han följande exempel:

Unfortunately, Don’t Look Up can’t stop contradicting itself.

It depicts a monstrous world where the establishment is conspiring to keep the truth from you in every possible way. But it reserves its harshest barbs for anti-establishment wackos, who are constantly played for laughs. “THE COMET IS A MARXIST LIE!” says the guy on the Facebook stand-in. Maybe not literally, but at least he’s genre-savvy.

It depicts elites as simultaneously incompetent and omnicompetent. There’s a great scene where Female Scientist is talking to some rioters. The rioters bombard her with conspiracy theories - the elites have built bunkers! They’re lying low, totally safe, laughing at the idea of the comet wiping out the hoi polloi. “No,” Female Scientist answers, “they’re not that competent”. It’s a great line, played completely seriously. But later we learn that Tech CEO literally built a 2,000 person starship in less than six months so he and the other elites could escape.

Varken jag eller Scott Alexander har något färdigt och vattentätt svar på vem man kan lita på, men jag rekommanderar hans välgenomtänkta bidrag till diskussionen om denna viktiga fråga.

Fotnoter

1) Den som ine känner till Pluckrose och Lindsay och deras korståg mot Critical Theory kan hitta lite kontext exempelvis i samtalet med Thore i det senaste avsnittet av Vetenskapligt med Häggström och Livh.

2) Exempelvis tycker jag mig ha noterat att många av dem som för tio år sedan lärde sig (korrekt, enligt min mening) att IPCC är en utmärkt auktoritet att vända sig till för en rättvisande bedömning av det klimatvetenskapliga kunskapsläget gjort den förhastade generaliseringen att den svenska Folkhälsomyndigheten har en motsvarande ställning som pålitlig kunskapskälla i covid-frågor.

Tre nya avsnitt av Vetenskapligt med Häggström & Livh

Podden Vetenskapligt med Häggström & Livh rullar på! Jämfört med med min förra rapportering här på bloggen har vi nu inte mindre än tre nya avsnitt ute.

I det första av dessa tre (och det fjärde totalt), talade vi med Stefan Schubert om grundidéerna i det enligt min uppfattning mycket viktiga tankesystem som på senare år vuxit fram under beteckningen effektiv altruism, och om hans egen psykologiska forskning kring hur människor förhåller sig dessa idéer. I det nästpåföljande avsnittet valde vi för omväxlings skull att inte bjuda in någon gäst alls, utan istället fokusera samtalet på de tankar om artificiell intelligens och dess samhällspåverkan som jag lyfter i min i våras utkomna bok Tänkande maskiner. Och i det allra senaste avsnittet, publicerat i förrgår, bjöd vi in klimatforskaren Christian Azar för att bland annat diskutera den ibland lite svåra balansgång som kan uppstå när man som forskare vill förse makthavare med relevant kunskap för att göra världen bättre utan att för den sakens skull tära på det förtroendekapital som vetenskapen besitter.

Vi är nu uppe i sex avsnitt, och fler är på gång. Här är den fullständiga listan över de avsnitt vi hittills publicerat:

1. Grandiosa framtider med Anders Sandberg, 16 juli 2021.

2. Pengar, pandemi och puffning med Linda Thunström, 5 augusti 2021.

3. Mitt i planeten med astronom Maria Sundin, 18 augusti 2021.

4. Medmänsklighet på smartast möjliga sätt med Stefan Schubert, 3 september 2021.

5. Tänkande maskiner, 29 september 2021.

6. Klimatforskare Christian Azar om att förse politiker med fakta, 22 oktober 2021.

Sten Kaijser, den gamle klimatförnekaren

I februari 2014 skrev jag här på bloggen ett terminologiskt inlägg helt och hållet ägnat ordet klimatförnekare. Jag avhandlade en rad av dess för- och nackdelar, men landade i ståndpunkten att ordet är värdefullt att ha i sin vokabulär, och inte utan vidare kan bytas ut mot något av dess oftast föreslagna nästan-synonymer. I bloggpostens Fotnot 1 återgav jag (fritt ur minnet) ett replikskifte jag vid minst två tillfällen hade haft med före detta¹ vännen och matematikerkollegan Sten Kaijser:

OH: [bla bla bla] klimatförnekare [bla bla]

SK: Klimatförnekare är ett så urbota löjligt ord - ingen förnekar väl att det existerar ett klimat! Själv kallar jag mig klimatskeptiker.

OH: Ojdå, Sten, betyder det att du är skeptisk till att det existerar ett klimat?

Då Stens inlärningskurva i klimatrelaterade frågor även i övrigt visat sig beklämmande platt gissar jag att han än idag och med samma löjlighetargument som tidigare avvisar ordet klimatförnekare. Därför är det inte utan ett visst mått av skadeglad triumf jag noterar att han i en rubrik i gårdagens Dagens Nyheter benämns just - klimatförnekare!

Fotnot

1) Att Sten och jag sedan april 2011 inte är on speaking terms får nog till större delen skyllas på mig och min långsinthet. I grunden handlar det om att jag inte står ut med kollegor som missbrukar sina professorstitlar till att driva vetenskapsfientliga desinformationskampanjer, men den utlösande orsaken till sammanbrottet var hur Sten, då vi möttes i samband med föreningen Vetenskap och Folkbildnings årsmöte 2011 (där han dök upp för att protestera mot att 2010 års förvillarpris), vägrade ta avstånd från hans klimatförnekarkompis Ingemar Nordins då dagsaktuella och vidriga utbrott mot några av mina vänner, vilka hade kritiserat Nordins antivetenskapliga verksamhet och därför anklagades bland annat för att vara "emotionellt sjuka" och besitta ett "patologiskt hat".

Om FHM:s arbete med covid-19

Följande är lite jobbigt att säga rent ut, men mitt förtroende för FHM:s (Folkhälsomyndighetens) arbete med att bedöma och förutse spridningen av covid-19 svajar.

Det är jobbigt av två skäl: för det första att kritik mot FHM av många i min omgivning uppfattas som illojalt och opatriotiskt i ett läge där det är viktigt att vi alla inordnar oss i deras rekommendationer, och för det andra att jag riskerar att framstå som en Dunning-Kruger-anfäktad amatör (jag är ju trots allt inte epidemiolog) som tror mig veta bättre än experterna. Och det är ju helt sant att det är viktigt med bred och lojal folklig uppslutning kring den anbefallna strategin, men samtidigt menar jag att det är också viktigt att inte FHM upphöjs till något slags ofelbara gudar, immuna mot kritik. Likaså är det sant att jag genom att ventilera konträra ståndpunkter riskerar att framstå som något slags epidemiologins motsvarighet till en klimatförnekare, något som blir extra pinsamt av att jag genom åren lagt så stor kraft på att bemöta klimatförnekare, och hävdat att de uppvisar epistemsk omdömeslöshet genom att med (exempelvis) professorlig auktoritet uttala sig om saker de knappt vet något om.

Och det är sannerligen mycket jag inte vet om hur FHM arbetar och vilka deras vetenskapliga underlag och principer är. Kanske är därför det jag säger i det följande blott ett uttryck för min okunskap. Jag kan rätt och slätt ha fel. Men låt mig ändå förklara vad som bekymrar mig.

Ett tidigt frö till min skepsis såddes när FHM:s generaldirektör Johan Carlson den 2 mars beskrev utsikten om 10.000-15.000 insjuknade i Sverige som ett värsta fall-scenario. Detta var i mina ögon en uppenbart orimlig bedömning, men jag valde att hålla öppet för att Carlson menade något annat än det jag tyckte mig höra.

Ytterligare bekymmersam fann jag FHM:s rapport i slutet av mars om skattat behov av slutenvårdsplatser. Jag och några kollegor kämpade hårt med att tolka den ytterst knapphändiga informationen i rapporten, och en del frågetecken lyckades vi räta ut, men jag kände ett kvardröjande obehag inför rapportens påstående att de "modellerar ingen asymptomatisk smitta, bara rapporterade fall".¹ Vad är det de säger? Hur i hela himmelens namn skall man kunna göra vettiga prediktioner av det kommande behovet av vårdplatser om ens modeller överhuvudtaget inte befattar sig med smittans totala utbredning i samhället? En modell som inte tar med något i sammanhanget så fundamentalt kan väl knappt ens kallas modell, utan är väl mer att betrakta som en höftning eller en kurvanpassning? Så kanske borde inte deras påstående tas bokstavligt? Jag blev inte klok på detta.

När P1:s Vetenskapsradion den 7 april sände ett reportage om arbetet på FHM fick vi höra analyschefen Lisa Brouwers ganska tydligt bekräfta och motivera det påstående i vårdplatsbehovsrapporten som jag funnit så svårsmält och underligt. På en fråga om den kritik som riktats mot FHM för att de inte beaktar aktuell spjutspetsforskning kring epidemimodellering, som den från Imperial College,² svarade hon så här, med start cirka 3:20 in i programmet:

Vi har ganska tidigt gjort bedömningen att [vi inte vill] använda de dynamiska modellerna, som motsvarar de som Imperial College och andra har publicerat, utan att ha kunskap om hur stor andel till exempel som blir smittade utan att få symptom, och huruvida de som blir smittade utan att få symptom, huruvida de smittar andra i sin tur: att stoppa in sådana antaganden i en modell har vi valt att inte göra. Vi tycker inte det är meningsfullt, vi tycker inte det är bra att göra den typen av övningar innan kunskapen blir bättre. För det ger resultat som kan leda till felaktiga beslut.

Det är förvisso sant att exempelvis andelen asymptomatiskt smittade är en höggradigt okänd parameter, och det är likaledes sant att om vi naivt kör en modell med ett felaktigt värde på en sådan parameter så riskerar vi att få ett vilseledande svar, vilket i sin tur kan leda till dåliga beslut. Men detta problem försvinner inte av att man använder en mer primitiv modell som inte explicit inbegriper den felande kvantiteten.³ Att göra så är enligt min mening att sopa problemet med osäkerheten i (i detta fall) andelen asymptomatiskt smittade under mattan. Ett mycket bättre förfarande vore att prova den mer avancerade modellen, där den okända parametern (eller parametrarna) explicit finns med, för en uppsättning olika parametervärden, valda inom ett brett intervall men ändå inom rimlighetens ramar (eller ännu hellre valda enligt en välgenomtänkt Bayesiansk a priori-fördelning för parametern ifråga). Detta skulle ge ett spektrum av olika utfall när man kör modellen, och om modellen är bra ger detta spektrum en fingervisning inte bara om hur stort vårdplatsbehovet (eller vad det nu är man eftersöker) kan tänkas bli, utan också om hur stor osäkherheten är.

Intrycket jag får (men som jag alltjämt hoppas är felaktigt, och jag vill väldigt gärna bli överbevisad om detta) är att epidemiologerna på FHM inte begriper det här, och att det får dem att avstå från att ta hjälp av den bästa cutting edge-kunskap om modellering av covid-19 som finns där ute. Risken finns att detta får dem att göra sämre bedömningar och gå ut med sämre rekommendationer än de annars skulle ha gjort.

Fotnoter

1) En nyare version av rapporten finns här, och den förbryllande formuleingen finns kvar.

2) Besläktad modellering, men specifikt för Sverige, finns i ett aktuellt arbete av Jocim Rocklövs grupp i Umeå.

3) Brusselaers m.fl. inskärpte samma poäng i SvD igår.

In good physicist company

Let me briefly tell you about two of my recent and quite rewarding interactions with prominent physicists.

1. On November 29, MIT physicist Max Tegmark and I coauthored and cosigned a letter to the EU Commission with feedback on their pilot assessment on Trustworthy AI. Our letter can be found here or (for those not wishing to create a login account for EU's Futurium) here.

2. Last week I had the honor of sharing the stage with a Nobel laureate. Steven Chu was awarded the Nobel Prize in physics in 1997 for his work on cooling and trapping atoms with laser light. On December 9, we both took part in the panel discussion on Averting the climate crisis at the 2019 Nobel Week Dialogue, together with John Hassler and Lisen Schultz. Given that he served as Secretary of Energy in President Obama's cabinet as recently as 2013, it was a pleasant surprise to learn how outspoken and radical Chu is on the urgent need for curtailing greenhouse gas emissions.

And yes, I did attend the Nobel banquet the day after. Locating me in the following photo is challenging but not impossible.

Om Stanislav Petrov och Greta Thunberg i P4

Dagens snack med Stefan Livh i P4 Göteborg (börjar 1:06:45 in i sändningen¹ och håller på till cirka 1:54:25) kom att fokusera på två personer som på olika sätt gjort avtryck i världen: Stanaislav Petrov och Greta Thunberg. Petrov räddade (antagligen) världen från fullskaligt atomkrig den 26 september 1983, något som fått mig och många andra att varje år plädera för att dagens datum skall benämnas Petrovdagen, och är värt att fira som en hyllning inte bara till Petrov utan ännu mer till individens möjlighet att göra skillnad, och vikten av att inte förgöra världen. Greta Thunberg och hennes mäktiga tal i FN häromdagen känner nog alla läsare av denna blogg till, och det borde inte komma som någon överrasskning att jag är sympatiskt inställd till hennes budskap.

Fotnot

1) Men börja gärna lyssna redaan vid 1:00:55 för att få höra Stefan Livhs musikaliska sampling av Greta Thunbergs FN-tal.

Ubbhultskt yttrandefrihetsgnäll

Detta är en uppföljare till min bloggpost Ubbhultska dumheter tidigare denna månad, om den moderate riksdagsledamoten och klimatförnekaren¹ Jan "Ubbhult" Ericson. Den förra bloggposten avslutades med en redogörelse för hur Ericson den 10 juli avböjde min invit att ta en öl tillsammans, och i samband med det stämplade mig som "respektlös", en beskrivning jag hade vissa invändningar emot. Föga anade jag att Ericson bara några dagar senare skulle eskalera baktaleriet genom att (i diskussion med tredje part den 16 juli) hävda att jag "visat mycket aggressiva tendenser". Detta ogrundade påhopp reagerade jag på i en snabb serie om fyra tweets den 17 juli. Ericson svarade inte på detta, så en vecka senare påminde jag honom om saken via Twitters meddelandefunktion, varpå följande meningsutbyte utspelade sig, där Ericson ventilerade sin önskan om att få bedriva sin klimatförnekarpropaganda oemotsagd, och därvid förföll till patetiskt yttrandefrihetsgnäll:

OH, 24 juli:

I en tweet den 16 juli skrev du att jag "visat mycket aggressiva tendenser". Jag svarade dig, men du reagerade inte, så nu skriver jag igen.

Jag finner det ytterst obehagligt att en ledamot av Sveriges högsta folkvalda församling gör den sortens ogrundade utfall mot en universitetsprofessor som kommer med ovälkomna besked. I själva verket är jag en ytterst fridsam person, och jag kan inte påminna mig att jag uppträtt aggressivt i vare sig ord eller handling sedan jag var typ 14.

På ett psykologiskt plan finner jag ditt utfall förståeligt. Jag kritiserar dig obamhärtigt för ditt spridande av desinformation i klimatfrågan och för bristande källkritik, och det är då begripligt [att du] känner en lust att ge igen. Om jag har rätt i denna förklaring behöver du dock förstå att sådan lust att ge igen inte legitimerar anklagelser gripna ur luften.

Eller är det så att jag missuppfattat våra mellanhavanden, och faktiskt uppträtt (oavsiktligt och omedvetet) på ett sätt som rimligen kan uppfattas som aggressivt? I så fall skulle jag sätta väldigt värde på om du kunde peka ut vari denna upplevda aggression består, så att jag kan bättra mig.

JE, 24 juli:

Du skrev bla en kommentar om en forskarkollega som gick långt över vad som är rimligt.² Du vet själv vad du skrev.

I övrigt tycker jag du har en allmänt nedlåtande ton mot både mig och andra som inte delar din syn. Och du vet att det ändå finns ett inte obetydligt antal forskare som ser annorlunda på saken. Respektera att jag då känner viss skepsis till att bara följa strömmen.

Jag kan ju samtidigt säga att jag tycker det är minst lika obehagligt att en professor angriper en riksdagsledamot på det sätt du gör. Du måste respektera att vi har yttrandefrihet och åsiktsfrihet i Sverige. Jag är jurist med dubbel examen, jag har 13 år bakom mig som riksdagsledamot och tror få betraktar mig som korkad. Det du kallar ”desinformation” anser jag tvärtom vara mycket intressant för debatten. Jag anser mig mer påläst i frågan än flertalet riksdagskolleger som bara följer strömmen. Och jag har en kritisk ingång när det gäller all slags alarmism och domedagsteorier. Att sedan en del av det jag säger och skriver övertolkas medvetet av media och politiska motståndare är en annan sak. Jag är faktiskt vare sig klimatförnekare eller motståndare till vettiga åtgärder.

OH, 25 juli:

Jaha OK, så om jag nu förstår dig rätt så är ditt belägg för att jag ”visat mycket aggressiva tendenser” att jag omnämnt professorskollegan Ingemar Nordin som ”ett av det svenska universitetsväsendets allra värsta rötägg”. Om detta mitt yttrande kan mycket sägas, och om du skulle stämpla det som ”onödigt rättframt” eller ”burdust” eller ”oartigt” eller rentav ”tölpaktigt” så skulle jag inte protestera. Men ”aggressivt”? Knappast. Med vad jag bara kan tolka som en avsiktligt vilseledande formulering får du det att låta som om jag hotat någon med stryk eller så. Jag finner det uppriktigt sagt hårresande att en riksdagsledamot tillåter sig den sortens ogrundade angrepp på en varmt samhällsengagerad medborgare.

Ditt ordval ter sig omöjligt att försvara. Skulle det automatiskt vara ”aggressivt” att omnämna någon med ett så starkt negativt värdeladdat ord som ”rötägg”? Det vore orimligt, ty både ”terrorist” och ”diktator” bär på starkare negativ värdeladdning än ”rötägg”, och om vi dömde ut yttrandet ”Nordin är ett rötägg” (vilket han ju faktiskt är) som aggressivitet så skulle vi på samma sätt behöva döma ut yttranden som t.ex. ”Rakhmat Akilov är terrorist” (viket han ju är) eller ”Kim Jong-un är diktator” (vilket han ju är). Och du skulle väl knappast komma på tanken att anklaga en forskare eller politikerkollega som fäller något av de båda senare yttrandena för att ”visa mycket aggressiva tendenser”?

Ovanstående om kärnpunkten i vår diskussion, men du lyckas säga en hel del annat i ditt svar. På en punkt i din lista över negativa karaktäriseringar av mig kan jag faktiskt ge dig rätt: det här med att jag emellanåt uppvisar en nedlåtande ton. Jag har ägnat ofantlig tid de senaste 10-15 åren åt att förklara felen i olika slags pseudovetenskap och vanföreställningar om forskningsläget på olika områden. Ganska ofta möts jag då av bjäbb och ett totalt ointresse för att ta till sig ny kunskap, och då händer det att jag tappar tålamodet, varvid en nedlåtande ton lätt smyger sig in i mina yttranden. Denna karaktärsbrist erkänner jag utan omsvep.

I övrigt är det inte mycket bevänt med ditt svar. Jag finner det särskilt beklämmande att du återfaller i den martyrroll som jag tidigare noterat (se första stycket i den bloggpost http://haggstrom.blogspot.com/2019/07/ubbhultska-dumheter.html som jag för ett par veckor [sedan] tillägnade dig) att du är förtjust i. När du blir emotsagd tolkar du det som ett angrepp på din lagstadgade åsikts- och yttrandefrihet, vilket ju ärligt talat är löjligt. Yttrandefriheten ger dig ingen rätt att stå oemotsagd. Jag är, som jag skrev i nämnda bloggpost,

en varm vän av yttrandefriheten, som omfattar både Ericsons rätt att yttra dumheter och min rätt att påpeka att dessa är just dumheter.

Vidare ditt självförhärligande tal om hur ”påläst” du är i klimatfrågan. Rent kvantitativt är du kanske det, men genom det skeva urval du verkar tillämpa i vad du skall läsa – du föredrar uppenbarligen klimatförnekarbloggar och andra obskyra källor med minimal grad av trovärdighet framför seriösa forskarrapporter – så står det kvalitativt sämre till med din ”pålästhet”, och du har på detta vis kommit att få en vrångbild av det klimatvetenskapliga kunskapsläget. Där du tycker dig se två likvärdiga sidor kan en person som jag (som till skillnad från dig har arbetat med klimatvetenskap och behärskar såväl dess fysikaliska elementa som allmänna kunskaper både om naturvetenskapens metoder och om källkritik) konstatera att på det hela taget så är bara den ena sidan är uppbackad av solida vetenskapliga argument, medan den andra genomsyras av struntprat. Du får ursäkta, men när en riksdagsman drabbats av en sådan vrångbild i en vetenskaplig fråga där jag har sakkunskap så ser jag det som min medborgerliga plikt att försöka förklara hur det faktiskt ligger till med det vetenskapliga kunskapsläget – tvärtemot den etikettsregel du verkar förespråka, om att jag av något slags respekt för yttrandefriheten bör avhålla mig från sådana tillrättalägganden.³

Fotnoter

1) För den händelse någon läsare känner sig osäker på exakt vad detta ord betyder rekommenderar jag min bloggpost Om ordet klimatförnekare från 2014.

2) Första gången jag läste Ericsons meddelande gladde jag mig åt att han med sina ord om "gick långt över vad som är rimligt" tycktes ge mig i någon mån rätt angående Ingemar Nordins rötäggsbeteende. Sedan insåg jag emellertid att det rörde sig om ett enkelt syftningsfel och att det var min rättframma karaktärisering av Nordin han egentligen avsåg.

3) Här blev det tyst, vilket är synd, ty det hade kunnat vara intressant att höra hur Ericson ställer sig till mina synpunkter på hans uttalade önskan att som folkvald riksdagsledamot få ha sina missuppfattningar ifred från kritik från forskare och medborgare.

Finns information? Ett meningsutbyte med Ulf Danielsson

För några veckor sedan hade jag ett meningsutbyte med fysikern Ulf Danielsson¹ på Patrik Lindenfors Facebooksida om begreppet information och huruvida information verkligen existerar. Jag fann det tillräckligt intressant för att förtjäna publicering har på bloggen, och med Ulfs tillåtelse gör jag det här nedan.

Det hela började med att Patrik läste en intervju med Ulf, rubricerad Tro inte på spöken, i senaste Axess, och blev provocerad, något han uttryckte i sin Facebookpost. Jag hade själv blivit provocerad² på ungefär samma sätt när jag läste samma intervju någon vecka tidigare. Hur som helst, Ulf svarade Patrik, jag hakade på, och resultatet blev som följer.

* * *

UD: Det som är märkligt är att det jag hävdar inte ses som en självklarhet för den med en naturvetenskaplig grundsyn. Att säga ”information är en egenskap hos materien” är snömos. Låt mig ta ett exempel. En vägskylt med talet 70. Skylten informerar oss om att här får man inte köra fortare än 70 km/h (åtminstone om skylten befinner sig i Sverige). Denna information är inte alls en egenskap hos själva skylten. Det finns inte ens något ”70” hos den materia som bygger upp skylten. Om en symbolreform genomfördes där siffrorna 3 och 7 bytte betydelse skulle detta inte på något sätt förändra karaktären hos den materia som skylten består av. Isolerat innehåller skylten ingen som helst information om en hastighetsbegränsning. För att det som skylten avses förmedla skall ha någon mening krävs att ett annat materiellt system, vanligen den biologiska hjärnan hos en bilförare, gör en tolkning av skylten och förhoppningsvis justerar sitt beteende. Den aktuella informationen existerar inte oberoende av denna växelverkan utan enbart i relation till en uttolkare.

Mitt enkla budskap är att allt är materia och att alla de modeller vi gör av världen, inklusive de begrepp vi använder oss av, inte existerar på annat sätt än i sin materiella form. Vi är begränsade biologiska varelser, fångna i och delar av samma fysiska värld som den vi vill beskriva. Det finns en objektiv fysisk värld (detta är förövrigt det enda som finns) som vi med viss framgång lyckas beskriva med hjälp av vetenskapliga modeller som gör bruk av begrepp som matematik, information och naturlagar. Dessa begrepp utgör en karta som sitter rent fysiskt i våra huvuden och liksom alla kartor inte är identisk med den objektiva verklighet den försöker spegla.

I det dagliga livet behöver man inte vara så noga med åtskillnaden. Man kan många gånger handskas med begreppen som om de var identiska med verkligheten. Det är just det som är så fiffigt med riktigt bra modeller. Men när man vill gå lite djupare är det helt centralt att upprätthålla distinktionen. Begreppet information har i vissa kretsar getts en betydelse som går långt utöver den väldefinierade roll den spelar i vetenskapligt modellbygge (inklusive inom den esoteriska fysik som jag sysslar med rörande kvantgravitation och svarta hål.) Den ges i populärkulturella sammanhang en obeorende existens som inbjuder till spekulationer som gränsar till det rent religiösa när man inbillar sig att mänskliga medvetanden kan reduceras till ettor och nollor och via något som liknar själavandring laddas upp på datorer. Det är detta larv jag vänder mig emot.

OH: Om medvetandet kan man ha olika uppfattning, Ulf, vilket du och jag har (se gärna Avsnitt 3 i http://www.math.chalmers.se/~olleh/UploadingPaper.pdf), vilket i sin tur är helt i sin ordning. Men din tvärsäkerhet förvånar mig en smula, och om jag hade varit en upload hade jag blivit förnärmad och förgrymmad över den flagranta kol-chauvinism du ger uttryck för!

Att döma av ditt exempel med 70-skylten verkar du ha en Searliansk syn på informationsinnehåll och medvetande - en syn jag personligen har svårt att acceptera. Låt mig utmana med att i ditt exempel byta ut 70-skylten mot plåten ombord på Pioneer 10 och 11 - eller för den delen en sekvens av N₁*N₂ ettor och nollor, där N₁ och N₂ är hyfsat stora primtal med ungefär samma kvot N₁/N₂ som höjd/längd hos plåten, och där ettorna och nollorna svarar mot svarta och vita pixlar i en digital bild av plåten. Anser du att även denna plåt, och dess digitala motsvarighet, saknar informationsinnehåll? Jag gissar (men rätta mig gärna om jag har fel!) att du i konsekvensens namn svarar nej på det, och därmed hamnar i en ståndpunkt jag finner orimlig.

UD: Om du inte har någon slug baktanke tillför dina exempel ingenting nytt. Min inställning är konsekvent densamma. Att symboler och ord i sig själva och oberoende av sitt sammanhang skulle kunna bära på en absolut mening jämställer jag med magi vilket är för mig fullständigt främmande. Det vore intressant om du gav din tolkning av exemplet med 70-skylten. Jag är särskilt intresserad av på vilket sätt en symbolreform (där betydelsen av symbolerna 3 och 7 byts ut) registreras av den materia som bygger upp skylten.

OH: En enda bit ger ingen information utan kontext. Knappast 10 bitar heller, men någonstans kring uppskattningsvis 100 eller 1000 bitar börjar det bli möjligt att förmedla något utan att mottagaren behöver känna till kontexten.

70-skylten är helt enkelt för torftig för att förmedla information till den som inte har relevant kodbok. Pioneer-plåten är det inte. Den bär på information som varje tillräckligt avancerad civilisation i vårt universum åtminstone till del kommer att (trots avsaknad av med oss gemensamt kulturell historia) kunna avkoda och på så vis begripa vår avsikt.

Måhända går det här att invända att det bara är genom den kontext som vårt universum och dess fysik ger som Pioneer-plåten blir begriplig, och att plåten därmed i sig inte bär på någon information. Den tankegången, om än en smula sökt, kan jag ändå ha en viss förståelse för, och jag blir i så fall tvungen att korrigera mitt exempel ett snäpp till:

Låt oss sända meddelandet

1101110111110111111101111111111101111111111111011111111111111111011111111111111111110111111111111111111111110...

Om vi utsträcker det till säg 1000 bitar så vågar jag lova att varje tillräckligt avancerad civilisation (i vårt universum med vår fysik, eller i något helt annat) som läser meddelandet kommer att tänka "aha, primtalssekvensen!". Denna information ligger i själva meddelandet och kräver ingen kontext överhuvudtaget. Eller om vi skickar en tillräckligt stor 3D-realisering (två rumsdimensioner och en tidsdimension) av Game of Life, så kommer reaktionen att bli "Oh wow, vilken cool cellulär automat, kolla de har upptäckt hur man riggar en fabrik som tillverkar gliders!". Denna information ligger i meddelandet och kräver ingen kontext överhuvudtaget. Och från Game of Life-exemplet är det lätt att gå vidare och inse att vi med tillräcklig ansträngning kan berätta i stort sett vad vi vill om livet här på jorden utan att mottagaren behöver ha någon med oss gemensam kodbok eller kontext överhuvudtaget.

Allt detta kan man förstås förneka om man ditchar den matematiska platonismen och hävdar att matematiken blott är en kulturell konstruktion, men då har man verkligen irrat bort sig. Primtalssekvensen finns, oavsett oss människor, eller något fysiskt överhuvudtaget.³

UD: Jag tror vi gjort framsteg. Du tillstår att

det bara är genom den kontext som vårt universum och dess fysik ger som Pioneer-plåten blir begriplig, och att plåten därmed i sig inte bär på någon information.

Du ser det visserligen som lite sökt men ändå som varande en möjlig ståndpunkt. I mer lättviktiga sammanhang behöver man inte vara så petig men när det gäller det vi nu avhandlar är det centralt. Utan ett yttre kontext bär alltså inte ens Pioneerplåten på någon information.

Vi skulle kunna lämna allt vid denna bräckliga enlighet och ta sommarlov, men jag kan inte låta bli att dra det ett varv till. Precis som du indikerat kopplar detta över till Searle och gör enligt min mening teorin om medvetande baserat på beräkningar ohållbar. En räknande dator är inte mer medveten än en 70-skylt. Oavsett om någon tittar på den eller ej.

Jag gissar att din utväg blir en platonsk syn på matematiken – vilket jag förstår är vad du förespråkar. För egen del finner jag en utanför materien existerande idévärld full med matematik lika orimlig som en religiöst motiverad andevärld. Lyckligtvis finns andra alternativ till platonismen än kulturell konstruktion. Som motståndare till allt vad dualism heter ser jag det som betydligt rimligare att matematiken till en del är biologiskt konstruerad och djupt rotad i våra evolverade hjärnor baserad på en rent fysisk erfarenhet av världen. För mig är fysiken och materien mer fundamental än matematiken. Om detta är vi nog knappast överens.

OH: Tack Ulf för i någon mån klargörande svar! Om vi här har närmat oss roten till våra divergerande ståndpunkter är det helt klart ett framsteg. Att fysiken skulle utgöra ett fundament för matematiken är mig mycket riktigt främmande, men är kanske inte så lätt att motbevisa (bortom i intuitiva upplevelser grundade utrop typ "hur i hela fridens namn skulle ett stycke materia kunna ha betydelse för huruvida antalet primtal är oändligt?"). Vi kanske får anledning att återkomma i ämnet?

Tills dess, tillåter du att jag återpublicerar vårt replikskifte på min blogg?

UD: Så många gånger du vill!

Fotnoter

1) Jag har känt Ulf sedan 2006 (tror jag det är), jag tycker bra om honom, och vi har oftast (om än inte alltid, vilket väl framgår av denna bloggpost) utmärkt harmonierande uppfattningar om livet, universum och allting.

Bland mina möten med Ulf är det jag kanske allra helst drar mig till minnes vårt gemensamma uttåg från klimatmötet i Engelsberg den 6 maj 2010. Själva mötet var ganska gräsligt, och (i efterhand) uppenbart riggat för att framställa klimatvetenskap och klimatförnekeri som två lika legitima utgångspunkter. Ulf och jag var där för att, jämte Johan Rockström, försvara vetenskapen och det vetenskapliga förhållningssättet mot attacker från klimatförnekare som Peter Stilbs och Maggie Thauersköld Crusell. Innan det avslutande eftermiddagspasset var över reste Ulf och jag oss för att lämna lokalen. Detta bottnade inte i något slags protest mot hur mötet utvecklats (även om en sådan protest helt klart hade varit befogad), utan helt enkelt i att vi behövde gå för att hinna med ett tåg. Medan vi var på väg ut ur lokalen hojtade den ökände klimatförnekaren och pseudovetenskapsivraren Nils-Axel Mörner att "nu lämnar råttorna det sjunkande skeppet!", varpå mötets moderator Lotta Gröning svarade att "så skall man väl inte säga om denna vackra byggnad". Att på detta sätt bli förolämpad av en fullblodsstolle som Mörner har jag inget emot, men jag hade mycket väl kunnat känna mig illa till mods av Grönings implicita instämmande i Mörners zoologiska kategorisering, om det inte vore för (och detta är poängen med att jag återger detta minne) att förolämpningen riktades inte bara mot mig utan även mot Ulf, vars insatser som fysiker och intellektuell är tillräckligt beundransvärda för att min känsla av att ha blivit förolämpad klart skulle övereskuggas av den smickrande upplevelsen av att ha buntats ihop med en riktigt framstående professorskollega.

2) Rubrikens "spöken" syftar på datorer med medvetande. Ofta med en så braskande rubrik kan man misstänka att någon redigerare gått över styr, men i detta fall är den grundad i Ulfs intervjusvar, som innehåller en passage med ordalydelsen

att det skulle kunna finnas något slags medvetande, någon subjektiv närvaro inuti datorn, det är lika dumt som att tro på spöken.

Frågan om medvetandets natur hör till de största olösta problem som överhuvudtaget finns, och att uttrycka sig så kategoriskt som Ulf gör här tycker jag uppriktigt talat tyder på en illa kalibrerad grad av epistemisk ödmjukhet.

En ledtråd till hur Ulf tänker i denna fråga finns i ingressens "Det finns inga som helst belägg för att datorer skulle ha ett medvetande". Det kan man förstås hävda, men man kan med samma kraft hävda att det heller inte finns några belägg för att datorer inte skulle (kunna) ha ett medvetande, och Ulf lägger inte fram något argument som förmår bryta denna symmetri. Exakt vad som får honom att likväl vara så tvärsäker vet jag inte, men jag misstänker att han begår samma förhastade jump to conclusions som jag tillskriver Massimo Pigliucci i min uppsats Aspects of mind uploading:

Pigliucci knows of exactly one conscious entity, namely himself, and he has some reasons to conjecture that most other humans are conscious as well, and furthermore that in all these cases the consciousness resides in the brain (at least to a large extent). Hence, since brains are neurobiological objects, consciousness must be a (neuro-)biological phenomenon. This is how I read Pigliucci’s argument. The problem with it is that brains have more in common than being neurobiological objects. For instance, they are also material objects, and they are computing devices. So rather than saying something like “brains are neurobiological objects, so a decent theory of consciousness is neurobiological”, Pigliucci could equally well say “brains are material objects, hence panpsychism”, or he could say “brains are computing devices, hence CTOM [computational theory of mind]”, or he might even admit the uncertain nature of his attributions of consciousness to others and say “the only case of consciousness I know of is my own, hence solipsism”. So what is the right level of generality? Any serious discussion of the pros and cons of CTOM ought to start with the admission that this is an open question. By simply postulating from the outset what the right answer is to this question, Pigliucci short-circuits the discussion, and we see that his argument is not so much an argument as a naked claim.

3) Progressionen i denna replik, från primtalssekvensen via Game of Life till vår fysiska värld, är ett pedagogiskt grepp jag lånat av vännen och matematikerkollegan Johan Wästlund.

Edit 22 juli 2019: Samma meningsutbyte finns nu, i annan (men ändå ganska lik) inramning på Ulfs blogg.

Ubbhultska dumheter

Den moderate riksdagsmannen Jan "Ubbhult" Ericson är inne på sin fjärde mandatperiod, och har i åtminstone ett decennium lagt betydande kraft på klimatdebatt med inriktning på det slags klimatförnekeri som jag, bland annat i Uppsalainitiativet, lagt stor möda på att bemöta.¹ Ericson verkar eftersträva ett slags martyrställning - den som besöker hans Twittersida finner överst en så kallad pinned tweet daterad den 16 april i år, med följande ordalydelse:

Efter de hätska påhoppen mot mig i klimatfrågan drar jag slutsatsen att hade vi levt på medeltiden hade jag nog redan varit bränd på bål. Trots de extra koldioxidutsläpp detta hade medfört. :)

Jag överser här med hans oförmåga att hålla isär biobränsle och fossila bränslen, men hoppas innerligt att det inte är mig han anser ligga bakom några "hätska påhopp". Det är förvisso sant att jag i år (med start den 9 mars²) varit relativt energisk med att på Twitter bemöta Ericsons klimatförnekerier, men några "hätska påhopp" har det knappast handlat om,³ och jag hyser ingen som helst önskan om att se honom bränd på bål eller utsatt för någon annan bestraffning. Jag är en varm vän av yttrandefriheten, som omfattar både Ericsons rätt att yttra dumheter och min rätt att påpeka att dessa är just dumheter.

Trots att jag någorlunda hunnit vänja mig vid den veritabla störtflod av trams och desinformation Ericson häver ur sig i klimatfrågan, så blev jag lite besviken när, i en intervju med Ericson i Aftonbladet i förra veckan, denna störtflod fortsatte. Min besvikelse kom sig av att jag bara någon vecka tidigare lyckats (trots visst spontant motstånd från hans sida) övertyga Ericson om att läsa en gammal introduktion till istider och paleoklimatologi jag skrivit, och att denne efter att ha läst anlade en försonlig ton och betonade att vi nog ändå var överens om det viktigaste. Kanske hade han sent omsider börjat ta klimatvetenskapen på allvar? Så tänkte jag, men i Aftonbladet-intervjun var allt sådant sans som bortblåst, och vi får istället ta del av hur Ericson på typiskt klimatförnekarvis skjuter från höften åt alla möjliga håll, och levererar i okunskap grundade ifrågasättanden av såväl i vad mån en global uppvärmning faktiskt pågår som vad den är orsakad av, och därtill antydningar om att det nog trots allt bara är bra med lite uppvärmning. Jag ids inte här ta mig an alla dumheter (mestadels gamla klassiska klimatförnekarargument som vederlagts till leda) som Ericson bjuder på i intervjun, utan nöjer mig med följande intervjusvar:

Det är väl känt att jordens klimat ändrats ofta och dramatiskt genom historien. Trots detta sätts i dag en bild av att alla klimatförändringar i dag enbart beror på människan. Att alla tidigare naturliga faktorer som påverkar klimatet plötsligt skulle ha försvunnit tycker jag är den allvarligaste formen av klimatförnekelse.

Detta är en mycket primitiv halmgubbe. Rent hittepå faktiskt. Varken IPCC eller någon annan rimlig företrädare för klimatvetenskapen hävdar att "alla tidigare naturliga faktorer som påverkar klimatet plötsligt skulle ha försvunnit". Det vet egentligen Ericson, exempelvis sedan han sett det IPCC-diagram över klimatdivande faktorer under 1900-talet som jag visade honom i våra Twitter-diskussioner i våras. Ericson upprepar ofta och gärna att han eftersträvar "god ton" i debatten, men jag tycker rakt inte att det gynnar vare sig ton eller något annat att komma dragandes med så fåniga karikatyrer av meningsmotståndares ståndpunkter. Möjligen kan hans yttrande bottna i något slags föreställning om att så snart man medgivit att såväl naturliga som mänskliga klimatdrivande faktorer föreligger i dagens klimatsystem så är man automatiskt clueless rörande vilka av dessa som dominerar den nu pågående uppvärmningen. Det är i så fall ett allvarligt missförstånd, och det finns en omfattande forskning med syfte att avgöra hur mycket var och en av dem bidrar med; ett sätt att börja orientera sig i denna i klimatvetenskapen så centrala fråga kan (för den som inte orkar med vare sig IPCC-rapporter eller David Archers ypperligt pedagogiska bok Global Warming: Understanding the Forecast) vara att läsa mina gamla bloggposter Om istider, klimatförändringar och återkopplingar och Koldioxid och procentsiffror.

Låt mig som avslutning berätta om de senaste dagarnas Twitter-växling Ericson och mig emellan, som inte egentligen behandlar klimatvetenskap utan mer klimatetik och klimatideologi. Det började med att Ericson tagit del av en nyhet om hur svenskars bokningar av sista minuten-resor de senaste veckorna ökat till följd av dåligt väder här hemma. Som den varma vän av ohämmade växthusgasutsläpp han är valde han att kommentera detta med ett hånfullt "Kom flygskammen av sig?". Detta gjorde mig tillräckligt irriterad när jag fick se det för att få mig att retweeta med den förklarande kommentaren "Skadeglädjen vissa - inklusive en och annan riksdagsledamot - känner när utvecklingen mot vidgade varma cirklar (inklusion av folk i fjärran länder och framtida generationer) i vårt moraliska tänkande för ett ögonblick verkar ha kommit av sig". Det meningsutbyte som därpå inträffade ser ut som följer:

JE: Tycker du ska svalka dig med en kall öl. Så känns det bättre.

Detta är betydelsemässigt liktydigt med att säga "Jag ger blanka fan i dina synpunkter", vilket ju inte är särskilt trevligt, men kanske menar Ericson att omskrivningen i termer av kylda maltdrycker gör att hans ideal om "god ton" likväl är uppfyllt. Jag är tveksam till den bedömningen, men valde att vända andra kinden till:

OH: Sagt och gjort. Det gav mycket riktigt viss lindring. Skulle till och med kunna tänka mig att ta en öl (och/eller gå och se Di Gule) med dig vid tillfälle, och försöka förstå vad som driver dig att sprida antivetenskap i klimatfrågan.

Denna inbjudan till samkväm och allsvensk fotboll möttes dock med inemot ett dygns tystnad, varför jag valde att upprepa och förklara:

OH: Jag menar allvar, @Ericson_ubbhult - skall vi inte göra slag i saken? Jag tror både på vikten av att möta människor utanför den egna bubblan, och på värdet av att ses IRL utan att behöva tänka på ev publik.

Nu vaknade Ericson till liv, dock dessvärre med ett negativt besked:

JE: Tyvärr känns du lite för respektlös. Du vet att ett inte obetydligt antal forskare delar min mer skeptiska hållning. Att då kalla den antivetenskap är ovetenskapligt. Du borde veta att vetenskap handlar just om att bryta åsikter mot varandra.

Detta gjorde mig faktiskt en gnutta arg - inte över den avböjda inviten, men över tillmälet "respektlös" - tillräckligt arg för att jag skulle brista ut i följande måhända inte alltför eleganta svada:

OH: Som du vill, @Ericson_ubbhult. Men låt mig kommentera det där med respekt vs respektlöshet. Jag har den allra största respekt för vetenskapen som idé och metod. Sedan barnsben har jag sett vetenskapens fria sanningssökande som bland de högsta värden som finns. Men...

OH: ...fritt sanningssökande är inte detsamma som att varje argument duger. En del argument är helt enkelt strunt. Jag har genom lång utbildning tillägnat mig viss kompetens i att se skillnaden. Och jag kan inte respektera struntargument som kläs i vetenskaplig förklädnad, eller...

OH: ...de (vanligtvis emeriterade) professorskollegor som drar vetenskapen i smutsen genom att torgföra desinformation och charlataneri. Hit hör dessvärre några av dina favoriter, folk som Ingemar Nordin och Lennart Bengtsson. Om jag valde att stå och bocka och artigt säga att...

OH: ...deras argument väger lika tungt som andra forskares, det skulle innebära att jag uppträdde respektlöst mot de vetenskapsideal jag håller så högt. Ja det skulle faktiskt innebära att jag trampade på vetenskapen. Det vägrar jag göra. Av respekt för vetenskapen.

Att Ericson tar sådant intryck av detta att han börjar ta vetenskapen på allvar och ger upp sitt klimatförnekeri är nog för mycket att hoppas på. Men om han läser detta skulle jag vilja be honom följande:

Kan du inte åtminstone försöka undvika de allra mest uttjatade och grundligt vederlagda klimatförnekarargumenten? Det blir så gräsligt långrandigt annars. Min Uppsalainitiativet-kamrat Lars Karlsson har en aktuell bloggpost-trilogi rubricerad Samma gamla visa (första versen, andra versen, tredje versen), och om du tar del av den och avstår från att upprepa de klimatförnekarargument som där vederläggs, så kanske åtmistone lite av monotonin och tjatigheten i ditt klimatförnekeri kan undvikas.

Fotnoter

1) Min första kontakt med honom var då vi båda deltog i ett beklämmande dåligt klimatseminarium i Riksdagshuset den 13 maj 2009. Seminariet var uppenbart riggat för att försöka skapa tvivel kring existensesn av ett klimathot. Ericson var där som medarrangör, medan jag fick nöja mig med rollen som kritisk röst i publiken.

2) Detta föranleddes av att Ericson med stöd i de divergerande ståndpunkter mellan mig och klimatforskaren Lennart Bengtsson som framkommit i en Expressen-artikel några dagar tidigare konstaterat att stor oenighet om klimatfrågan förekommer bland forskare, något han (med det slags logisk kullerbytta som är något av ett Ericsonskt signum) verkar ta som intäkt för att det går an att påstå lite vad som helst om klimatet.

3) Ericson blev arg över en tweet jag skrev när vi kommit in på behovet av källkritisk kompetens, men han missförstod min avsikt: jag menade den inte som ett påhopp utan som en välmenande litteraturhänvisning.

Nu höjer jag ett bekymrat pekfinger mot två professorskollegor på ekonomsidan

I en debattartikel rubricerad Dags att skrota flygskammen i Dagens Industri häromdagen meddelar ekonomprofessorerna Per-Olov Johansson och Bengt Kriström att "ur klimatsynpunkt är en flygresa mellan Umeå och Stockholm inget problem". Jag kan bara konstatera att för att påstå något sådant behöver man virra bort sig så totalt i sofistikerade marginaleffektsresonemang, i kombination med en statisk samhällssyn, att man inte längre kan se det enkla faktum att ett utsläpp är ett utsläpp är ett utsläpp.

Ack ändå om författarna hade landat (no pun intended) i något i stil med att...

vi finner det överraskande och en smula perverterat att den som önskar hålla nere CO₂-utsläppen med rådande system inte verkar ha anledning att undvika inrikesflygandet, varför andra sätt att minska detta flygande (med vidhängande utsläpp som ju trots allt finns där) snarast bör utformas.

Men något sådant säger de dessvärre inte, utan de stannar vid budskapet att vi glatt kan flyga vidare utan att bekymra oss. Den sortens lättsinne bekymrar mig. Överhuvudtaget skulle jag vilja råda mina professorskollegor på ekonomsidan att vara lite mer vaksamma mot marginaleffektsresonemang¹ av typen...

oj, en rullatorburen gammal pensionär har irrat sig in i de ruffiga hamnkvarteren, då är det oproblematiskt om jag rånar honom, för annars kommer garanterat någon annan att göra det.

Fotnot

1) Härmed inte sagt att jag kategoriskt skulle vara emot marginaleffektsresonemang, vilka ju bland annat har kommit att bli ett centralt analysverktyg i den effektiv altruism-rörelse jag har ett gott öga till. Jag vill absolut inte fördöma resonemang av typen "om jag drar i spaken så att spårvagnen växlas in på ett sidospår blir nettoeffekten fyra sparade människoliv", men vill varna för att i praktiska situationer (där det som regel går att lyfta sig ur den snävaste problemformuleringen och överväga en korrigering av förutsättningarna) betrakta resonemanget som oproblematiskt och upphöja det till sista ordet.

Hårt angripen i Humanisten

Igår fick jag hem det nya numret 1/2019 av Humanisternas medlemstidning Humanisten i brevlådan. Bland mycket annat bjuder det på ett rasande angrepp på mig av en medlem vid namn Ernst Herslow, som är så upprörd över vad jag i det föregående numret 4/2018 skriver om klimatfrågan och hur jag tycker att Humanisterna bör förhålla sig, att han villkorar sitt fortsatta medlemskap med att styrelsen tar avstånd från mina ståndpunkter. Med anledning av det utmärkta svaret till Herslow från styrelseledamoten Patrik Lindenfors förmodar jag att han (Herslow) nu lämnar Humanisterna.

Jag har ingen anledning att tro att Ernst Herslow läser denna blogg, men om någon läsare råkar känna honom undrar jag om ni kan hälsa honom följande.

Herslow är givetvis i sin fulla rätt att ha vilka (miss-)uppfattningar i klimatfrågan han vill, att torgföra dessa, och att gå till storms mot mig. Men jag skulle önska att, om han nu känner ett så trängande behov av att göra det sistnämnda, han höll sig till att angripa ståndpunkter jag faktiskt har och yttranden jag faktiskt gjort, istället för att fabulera och fantisera. Det irriterar mig en smula när han tillskriver mig ordvalet "avfälling"¹ och den gravt felaktiga uppfattningen att "ett så komplext och kaotiskt system [som klimatet], med så många okända faktorer, styrs av en enda komponent, nämligen koldioxid"².

Fotnoter

1) Såpass språkkänsla har jag att jag uppfattar det ordets sektmentalitetskonnotationer, och jag kan inte minnas att jag någonsin skulle ha tagit det i min mun.

2) Atmosfärens koldioxidhalt har stor betydelse för klimatet, men är givetvis inte den enda faktor som påverkar. Se t.ex. min gamla Uppsalainitiativet-bloggpost Koldioxid och procentsiffror för en närmare diskussion.

Debattörer som irriterat mig i julhelgen, del 2: Ruin

Det här handlar inte om Hans Ruin personligen. Det är visserligen sant att jag tidigare haft starkt kritiska synpunkter på denne professor i filosofi vid Södertörns högskola, vad gäller såväl hans syn på sitt ämne¹ som hans privatmoral², men det jag skriver här har lite eller inget alls med de diskussionerna att göra, utan är snarare att betrakta som en brandkårsutryckning för att rätta till en del av dumheterna i hans understreckare i SvD häromdagen, rubricerad Den envisa myten om intelligenta maskiner.

Större delen av texten utgörs av en visserligen summarisk och starkt förenklad, men givet det någorlunda godtagbar, redogörelse för delar av den artificiella intelligensens (AI:ns) idéhistoria.³ Det är när Ruin mot slutet av texten lämnar idéhistorien bakom sig och ger sig i kast med att förutsäga hur AI kommer att vidareutvecklas i framtiden som problemen hopar sig. Han låtsas ha läst Nick Bostroms Superintelligence från 2014 och Max Tegmarks Life 3.0 från 2017, men avslöjar omdelebart sin bluff genom att påstå att båda utgår "från premissen att dagens självlärande maskiner inom en nära framtid kan alstra en 'intelligensexplosion'". Nej, detta är inte en premiss i någon av böckerna. Såväl Bostrom som Tegmark diskuterar intelligensexplosionsscenarier, men i båda fallen handlar det blott om ett bland flera möjliga scenarier, och i synnerhet Bostrom diskuterar noggrant och med en väl tilltagen dos epistemisk ödmjukhet vad som talar för respektive emot en intelligensexplosion.

Redan i påföljande mening kommer nästa ruinska felaktighet, då han påstår att "genom att hänvisa till hjärnans oerhört komplexa uppbyggnad av neuroner och synapser menar [såväl Bostrom som Tegmark] att superintelligens endast är en fråga om när maskinerna närmar sig en jämförbar komplexitet i beräkningskapacitet". Helt fel igen. Vad Ruin här gör är att (till synes blint och oreflekterat) återge en av de vanligast förekommande och samtidigt fånigaste vanföreställningarna kring AI-futurologi. Sanningen är att varken Bostrom eller Tegmark eller någon annan seriös AI-futurolog hävdar att beräkningskapacitetsutveckling ensam skulle få sådana konsekvenser. Tvärtom: utan rätt slags mjukvara ingen superintelligens. Det närmaste ett korn av sanning som finns i den av Ruin återgivna missuppfattningen är att en utbredd (och rimlig) ståndpunkt bland experter på området är att ju mer beräkningskapacitet som hårdvaruutvecklingen leder fram till, desto bättre är utsikterna att skapa den mjukvara som krävs för så kallad AGI (artificiell generell intelligens) eller superintelligens.

Med stöd i sitt fria fabulerande kring vad som står i Bostroms och Tegmarks respektive böcker kommer Ruin fram till att skapandet av superintelligens är "varken tekniskt eller filosofiskt sannolikt". Inför denna fras blir jag en smula perplex, ty trots mina mer än 25 år som forskare i sannolikhetsteori har jag aldrig hört talas om den påstådda distinktionen mellan "teknisk" och "filosofisk" sannolikhet. Så vad menar Ruin här? Troligtvis inget annat än att han tyckte att det skulle låta fräsigare och mer kunnigt med "varken tekniskt eller filosofiskt sannolikt" än att kort och gott skriva "osannolikt".

Så hur står det i själva verket till med den sannolikhet som här diskuteras? Det vet vi inte. Frågan om huruvida och i så fall på vilken tidsskala som vi kan vänta oss att AI-utvecklingen når fram till AGI och superintelligens är vidöppen, något som framgår med all önskvärd tydlighet såväl av Bostroms bok som av Tegmarks, och som omvittnas ytterligare av de enkätundersökningar som gjorts bland AI-forskare (se t.ex. Dafoe och Russell, och Grace et al). Det förståndiga att göra i detta läge är att acceptera den stora osäkerheten, inklusive konstaterandet att möjligheten att superintelligens kan komma att utvecklas under innevarande århundrade förtjänar att tas på allvar, givet hur många experter som gör just det.

Ändå träder den ene efter den andre publike debattören, med en expertis (i Ruins fall en omfattande belästhet på den gamle kontinentalfilosofen Martin Heidegger) som är av i bästa fall oklar relevans för AI-futurologi, fram och meddelar att det där med superintelligens och AI-risk, det är minsann inget att bry sig om. För Ruin är långt ifrån ensam om att dra fram en sådan bedömning mer eller mindre ur röven, och med stöd i sin professorstitel eller annan vida accepterad kredibilitetsgrund basunera ut den för folket. För bara någon månad sedan gjorde den populäre nyliberale ideologen Johan Norberg samma sak. För att inte tala om kungen av AI-riskförnekeri, Steven Pinker. Och det finns många fler: se gärna den amerikanske futurologen Seth Baums studium av fenomenet.

Figurer som Ruin, Norberg och Pinker verkar dock komma mycket lindrigare undan med sitt AI-bullshitteri jämfört med motsvarande uttalanden från klimatförnekare om den globala uppvärmningen och dess orsaker. En trolig förklaring till detta är att kunskapsläget inom AI-futurologin är så väldigt mycket osäkrare än det inom klimatvetenskapen. Men att använda sin auktoritet i det offentliga rummet till att tvärsäkert torgföra grundlösa påståenden i vetenskapliga frågor, det är lika fel oavsett vilken grad av vetenskaplig osäkerhet som råder på det aktuella området.

Fotnoter

1) Min kritik på denna punkt handlar mest om hur Ruin positionerade sig i debatter med Torbjörn Tännsjö under 2016. Det är knappast någon större överdrift att hävda att han uttryckte en önskan att reducera filosofiämnet till läsandet av gamla klassiker, och dömde ut alla försök att tänka nya tankar. Det var också från denna förgrämda gammelmansposition han samma år yttrade sig om Macchiarini-skandalen.

2) Jag syftar här på Ruins åtgärder (som rapporterats om här och var) i syfte att tysta ned offer för sin gode vän Jean-Claude Arnaults sexuella övergrepp. Saken försatte mig i vissa smärre bryderier sedan jag anmält mig att delta i ett akademiskt symposium i Göteborg den 8 oktober förra året, och därefter fått klart för mig att Ruin fanns med bland talarna. Jag kände omedelbart att jag inte ville sitta tyst och utan minsta markering mot Ruin på mötet, då det skulle kunna förstås som en form av bekräftelse av att jag överser med hans illgärningar och välkomnar honom på mötet. Att utebli från mötet ville jag heller inte då mycket av intresse stod på programmet. Vidare skulle det ha varit alltför avigt och antisocialt att under frågestunden efter hans föredrag resa mig och säga något i stil med "Det här är måhända en smula off topic, men hur ser du på etiken kring nedtystandet av offer för sexuella övergrepp?". Den kompromiss jag till slut fastnade för, efter att först ha hört av mig till mötesarrangörerna med mina reservationer kring Ruins medverkan i symposiet (något som i alla fall förde det goda med sig att arrangörerna meddelade honom förekomsten av sådana synpunkter bland anmälda deltagare), var att under mötet bära den egenhändigt designade t-shirt som avbildas här intill. (Hashtagen på t-shirten kom till inom den amerikanska grenen av metoo, som stöd för Christine Blasey Ford (och protest mot den backlash som drabbade henne) när hon i september förra året vittnade mot den supreme court-nominerade domaren Brett Kavanaugh.)

3) Jag kan dock inte låta bli att påpeka att Ruin ger på tok för stor kredibilitet åt John Searles starkt suggestiva men i grunden feltänkta tankeexperiment Det kinesiska rummet. Se exempelvis Avsnitt 3 i min uppsats Aspects of mind uploading för en motivering till mitt stränga ordval "feltänkt".

Kort om vetenskap och vetenskapssyn i Humanisten

För ett decennium sedan bidrog jag regelbundet till Förbundet Humanisternas tidskrifter, som t.ex. med texterna McGrath vs Dawkins (Humanisten 6/2007) och Försvaret av vetenskapen - ett tvåfrontskrig (Humanisten 1/2010). Efter ett längre uppehåll fick jag nyligen en påstötning från vännen Patrik Lindenfors: nog är det hög tid för comeback i de spalterna? Jag rullade upp skjortärmarna och knåpade ihop en text som fick rubriken Låt oss stå upp för vetenskapen - men också kräva framsynthet, där jag bjuder på en mix av klimatdebatt, forskningsetik och gammalt skvaller. Den finns nu i tryck i nyutkomna Humanisten 4/2018 - läs den här! Jag vill samtidigt passa på att tipsa om Patriks utmärkta text i samma nummer, om den kultförklarade kanadensiske psykologen Jordan Petersons budskap.

Nu reder vi ut det här med Nordhaus och diskonteringsräntan

Edit 19 december 2018:

Det verkar nu som att jag inte förstått Nordhaus DICE-modell riktigt rätt när jag skrev denna bloggpost, som därför behöver tas med en nypa salt. I synnerhet vill jag backa från mitt påstående att "ekonomins utveckling [i DICE-modellen] beror på hur snabbt dess aktörer diskonterar ned framtiden, något som modelleras med en diskonteringsränta"; någon diskonteringsränta verkar inte finnas med bland de parametrarna som beskriver ekonomins mekanismer i modellen. (Lyckligtvis är modellen väldokumenterad, så för den som önskar fördjupa sig i modellens detaljer finns goda förutsättningar för det.) Som jag nu förstår saken spelar den enda diskonteringsränta som finns i modellen en roll som ligger närmare den normativa r₂ jag talar om i bloggposten.

Det jag tror överlever av mitt centrala resonemang rörande r₁ vs r₂ i bloggposten är följande mer allmänna observationer. En modell som DICE (eller mer allmänt en ekonomisk modell för framtida samhällsutveckling) behöver ha (a) realistiska värden på de parametrar som beskriver ekonomins mekanismer, och (b) en normativ diskonteringsränta för att värdera olika scenarier i förhållande till varandra. Diskonteringsräntan kan väljas oberoende av (a), och återspeglar hur vi väger kostnader idag mot kostnader i framtiden. Om man vill kan man som Nordhaus göra detta val baserat på empiriska observationer av vad marknadens aktörer verkar föredra, men ett sådant förfarande kommer inte runt det faktum att valet är normativt (typ "som grund för dessa policyrekommendationer ansluter jag mig till marknadsaktörernas åsikt om hur kostnader idag skall vägas mot dito i framtiden").

Jag tackar Christian Azar och Martin Persson för värdefulla diskussioner kring detta. Givetvis är ansvaret för eventuella kvarstående missuppfattningar helt och hållet mitt eget.

End edit.

* * *

Debatten har gått hög i Sverige om beslutet att tilldela den amerikanske klimatekonomen William Nordhaus Sveriges Riksbanks pris i ekonomisk vetenskap till Alfred Nobels minne "för att ha integrerat klimatförändringar i långsiktig makroekonomisk analys". Inte all kritik har varit alldeles välbetänkt, och jag uppskattar Jesper Roines försök på DN Debatt häromdagen att bringa ordning i debatten, bl.a. med en uppmaning om att inte blanda samman Nordhaus forskning med hans policyrekommnedationer.

Parallellt med Roine debatterar Christian Azar och John Hassler i en annan del av DN¹ Nordhaus bruk av den för klimatpolicyrekommendationer ofta så avgörande så kallade diskonteringsräntan. Azar förklarar:²

Nordhaus, liksom många andra ekonomer, väljer att räkna ned värdet av kostnader som drabbar framtiden med en relativt hög nedräkningstakt (så kallad diskonteringstakt). Eftersom vi förväntas bli rikare i framtiden blir också kostnaderna för skadan relativt sett lägre. Men – och det här är mer kontroversiellt – Nordhaus (och många andra ekonomer) räknar också ned värdet av framtida skador enbart för att de uppstår i framtiden (den rena tidspreferensen).

Det här får oerhört stor betydelse. Med en diskonteringstakt på 5 procent per år blir en skada om 100 år hela 150 gånger mindre värd än om den inträffat i dag. Om 200 år betyder skadan i princip ingenting (22 000 gånger mindre). Eftersom klimatförändringarna är ett långsiktigt problem kan det därmed närmast trollas bort genom en teknikalitet.

Men är diskonteringsränta ett uttryck för våra värderingar eller för hur världen är beskaffad? Med andra ord, är den normativ eller positiv (deskriptiv)? I denna fråga talar Azar och Hassler förbi varandra på ett sätt som gör att man som läsare får intryck av missämja och förvirring. Azar betonar vikten av en tankereda som håller isär positivt och normativt, och Hassler genmäler att "problemet i Azars resonemang är att han inte gör skillnad mellan positiv och normativ analys". Azar understryker att valet av diskonteringsränta är en fråga om värdering, något som Hassler ställer sig avvisande till:

En modell med detta syfte måste i acceptabel grad överensstämma med vad vi faktiskt observerar. Detta tror jag är självklart för alla vad gäller de naturvetenskapliga delarna. Vi kan inte välja de parametrar som styr klimatkänsligheten utifrån vad vi vill att de skulle vara. De måste väljas så att modellens prediktioner är i linje med vad vi observerar. Det borde vara lika självklart att den ekonomiska modellen ska konstrueras så att den är i linje med vad vi observerar.

Så vem av dem har rätt? Faktiskt båda, på sätt och vis.

Så här ligger det till. I Nordhaus analyser kommer diskonteringsräntan in på två helt olika sätt, och inget hindrar att den därigenom får två olika värden. Låt oss därför beteckna dem r₁ och r₂.

I Nordhaus så kallade DICE-modell för integrerad simulering av ekonomi och klimat, så beror ekonomins utveckling på hur snabbt dess aktörer diskonterar ned framtiden, något som modelleras med en diskonteringsränta r₁. För att få så realistiska simuleringar som möjligt behöver vi välja r₁ så att den stämmer överens med vad vi observerat om hur folk faktiskt beter sig.

När vi så kört DICE-modellen för ett antal olika val av policyparametrar (såsom nivån på koldioxidskatt) och skall jämföra dem för att avgöra vilken policy som är att föredra, då behövs ett sätt att väga kostnader idag mot kostnader i framtiden. Till detta används en diskonteringsränta r₂.

Valet av r₁ är deskriptivt, och valet av r₂ är normativt. Så om den diskonteringsränta Azar åsyftar är r₂, och den Hassler åsyftar är r₁, då har båda rätt. Men när Hassler bannar Azar för att inte behärska distinktionen mellan positivt och normativt, då verkar han utgå ifrån att det är r₁ Azar åsyftar, och inte r₂. Hasslers tolkning är helt säkert felaktig (jag har talat tillräckligt mycket med Azar om dessa frågor genom åren för att veta det), och den kan också förefalla illvillig (då den ju får Azars resonemang att se felaktigt ut).

Men jag tror inte på någon illvilja från Hasslers sida i detta fall. Snarare är det nog så att han i hastigheten råkade glömma att r₂ kan väljas fritt, oavsett den av empiriska observationer dikterade r₁. Det är nämligen så att man i nationalekonomiska klimatanalyser ofta skummar förbi valet av r₂, och slentrianmässigt sätter r₂=r₁.³ Detta tycks mig vara en dålig vana, just därför att man då riskerar dölja (både för sig själv och andra) att valet av optimal policy beror på ett val av r₂ som inte är en fråga om fakta utan om värderingar.

Kan det då finnas något gott skäl till att automatiskt välja r₂=r₁? Jag har svårt att se det. Hela vitsen med ekonomiska styrmedel, och på sätt och vis också själva ämnet nationalekonomi, är ju att enskilda ekonomiska aktörers värderingar och incitament inte alltid stämmer överens med vad som är bra för samhället i stort. Som i allmänningens tragedi och tusen andra situationer. För egen del finner jag det direkt stötande att låta den kortsiktiga marknaden vara normerande för hur vi bör värdera den långsiktiga framtiden - men det är ju bara min värdering.

Fotnoter

1) Det är lite lustigt att se hur DN:s olika redaktioner ibland tar sig an samma problemområde men verkar helt oberoende eller rentav ovetande om varandra.

2) För en mer ingående förklaring av vad diskonteringsränta innebär och hur den kan motiveras, se Avsnitt 10.2 i min bok Here Be Dragons, eller min uppsats Ramseys ekvation och planetens framtid.

3) Jag tackar John Hassler för att ha förklarat detta för mig (privat korrespondens).

Om växthusgasutsläpp och invandring

Ett gäng forskare och biståndsarbetare med Frank Götmark (professor i ekologi vid Göteborgs universitet) i spetsen publicerade igår en debattartikel i Svenska Dagbladet med rubriken Miljöskäl talar för mer begränsad invandring. I korta drag är deras argument följande.

Ett lands växthusgasutsläpp (liksom annan miljöbelastning) tenderar att öka med ökad folkmängd. Om invandringen till ett land är stor leder det till ökad folkmängd. Eftersom det är angeläget att hålla nere de svenska växthusgasutsläppen leder detta till att vi bör begränsa invandringen.

Det finns ett korn av sanning i deras resonemang, men jag vill mena att artikeln är opedagogiskt och oklart framställd på ett sätt som för tankarna mer till politisk retorik än till det slags saklighet som bör vara ledstjärna för forskare som deltar i samhällsdebatten. Detta då avgörande premisser för resonemanget sopas under mattan.

En uppenbar första invändning för en kritisk läsare som tar del av Götmarks m.fl. artikel är följande. Växthusgasutsläpp är ett globalt problem och inte ett svenskt, och även om invandring till Sverige riskerar leda till ökade växthusgasutsläpp i Sverige så är det inte uppenbart att det leder till en ökning av de globala utsläppen, eftersom vi behöver ta med minskningen i de länder invandrarna kommer ifrån i kalkylen.

Detta kan Götmark m.fl. givetvis besvara. Det troligaste är att de tänker sig att en invandrare till Sverige typiskt kommer från något land med lägre växthusgasutsläpp. Flyktingpojken Rashid från Afghanistan kommer från ett land där CO₂-utsläppen per capita och år är 0,7 ton, och anländer till ett där motsvarande siffra är 4,6 (siffror från 2013). Det är rimligt att tänka sig att flytten från Afghanistan till Sverige leder till att Rashids CO₂-avtryck rör sig bort från typiskt afghansk nivå i riktning mot typiskt svensk nivå, vilket alltså resulterar i ökade utsläpp.

Resonemanget bygger på att de svenska utsläppen per capita ligger på ohållbar nivå, och därtill på högre nivå än de länder varifrån flertalet invandrare kommer. Detta är sant idag, men kommer det att fortsätta vara sant i framtiden? Götmark m.fl. tycks ta för givet att det kommer att hålla i sig åtminstone fram till 2100, ty i annat fall skulle deras diagram över svensk befolkningsutveckling fram till dess under olika antaganden om invandringsvolym vara irrelevant. Själv anser jag (liksom många andrda, som Naturvårdsverket) att Sverige bör minska sina utsläpp snabbt, och bli koldioxidneutralt långt långt före 2100. Jag ser inga godtagbara moraliska argument för att vi skulle kunna fortsätta tillåta oss en utsläppsnivå som är globalt ohållbar och ligger högre än andra länder. Så snart vi rättat till den saken faller den götmarkska argumentationen.

Artikelförfattarna är givetvis i sin fulla rätt att ha annan uppfattning än jag i denna moraliska fråga, men de borde enligt min mening ha uttryckt sig mer i klartext. Då hade det t.ex. kunna låta så här:

Vi anser att vi här i Sverige kan tillåta oss att tillskansa oss en hög levnadsstandard baserad på CO₂-utsläpp som är högre än vad som är globalt hållbart, och högre än i andra länder. Detta privilegium bör vi dock vara ytterst försiktiga med att dela med oss av till Rashid och andra utlänningar, ty vår planet håller inte för om alla skulle leva som vi.

The AI meeting in Brussels last week

I owe my readers a report from the seminar entitled "Should we fear the future? Is it rational to be optimistic about artificial intelligence?" at the European Parliament's STOA (Science and Technology Options Assessment) committee in Brussels last Thursday. In my opinion, all things considered, the event turned out OK, and it was a pleasure to meet and debate with the event's main speaker Steven Pinker as well as with co-panelists Miles Brundage and Thomas Metzinger.¹ I'd just like to comment on Pinker's arguments for why we should not take seriously or publicly discuss the risk for an existential catastrophe caused by the emergence of superintelligent AGI (artificial general intelligence). His arguments essentially boil down to the follwing four points, which in my view fail to show what he intends.

1. The general public already has the nuclear threat and the climate threat to worry about, and bringing up yet another global risk may overwhelm people and cause them to simply give up on the future. There may be something to this speculation, but to evaluate the argument's merit we need to consider separately the two possibilities of
(a) apocalyptic AI risk being real, and

(b) apocalyptic AI risk being spurious.

In case of (b), of course we should not waste time and effort on discussing such risk, but we didn't need the overwhelming-the-public argument to understand that. Consider instead case (a). Here Pinker's recommendation is that we simply ignore a threat that may kill us all. This does not strike me as a good idea. Surviving the nuclear threat and solving the climate crisis would of course be wonderful things, but their utility is severely hampered in case it just leads us into an AI apocalypse. Keeping quiet about a real risk also seems to fly straight in the face of one of Pinker's most dearly held ideas, namely that of scientific and intellectual openness, and Enlightenment values more generally. The same thing applies to the situation where we are unsure whether (a) or (b) holds - surely the approach best in line with Enlightenment values is then to openly discuss the problem and to try to work out whether the risk is real.

2. Pinker held forth a bunch of concerns that seemed more or less copy-and-pasted from the standard climate denialism discourse. These included the observation that the Millennium bug did not cause global catastrophe, whence (or so the argument goes) a global catastrophe cannot be expected from a superintelligent AGI (analogously to the oft-repeated claim that the old Greek's fear that the skies would fall down turing out to be unfounded shows that greenhouse gas emissions cannot accelerate global warming in any dangerous way), and speculations about the hidden motives of those who discuss AI risk - they are probably just competing for status and research grants. This is not impressive. See also yesterday's blog post by my friend Björn Bengtsson for more on this; it is to him that I owe the (in retrospect obvious) parallel to climate denialism.

At this point, one may wonder why Pinker doesn't do the consistent thing, given these arguments, and join the climate denialism camp. He would probably respond that unlike AI risk, climate risk is backed up by solid scientific evidence. And indeed the two cases are different - the case for climate risk is considerably more solid - but the problem with Pinker's position is that he hasn't even bothered to find out what the science of AI risk says. This brings me to the next point.

3. All the apocalyptic AI scenarios involve the AI having bad goals, which leads Pinker to reflect on why in the world would anyone program the machine with bad goals - let's just not do that! This is essentially the idea of the so-called Friendly AI project (see Yudkowsky, 2008, or Bostrom, 2014), but what Pinker does not seem to appreciate is that the project is extremely difficult. He went on to ask why in the world anyone would be so stupid as to program self-preservation at all costs into the machine, and this in fact annoyed me slightly, because it happened just 20 or so minutes after I had sketched the Omohundro-Bostrom theory for how self-preservation and various other instrumental goals are likely to emerge spontaneously (i.e., without having them explicitly put into it by human programmers) in any sufficiently intelligent AGI.

4. In the debate, Pinker described (as he had done several times before) the superintelligent AGI in apocalyptic scenarios as having a typically male psychology, but pointed out that it can equally well turn out to have more female characteristics (things like compassion and motherhood), in which case everything will be all right. This is just another indication of how utterly unfamiliar he is with the literature on possible superintelligent psychologies. His male-female distinction in the general context of AGIs is just barely more relevant than the question of whether the next exoplanet we discover will turn out to be male or female.

In summary, I don't think that Pinker's arguments for why we should not talk about risks associated with an AI breakthrough hold water. On the contrary, I believe there's an extremely important discussion to be had on that topic, and I wish we had had time to delve a bit deeper into it in Brussels. Here is the video from the event.

(Or watch the video via this link, which may in some cases work better.)

Footnotes

1) My omission here of the third co-panelist Peter Bentley is on purpose; I did not enjoy his presence in the debate. In what appeared to be an attempt to compensate for the hollowness of his arguments,² he reverted to assholery on a level that I rarely encounter in seminars and panel discussions: he expressed as much disdain as he could for opposing views, he interrupted and stole as much microphone time as he could get away with, and he made faces while other panelists were speaking.

2) After spending a disproportionate amount of his allotted time on praising his own credentials, Bentley went on to defend the idea that we can be sure that a breakthrough leading to superintelligent AGI will not happen. For this, he had basically one single argument, namely his and other AI developers' experience that all progress in the area requires hard work, that any new algorithm they invent can only solve one specific problem, and that initial success of the algorithm is always followed by a point of diminishing returns. Hence (he stressed), solving another problem always requires the hard work of inventing and implementing yet another algorithm. This line of argument conveniently overlooks the known fact (exemplified by the software of the human brain) that there do exist algorithms with a more open-ended problem-solving capacity, and is essentially identical to item (B) in Eliezer Yudkowsky's eloquent summary, in his recent essay There is no fire alarm for artificial general intelligence, of the typical arguments held forth for the position that an AGI breakthrough is either impossible or lies far in the future. Quoting from Yudkowsky:

Why do we know that AGI is decades away? In popular articles penned by heads of AI research labs and the like, there are typically three prominent reasons given:

(A) The author does not know how to build AGI using present technology. The author does not know where to start.

(B) The author thinks it is really very hard to do the impressive things that modern AI technology does, they have to slave long hours over a hot GPU farm tweaking hyperparameters to get it done. They think that the public does not appreciate how hard it is to get anything done right now, and is panicking prematurely because the public thinks anyone can just fire up Tensorflow and build a robotic car.

(C) The author spends a lot of time interacting with AI systems and therefore is able to personally appreciate all the ways in which they are still stupid and lack common sense.

The inadequacy of these arguments lies in the observation that the same situation can be expected to hold five years prior to an AGI breakthrough, or one year, or... (as explained by Yudkowsky later in the same essay).

At this point a reader or two may perhaps be tempted to point out that if (A)-(C) are not considered sufficient evidence against a future superintelligence, then how in the world would one falsify such a thing, and doesn't this cast doubt on whether AI apocalyptic risk studies should count as scientific? I advise those readers to consult my earlier blog post Vulgopopperianism.