Concerned world citizen

Concerned world citizen and professor of mathematical statistics (in that order)

So reads my motto on Twitter. There is a lot to be concerned about in the world. Two well-known global catastrophic risks are global warming and nuclear war. Another, less well-known but perhaps as serious, is the possibility of an uncontrolled AI breakthrough. But the main message I wish to convey with the motto is, despite the parentheses, contained in the last three words: in that order. Mathematics and science is very important, but a prosperous and happy future for humanity is, IMHO, even more important. Therefore I refuse, contra a not uncommon piece of advice, to keep quiet about my political views on science-related issues. The well-meaning concern - voiced by, e.g., climate scientist Tamsin Edwards in her blog post Climate scientists must not advocate particular policies¹ - stems from the idea that if scientists express political ideas, then the credibility of their research risks being hurt, because it may raise suspicion about ideological contamination. I think that argument is not entirely without merit, and every scientist working in policy-relevant areas has her own choice to make on whether to take it to heart and act upon it, but to me personally it is overtrumped by an argument made by another climate scientist, James Hansen:

Fourteen months later I gave another public talk - connecting the dots from global warming to policy implications to criticisms of the fossil fuel industry for promoting misinformation. This time my grandchildren provided rationalisation for a talk likely to draw ire from the administration. I explained that I did not want [them] to look back and say: "Opa understood what was happening, but he never made it clear."

In the opening paragraphs of their paper Science and policy: Crossing the boundary in the latest issue of Bulletin of the Atomic Scientists, Dale Jamieson, Naomi Oreskes and Michael Oppenheimer make a point similar to Hansen's:

Consider the case of the late F. Sherwood Rowland, who, along with fellow chemist Mario J. Molina, first recognized the threat that chlorinated fluorocarbons (CFCs) posed to stratospheric ozone and potentially to life on Earth. (Rowland and Molina later won the 1995 Nobel Prize in Chemistry for their work, along with Paul J. Crutzen.) Some of Rowland’s colleagues criticized him for publicly stating that CFCs should be phased out. Although he did not advocate a specific policy instrument, these colleagues felt that by calling for a policy goal Rowland was illicitly stepping out of the world of science into the world of policy in which he did not belong.

Imagine, however, that Rowland and Molina had published their research in a peer-reviewed journal and that, like most scientific work, it had then been largely ignored. Decades later, dermatologists and oncologists would have begun to notice an unexplained increase in rates of skin cancer. Epidemiologists would have analyzed the available data and concluded that there was in fact an epidemic of skin cancers around the globe, especially severe in Australia, southern Chile, and among white Africans. Meanwhile, plant pathologists would have noticed increased ultraviolet damage in agricultural crops; veterinarians would have noted increased rates of cataracts in farm animals. Scientists would then have searched for an explanation for this strange association of human, animal, and plant pathology. Eventually, someone would have come across Rowland’s work, connected the dots, and understood what was happening. Programs would then have been quickly put in place to measure stratospheric ozone, demonstrating that the ozone layer had been massively depleted. [...]

This thought experiment, while counterfactual, is not fantastic. It is essentially what happened with asbestos and tobacco, and it could easily have been the case with chlorinated fluorocarbons as well.

Read the full paper by Jamieson et al here!

That same issue of the Bulletin is amazingly full-packed with wise and interesting discussions concerning the troublesome interface between science and politics. See for instance Gavin Schmidt's What should climate scientists advocate for from the same issue. I offer the following snapshots from that paper:

Scientists and philosophers have long distinguished between descriptions of what "is" (derived from scientific investigations of the real world), what "ought" to be (based on one’s value system), and suggestions for what one "should" do in the face of this knowledge [...]. Despite this careful distinction between advocacy and facts, the term "advocate" is regularly used pejoratively in scientific circles and is frequently associated with the cherry-picking of science to support a preconceived idea. In order to avoid these connotations, scientists often go to great lengths to deny being advocates for specific policies.

[...]

In my view, it is impossible to divorce public communication from advocacy, and scientists should not even try. Instead, we should acknowledge and embrace the terminology and, in so doing, define clearly what our own values are and exactly what we are advocating for.

[...]

Responsible advocates are up-front about what is being advocated for and how the intersection of values and science led to that position. On the other hand, it is irresponsible to proclaim that there are no values involved, or to misrepresent what values are involved. Responsible advocacy must acknowledge that the same scientific conclusions may not lead everyone to the same policies (because values may differ). Assuming that one’s own personal values are universal, or that disagreement on policy can be solved by recourse to facts alone, is a common mistake.

Read Schmidt's full paper here!

Footnotes

1) I've commented on Edwards' blog post elsewhere.

2) He makes the same statement in his book Stoms of My Grandchildren, which I reviewed a few years ago.

Special virtual issue of Physica Scripta: Emerging technologies and the future of humanity

Readers interested in the vitally important topic of emerging technologies and their potential consequences for the future of humanity are encouraged to check out the new virtual issue of Physica Scripta on precisely this topic. It grew out of a meeting at the KVA (Royal Swedish Academy of Sciences) in March last year. Besides a short editorial by yours truly, it contains at present three excellent papers (a fourth may be forthcoming), namely:

• The great downside dilemma for risky emerging technologies by Seth Baum. The author offers, with particular focus on the example of geoengineering, a principled discussion of the dilemma involved in deciding whether to go ahead with a technology that can one hand can bring about great benefits, but on the other hand risks causing global catastrophe.
• Of Malthus and Methuselah: does longevity treatment aggravate global catastrophic risks? by Karim Jebari. As the title indicates, this is a discussion about possible catastrophic risks in connection with radical life extension.
• Responses to catastrophic AGI risk: a survey by Kaj Sotala and Roman Yampolskiy. This is a mildly updated version of an extremely important paper that has been around in preprint form since 2013 and that I praised in a blogpost from that year; it is a systematic discussion of risks associated with a breakthrough in artificial intelligence, and what we can do about them.

Divestment!

Det finns en tendens hos mig att när jag skriver om det lärosäte Chalmers där jag har min anställning (och stora delar av min utbildning) så blir det oftast något negativt: jag klagar exempelvis över motbjudande utformning av studentrekryteringsreklam, över arrangerandet av pseudovetenskapliga seminarier, och över anammandet av idiotiska management-trender. Detta har sin uppenbara förklaring i att hälsan tiger still och att det vanligtvis är först när jag är missnöjd med något som jag ser behov av att yttra mig, men det är samtidigt lite olyckligt eftersom det kan ge ett orättvist negativt helhetsintryck. Mycket av det som händer på Chalmers är i själva verket jättebra, och jag har nu glädjen att rapportera om något jag ställer mig entydigt positiv till:

Chalmers väljer alltså att haka på den internationella så kallade divestment-rörelsen,¹ vilket innebär att högskolan säljer ut allt sitt aktieinnehav i fossilbränsleföretag.² Detta har rapporterats här och var (även internationellt), som i Ny Teknik där det meddelas att Chalmers stiftelse "har tagit beslut om nolltolerans när det gäller placeringar i kol-, olje- och gasbolag och kommer nu att avyttra sina aktier i bolag som är knutna till fossil energi". Det är aktieinnehav till ett värde av fem miljoner kronor som nu säljs ut.

Vad gäller direkta finansiella effekter av åtgärden så är detta knappast något som drabbar fossilbränslebolagen särskilt hårt, eller överhuvudtaget. Fem miljoner är en pyttesumma i sammanhanget. Det viktiga är åtgärdens symbolik och signalverkan. Som ledande teknisk högskola gör vi rätt i att markera att vi inte vill tjäna pengar på föråldrade teknologier som skadar livsmiljön på vår planet och som under alla omständigeter behöver avvecklas förr eller senare (helst förr). En sådan markering kan utgöra ett litet bidrag till den förskjutning i opinionsläget som krävs för kraftfulla omställningar från fossil energi till hållbara energislag. Nu gäller det att andra lärosäten också hakar på.

David Keith förklarade för ett år sedan dessa sammanhang i en artikel i Boston Review - rekommenderad läsning!

Fotnoter

1) Finns det något svenskt ord jag istället borde använda här?

2) För att vara mer exakt: Det är Chalmers stiftelse som säljer ut sitt innehav. Chalmers stiftelse har som uppgift att äga Chalmers tekniska högskola AB, och vidare...

att verka för att Chalmers bedriver utbilning och forskning på en internationellt hög nivå. Stiftelsen skall även se till att resurser utnyttjas effektivt samt att finansiera uppdrag som är till värde för Chalmers.

.

Om Bamseplåster och antroposofiska läkemedel

I en SvD-artikel i söndags, rubricerad Antroposofiska läkemedel är hotade, brister tre företrädare för det antroposofiskt inriktade sjukhuset Vidarkliniken ut i en lång jämmer- och veklagan över Läkemedelsverkets förslag om att täppa till det kryphål i regelverket som ger antroposofiska produkter möjlighet till tillstånd att säljas som läkemedel utan regelrätt vetenskaplig prövning. Artikeln behöver inte läsas. Det räcker gott att se hur den sammanfattas i tidningens pappersupplaga...

...och sedan sarkastiskt utropa:

Åh nej, ve och fasa, då blir vi kanske tvungna att fortsättningsvis hålla till godo med vetenskapligt utprövade läkemedel!

Å andra sidan skadar det inte att lägga ut texten en liten aning ytterligare, som Per Köhler¹ vid Lunds universitet gör i sitt svar i dagens SvD:

Vilken treåring som helst kan berätta att om man trillar och slår sig så hjälper det med Bamseplåster. Får man ont i magen kan det också vara på plats med plåster och erfarenhet har visat att dessa ibland även hjälper mot åksjuka och dagiskamrater som retas. Bamseplåster är en minst sagt populär behandling med ett brett stöd bland användarna som på många platser integrerats i den offentliga vården. Hur kan någon tänkande människa vara emot Bamseplåster?

Detta är frågan som tre representanter för Vidarkliniken kämpar med på Brännpunkt 18/1 när de vädjar för ett bevarande av den gräddfil som låter antroposofiska Bamseplåster kringgå läkemedelslagen.

[...]

När det gäller Bamseplåster håller nog de flesta med om att en liten lögn och lite magi kan vara på sin plats för treåringar. Även när vi blir äldre behöver vi små vita lögner och en smula magi. Men vuxna människor förtjänar bättre än att behandlas som treåringar när vi är sjuka och riktig sjukvård ska veta bättre än att bara säga ja. Ibland är Bamseplåster rena björntjänster.

Läs hela Per Köhlers välargumenterade och välformulerade svar här!

Fotnot

1) Vid sidan om sin forskargärning är Per Köhler känd som flitig och underhållande twittrare, ofta med utspel till vetenskapens försvar och med en rättfram retorik som kan få min egen här på Häggström hävdar att framstå som onödigt försiktig och återhållsam.

I fördatorisk tid

Häromdagen blev jag påmind om en låt som det var många år eller rentav decennier sedan jag tänkte på senast, men som jag gillade skarpt när det begav sig: I fördatorisk tid av Adolphson-Falk, från deras album Över tid och rum, 1984.¹ Låten behandlar ett viktigt ämne som jag på senare år lagt en del kraft på, och ofta återkommit till här på bloggen: kommer datorerna att ta över, och hur blir det i så fall då?

Fotnot

1) Eventuellt kan denna upplysning ge viss ledning rörande vilken sida jag stod på i den gamla konflikt jag tog upp här på bloggen för ett år sedan.

Påven försvarar terrorattacken mot Charlie Hebdo

SVT rapporterar nu att påven Franciskus uttalat sig om terrorattacken mot Charlie Hebdo. Det han säger kan inte förstås som annat än ett försvar av dådet:

Om min goda vän hånar min mamma kan han förvänta sig en smäll. Det får man vänta sig, det är normalt. Du ska inte provocera. [...] Det är många som talar illa om religion. De gör narr av den. Det som händer då är samma som händer vännen som hånar min mor. Det finns en gräns.

Jag finner detta provocerande. Men i kontrast mot den av Franciskus förordade reaktionen att ta till våld, så reagerar jag med ord. Så skall det gå till. Våld är fel slags bemötande, ord är rätt. Här är mina ord till Franciskus:

Din religion utgörs av bisarra fånerier, din Gud är en blodtörstig psykopat, din Jesus är en härsklysten nolla som låter sin barnsliga ilska gå ut över ett stackars oskyldigt fikonträd, din företrädare på den påvliga tronen är en fucking motherfucker, och själv är du en löjeväckande fåntratt i en fånig hatt!

An open letter calling for research on robust and beneficial AI

Research on artificial intelligence (AI) tends in general to focus too much on making the AI capable, and too little on making its effects (once it becomes capable) benign to humans and humanity. A non-obvious but important thing to realize here is that for an AI to do bad things, it is not necessary that it was built with bad intentions. Sometimes the intentions really are bad, such as when building AI systems to fly drones and shoot at people, but it is also possible for an AI built purely with good intentions to do bad things. For a drastic example, let me quote from my review of Nick Bostrom's important book Superintelligence:

Talk of the danger of AI may trigger us to think about drones and other military technology, but Bostrom emphasizes that even an AI with seemingly harmless tasks may bring about disaster. He exemplifies with a machine designed to produce paperclips. If such a machine becomes the seed of an intelligence explosion, then, unless we have planned it with extreme caution, it may well result in the entire solar system (including ourselves) being turned into a grotesque heap of paperclips.

For some slightly less drastic examples, see Steve Omohundro's paper Rational artificial intelligence for the greater good, or a talk by him from 2012 on the same topic that I posted in an earlier blog post.

An open letter calling for putting higher priority on research to make AI safe and socially beneficial has recently been posted, and signed by over a thousand names, including myself, along with prominent AI experts, philosophers, scientists and entrepreneurs like Stuart Armstrong, Nick Bostrom, Erik Brynjolfsson, Ben Goertzel, Katja Grace, Stephen Hawking, Luke Muehlhauser, Elon Musk, Peter Norvig, Steve Omohundro, Martin Rees, Stuart Russell, Anders Sandberg, Jaan Tallinn, Max Tegmark, Eliezer Yudkowsky, Roman Yampolskiy and many more. Read the letter here! And if you argee with us, do consider signing it!

BBC reports on the letter, and Anders Sandberg offers some thoughtful comments.

Ett klarläggande till herrarna Birro och Bern rörande yttrandefriheten

Det har sagts ofantligt mycket om Charlie Hebdo-attacken de senaste två dygnen, både kloka saker och mindre kloka. Till det mindre kloka hör följande Facebookuppdatering av Marcus Birro:

Sedan Birro för en tid sedan fick sparken som kolumnist i Expressen har han fört martyrgnällandent till nya höjder, men här tycker jag att han, med sin jämförelse mellan sin egen situation och de dödade på Charlie Hebdo, går bortom alla anständighetsgränser. Innan jag går loss mot Birro för detta borde jag emellertid måhända pröva tanken att jag missförstått hans ironi eller att hans utrop är ett olycksfall i arbetet. Det man finner på Birros Facebooksida verkar dock inte stödja den tanken, då han har en rad andra uppdateringar med snarlikt budskap. Exempelvis delar han, med uppenbart gillande, en anhängares uppdatering med ordalydelsen "Hör på nyheterna att expressens chefredaktör säger att det är viktigt att stå upp för yttrandefriheten...då har man ändrat policy sedan man sparkade Marcus Birro...eller gäller det bara vid terrordåd???". Så nej, något enstaka olycksfall i arbetet verkar Birros uppdatering inte vara.

En annan person som var snabbt framme med att lyfta fram Charlie Hebdo i samband med det egna yttrandefrihetsmartyrskapet är den notoriske klimatförnekarstollen Lars Bern. I ett (även med hans mått mätt) sällsynt motbjudande blogginlägg med den högtravande rubriken Det fria ordet gnölar han i himmelens sky över att han inte längre tycks ha fritt tillträde till spaltutrymme på SvD Brännpunkt. Denna belägenhet som Bern hamnat i tycks honom fullt jämförbar med Charlie Hebdo-tecknarnas öde, och han skriver att "skillnaden mellan klimatfanatiker som etablissemanget försvarar och millitanta islamister är [...] hårfin".

Well, låt mig klargöra en sak för herrarna Birro och Bern. Yttrandefriheten innebär inte någon skyldighet för vare sig Expressen eller Svenska Dagbladet att publicera era alster. Dessa dagstidningars debatt- och kultursidor är exklusiva fora som gemene man bara kan drömma om att få utrymme på. Att ni båda under en tid hade gräddfil till sådana fora betyder inte att ni har rätt till det i evighet. Men er yttrandefrihet inskränks inte av detta, ty det är fortsatt fritt fram för er att, på vanligt folks vis, lägga ut era illa formulerade stolligheter exempelvis på bloggar och på Facebook.

Jag kan i någon mån förstå er saknad efter dessa exklusiva spaltutrymmen, men den belägenhet ni hamnat i är inte på minsta vis jämförbar med situationen för de verkliga offren för bristande yttrandefrihet - de som hamnar i fängelse för sina yttranden eller dödas för sina teckningar. Den självupptagenhet och den brist på perspektiv ni ger uttryck för ger mig kväljningar.

Je suis Charlie

Gårdagens vedervärdiga, samvetslösa och dödliga våldsdåd mot satirtidskriften Charlie Hebdo i Paris - ett dåd som ser ut som en förlängning av 2005 års Muhammedkris - utgör ett försök att skrämma oss till tystnad. Men vi skall inte låta dådets ynkliga gärningsmän lyckas. Vi behöver stå upp för vår rätt att säga vår mening, inklusive och i synnerhet om vår mening är misshaglig. Läs Christopher Hitchens text från februari 2006 om vikten av att göra narr av religion!

Vi har givit vika länge nog.¹ Enough! Det är dags att lära fundamentalisterna att de inte kan stoppa oss från att påtala Guds omåttliga ondska eller en viss profets motbjudande pedofila leverne. Har de invändningar får de formulera dem verbalt, inte med kulor och gevär.

Se även följande bloggposter:

• Stora frågor och epistemisk ödmjukhet, 24 augusti 2011.
• Lösningen då argumenten tryter: ökad fanatism och hot om våld, 18 augusti 2014.
• Tack gode Gud för Lena Andersson!, 29 oktober 2011.
• For the record: lite islamkritik, 24 juli 2013.

Fotnot

1) Ivar Arpis sammanfattning ger inte någon vacker bild:

När Ayatollah Khomeini från sin sjukbädd utfärdade en fatwa mot Salman Rushdie år 1989 slöt de flesta svenska debattörer och kulturskribenter upp bakom författaren. Jan Myrdal var så gott som ensam när han kallade Rushdie för ”maktens hjon” och beskyllde honom för att gå i fronten för ”västvärldens krig mot islam”. Yttrandefriheten försvarades av den förkrossande majoriteten.

Ungefär 20 år senare tecknade Lars Vilks sin rondellhund. Hur lät det då? Akademiker, journalister och kulturskribenter fördömde den nästan unisont. Tanken att det är fel att kritisera och håna religioner, och i synnerhet islam, har blivit närmast allmänt accepterad. I dag hade troligen ingen vågat publicera Satansverserna. I dag har vi internaliserat fatwan. Och rädslan för muslimska extremister är redan utbredd även i Sverige. Och det behöver inte handla om bitsk satir.

När konstnären Elisabeth Ohlsson Wallin ställde ut bilder på Världskulturmuseet i Göteborg för ett par år sedan var temat homosexualitet inom kristendom, judendom och islam. Hon ombads dock bakom lyckta dörrar att ta bort allt med islam. Av rädsla för att stöta sig med extremister censurerades hon.

2005 censurerades konstverket Scene d’amour av algerisk-franska Louzla Darabis. Också det på Världskulturmuseet i Göteborg. Detta efter påtryckningar från vissa muslimska organisationer. Också i det verket är motivet en kärleksakt, och det innehåller även citat ur Koranen. Även den gången var man rädda.

För ett par år sedan ställde Stockholms kulturhus in dansföreställningen Celebration of womanhood av gruppen Freshest för att den innehöll en sång med Korancitat.

När Nobelmuseet 2009 skulle visa filmen Submission av Theo van Gogh och Ayaan Hirsi Ali, om kvinnors situation inom islam, kontaktade de en imam och klippte sedan bort de delar av filmen som han fann misshagliga.

Och när Lars Vilks visade upp konstnären Sooreh Heras verk Allah ho gaybar, med bilder av muslimska homosexuella män, attackerades han av uppretade åhörare vid sin föreläsning på Uppsala universitet år 2010. Föreläsningen fick ställas in.

Listan på liknande händelser kan göras mycket längre.

Att gräva en grop

Debatten med klimatförnekarna är oftast ohyggligt tröttsam (inte minst när den går över i metadebatt). Följande allegori på debatten, publicerad av Eli Rabett på hans blogg Rabett Run,¹ är däremot riktigt rolig:

Vlad: Shouldn’t we devise a way to climb out of this hole we’ve dug ourselves into?

Est: What hole? There is no hole.

Vlad: Yes there is. We are standing in it. And digging it deeper, no less.

Est: Oh, this isn’t a hole. It’s a natural variation in the landscape.

Vlad: It’s getting deeper and deeper.

Est: Yes, but not because we are digging. It is deepening due to other factors.

Vlad: Shouldn’t we at least dig more slowly?

Est: Digging more slowly is not an option. I think, perhaps, a more prudent solution would be to dig much faster.

Vlad: What!?

Läs den högintressanta fortsättningen här! Och notera gärna att vännen Lars Karlsson, återkommande kommentator här på bloggen, bidragit till dialogen med ett kort replikskifte.

Fotnot

1) Läsvärda Rabett Run är här måhända mest känd för publiceringen av en engelsk översättning av min bloggpost Om Lennart Bengtssons beklämmande färd ner i klimatförnekarträsket.

Sagan om de tolv poliskonstaplarna

Kristendomen är (enligt min mening) en intellektuellt ohållbar världsåskådning. Det finns flera sätt att slå fast detta, men ett av de mer slående är att lyfta fram (vilket jag då och då gjort här på bloggen) det så kallade teodicéproblemet: det här med att Gud är både god och allsmäktig, hur är det möjligt med alla de krig, all den svält, alla de naturkatastrofer och allt det mänskliga lidande vi ser omkring oss? Många försök till svar har givits från kristna apologeter, men de tenderar att framstå som konstlade och patetiska. Nyligen blev jag uppmärksammad på den allegoriska berättelsen The Tale of the Twelve Officers av Mark Vuletic, som sammanfattar de vanligaste av dessa försök i obamhärtigt klar belysning. Så här börjar den:

It was, of course, sad to hear that Ms. K had been slowly raped and murdered by a common thug over the course of one hour and fifty-five minutes; but when I found out that the ordeal had taken place in plain sight of twelve fully-armed off-duty police officers, who ignored her terrified cries for help, and instead just watched until the act was carried to its gruesome end, I found myself facing a personal crisis. You see, the officers had all been very close friends of mine, but now I found my trust in them shaken to its core. Fortunately, I was able to talk with them afterwards, and ask them how they could have stood by and done nothing when they could so easily have saved Ms. K.

"I thought about intervening," said the first officer, "but it occurred to me that it was obviously better for the murderer to be able to exercise his free will than to have it restricted. I deeply regret the choices he made, but that's the price of having a world with free agents. Would you rather everyone in the world were a robot? The attacker's choices certainly weren't in my control, so I can't be held responsible for his actions."

"Well," said the second officer, "my motivation was a little bit different."

Läs den spännande fortsättningen här!