måndag 27 juni 2016

Advisor at the Foundational Research Institute

I have recently been recruited to serve as "advisor" at the Foundational Reseach Institute (FRI); see their official list of advisors. In their own words, the FRI
    brings together researchers from diverse fields to examine how humanity can best reduce suffering in the future. We draw on insights from artificial intelligence, technology, anthropic reasoning, international relations, sociology, public policy, ethics, animal welfare, and many other disciplines.
I have tended to view the Future of Humanity Institute (FHI, with researchers like Nick Bostrom, Anders Sandberg and Stuart Armstrong whose works are frequently quoted and discussed on this blog) at the University of Oxford as the absolute cutting edge when it comes to thinking broadly and outside the narrow boundaries of mainstream discourse, yet rationally, about the far future for humanity and/or other sentient species. I still think this description of FHI is correct, but there are ways in which FRI can bee viewed as departing even further than FHI from mainstream thinking. To illustrate this, let me offer a passage from pages 239-240 of my book Here Be Dragons where I discuss the work of leading FRI researcher Brian Tomasik. In the paragraph leading up to the quoted passage, I had been discussing work of Bostrom concerning the possibility of colonization of our solar system, the Milky Way and the rest of the observable universe by humans (or posthumans) - work that seemed to take for granted that such a development would be a good thing. Not so fast, says Tomasik, and here's the quote from my book:
    That a universe imbued by human civilization is better than one that is not [...] is a very common assumption in futuristic discussions, but not one that is self-evident. What if such a colonization process would actually constitute a catastrophe of cosmic proportions? Computer scientist and ethicist Brian Tomasik has, in a couple of recent essays The importance of wild-animal suffering and Applied welfare biology and why wild-animal advocates should focus on not spreading nature, highlighted a way in which it could turn into such a catastrophe. In the first of these, he begins with quoting Dawkins (1995):
      The total amount of suffering per year in the natural world is beyond all decent contemplation. During the minute it takes me to compose this sentence, thousands of animals are being eaten alive; others are running for their lives, whimpering with fear; others are being slowly devoured from within by rasping parasites; thousands of all kinds are dying of starvation, thirst and disease. (p 131)
    Tomasik then goes on to argue that "animal advocates should consider focusing their efforts to raise concern about the suffering that occurs in the natural environment". In the second essay, he points out that if, when we colonize of the universe, we decide to bring wildlife along, and to terraform planets where this wildlife can then spread, then we risk multiplying the already enormous amount of suffering described by Dawkins immensely. Humans (at least many of them, including myself) tend to value nature and wildlife highly; hence there may be a temptation to bring those to the planets we settle down on. Tomasik's suggestion is that we ought to resist that temptation due to the vast amount of animal suffering we would otherwise create.
I'm not prepared at this point to endorse Brian Tomasik's view, but I'm not rejecting it either. The issue needs further thought.

måndag 20 juni 2016

Gästinlägg av Stefan Svallfors: BQ

Idag har jag nöjet att presentera ännu ett gästinlägg av sociologen Stefan Svallfors. Minnesgoda läsare kan påminna sig hans gripande text Universitetet - en förlorad kärlek som publicerades här på bloggen 2014. Denna gång rör det sig om en liten betraktelse som fått ligga till sig sedan Stefan författade den redan 2007, men som är i stort sett lika aktuell idag som då.1 Varsågoda! /OH

* * *

BQ - ett nytt redskap för analys av forskningsansökningar

Stefan Svallfors

Så här i De Stora Ansökningarnas Tidevarv vill jag introducera ett nytt mått för att analysera forskningsansökningar eller andra texter av liknande karaktär: BQ (© Stefan Svallfors).

BQ står för "Bullshit Quota" och beräknas helt enkelt genom formeln

BQ = ΣAB

Storheterna ΣA respektive ΣB står här för antal förekomster i texten av ord i följande två grupper (på engelska eftersom det är lingua franca i sammanhanget).

A B
Added value Analyse
Cutting-edge Data
Excellence Explain
Frontier Knowledge
Management Measure
Path-breaking Observe
Potential Seminar
Synergy Theory
Unique Truth
Vision Understand

Alla härledningar och sammansättningar av orden räknas, t ex "synergetic", "visionary" och "observation". Varje enskild förekomst räknas: den som använder ordet "unique" tio gånger i en ansökan får alltså samma värde som den som använder alla orden ur grupp A en gång. Av detta förstår man lätt att BQ kan anta såväl mycket stora som mycket små värden, varför någon form av logaritmerade värden torde vara att föredra i analyser. Vid värdet 1 inträder s k BBQ ("Balanced Bullshit Quota"), d v s strunt och substans väger exakt lika.

Med BQ som utgångspunkt kan man resa två hypoteser och en fråga:

H1: Ju större ansökan, desto högre BQ.

Lägst värde på BQ förväntas återfinnas i vanliga projekt- och programansökningar, där sökande är tvungen att omsorgsfullt berätta vad som ska göras, hur det ska göras och varför det är intressant. Riktigt högt torde BQ däremot bli i stora Center of Excellence-ansökningar av Linnétyp, där mer vidlyftiga visioner kan få luft under vingarna. Högst BQ kan vi förvänta oss i större EU-ansökningar, eftersom BQ och Euro-speak går som hand i handske (som i den eleganta sammansättningen "European added value").

H2: BQ uppvisar en stigande tendens över tid.

Denna hypotes är egentligen en direkt följd av H1: eftersom en större del av forskningsmedlen numer kanaliseras genom megalomani ska centrumsatsningar stiger, om H1 kan konfirmeras, BQ som en naturlig följd. Till detta kan man lägga en eventuell spridningseffekt: den som börjat prata strunt i stort gör det kanske sedan även i smått.

[Exkurs: gamla marxister kan här notera att vi alltså förväntar oss att BQ beter sig på rakt motsatt vis jämfört med profitkvoten.]

Fråga: Hur ser relationen mellan BQ och beviljandegrad ut?

På denna punkt vågar vi inte resa någon hypotes, därtill är forskningsläget alltför osäkert. Här måste forskningen ta en mer öppen och induktiv utgångspunkt. Skulle man ändå våga sig på en liten förväntning skulle det vara att vi finner en interaktionseffekt mellan BQ, anslagsstorlek och beviljandegrad. För små ansökningar, där de som bedömer och fattar beslut kan området, är sambandet negativt: ju högre BQ desto lägre "success rate". För stora ansökningar, där de som fattar de avgörande besluten inte riktigt begriper vad det handlar om, kan vi tvärtom förvänta oss ett positivt samband: ju högre BQ desto större framgång (detta gäller dock bara själva ansökningsskedet, inte slutresultatet).

Det enda som nu återstår är praktiska tillämpningar av BQ. Börja redan idag - med att analysera din egen senaste forskningsansökan! Rapportera in resultatet och eventuella anomalier till undertecknad. Den som vid årets slut2 kan uppvisa den till forskningsråd faktiskt inlämnade ansökan med högst BQ vinner en gratis kurs i forskningsadministration, förlagd till Vetenskapsrådets eleganta lokaler i centrala Stockholm. Själv ger jag mig genast i kast med min idag (6 november 2007) inlämnade Linnéansökan.

* * *

Fotnoter

1) En central roll i Stefans text spelar som synes begreppet bullshit, och för den läsare som söker en närmare precisering och fördjupning av detta begrepp rekommenderar jag den amerikanske filosofen Harry Frankfurts essä On Bullshit.

2) Vi kan nog ganska säkert sluta oss till att Stefan, då han skrev texten, avsåg den 31 december 2007 som tävlingens deadline. Med tanke på föreliggande dröjsmål i publiceringen synes det dock rimligt att förlänga inlämningstiden till den 31 december 2016.

onsdag 15 juni 2016

The New York Times claim about extraterrestrials was pulled out of thin air

"Yes, There Have Been Aliens." So reads the spectacular headline of an article about the possible existence of extraterrestrials by astrophysicist Adam Frank in the New York Times this Sunday. If the headline's suggestion - that science has established that extraterrestrials exist or at least have existed - is warranted, then we are faced with one of the greatest scientific breakthroughs ever, with profound consequences for our collective human self-image. But no, no such breakthrough has been made (or is on the radar), and the headline is deeply misleading.

Sometimes, overly enthusiastic newspaper editors play their contributors a trick by assigning a headline that goes far beyond the claims that are made in the article itself. Perhaps that is the case here? Perhaps professor Frank is the innocent victim of just such an editorial prank? Well, no. Frank has only himself to blame, as the headline's claim is made loudly and clearly in the text of his article, where we can read that
    given what we now know about the number and orbital positions of the galaxy’s planets, the degree of pessimism required to doubt the existence, at some point in time, of an advanced extraterrestrial civilization borders on the irrational.
This is a very strong claim, but it is plain false. Frank bases his claim on a recent joint paper by him and astronomer Woodruff Sullivan in the journal Astrobiology, where the claim about the very likely existence of extraterrestrials at some time in the past is derived from an assumption about how a certain probabilistic quantity p relates to a certain threshold c. It turns out, however, that this assumption was simply pulled out of thin air. Consequently, the same verdict follows for the claims in the New York Times article. Let me explain.

The p I'm talking about here is the probability that a randomly chosen potentially life-bearing planet eventually gives rise to intelligent life with a technological civilization on the level of present-day humanity. Here is an essentially correct statement in Frank's New York Times article:
    But what our calculation revealed is that even if this probability is assumed to be extremely low, the odds that we are not the first technological civilization are actually high. Specifically, unless the probability for evolving a civilization on a habitable-zone planet is less than one in 10 billion trillion, then we are not the first. [italics in original]
One in 10 billion trillion is 10-22, which is Frank's choice of threshold c.1 Combining the two qoutes from the article, we see that Frank means to say that doubting that p≥10-22 "borders on the irrational". Well, if Frank is fond of the idea of rational argument, then he should of course have backed up this claim with some strong evidence that p≥10-22, but he offers no such thing, neither in the New York Times article, nor in the Astrobiology paper.

The probability p is one of the three central parameters in the so-called Great Filter formalism, which is a superb framework for addressing the Fermi paradox and the notorious "Are we alone?" question, and which Adam Frank and Woodruff Sullivan would be well-advised to study.2 The other two parameters are N and q, where N is number of potentially life-bearing planets in the universe (a quantity discussed by Frank and Sullivan in the light of recent advances in the observation of exoplanets), and q is the probability that a randomly chosen civilization at the level of present-day humanity goes on to develop an intergalactic technological supercivilization visible to astronomers all over the universe. Of these three parameters, N is the only one whose order of magnitude we currently have a reasonable grasp of: it is a very large number, somewhere in the vicinity of 1022 (give or take an order of magnitude or so). In contrast, we are very much in the dark about the whereabouts of p and of q (other than the fact that they are probabilities, so they must be between 0 and 1). But there is one thing we pretty much know about them combined, namely that the product pq must be tiny, because otherwise Npq would have been a large number, and we would most likely have been able to see signs of a an intergalactic technological civilization out there, which we haven't. And if the product pq is microscopic, than at least one of the factors p and q must be microscopic. But neither of them is by any means obviously microscopic. Whether it is p that is microscopic, or q, or both, is a wide open question as science currently stands. As to p, it might be 0.9, it might be 0.1, it might be 10-10, it might be 10-30, or it might be 10-100 (or something else). None of these values is (notwithstanding Frank's claim that the last two would "border on the irrational") implausible.

There is no shortage of candidate bottlenecks in the evolution of life that might make p microscopic. Biogenesis is an obvious example, and Hanson (1998) lists a few more: the emergence of prokaryotic single-cell life, of eukaryotic single-cell life, of sexual reproduction, of multi-cell life, and of tool-using animals with big brains.3 Any claim that p cannot plausibly be microscopic needs to come with a demonstration that none of these candidate bottlenecks is sufficiently severe and uncircumventable to account for p being microscopic. Preferably, such a demonstration should also be weighed against the available evidence for q not being microscopic (see in particular Armstrong and Sandberg, 2013). Frank and Sullivan offer none of these things.

Footnotes

1) This seems to be a correction compared to the original Frank-Sullivan Astrobiology paper, where c is of the order 10-24. Their calculation of c invloves arbitrarily and confusedly throwing in an extra factor 0.01 in what was probably an attempt to make the estimate scientifically conservative, but whose effect is in fact the opposite.

2) See, e.g., Chapter 9 in my book Here Be Dragons: Science, Technology and the Future of Humanity, or better yet, see Robin Hanson's seminal paper on this topic. Or see my recent paper with Vilhelm Verendel in the International Journal of Astrobiology where we approach the Great Filter from a Bayesian point of view.

3) A tempting reaction, when first confronted with the task of estimating p, is to say something like "Hey, we exist, we evolved, here on Earth, surely that's an indication that p is probably not so small?". I suspect that such reasoning has influenced much discussion about extraterrestrial life and the Fermi paradox over the years, even in cases where it is never spelled out explicitly. However, it is probably not a valid argument, because a low-p and a high-p universe share the feature that everyone in it will find themselves to exist and to have evolved, whence that observation cannot be used to distinguish a low-p universe from a high-p one.

tisdag 14 juni 2016

Omtalad på grannbloggar

Det är (nästan) alltid trevligt att se att någon finner några av mina tidigare skriverier värda inte bara att läsa, utan även att nämna och kommentera. Idag vill jag peka på två (någorlunda) aktuella exempel.
  • På sin blogg Andart II recenserade Anders Sandberg den 3 maj 2016 min senaste bok Here Be Dragons - i starkt positiva ordalag! Boken har genererat en rad recensioner och andra reaktioner tidigare (några av vilka jag länkar till i mina bloggposter Reaktioner på Here Be Dragons och Fler reaktioner på Here Be Dragons), men att just Anders skriver om den är något jag sätter extra stort värde på, då han har en expertis på området för boken som matchas av ytterst få. Eller som jag, efter att ha nämnt James Martin (1933-2013) vars bok The Meaning of the 21st Century haft stort inflytande på mig, skriver i förordet till Here Be Dragons:
      There is a younger generation (to which I count myself) of scientists, writers and philosophers who share his passionate ambition to think about the future rationally and without fear of overstepping the narrow boundaries of the box of mainstream discourse. Among these, there are many brilliant thinkers, and many whose ideas and writings have influenced this book - too many to be listed here, except for the following four, whose influence on this book has been particularly profound: Nick Bostrom, Robin Hanson, Anders Sandberg and Eliezer Yudkowsky. A quick look at the reference list will give a hint of the extent of their influence, every chapter draws on work by at least one of them, and most chapters by more than one.
    Eller se följande uppslagsord i bokens register:
      Sandberg, Anders iv, 35-36, 43, 54, 75-77, 79-80, 134, 136, 138, 187-188, 197, 199-202, 216-223, 231, 247, 249

  • Triggad av ett par debattinlägg under våren (ett av Martin Ingvar, Christer Sturmark och Åsa Wikforss, och ett svar av Björn Lundberg) fann Bo Sjögren den 31 maj 2016 anledning att, på sin blogg Bosjo Surrar, diskutera den postmodern relativismens intellektuella ohållbarhet. Smickrande nog tar han stöd i en fyra år gammal diskussion mellan mig och Bosse Holmqvist, professor i idéhistoria vid Stockholms universitet, vilken återfinns i mina båda bloggposter Tidskriften Arena till relativismens försvar och Svar från Bosse Holmqvist angående relativismen. Den som tar del av det gamla meningsutbytet med Holmqvist kan inte undgå att notera att det blev en smula irriterat, men jag gillar ändå att bli påmind om det, då det har sina pedagogiska poänger, tack vare att Holmqvist ger ovanligt oförblommerat uttryck för den postmoderna relativismens excesser och galenskaper, i kontrast med hur dess försvarare annars som regel brukar försöka formulera sig mer inlindat och kryptiskt. Bo (Sjögren alltså) kommenterar i sin läsvärda bloggpost meningsutbytet utförligt, och vill tilldela mig "en hög placering i tävlingen om »Understatement of the Year» för år 2012", samt spekulerar över om Holmqvist kan ha slagit "svenskt rekord i att, i en så kort text, tolka in saker och ting som inte finns där".

fredag 10 juni 2016

Förvärrad trafikstockning på mitt nattduksbord

Jag har (som jag tidigare förklarat) för vana att parallelläsa böcker på ett osystematiskt och närmast kaotiskt vis. På mitt nattduksbord finns för närvarande cirka halvdussinet böcker som är att betrakta som pågående läsning, och ytterligare ungefär lika många som är halvlästa och som jag mer eller mindre givit upp hoppet om att fullfölja men inte kommit till skott med att rensa undan. Till denna litterära trafikstockning nödgas jag nu foga ytterligare två böcker, som jag just fått dedicerade exemplar av från respektive författare, vilkas namn båda torde vara välbekanta för trogna läsare av denna blogg. Det rör sig om följande titlar vilka båda omedelbart erhåller hög prioritet på min nuvarande läslista, och jag räknar med att återkomma med en fylligare diskussion av åtminstone en av dem - eller kanske båda - sedan jag läst dem.
  • The Age of Em: Work, Love, and Life When Robots Rule the Earth av Robin Hanson, som är associate professor i nationalekonomi vid George Mason University. Denna unika och mycket efterlängtade bok är författarens sammanfattning av sitt mångåriga arbete med att analysera de långtgående ekonomiska och sociala konsekvenserna av ett teknikgenombrott där vi (innan vi t.ex. hinner förgöra oss själva eller skapa artificiell superintelligens) lär oss att på dator emulera den mänskliga hjärnan och alla dess funktioner. Boken har givetvis beröringspunkter med min egen Here Be Dragons; den är smalare på så vis att den behandlar ett enda relativt specifikt framtidsscenario där jag istället försöker ta mig an ett någorlunda representativt urval, men i gengäld gör han det med ett djup och en detaljrikedom som jag inte kan matcha. Jag vet sedan tidigare att Hanson besitter en enastående analytisk skärpa, och det skulle förvåna mig stort om han med sin nya bok gav anledning att revidera den uppfattningen. (Bryan Caplan låter sig inte imponeras, men Hanson erbjuder svar på tal.)

  • Soccermatics: Mathematical Adventures in the Beautiful Game av David Sumpter, som är professor i tillämpad matematik vid Uppsala universitet. Lagom till EM-slutspelet tar han fotbollen till hjälp i denna populärvetenskapliga framställning, för att med en lång rad exempel påvisa kraften i att använda matematisk modellering till att förstå olika fenomen i den värld vi lever i, något han tidigare med stor framgång praktiserat med tillämpning på exempelvis
      fish swimming among coral in the Great Barrier Reef, democratic change in the Middle East, the traffic of Cuban leaf-cutter ants, swarms of locusts travelling across the Sahara, disease spreading in Ugandan villages, political decision-making by European politicians, dancing honeybees from Sydney, American stock-market investors, and the tubular structures built by Japanese slime mould
    - för att nu citera hans egen uppräkning på sidan 11 i bokens inledning, och nu är turen alltså kommen till fotbollen.

onsdag 8 juni 2016

En skakande text om två övergrepp

Jag hade egentligen tänkt blogga om något helt annat idag, men det får anstå. Jag vill att ni läser den skakande och starka text rubricerad Here Is The Powerful Letter The Stanford Victim Read Aloud To Her Attacker som jag idag blev uppmärksammad på. Om ni fungerar som jag så kan det eventuellt dröja en stund innan ni klarar att återgå till vad det nu var ni höll på med dessförinnan (tentamensrättning råkade det vara i mitt fall), och då kan ni passa på att se följande korta men mycket pedagogiska video som förklarar begreppet samtycke för den som händelsevis råkar ha en lite otydlig uppfattning om vad det egentligen innebär.

söndag 5 juni 2016

Viktig nyhet från The Onion

Alltid läsvärda The Onion levererade en viktig nyhet i förra veckan - särskilt viktig för alla dem som likt mig emellanåt försöker engagera och entusiasmera sina medmänniskor för det ena eller det andra. Dessa försök är nämligen förgäves. För den som missat saken återger jag här deras nyhetsnotis, vilken bär rubriken Report: Nobody Fucking Cares, i dess helhet och utan förskönande ingrepp i dess explicita språkbruk:
    NEW YORK—According to a brief but conclusive report released Monday, nobody fucking cares. “Doesn’t fucking matter,” read the report in part, which went on to inform readers that no one gives two shits, so fuck it. “Seriously. Stop wasting everyone’s goddamn time.” The report further urged those who still hadn’t shut up about it to quit acting like fucking idiots and just give it a rest, for Christ’s sake.