söndagen den 2:e oktober 2011

Angående akademisk frihet: en reservation

Jag har ofta stämt in i den högstämda retorik kring akademisk frihet som ständigt pågår och som flammat upp med extra styrka i samband med SNS-skandalen. För att vi inte skall bli alltför till oss i denna diskussion och få för oss att frågan är enkel, vill jag härmed påminna om en allvarlig komplikation. Låt mig börja med ett fiktivt exempel, hämtat från Eliezer Yudkowskys novell Three Worlds Collide från 2009, här i min sammanfattning.1

Några hundra år in i framtiden träffar mänskligheten för första gången på en utomjordisk civilisation. Under vänkapliga former utbyter vi vetenskapliga erfarenheter med utomjordingarna, och det visar sig att på de områden som både vi och de utforskat råder god överensstämmelse – med ett flagrant undantag. Deras värde på den så kallade Alderson-konstanten, en fundamental naturkonstant inom den del av fysiken som bl.a. ligger till grund för vår förmåga att färdas genom maskhål i rymden, skiljer sig nämligen från vårt med en faktor om cirka tio miljarder. Vidare undersökningar ger vid handen att det är vi som tagit miste. Och ytterligare utredning landar i att det i själva verket inte rörde sig om ett misstag utan om en medveten mörkläggning. De mänskliga pionjärer inom Alderson-fysiken som bestämde konstantens värde upptäckte nämligen att det förde med sig hur enkelt det skulle vara för i princip vem som helst att förvandla Solen till en supernova med hjälp av material som finns i vilken järnaffär som helst. Om denna kunskap blev allmänt känd så skulle det med största säkerhet innebära slutet för mänskligheten och för vår planet, varför de såg sig nödsakade att gömma undan den, och som en del av cover up-arbetet kring detta visade det sig nödvändigt att förfalska värdet på Alderson-konstanten.

Hur mycket jag än instämmer i vetenskapens fria sanningssökande som ett vackert och eftersträvansvärt ideal, och hur mycket jag än tenderar att uppröras av tanken på medveten vetenskapsförfalskning, så klarar jag inte att inför en historia som denna försvara den principiella hållningen fullt ut. Den chef för Institute of Alderson Physics som, likt förre SNS-VD:n Anders Vredin, beordrade sina forskare att hålla käft angående de faktiska resultat som forskningen landade i, handlade enligt min åsikt rätt. Det är min bestämda uppfattning att Vredin gjorde fel när han tystade ned budskapet
    "belägg saknas för idén att konkurrensutsättning och privatisering av välfärd ger effektivitetsvinster",
medan den fiktive IAP-chefen gjorde rätt när han hindrade spridning av
    "så här enkelt kan du bygga det ultimata domedagsvapnet hemma i ditt garage".
Jag hoppas att även den ivrigaste högerekonom kan se en viss skillnad mellan de båda budskapens grad av skadeverkningar. Men om vi ger oss i kast med att undersöka utrymmet mellan dessa båda extremfall kommer någonstans att uppenbara sig en besvärlig gråzon där vi inte med något självklart och oantastiligt kriterium kan avgöra vilka forskningsresultat som bör få spridas fritt och villka som rätteligen bör stoppas.

Så här långt kommen kan jag för mitt inre höra hur delar av läsekretsen protesterar och hävdar att min diskussion är - om uttrycket tillåts - akademisk. Yudkowskys berättelse är ju fiktiv, och i verkligheten kan vi knappast räkna med att ställas inför en så extrem situation. I praktiken (hör jag dessa läsare säga) är det inget problem, utan vi kan lugnt fortsätta hålla den akademiska frihetens fana högt.

Jag håller inte med om denna invändning. Vi har i den moderna vetenskapshistorien redan träffat på flera fall med klart Three Worlds Collide-liknande ingredienser. Det mest kända exemplet är 1940-talets Manhattanprojekt och skapandet av atombomben, vilket omedelbart ledde till bombningarna av Hiroshima och Nagasaki, och därefter till decennier av ständig risk för totalt kärnvapenkrig och en utbredd existentiell ångest.2 Domedagsvapnet kom i det här fallet naturligtvis inte som en blixt från klar himmel, utan som resultatet av ett målmedvetet sökande efter just ett sådant. Ett färskare exempel är sekvenseringen och publiceringen av det fullständiga genomet för det fruktansvärda virus som under namnet spanska sjukan härjade under 1918-1920 och skördade miljoner dödsoffer; se t.ex. van Aken (2007) för en diskussion kring etiken i detta.

Blickar vi framåt så hopar sig frågeställningarna. Det handlar om vad som kan hända den dag AI-forskningen nått så långt att det inte längre är vi människor av kött och blod som står för den högsta intelligensen på vår jord (något jag snuddade vid i min förra bloggpost). Det handlar om nanoetknologi och det så kallade grey goo-scenariot för slutet på vår civilisation. Det handlar om transhumanismen och den gradvisa modifiering av den mänsklig naturen på medicinsk, genetisk och elektronisk väg som vi ligger i startgroparna för eller i viss mån kan anses redan ha påbörjat. Och det handlar om en rad andra frågor av liknande dignitiet, samt inte minst hur dessa interagerar med varandra.

Vi behöver prata om detta. Vilka forskningsområden som prioriteras upp på bekostnad av vilka andra kan ha avgörande betydelse för var mänskligheten till sist hamnar. Kanske finns det avgränsade forskningsområden som rentav kan bedömas som så farliga att de bör förbjudas. Jag kan inte svara på om så är fallet, men vad jag bestämt kan säga är att dessa frågor förtjänar allvarligast möjliga studium. Att istället rycka på axlarna och tycka att vi självklart bör låta forskningen under den akademiska frihetens stolta fana utvecklas fritt och organsikt utan politisk inblandning, är enligt min mening liktydigt med att förespråka att vi med bindel för ögonen och mänsklighetens överlevnad som insats fortsätter att rusa rakt fram i okänd terräng.

Fotnoter

1) Three Worlds Collide är en fantastisk historia med djupa poänger av etikfilosofiskt slag. Vad jag här skall redogöra för är blott en perifer bihandling, kännedom om vilken på intet vis spolierar nöjet att läsa novellen.

2) Det är inte min avsikt att med dessa ord fördöma Manhattanprojektet – jag är väl medveten om att det är en ytterst komplicerad och mångfacetterad fråga att ta ställning till om det var rätt eller fel att genomföra detta. Ända sedan det begav sig har frågan med rätta fortsatt att eka genom samhällsdebatten. Inte minst inom fysikersamhället där man av förklarliga skäl känner ett särskilt ansvar; se t.ex. läsvärda betraktelser av Freeman Dyson (1979), Richard Feynman (1985) och Hans Bethe (1991).

3 kommentarer:

  1. Tycker du har en poäng i att resonera om att finns gränser för för friheten. Grundhållningen bör vara att maximera friheten, men när frihetens konsekvenser hotar frihetens existens har friheten rätt till självförsvar.

    Frihetens självförsvar kan tyckas paradoxal och kan vara svår att avgränsa, men är i praktiken nödvändig.

    Denna tankegång genomsyrar mycket tänkande.
    T.ex. inskränkningar av absoluta individuella rättigheter etc.

    I grunden handlar det om kollektivet av individers rätt mot enskilda individers rätt att utnyttja systemet till att avskaffa de individuella rättigheterna. Ett konkret exempel var nazisterna i Tyskland under 1930-talet.
    Det gäller att skapa institutioner som minimerar risken för detta scenario.

    SvaraRadera
  2. Bill Joy behandlar i någon mening det du tar upp, i sin essä "Why the future doesn't need us" http://www.wired.com/wired/archive/8.04/joy.html

    SvaraRadera
  3. Stina: Ja, det är en viktig uppsats av Bill Joy, banbrytande. Jag nämnde den för övrigt i min förra bloggpost.

    SvaraRadera