onsdagen den 15:e maj 2013

Strannegård och Omohundro om artificiell intelligens

Mina två senaste blogginlägg om vart utvecklingen inom AI (artificiell intelligens) kan tänkas vara på väg, rubricerade Stoppa mördarrobotarna (23 april) och Yudkowsky om Singulariteten (6 maj), har till min förtjusning väckt mer diskussion än vanligt i kommentarsfälten. Jag vill gärna smida medan järnet är varmt, och presenterar därför härmed det tredje blogginlägget på kort tid om ämnet.

Jag menar att AI-utvecklingens enorma potential, och de därmed förknippade riskerna, sannolikt är en av mänsklighetens stora ödesfrågor, åtminstone i paritet med (den vida mer uppmärksammade) klimatfrågan. Än så länge är det inte många som håller med om detta, och till och med bland AI-forskarna själva är ointresset för frågan utbrett. Möjligen är en liten vindkantring på gång härvidlag (om det inte handlar om önsketänkande från min sida), som kan exemplifieras med hur min gode vän den kreative AI-forskaren och entreprenören Claes Strannegård nyligen ändrat uppfattning om frågans vikt. Senaste numret av Göteborgs universitets tidskrift GU-journalen ägnar stort utrymme åt en intervju med honom, där vi bland annat kan läsa följande:
    Men i science fiction brukar försök att skapa artificiellt liv sluta i katastrof. Bladerunner och 2001 – ett rymdäventyr var filmer som Claes Strannegård tidigare inte tog på så stort allvar. Till i vintras. Då deltog han nämligen i the Winter Intelligence Conference i Oxford.

    – Nu känner jag mig lite mer oroad för vissa framtidsscenarier. Tänk dig till exempel en robot som har som enda instruktion att bli så bra som möjligt på schack genom att spela massor av partier. Det låter väl helt fredligt? Men vad skulle hända om någon försökte stänga av roboten eller programmera om den? Då skulle den inte kunna utvecklas som schackspelare vilket skulle gå emot instruktionerna. Eftersom den saknar både folkvett och moral skulle den använda vilka metoder som helst, kanske också brutala, för att förhindra detta. En robot kan alltså vara ond trots att den inte programmerats så. Artificiell intelligens har många fördelar, men om vi inte funderar över de etiska, juridiska och ekonomiska konsekvenserna, tror jag att vi kan bli tagna på sängen.

Även jag deltog i nämnda Oxfordkonferensen, och rapporterade efteråt kort här på bloggen. Om jag förstått Claes rätt så var det framför allt Steve Omohundros föredrag Autonomous technology and the greater human good som gjorde sådant intryck på honom att han började ta de radikala framtidsfrågorna på allvar. Konferensarrangörerna har sent omsider börjat lägga upp sina videoupptagningar av föredragen på nätet, och här är Omohundros bidrag:

Se det! Det är ett sällsynt givande föredrag, som bland annat (med start ca 13:40 in i videon) redogör för det lärorika (men i GU-journalsintervjun alltför korthugget beskrivna) schackdatorexemplet. Även den påföljande diskussionen med frågor från publiken finns med i videon. Sådana frågestunder utgör ofta beklämmande antiklimax på goda föredrag, men den här gången bjöds på ett och annat intressant; se t.ex. Robin Hansons roliga men samtidigt mycket allvarliga och oroande kommentar om hedgefonder (55:20), och Claes Strannegårds fråga strax därefter (56:05, notera gärna yours truly sittandes jämte Claes, till höger i bild). Och läs gärna Omohundros uppsats om samma ämne: Rational artificial intelligence for the greater good.

lördagen den 11:e maj 2013

400 ppm

Media har rapporterat flitigt om saken det senaste dygnet.1 Att den atmosfäriska koldioxidhalten skulle komma att överskrida 400 ppm-nivån2 visste vi redan - den enda osäkerheten handlade om exakt när det skulle ske. Det blev i torsdags som dygnsmedelvärdet av den uppmätta koldioxidhalten vid Mauna Loa på Hawaii första gången överskred 400 ppm, och amerikanska NOAA (National Oceanic and Atmospheric Administration) rapporterade om saken igår fredag. Någon nyhet i egentlig mening handlar det alltså inte om, speciellt som det inte är något magiskt med nivån 400 ppm jämfört med t.ex. 392 ppm eller 415.29 ppm, men saken har ändå ett visst symbolvärde, varför jag väljer att haka på mediarapporteringen. Här är ett diagram över de uppmätta nivåerna på Mauna Loa sedan mätningarna startade 1958:

Notera den årliga sinusliknande variationen (orsakad av asymmetrin mellan norra och södra halvklotet i mängden växtlighet, vilken upptar koldioxid på sommaren och avger på vintern) som ligger överlagrad den långsiktiga ökningen. Notera också att medan ökningen i början låg kring 0,7 ppm/år har den det senaste decenniet snittat omkring det tredubbla. Det här ser inte lovande ut. Det kanske allra intressantaste perspektivet fås då vi kombinerar Mauna Loa-mätningarna med rekonstruktioner av tidigare CO2-nivåer:

Vi ser alltså att vi det senaste halvseklet lämnat alla de nivåer som förekommit under de föregående 800 000 åren långt bakom oss. För att hitta koldioxidnivåer liknande dagens behöver vi backa minst ett par miljoner år. Vi vet att höga koldioxidnivåer tenderar att (via växthuseffekten) ge upphov till höga globala medeltemperaturer,3 vilka vi vet i sin tur tenderar att (via smältning av inlandsisar) ge upphov till havsytehöjning. Ytterligare perspektiv ger det faktum att CO2-ökningen i diagrammet ovan från senaste istidsmaximum för cirka 20 000 år sedan fram till industrialismens början på 1800-talet åtföljts av cirka 120 meters havsytehöjning. Så mycket kan vi inte drabbas av idag, eftersom Antarktis och Grönlands ismassor tillsammans inte räcker till mer än 60 till 70 meters havsytehöjning. Vidare går nedsmältningen långsamt och kan komma att ta uppåt årtusenden, även om vår kunskap på denna punkt är behäftad med stora osäkerheter. Hur det än står till med den saken står det klart att vi med våra hämningslösa koldioxidutsläpp skickat iväg klimatsystemet mot tillstånd där den relativa stabilitet i klimatet som mänskligheten upplevt (och frodats i) de senaste 10 000 åren är i stor fara. Att föröska lägga om kursen är nog en god idé.

Fotnoter

1) Se även Lars Karlssons korta rapport (vars rubrik jag stulit) på Uppsalainitiativet.

2) Förkortningen ppm uttyds parts per million, miljondelar.

3) För mer om sambandet mellan koldioxid och temperatur under istidscyklerna, se mitt gamla Uppsalainitiativet-inlägg Om istider, klimatförändringar och återkopplingar.

fredagen den 10:e maj 2013

Tim Minchin tackar Gud

För några månader sedan lät jag bloggens läsare ta del av en sång av den briljante Tim Minchin. Den gången handlade det om (den dåvarande) påven. Det är hög tid att släppa fram Minchin igen, och den här gången vänder han sig till ännu högre instans. Lyssna och njut!

måndagen den 6:e maj 2013

Rekommenderad läsning: Yudkowsky om Singulariteten

Med Singulariteten menas det hypotetiska men inte otänkbara och kanske inte ens osannolika framtidsscenario i vilket AI (artificiell intelligens) når en nivå där den är bättre än oss människor på att skapa AI, vilket leder till en snabbt eskalerande kaskad av allt intelligentare maskiner, tills de lämnat mänskligheten långt bakom sig, troligtvis med enorma konsekvenser för vår värld. Jag anser att Singulariteten förtjänar långt mer uppmärksamhet än den hittills fått i vetenskap och publik diskussion. Därför har jag skrivit om den en del här på bloggen, och givit en del lästips. Min förstahandsrekommendation har hittills varit David Chalmers utmärkta uppsats The Singularity: A Philosophical Analysis, men se även mina läslistor i bloggposterna Okunnigt om artificiell intelligens och mänsklighetens gränser och Efterlängtat temanummer om singulariteten, samt min recension av James Millers bok Singularity Rising.

Frågan är dock om inte Chalmers får maka på sig från förstaplatsen bland mina läsrekommenadtioner rörande Singulariteten, sedan en av de stora på området, Eliezer Yudkowsky, nu släppt sin nya uppsats Intelligence explosion microeconomics. Yudkowsky är upphovsman till och har i hög grad specialiserat sig på det som kallas Friendly AI - ett mycket svårt men potentiellt extremt viktigt projekt, som handlar om hur vi ser till att en eventuell Singularitet resuterar i en superintelligens som har vårt eget (mänsklighetens) bästa för ögonen och som delar våra värderingar. Den nya uppsatsen handlar om den mer basala frågan om huruvida en Singularitet alls är möjlig. Titeln "microeconomics" syftar här på att kärnfrågan är vad för avkastning en AI får då den satsar kognitiva resurser (tänkande) på att utöka sina kognitiva resurser. Yudkowsky inleder (på s 4-6) med att formulera två välkända men motstridiga argument som landar i diametralt motsatta slutsatser:
    Argument [1]: For most interesting tasks known to computer science, it requires exponentially greater investments of computing power to gain a linear return in performance. Most search spaces are exponentially vast, and low-hanging fruits are exhausted quickly. Therefore, an AI trying to invest an amount of cognitive work w to improve its own performance will get returns that go as log(w), or if further reinvested, log(w + log(w)), and the sequence log(w), log(w + log(w)), log(w + log(w) + log(w + log(w))) will converge very quickly.

    [...]

    Argument [2]: The history of hominid evolution to date shows that it has not required exponentially greater amounts of evolutionary optimization to produce substantial real-world gains in cognitive performance—it did not require ten times the evolutionary interval to go from Homo erectus to Homo sapiens as from Australopithecus to Homo erectus. All compound interest returned on discoveries such as the invention of agriculture, or the invention of science, or the invention of computers, has occurred without any ability of humans to reinvest technological dividends to increase their brain sizes, speed up their neurons, or improve the low-level algorithms used by their neural circuitry. Since an AI can reinvest the fruits of its intelligence in larger brains, faster processing speeds, and improved low-level algorithms, we should expect an AI’s growth curves to be sharply above human growth curves.

Båda argumenten ser i förstone vettiga ut, men (minst) ett av dem måste vara fel: om det andra är rätt kan vi se fram emot en intelligensexplosion, om det första är rätt är en sådan omöjlig. Yudkowsky gör ingen hemlighet av att han tror mer på det andra och på dess slutsats, men han diskuterar i sin 92-sidiga uppsats frågan ur många synvinklar och med imponerande skärpa.

Uppsatsen är sprängfylld av insikter och exceptionellt lärorik - jag rekommenderar den varmt! Särskilt spännande vore om några av de "Singularitetsförnekare" som finns bland mina vänner och i bloggens läsekrets ville läsa den och ge sina reaktioner.

torsdagen den 2:e maj 2013

Introvert intervjuövning

Häggström hävdar har funnits i knappt två år, och har hunnit bjuda på ett par hundra bloggposter av olika slag. Det är uppenbart att blogginnehavaren är en man med flera intressen och en stor uppsättning åsikter som han gärna delar med sig av. Men vem är han egentligen, bakom den lite tillgjorda fasad som bloggen utgör? Något fullständigt svar på den frågan verkar inte gå att få, men vi kommer i alla fall en liten bit på vägen i den intervju han (OH) till min glädje beviljade mig (OH). Vi träffades en vacker aprildag över en kopp kaffe i hans och hans hustrus ljusa och luftiga fyrarummare med utsikt över Slottsskogen i Göteborg.

OH: Du uttalar dig om det ena och det andra på din blogg, men är ganska sparsam med privata detaljer, vilket kan få oss som läser bloggen att ibland undra: vem är du egentligen?

OH: Oj, vad skall jag svara på det... medelålders man, gift, född och uppvuxen i Sverige, akademiker med breda intressen men med min egentliga ämnesmässiga tillhörighet i matematiken och den matematiska statistiken, professor, orädd samhällsdebattör och försvarare av vetenskapligt förhållningssätt, besserwisser skulle nog en del säga, och kanske nörd. Och vad mera? Motionslöpare, schackspelare, bokslukare. Jag försökte mig på ett slags sammanfattning i ett CV jag författade förra året. Jag tycker faktiskt inte att jag är särskilt förtegen om mig själv. Däremot brukar jag försöka vara återhållsam med att i publika sammanhang lämna ut min familj och mina anhöriga. Men även vad gäller den sidan händer det att jag släpper till en smula, som häromåret när jag här på bloggen publicerade det festtal jag nyligen hade hållit till min syster Lisa.

OH: Kan du ändå säga något om din uppväxt?

OH: En tämligen stillsam och snudd på idyllisk medelklassuppväxt, skulle jag nog påstå - inte mycket till material för en dramatisk självbiografi av Jonas Gardellskt snitt är jag rädd.

OH: Men finns det något i din barndom som tydligt pekar framåt mot den akademiska karriär du senare skulle göra?

OH: Jag är lärarbarn och är nog ganska tydligt präglad av det. Jag lärde mig läsa tidigt, läste mycket genom hela uppväxten tror jag, och har alltid fått uppmuntran i mina intellektuella intressen. Jag minns en händelse från lågstadieåren - inte mycket till anekdot, så jag skall inte återge den här, men den visade att jag redan då kände till begreppet universitet och såg det som en självklarhet att jag själv skulle gå vidare dit. Det känns troligt att den studievänliga hemmiljön bidragit till mina senare framgångar, inte bara genom att jag tidigt lärde mig läsa, skriva, räkna, programmera och så vidare, utan också på ett mer psykologiskt plan - jag tänker på den totala självklarhet med vilken jag tagit för mig i den akademiska karriären. Jag kan förresten tillägga att min morfar var professor i matematik, och att jag tidigt klargjorde för mig själv att det var något eftersträvansvärt.

OH: Hade du press på dig?

OH: Nej nej, bara uppmuntran, någon press upplevde jag aldrig. Jag har alltid gjort vad jag velat.

OH: Men du har alltså vetat sedan barnsben att det var matematiker du ville bli?

OH: Nej, det vill jag inte heller påstå. Andra yrkesdrömmar jag närt, under kortare eller längre tider, är, i approximativt kronologisk ordning, dem om att bli rivnadsarbetare, skyltuppsättare, skogshuggare i Läskiga Skogen, tågkonduktör, arkitekt (som min far), astronaut, generalsekreterare i FN, läkare, datatekniker och chef för enorma solkraftverksbyggen i Sahara.

OH: OK. Och om vi går vidare till studieåren och din akademiska karriär...?

OH: Efter avslutad gymnasieskola och militärtjänstgöring gick jag vidare och läste till civilingenjör i elektroteknik. Om jag hade valt helt efter mina intressen hade det nog blivit matematikerlinjen, men jag hade vid den tidpunkten inte helt klart för mig att matematiker var ett "riktigt yrke", och mitt val var påverkat av idén att det nog vore klokt att skaffa sig en yrkesutbildning. Därefter...

OH: Men vänta lite nu, du nämnde ju nyss att din morfar var matematikprofessor...

OH: Ja, det är riktigt. Så vad jag egentligen menar är att jag inte hade klart för mig att matematikerlinjen erbjöd karriärmöjligheter utanför universitetsvärlden. Jag kände mig som 19-åring inte beredd att helt inrikta mig på en akademisk karriär, utan ville ha kvar möjligheten att t.ex. göra något inom näringslivet.

OH: Men någon ingenjörskarriär på Ericsson eller ABB blev det tydligen inte.

OH: Nej, det intresset hann svalna. Istället fortsatte jag efter civilingenjörsexamen direkt med forskarstudier i matematisk statistik. Det valet gjorde jag av helhjärtat intresse, och jag gav mig med liv och lust in i sannolikhetsteorin, vilket snabbt bar frukt. Den akademsika karriären flöt på förbluffande enkelt: efter påbörjade forskarstudier 1991 var jag framme vid disputation och doktorsexamen 1994, och blev professor 2000.

OH: Och därefter har karriären fortsatt spikrakt?

OH: Well, professor är ju den högsta akademiska titeln, så det är inte självklart vad man menar med en fortsatt spikrak karriär därifrån - försåvida inte man bestämmer sig för att växla över till en chefskarriär, men det är jag fortfarande tveksam till om det är rätt väg för mig att gå. (Jag är idag visserligen föreståndare för avdelningen för matematisk statistik vid den för Chalmers och Göteborgs universitet gemensamma institutionen för matematiska vetenskaper, men jag vill nog påstå att det är en chefsbefattning jag tagit på mig mer av pliktkänsla än av längtan efter att göra chefskarriär.) Men framgångarna har i någon mån fortsatt, i form av t.ex. priser och inval i bl.a. KVA och IVA - sådant som brukar betraktas som bekräftelser på att man lyckats bra i sin forskning.

OH: Kan du berätta något om den forskning som ligger till grund för dessa framgångar?

OH: Ja, som jag nämnde så har jag främst sysslat med sannolikhetsteori - slumpens matematik. Mer specifikt handlar mina mest uppmärksammade forskningsinsatser om så kallad perkolationsteori, vilket kort kan beskrivas som den matematiska teorin för spridningsfenomen i oordnade material. Att på litet utrymme och för den matematiskt obevandrade säga så mycket mer begripligt om saken är inte alldeles lätt, så om jag får nöja mig så...?

OH: Ja, jag vet. Men du har ju faktiskt varit ganska produktiv även på det populärvetenskapliga området, så kanske finns det där något du kan hänvisa till för den som vill veta mer?

OH: Ja, i så fall vill jag gärna framhålla min bok Slumpens skördar från 2004, där jag försöker mig på att på ett lättfattligt men samtidigt seriöst sätt visa upp lite olika delar av sannolikhetsteorin. I kapitlet om perkolation kommer jag in på en del av de forskningsgenombrott som jag haft glädjen och turen att medverka till.

OH: "Turen"?

OH: Jag tänker på det här med att befinna sig på rätt plats vid rätt tillfälle, när ett forskningsområde är moget för genombrott. Sådant kan inte förutses med säkerhet, så där finns ett icke oävet moment av tur och otur. Men jag vill inte påstå att ett framgångsrikt val av forskningsområde enbart är en fråga om tur - givetvis spelar gott omdöme och känsla för vilka områden som är utvecklingsbara också stor roll.

OH: Kan vi gå över till att prata lite om din bana som offentlig debattör? Går man tillbaka till arkiven verkar det som om du kom igång med den saken några år efter millennieskiftet, och att du inledningsvis fokuserade på skolfrågor. Kan du säga något om hur detta började?

OH: För en universitetsprofessor ligger det nära till hands att engagera sig i utbildningssystemet som helhet, och jag kände i början av 2000-talet en frustration över vartåt det barkade. Detta vidgade engagemang passade mig utmärkt vid den tiden, eftersom jag började känna en tilltagande otillfredsställelse över den snäva specialiseringen i min matematiska forskning; den tilltänkta publiken för mina matematiska uppsatser bestod typiskt av något hundratal specialister runt om i världen. Att i det läget få ett brev publicerat på DN:s ledarsida, med den tusenfallt större läsekrets det för med sig, var mycket uppmuntrande. I samma veva började jag upptäcka glädjen i att få skriva på mitt modersmål, och i genrer som ger större utrymme för kreativitet i framställningen än vad som är brukligt i vetenskapliga uppsatser. Jag märkte efterhand att jag blev allt bättre på att skriva - ett slags positiv återkoppling som fick mig att vilja skriva mer. Och ämnet - skol- och utbildningsfrågor - var ju väldigt viktigt, liksom det givetvis är än idag.

OH: Men så småningom gick du över till att alltmer diskutera klimatfrågor.

OH: Ja, och här finns en ironi som slagit mig efteråt och som jag gärna vill nämna. När jag började skriva om utbildningsfrågor gjorde jag det med övertygelse om att området visserligen var väldigt viktigt, men att det på sikt och på sin höjd kunde röra sig om det näst viktigaste området för politisk diskussion. Jag hade nämligen länge insett att frågan om klimatförändringarna skulle bli allt viktigare i takt med att vi pumpade ut alltmer fossilt kol i atmosfären, för att vid någon svårbestämd tidpunkt i framtiden bli akut. Men jag avhöll mig från större engagemang i klimatfrågan eftersom jag trodde att det skulle vara alltför plågsamt - att det skulle tynga ned mitt sinne att dagligen fundera över de framtidsutsikter som (så länge de politiker som sitter med den avgörande makten är så obenägna till verkligt kraftfulla åtgärder) trots allt är ganska dystra. Det visade sig emellertid, när jag kring 2006/2007 så sakteliga började ta mig an klimatfrågan, att jag inte fann det alls särskilt plågsamt eller psykiskt påfrestande att befatta mig med den.

Och här kommer ironin i det hela: i samma veva som jag till slut började skriva om klimatfrågan blev jag varse att det finns ett knippe andra frågor kring emergenta teknologier (inklusive transhumanism och Singulariteten) som på sikt är av om möjligt ännu större vikt än klimatfrågan, bland annat genom att den Armageddon-risk de bidrar med förefaller större. Det verkar nästan som om jag har en tendens att hela tiden fokusera på det näst viktigaste!

OH: Ja, det var ju en smula ironiskt. Och nu när du har börjat ta dig an transhumanismen och Singulariteten kanske man kan vänta sig att det dyker upp något ännu större och viktigare någonstans borta vid horisonten?

OH: Så kan det kanske bli.

OH: En uppenbar skillnad mellan dessa teknikutvecklingsscenarier och klimatfrågan är att den senare har ett hyggligt utrymme i mainsreammedia, medan de här emergenta teknologierna och deras risker fortfarande i stort sett lyser med sin frånvaro i diskussionen. Hur ser du på det?

OH: Så är det. Detta gör transhumanism och liknande frågor ännu viktigare att diskutera - de måste ju upp på bordet innan vi råkat låsa in oss i någon utveckling vi egentligen inte önskar! Men det gör också diskussionen svårare, på så vis att den för den oindvigde lätt framstår som kufisk science fiction. Men jag har börjat så smått, mestadels här på bloggen. Även inom detta område trodde jag initialt att det var något jag för mitt eget välbefinnandes skull borde undvika, men även här visade det sig att jag klarar att intellektuellt befatta mig med svåra och ibland apokalyptiska scenarier utan att må dåligt av det. En sens moral av detta är kanske att det är bättre att ta tjuren vid hornen och ta itu med de svåra frågorna, hellre än att låta dem mala diffust och obehagligt i bakhuvudet.

OH: Men vi kanske bör vara försiktiga med att generalisera och ta för givet att en psykologisk lärdom som fungerar för dig fungerar likadant för andra?

OH: Givetvis.

OH: Från det ena till det andra. Under 00-talet uppträdde du flitigt i olika tidningar och tidskrifter, men du dröjde ganska länge med att börja blogga.

OH: Häggström hävdar startade jag sommaren 2011, men vid det laget hade jag redan bloggat relativt regelbundet i ett par år på den klimatvetenskapligt inriktade kollktiv- och folkbildningsbloggen Uppsalainitiativet. Innan dess hade jag något slags föreställning om att bloggar inte var lämpade för seriös diskussion, och att inlägg i samhällsdebatten inte riktigt räknades om de inte var publicerade i någon konventionell pappersburen tidning eller tidskrift. Det krävdes en del övertalning från det ursprungliga UI-gängets sida för att få mig att hoppa på, men jag är väldigt glad att de lyckades! Det har varit väldigt intressant och lärorikt, och jag sätter stort värde på umgänget (oftast nätburet, men vid enstaka tillfällen IRL) och kamratskapen med mina medbloggare.

Men det finns ju som sagt mycket annat att skriva om än klimatfrågan, och till slut kände jag att jag ville ha ett forum där jag kunde skriva om vilka frågor jag ville, och som jag behärskade helt själv. Därav Häggström hävdar. Den utlösande faktorn blev terrordåden i Norge: bloggen sjösattes ett par dagar efter Utøya, som ett bidrag till den allmänna "vi tänker inte låta oss tystas"-stämning som bredde ut sig. Men bloggen hade alldeles säkert kommit till ändå, även om det kanske hade dröjt några månader. Jag skriver fortfarande en del i olika tidskrifter (och naturligtvis på Uppsalainitiativet), men mycket av skrivandet har jag flyttat över till Häggström hävdar. Det är som sagt skönt att ha en egen kanal som jag behärskar helt själv, utan några redaktörers synpunkter om att hålla sig kort eller att undvika formler och svåra ord.

OH: Är du nöjd med hur Häggström hävdar har utvecklats? Motsvarar den dina förväntningar?

OH: Det är inte så lätt att i efterhand komma ihåg hur jag föreställde mig att bloggen skulle bli, men jag känner mig rättså nöjd med hur den faktiskt har blivit. Jag tycker att jag har fått till en lagom mix av högt och lågt, kort och långt, humor och allvar, och olika ämnen som hyfsat passar in på underrubrikens "synpunkter på samhällsfrågor, litteratur och vetenskap". En farhåga jag minns var att jag efter kanske hundratalet bloggposter skulle börja få svårt att hitta uppslag till nya, men någon sådan avmattning syns ännu inte på horisonten. Det kan hända att jag så småningom minskar på takten av publicerade inlägg, men det kommer då i så fall troligtvis att mer bero på tidsbrist än på bristande inspiration.

En annan farhåga var att den otrevliga svans av klimatförnekarhuliganer (besläktad, och inte så lite överlappandes, med den mobb av invandrarfientliga och misogyna näthatare som nyligen diskuterats i mainstreammedia) som vi dragits med på Uppsalainitiativet skulle följa med över till Häggström hävdar, men så har det i stort sett inte blivit. Överhuvudtaget har det varit väldigt sällsynt med kommentarer jag behövt avvisa. Jag tycker att jag haft en trevlig och hanterbar ström av kommentatorer, med en oftast stimulerande mix av anhängare och meningsmotståndare. Det är klart att jag gärna skulle vilja ha lite fler läsare - inte bara av narcissistisk uppmärksamhetstörst, utan för att jag faktiskt anser mig ha ett och annat viktigt att säga. Besöksstatistiken ligger kvar på den nivå kring i genomsnitt 350 sidnedladdningar om dagen som jag hade då jag rapporterade om saken i oktober och (lite skämtsamt) hoppades på en fortsatt exponentiell tillväxt.

OH: Du nämner klimatförnekarhuliganerna, men även du har ju ofta en rättså tuff debattstil, där du inte drar dig för att anklaga andra för intellektuell ohederlighet och rena lögner. Det verkar som om ganska många reagerar negativt på detta, och du har väl till och med lyckats dra på dig en och annan ovän. Vill du kommentera detta?

OH: Ja, jag håller med om att jag ofta kör med raka puckar i debatten, men jag vill verkligen värja mig mot jämförelsen med klimatförnekare. Jag är - till skillnad mot dem - noga med att det jag säger är sakligt välgrundat. När en skamlös vetenskapsförnekare som Lars Bern under hösten 2008 får praktiskt taget fri tillgång till SvD Brännpunkt, och använder denna till att rada upp missförstånd och rena lögner om det klimatvetenskapliga kunskapsläget, och när jag sedan påpekar att han ljuger, så får plötsligt jag en massa bannor för högt tonläge och för en osaklig debatt. Detta menar jag är helt orimligt, och ett klockrent fall av att skjuta budbäraren. Vi kan inte ha etikettsregler för debatter där det är tillåtet för den ene att förvanska sanningen men otillåtet för den andre att påtala det. Men, undrar kanske någon, kan jag inte uttrycka mina invändningar mer diplomatiskt? Ibland är det säkert möjligt, men det finns en avvägning mellan diplomati och tydlighet - om man lindar in ett budskap i lager på lager av diplomatisk fetvadd, så syns till slut inte själva budskapet. I denna avvägning brukar jag prioritera tydlighet, helt enkelt av det skälet att om jag inte når fram med mitt budskap ser jag ingen poäng med att alls yttra sig. Sedan skall jag väl inte sticka under stol med att jag blir moraliskt indignerad när folk förvränger det vetenskapliga kunskapsläget - något jag antar skiner igenom ibland.

Det är i klimatdebatten som jag allra tydligast har råkat ut för den här problematiken, men den går igen även på andra områden. Religionsdebatten är ett uppenbart exempel. Det blir lätt upprörda känslor när jag tar mig friheten att påpeka orimligheten i specifika trosföreställningar, men jag vägrar godta en etikettsregel som inte tillåter sådana påpekanden. Den som inte tål att få sina uppfattningar ifrågasatta - oavsett om det handlar om religiös tro eller något annat - får hålla dem för sig själv.

Jag är klar över att inte alla gillar min debattstil, inte minst då jag ju då och då får påpekanden om det. Men jag trivs med den jag är och vill inte anpassa mig till den påbjudna tassa på tå-stilen. Även på Häggström hävdar händer det att en eller annan kommentator uttrycker sitt ogillande. Verkligt liv i luckan blev det när jag för några månader sedan bloggade om den dåvarande påven Joseph Ratzingers avgång. Ratzinger har (som bekant) gjort sig skyldig till mycket ont, och mina tankar om honom och hans moral är väldigt låga. Som ett litet uttryck för det släppte jag i bloggposten fram en video med komikern Tim Minchin, som fokuserade specifikt på en av Ratzingers illgärningar: hans sätt att hantera pedofilskandalerna i den katolska kyrkan. Minchins sång kan ytligt sett framstå som barnslig och dum, med uppåt hundratalet upprepningar av ordet "fuck" i olika böjningar och sammansättningar. Men det är i själva verket en mycket intelligent sång som bär på ett viktigt budskap och som gör det med eleganta stilbrott och en lekfull hantering av att ordet i engelskan har två olika betydelser: det kan ju användas både som allmänt negativt förstärkningsord, och i betydelsen samlag. Hur som helst, det var flera kommentatorer som tyckte att jag med publiceringen av Minchins video gått över gränsen för det anständiga samtalet. Sedan jag svarat en av dessa kommentatorer med att helt enkelt återge fyra i sammanhanget utmärkt passande rader ur sången (inklusive sex förekomster av ordet "fuck") var det någon som blev så upprörd att han eller hon hörde av sig till min arbetsgivare (Chalmers) med påpekande om att en av deras professorer beter sig illa offentligt, och hopp om att jag skulle utsättas för något slags disciplinär åtgärd eller åtminstone en åthutning. Vilket såklart inte skedde.

OH: Kan det vara så att en eller annan katolik kände sig påhoppad av bloggposten?

OH: Ja, så vet jag i själva verket att det var. Men det är en alldeles orimlig tolkning att min bloggpost skulle rikta sig mot katoliker i allmänhet. Både min bloggpost och Minchins sång är mycket tydliga med att kritiken handlar specifikt om Joseph Ratzinger. Jag kan inte gärna ta hänsyn när jag skriver till risken att kreti och pleti genom vantolkning av vad jag skrivit känner sig påhoppade.

OH: Är du ateist?

OH: Jag tror inte på Gud, och därmed är det väl berättigat att säga att jag är ateist. Men det slarvas väldigt mycket med definitioner på detta område, vilket lett till ofantliga mängder förvirring. Vad menar vi t.ex. med "Gud"? Här kan man... vad tycker du, får jag lov att citera mig själv, eller riskerar jag att framstå som egenkär?

OH: Du gör det naturligtvis på egen risk, men var så god!

OH: I ett föredrag från 2010 om naturvetenskapens världsbild som jag året efter publicerade här på bloggen preciserade jag min bristande Gudstro på följande vis:
    Håller jag Guds existens för helt utesluten? För att svara på det måste jag begära en närmare definition av vad som menas med Gud. Om ni menar den Gud som det står om i Bibeln - den person av manskön som skapade världen på sex dagar, som har detaljerade synpunkter på vad vi får göra bakom sovrummets dörrar (även med samtyckande vuxna), som utsatte Abraham för ett sadistiskt spratt och så när fick denne att ta livet av sin son Isak... den Gud som skickade sin egen son (som på något outgrundligt vis också är han själv) att korsfästas och torteras för att befria oss från våra synder - om det är den Guden ni menar, så måste mitt svar bli att, ja, den Guden är så långsökt och konstig att jag i brist på evidens håller hans existens för utesluten. Eller i alla fall nästan utesluten - om övertygande evidens för hans existens skulle dyka upp så är jag nog beredd att ändra mig. Så låt mig säga så här: jag håller hans existens för att vara lika utesluten som tanken att månen består av grönmögelost: om det faktiskt visar sig att månen är gjord av grönmögelost så är jag beredd att böja mig för det, men jag finner ingen som helst anledning att vänta mig att någon sådan bevisning skulle dyka upp.

    Å andra sidan är det ju inte alla troende (låt oss för enkelhets skulle hålla oss till kristendomen) som är bokstavstroende på detta vis. Det ena efter det andra i Bibeln kan man ju, med bibehållen gudstro, hävda är metaforer av olika slag, och backa allt längre (så som jag uppfattar att t.ex. KG Hammar gör) från den konkreta gudsbild som presenteras i Bibeln mot en allt mer abstrakt. Efter riktigt långt backande återstår bara att man tror på "något slags högre makt", eller rentav på "något". Ju längre man backar mot det abstrakta och diffusa, desto mindre utesluten finner jag guden ifråga. Och någonstans på denna diffusa glidande skala finns väl någon punkt (som jag dock inte kan precisera då sammanhanget som sagt är så diffust) där jag inte längre kan säga mycket mer än "ingen aning, om det är detta du menar med Gud så kan väl Gud gott existera". Men å andra sidan, ju mer man sedan tillfogar om att Gud bryr sig om vad vi människor har för oss, vill oss väl, ingriper via bönhörelse, erbjuder ett liv efter detta, etc, desto mer långsökt och osannolik framstår i mina ögon teorin om hans existens.

OH: Om jag får lov att återknyta till din barndom och uppväxt, så undrar jag om denna ateism är något du fått med dig hemifrån, eller är den något du kommit fram till i mer vuxen ålder?

Givetvis har jag som vuxen utvecklat och nyanserat min syn i dessa frågor, men icke-tron på Guds existens går långt tillbaka. Jag fick samma fråga för några år sedan i något socialt akademiskt sammanhang. Mitt svar då blev att jag varit ateist sedan jag var fyra, varpå filosofen Jeanette Emt reptilsnabbt levererade följdfrågan "Vad var du innan dess?". Det minns jag inte, men jag kan förklara varför jag minns att jag var ateist (även om jag såklart inte kunde det ordet) så tidigt, och jag tror att episoden jag nu skall återberätta säger något om andan i det hem jag växte upp i. Att jag tvärsäkert säger att jag bara var fyra beror på att minnet utspelar sig i Västervik, som vi flyttade ifrån innan jag fyllt fem.

Hur som helst, mormor och morfar var på besök, och min mormor och min far var inbegripna i ett slags teologisk diskussion, där mormor (som jag har för mig var medlem i Fredrika Bremer-förbundet) hävdade att Gud var kvinna, och far (som inte ville backa för en skämtsam dispyt med sin svärmor) insisterade på den mer traditionella uppfattningen att Gud var en man. Jag lyssnade fascinerat, och uppfattade (helt korrekt) den raljanta andan i diskussionen som att Gud var en fiktiv och lite löjlig varelse som det gällde att rekrytera till en kategori man själv tillhörde, varför jag klev in i samtalet med kungörelsen "Jag tror att Gud är ett barn!".

OH: Skojigt, även om jag känner mig en smula skeptisk till tillförlitligheten i så tidiga minnen. Men på tal om ateism, vad säger du om den uppfattning som bl.a. Göran Rosenberg är så förtjust i att torgföra - att ateism är en religion bland andra?

OH: Det var en kommentator på bloggen nyligen som framförde just den uppfattningen. Jag har inte mycket till övers för den. Kommentatorn menade att ateister är religiösa i kaft av att "hävda något som vi inte kan veta". Detta synes mig vara en ytterst olämplig definition av religion. Det finns väldigt lite (eller möjligen inget alls) som vi kan veta säkert. Vi kan t.ex. inte veta att våra sinnesintryck svarar mot en extern fysisk verklighet, men vi går ändå omkring och tror saker om denna fysiska verklighet. Det måste vi, ty annars blir vi inte långlivade. T.ex. tror jag, när jag står i begrepp att korsa gatan men ser något lastbilsliknande komma farande i vänstra delen av mitt synfält, att det faktiskt är en lastbil på gång, och jag aktar mig noga för att kliva ut i gatan framför den. Ett insisterande på att denna trosuppfattning skulle göra mig till religiös menar jag tömmer begreppet religiös på all mening. Eller ta det här med Russells tekanna. Om du frågar mig huruvida jag tror att det finns en tekanna av porslin som kretsar kring Solen i en elliptisk bana någonstans mellan Jordens bana och Mars, så svarar jag "Nej, någon sådan tekanna tror jag inte finns. En så långsökt tanke som existensen av en sådan tekanna behöver du presentera evidens för om jag skall tro på den; tills dess avvisar jag idén om dess existens". Gör detta mig till en religiös person? Knappast. Lika lite gör det mig till en religiös person att jag avvisar (den minst lika långsökta) tanken om Jahves existens.

Filosofen Åsa Wikforss gör i senaste numret av Sans ett intressant påpekande om ett språkligt förhållande som kan ligga till grund för extra stor förvirring i svenskspråkig diskussion på detta område. Engelskans "belief" motsvaras vanligen på svenska av ordet "tro", men "tro" bär på associationer till religiös tilltro och tro utan evidens, som "belief" saknar eller i alla fall inte har i lika hög grad. En exaktare översättning av "belief" vore det något otympliga "försanthållande", medan trosuppfattningar åt det mer religiösa hållet på engelska brukar kallas "faith". Denna användning av svenskans "tro" gör att det uppstår en skenbar symmetri mellan "tro på Jahve" och "tro att Jahve inte existerar". Symmetrin är skenbar därför att "tro" i det första fallet är en evidentiellt ogrundad tilltro som därför förtjänar att kallas religiös, medan "tro" i det andra fallet bygger på den sunda principen att man inte bör tro på existensen av långsökta ting som alldeles saknar evidentiellt stöd.

OH: Jag är böjd att hålla med dig - tack så mycket för dessa klargöranden! Jag tror att vi nu har material som räcker till en längre bloggpost. Om sanningen skall fram så är det väl egentligen inte så många av dina svar som jag inte kunnat gissa på förnhand, men jag kan tänka mig att här ändå finns rättså mycket som är nytt för stora delar av bloggens läsekrets.

OH: Tack själv! Men vill du inte stanna på en tretår?

OH: Ja tack, gärna! Så kan vi fortsätta diskutera lite mer off the record. Jag har t.ex. länge funderat över din bloggpost från januari 2012 om teleportering. Där försvarar du till synes tvärsäkert vad jag tror brukar kallas en deflationistisk syn på medvetandets kontinuitet och personlig identitet, men som åtminstone i förstone känns väldigt kontraintuitiv. Är du verkligen fullt så säker på dessa saker som du i bloggposten ger intryck av?

OH: Off the record?

OH: Ja.

OH: ...

söndagen den 28:e april 2013

Katrine Kielos om vad som är den mest centrala frågan i hela klimatdebatten

Att vara kultur- och ledarskribent är nog inte alldeles lätt - särskilt inte om man har ambitionen att bidra med något nytt i debatten snarare än att bara apa efter vad andra skriver, och om man samtidigt har deadlines och produktivitetskrav hängande över sig. Då riskerar man att behöva släppa ifrån sig även mindre lyckade texter vilkas resonemang vid närmare eftertanke inte visade sig gå ihop. Ett exempel på en sådan är enligt min mening Katrine Kielos Klimatförändringen är en man, i DN häromdagen. Jag gissar att hon hade åtagit sig att för DN:s artikelserie Min stund på jorden anlägga genusaspekter på klimatfrågan, och alltför sent upptäckt att det mest bara blev ett sammelsurium av floskler om kvinnlig passivitet och självuppofring kontra mandom, mod och morske män. Jag skall inte fördjupa mig i hennes text, annat än att ge min reaktion på hennes avslutande punchline:
    Vad "en riktig man" är och inte är, kan faktiskt vara den mest centrala frågan i hela klimatdebatten.
Va? Kan det vara så? Knappast. Jag vill inte påstå att jag säkert kan svara på vad som är "den absolut mest centrala frågan i hela klimatdebatten", men en stark kandidat är
  • Hur skall vi kunna åstadkomma en minskning av våra globala växthusgasutsläpp?
Hur som helst är den alldeles bestämt mer central för klimatdebatten än Kielos förslag "Vad är en riktig man?", och jag har inga som helst problem att komma på fler frågor med samma egenskap, inklusive följande, icke rangordnade, lista.
  • Hur skall världens fattiga länder kunna lyfta sig ekonomiskt utan att det leder till en klimatkatastrof?
  • Hur bör vi väga våra omedelbara intressen mot kommande generationers, och vilken diskonteringsränta bör vi ansätta för att återspegla denna avvägning?
  • Är det bara för deras förmåga att generera ekonomisk vinning för oss människor som vi bör bevara ekosystem och biologisk mångfald, eller har vi en skyldighet som går utanpå detta att förvalta Jorden Vi Ärvde?
  • Hur stor är koldioxidens klimatkänslighet?
  • Hur mycket ytterligare uppvärmning har vi genom de utsläpp vi redan gjort intecknat oss för?
  • Hur mycket uppvärmning tål vår planet utan att sätta igång en irreversibel nedsmältning av Grönlandsisen som på kanske bara några få århundraden kan leda till sex meters höjning av havsytan?
  • Hur skall vi få den amerikanska kongressen att ta klimathotet på allvar?
  • Koldioxidskatt eller handel med utsläppsrätter - vilket system är bäst?
  • Hur bör vi göra med kärnkraften - går det att hejda klimatförändringarna utan att ta hjälp av den?
  • Är det möjligt att kraftigt bygga ut produktionen av biologiska drivmedel utan att det går ut över världens matproduktion och skapar svält?
  • Är det rimligt att vi fortsätter äta kött?
  • I vad mån riskerar växthusgasutsläpp från den tinande tundran att accelerera uppvärmningen?
  • Hur stor är den samlade klimateffekten av våra aerosolutsläpp?
  • Har de internationella förhandlingarna om minskade utsläpp gått så dåligt så länge att det är dags att på allvar ta upp frågan om geoengineering?
  • Hur skall vi hantera framtida klimatförändringsrelaterade flyktingströmmar?
  • Är det OK att rika länder genom bistånd till klimatåtgärder i fattiga länder "köper sig fria" från att behöva göra åtgärder på hemmaplan?
  • Hur stor uppvärmning tål regnskogarna?
Etc. Jag skulle med lätthet kunna fortsätta listan tills jag kommer upp i ett tresiffrigt antal frågor som alla är mer centrala än Kielos förslag. Jag påstår inte att "Vad är en riktig man?" skulle vara en ointressant fråga - alls inte - men i klimatdebatten är den trots allt tämligen perifer.

tisdagen den 23:e april 2013

Stoppa mördarrobotarna!

Tal om framtida robotteknik kan frammana radikalt olika bilder. Å ena sidan hjälpsamma butler- och hemtjänstrobotar i stil med dem som AI-forskare vid Örebro universitet försöker utveckla - sådana kan vi nog få stor nytta av. Å andra sidan... jag gissar att stora delar av läsekretsen har sett någon av Terminator-filmerna, och därmed bekantat sig med idén om en möjlig framtid där robotar far omkring och tar kål på oss människor. Jag tror att vi kan vara tämligen ense om att en sådan framtid full av mördarrobotar är något vi helst bör undvika - så låt oss försöka se till att den inte uppkommer! Här kanske någon invänder att Terminator-scenariet enbart är pojkrumsaktig science fiction och därmed knappast något vi behöver oroa oss över. I beg to differ.

Det är hög tid att börja oroa sig. Jag har tidigare här på bloggen skrivit om militär användning av drönare - obemannande flygplan. De drönare som den amerikanska militärmakten redan idag använder sig av är fjärrstyrda av mänskliga piloter, men utvecklingen går snabbt i riktning mot ökad autonomi hos flygplanens datorsystem.

Idag den 23 april hålls en hearing i det brittiska parlamentet i samband med lanseringen av Campaign to Stop Killer Robots. En av kampanjens initiativtagare är Noel Sharkey, professor i artificiell intelligens och robotik vid University of Sheffield och ordförande i ICRAC (International Committe for Robot Arms Control), som för några veckor sedan skrev, i en debattartikel på CNN:s webbplats, att det är dags för ett förbud - Ban the killer robots before it's too late! Läs den! Den tekniskt och teoretiskt intresserade läsaren rekommenderas också ta del av Steve Omohundros uppsats Rational artificial intelligence for the greater good (och hans övriga arbeten om samma ämne), för att få en uppfattning om de enorma svårigheter som ligger framför oss när det gäller att kontrollera allt mer autonoma datorsystem.

Jag vill också uppmana de läsare som delar min oro och som tycker sig platsa i kategorin "Computer Scientists, Engineers, Artificial Intelligence experts, Roboticists and professionals from related disciplines" att (liksom jag) skriva på ICRAC:s upprop för ett förbud mot utveckling och spridning av teknologi för vapensystem där besultet att använda våld sker autonomt, dvs utan att någon människa behöver trycka på knappen. Jag citerar ur uppropet:
    We are concerned about the potential of robots to undermine human responsibility in decisions to use force, and to obscure accountability for the consequences. There is already a strong international consensus that not all weapons are acceptable, as illustrated by wide adherence to the prohibitions on biological and chemical weapons as well as anti-personnel land mines. We hold that fully autonomous robots that can trigger or direct weapons fire without a human effectively in the decision loop are similarly unacceptable.

    [...]

    Given the limitations and unknown future risks of autonomous robot weapons technology, we call for a prohibition on their development and deployment. Decisions about the application of violent force must not be delegated to machines.

Det kan mycket väl komma en dag då vi inte längre har något förnuftigt (eller annat) alternativ till att lägga över stora och livsviktiga beslut på maskiner. Tills vidare bör vi dock gå väldigt försiktigt fram, och mördarrobotar är enligt min mening snudd på sämsta möjliga val av område för spjutspetsteknologisk tillämpning av autonoma system.1

Fotnot

1) Detta bör dock inte förstås som att om vi blott undviker militära och andra våldstillämpningar, och håller oss enbart till snälla tillämpningar (som ovan nämnda forskning i Örebro) så är allt automatiskt frid och fröjd. En av poängerna med ovan rekommenderade uppsats av Omohundro (en poäng som i skönlitterär form också görs exempelvis i Greg Egans novell Steve Fever och i Alex Proyas film I, Robot) är att även till synes harmlösa uppgifter kan, om vi tilldelar dem åt tillräckligt avancerade autonoma system, ge upphov till oväntade och i högsta grad oönskade beteenden.