Med Claes Strannegård i samtal om framtida artificiell intelligens

I det nyutkomna nr 6/2014 av Göteborgs universitets tidning GU-journalen är jag på sidorna 14-15 intervjuad tillsammans med forskarkollegan och gode vännen Claes Strannegård. Intervjun har rubriken I väntan på de intelligenta robotarna,¹ och följande ingress:

Vad händer när de intelligentaste varelserna på jorden inte längre är vi? Det är en fråga som borde tas på största allvar, menar Olle Häggström, professor i matematisk statistik, och Claes Strannegård, forskare i tillämpad informationsteknologi. Det handlar om AI, det handlar om singularitet, och lite om Darwin också.

Läs hela samtalet här (i pdf-format) eller här (i html).

The interview is also available in English translation.

Jag gillar för övrigt fotot ovan, hämtat från artikeln i GU-journalen. Det är taget på min arbetsplats, just utanför mitt tjänsterum, men känns det inte som att det vilar en Roy Anderssonsk stämning över miljön?

Fotnot

1) OK, det är en sympatiskt Beckett-klingande rubrik, så jag skall väl inte döma ut den totalt, men på sätt och vis talar den tvärt emot det budskap jag helst skulle vilja få fram. De intelligenta robotarnas genombrott kan leda till ofantligt mycket gott, men också helt åt helvete. Vi kan och bör påverka utvecklingen för att maximera möjligheterna till ett gott utfall - tvärtemot tanken att sitta passivt "i väntan på" genombrottet.

Strannegård och Omohundro om artificiell intelligens

Mina två senaste blogginlägg om vart utvecklingen inom AI (artificiell intelligens) kan tänkas vara på väg, rubricerade Stoppa mördarrobotarna (23 april) och Yudkowsky om Singulariteten (6 maj), har till min förtjusning väckt mer diskussion än vanligt i kommentarsfälten. Jag vill gärna smida medan järnet är varmt, och presenterar därför härmed det tredje blogginlägget på kort tid om ämnet.

Jag menar att AI-utvecklingens enorma potential, och de därmed förknippade riskerna, sannolikt är en av mänsklighetens stora ödesfrågor, åtminstone i paritet med (den vida mer uppmärksammade) klimatfrågan. Än så länge är det inte många som håller med om detta, och till och med bland AI-forskarna själva är ointresset för frågan utbrett. Möjligen är en liten vindkantring på gång härvidlag (om det inte handlar om önsketänkande från min sida), som kan exemplifieras med hur min gode vän den kreative AI-forskaren och entreprenören Claes Strannegård nyligen ändrat uppfattning om frågans vikt. Senaste numret av Göteborgs universitets tidskrift GU-journalen ägnar stort utrymme åt en intervju med honom, där vi bland annat kan läsa följande:

Men i science fiction brukar försök att skapa artificiellt liv sluta i katastrof. Bladerunner och 2001 – ett rymdäventyr var filmer som Claes Strannegård tidigare inte tog på så stort allvar. Till i vintras. Då deltog han nämligen i the Winter Intelligence Conference i Oxford.

– Nu känner jag mig lite mer oroad för vissa framtidsscenarier. Tänk dig till exempel en robot som har som enda instruktion att bli så bra som möjligt på schack genom att spela massor av partier. Det låter väl helt fredligt? Men vad skulle hända om någon försökte stänga av roboten eller programmera om den? Då skulle den inte kunna utvecklas som schackspelare vilket skulle gå emot instruktionerna. Eftersom den saknar både folkvett och moral skulle den använda vilka metoder som helst, kanske också brutala, för att förhindra detta. En robot kan alltså vara ond trots att den inte programmerats så. Artificiell intelligens har många fördelar, men om vi inte funderar över de etiska, juridiska och ekonomiska konsekvenserna, tror jag att vi kan bli tagna på sängen.

Även jag deltog i nämnda Oxfordkonferensen, och rapporterade efteråt kort här på bloggen. Om jag förstått Claes rätt så var det framför allt Steve Omohundros föredrag Autonomous technology and the greater human good som gjorde sådant intryck på honom att han började ta de radikala framtidsfrågorna på allvar. Konferensarrangörerna har sent omsider börjat lägga upp sina videoupptagningar av föredragen på nätet, och här är Omohundros bidrag:

Se det! Det är ett sällsynt givande föredrag, som bland annat (med start ca 13:40 in i videon) redogör för det lärorika (men i GU-journalsintervjun alltför korthugget beskrivna) schackdatorexemplet. Även den påföljande diskussionen med frågor från publiken finns med i videon. Sådana frågestunder utgör ofta beklämmande antiklimax på goda föredrag, men den här gången bjöds på ett och annat intressant; se t.ex. Robin Hansons roliga men samtidigt mycket allvarliga och oroande kommentar om hedgefonder (55:20), och Claes Strannegårds fråga strax därefter (56:05, notera gärna yours truly sittandes jämte Claes, till höger i bild). Och läs gärna Omohundros uppsats om samma ämne: Rational artificial intelligence for the greater good.

I Oxford bland AI-forskare och futurologer

I tjugo års tid har jag regelbundet bevistat konferenser i matematik och matematisk statistik. Allra mest spännande var det i början, men med tiden har jag blivit alltmer blasé, och på senare år har jag faktiskt haft det största utbytet då jag valt bort konferenser i mina egna ämnen för att istället hälsa på hos exempelvis miljöekonomer, klimatforskare och filosofer. Häromdagen kom jag hem från den mycket intressanta 5th Conference on Artificial General Intelligence i Oxford. Mötet bjöd på en spännande blandning av två (i någon mån överlappande) kategorier forskare: å ena sidan de som försöker utveckla artificiell intelligens (AI), och å andra sidan de som mer är ute efter att analysera tänkbara samhälleliga konsekvenser av framtida genombrott på AI-området. I den första kategorin hittar vi bl.a. Jonathan Connell från IBM, som visade en härlig videoupptagning...

...av de förståndsgåvor som hans lilla robot visar prov på.¹ I den andra kategorin hittar vi t.ex. Anders Sandberg som höll ett spännande föredrag om etiska aspekter på datoremulering av hjärnor, och Robin Hanson som diskuterade kontraintuitiva scenarier för samhällsutvecklingen i fall att sådan emuleringsteknik slår igenom på bred front. Mycket intressant var också Steve Omohundros föredrag om autonoma system och risker med sådana i ljuset av hans teori för så kallade "basic AI drives".

För den som önskar vifta bort hela AI-området är det blott alltför enkelt att jämföra Connells intelligenta robot anno 2012 med den överdrivna optimism som genom årtiondena ibland ventilerats i AI-kretsar, som t.ex. Herbert Simons oförvägna proklamation från 1965 om att "machines will be capable, within twenty years, of doing any work a man can do". Själv tror jag inte på det tillrådiga i att på dessa billiga grunder avfärda AI. Om vi skall försöka lära oss något av misslyckade förutsägelser om teknikutvecklingen är det bättre att göra det eftertänksamt och balanserat, som Stuart Armstrong gjorde i en av konferensens många höjdpunkter.

Fotnot

1) Gode vännen, resekamraten och medförfattaren Claes Strannegårds presentation av vår studie Transparent Neural Networks faller inom samma kategori.

Fotnotsfetischistiskt formexperiment

Jag gillar som regel att umgås med kunniga och skarpsinniga företrädare för andra ämnen än mitt eget. Just idag har jag höga förväntningar på kvällens planerade middag med logikern och AI-forskaren Claes Strannegård¹, och med moralfilosofen Bengt Brülde. Claes är en gammal bekantskap. Bengt, däremot, har jag inte träffat tidigare², men jag ser fram emot att lära känna honom. Hans forskning kring begreppet lycka och etiska frågeställningar kring detta⁵ verkar väldigt spännande.

Fotnoter

1) Claes har nyligen fått stor uppmärksamhet för ett datorprogram han varit med och utvecklat, som utklassar alla tidigare datorprogram i att prestera bra på IQ-test med frågor av typen "Hur fortsätter talserien 1, 4, 5, 4, ...?".

2) Annat än helt kort på det seminarium³ härom veckan som jag gjorde reklam för här på bloggen.

3) Jag skall inte recensera min egen insats på seminariet, men kan i alla fall säga att jag känner mig nöjd med den stimulerande diskussion som den ganska blandade⁴ publiken bistod med.

4) Där fanns bl.a. filosofer av olika slag, dataloger, matematiker och andra mer svårkategoriserade akademiker.

5) Dock har jag tyvärr ännu inte hunnit läsa någon av hans böcker Lycka och lidande: Begrepp, metod, förklaring från 2007 eller Lyckans och lidandets etik⁶ från 2009 även om den sistnämnda finns i min ägo och i min dessvärre något voluminösa "måste läsa"-kö.

6) Se gärna Johan Norbergs recension av boken, som publicerades tillsammans med Bengts recension av Norbergs Den eviga matchen om lyckan i nr 1/2010 av tidskriften Politisk filosofi. Tillsammans bildar dessa båda recensioner en läsvärd och mångsidig men samtidigt behagligt kort introduktion till lyckoforskningen.⁷ Skriftväxlingen blir särskilt medryckande av att de båda författarna på en rad punkter har divergerande uppfattningar om ämnet, och deras recensioner lästa tillsammans har inslag av höger-vänster-duell, om än på ett betydligt högre och intressantare plan än vad vi som regel brukar serveras i det dagspolitiska käbblet mellan våra politiker och dagstidningarnas ledarskribenter.

7) Ett liknande, och likaledes lyckat, upplägg körde tidskriften Evolution redan 1997 då de i samma nummer lät Richard Dawkins och Stephen Jay Gould recensera varandras böcker.⁸ Rekommenderad läsning!

8) Liksom i fallet med Bengt Brülde och Johan Norberg har de båda evolutionsteoripopulariseringens giganter Dawkins och Gould uppfattningar som starkt går isär på en rad punkter, något som genom åren framkommit gång på gång utöver i de båda recensionerna i Evolution. Mina sympatier i dessa diskussioner tenderar att hamna hos Dawkins⁹, även om jag naturligtvis inser att jag inte besitter den evolutionsbiologiska expertis¹⁰ som gör att jag med någon auktoritet kan agera skiljedomare i detta sammanhang.

9) Jag gillar det mesta som Dawkins skriver, något som dock inte hindrat mig från att gripa in och påpeka när han någon gång är ute och cyklar.

10) Fast låt mig ändå lite skrytsamt meddela att jag för några år sedan publicerade mig i en vetenskaplig tidskrift med namnet Biology and Philosophy. I och med det kan jag åtmistone låtsas ha legitima anspråk på att räknas som såväl biolog som filosof.