fredag 14 december 2012

I Oxford bland AI-forskare och futurologer

I tjugo års tid har jag regelbundet bevistat konferenser i matematik och matematisk statistik. Allra mest spännande var det i början, men med tiden har jag blivit alltmer blasé, och på senare år har jag faktiskt haft det största utbytet då jag valt bort konferenser i mina egna ämnen för att istället hälsa på hos exempelvis miljöekonomer, klimatforskare och filosofer. Häromdagen kom jag hem från den mycket intressanta 5th Conference on Artificial General Intelligence i Oxford. Mötet bjöd på en spännande blandning av två (i någon mån överlappande) kategorier forskare: å ena sidan de som försöker utveckla artificiell intelligens (AI), och å andra sidan de som mer är ute efter att analysera tänkbara samhälleliga konsekvenser av framtida genombrott på AI-området. I den första kategorin hittar vi bl.a. Jonathan Connell från IBM, som visade en härlig videoupptagning...

...av de förståndsgåvor som hans lilla robot visar prov på.1 I den andra kategorin hittar vi t.ex. Anders Sandberg som höll ett spännande föredrag om etiska aspekter på datoremulering av hjärnor, och Robin Hanson som diskuterade kontraintuitiva scenarier för samhällsutvecklingen i fall att sådan emuleringsteknik slår igenom på bred front. Mycket intressant var också Steve Omohundros föredrag om autonoma system och risker med sådana i ljuset av hans teori för så kallade "basic AI drives".

För den som önskar vifta bort hela AI-området är det blott alltför enkelt att jämföra Connells intelligenta robot anno 2012 med den överdrivna optimism som genom årtiondena ibland ventilerats i AI-kretsar, som t.ex. Herbert Simons oförvägna proklamation från 1965 om att "machines will be capable, within twenty years, of doing any work a man can do". Själv tror jag inte på det tillrådiga i att på dessa billiga grunder avfärda AI. Om vi skall försöka lära oss något av misslyckade förutsägelser om teknikutvecklingen är det bättre att göra det eftertänksamt och balanserat, som Stuart Armstrong gjorde i en av konferensens många höjdpunkter.

Fotnot

1) Gode vännen, resekamraten och medförfattaren Claes Strannegårds presentation av vår studie Transparent Neural Networks faller inom samma kategori.

10 kommentarer:

  1. Den där artikeln av Omohundros var verkligen läsvärd! Jag är inte minst mycket intresserad av de psykologiska och filosofiska synpunkterna på våra och robotarnas viljor och värderingar.

    Kul robotdemonstration också. Har du någon info om när det kan gå att köpa robotar med sådan funktionalitet?

    SvaraRadera
    Svar
    1. Jonathan Connell fick faktiskt en fråga om huruvida han säljer sådana robotar, men, nej, det gör han inte. I princip finns ju inget som hindrar serietillverkning och försäljning av sådana redan idag, men det behöver ju finnas en marknad också. Jag vet inte.

      Radera
  2. Olle räknas det som AI? http://www.maths.bris.ac.uk/~maxsv/essay/
    Där använder man även (enkel) sannolikhetsteori...

    SvaraRadera
  3. Jag kan inte låta bli att kommentera när AI kommer på tal. För mig som programmerar är AI otroligt löjeväckande, att tro att man med for och if-satser kan skapa artificiell intelligens. Jag förstår inte varför kopplingen dator -- mänsklig intelligens överhuvudtaget uppstått.

    Varför tror vissa att en räknemaskin kan artificiellt emulera vår hjärna?

    SvaraRadera
    Svar
    1. Samma problem som du har med for- och if-satser, Stina, hade Leibniz med materiens minsta beståndsdelar:

      "One is obliged to admit that perception and what depends upon it is inexplicable on mechanical principles, that is, by figures and motions. In imagining that there is a machine whose construction would enable it to think, to sense, and to have perception, one could conceive it enlarged while retaining the same proportions, so that one could enter into it, just like into a windmill. Supposing this, one should, when visiting within it, find only parts pushing one another, and never anything by which to explain a perception."

      En reduktionistisk syn på perception och kognition kan förefalla intuitivt svårsmält, men vad är i så fall alternativet?

      Radera
  4. Att vi lever i en simulering?
    http://www.simulation-argument.com/simulation.html

    SvaraRadera
    Svar
    1. Mycket riktigt träffade jag även Nick Bostrom i Oxford. Jag gillar hans simuleringsargument och finner det värt att ta på allvar även om jag inte blir övertygad om slutsatsen.

      Radera
    2. Precis som du är jag också tveksam om slutsatsen. Men du påstår att man i någon mening kan tillämpa en reduktionistisk syn på perception och kognition och hamna på ...vadå? Jag tror, med betoning på tror, att vi inte kan reducera ner intelligens till for- if- utan till något annat, som jag respektlöst anser att datalogin borde ägna sig åt istället för att "hitta på" nya sätt att sortera en array.

      Radera
  5. Anders Lundberg i Årsta27 januari 2013 22:07

    Samma problem gäller ju egentligen t ex "rödhetens utseende". Det finns ingen väg med kausala förklaringar som leder till att förklara varför rött ser ut så som det gör, lika lite som det går att svara på frågan "varför existerar jag just här just nu" annat än "därför att du gör det" för ingen kausal kedja ger svaret på varför du är just du och inte Henrik Schyffert eller Birger Jarl.
    Så om du med medvetande menar "rödhetens utseende" och "hur värme känns", så handlar det inte om hur hjärnan fungerar, men om du istället menar vilka beslut vi fattar och hur vi beter oss, så ser jag ingen anledning till att detta inte skulle gå att automatisera, även om det kan vara nog så knepigt.

    SvaraRadera
    Svar
    1. Det finns många som delar din intuitiva känsla av att det inte finns några "kausala förklaringar som leder till att förklara varför rött ser ut så som det gör". Så även jag (ibland). Men det finns också framstående tänkare som inte köper detta, och bland dessa vill jag särskilt gärna rekommendera Sweet Dreams av Daniel Dennett.

      Radera