Ett osökt tillfälle till reklam

Stora framsteg har gjorts det senaste årtiondet på området artificiall intelligens (AI), men huruvida det till slut kommer att bli möjligt för oss att skapa en maskin som i fråga om allmänintelligens övertrumfar människans förmåga måste rimligtvis ses som en öppen fråga. Det händer emellanåt att filosofer och andra meddelar att att ett sådant AI-genombrott är omöjligt, men jag har hittills utan undantag funnit deras argumentation slarvig och förhastad.

Därför blev jag en liten smula provocerad när jag fick se att omslaget till det pinfärska numret 7/2015 av utmärkta populärvetenskapsmagasinet Forskning och Framsteg pryds av krigsstilsrubriken "Dummare än du tror", följt av underrubriken "Möt forskarna som menar att maskinerna aldrig kan bli så smarta som vi". Det visar sig emellertid att rubrikerna åsyftar en alldeles utmärkt artikel av Joanna Rose, där ett brett spektrum av olika ståndpunkter redovisas.¹ Artikeln ger mig dessutom osökt tillfälle att göra reklam för min kommande bok Here Be Dragons, som behandlar tänkbara konsekvenser för mänskligheten av framtida framsteg inom AI och en rad andra teknologier, och som utkommer på Oxford University Press i januari. Det är nämligen så att två av de tänkare som ges störst utrymme i artikeln och som stödjer omslagets tal om att "maskinerna aldrig kan bli så smarta som vi" - John Searle och Massimo Pigliucci - delar på äran att ha fått sina argument dissekerade och vederlagda i min (sedan flera månader tillbaka färdigskrivna) bok. Interssantast av dessa båda är fallet Searle. I Forskning och Framsteg-artikeln stödjer han sig på sitt berömda kinesiska rummet-argument för att döma ut Nick Bostroms paperclip Aramgeddon-scenario² såsom "enfaldigt", och han kommer sedan fram till följande:

Om du bara vill att din dator ska fungera, spela schack eller få flygplanet att landa, så spelar det ju ingen roll om du tror att den är intelligent eller inte. Frågan är bara viktig när du ger maskinen ett psykologiskt eller filosofiskt innehåll. Så om vi fruktar att illasinnad superintelligens ska förgöra oss så är det viktigt att apokalypshotet är verkligt. Men utan ett medvetande kan maskinen inte ha egna avsikter, motiv eller mål. Den är ju bara en mycket komplex hög av skrot.

Det Searle här säger är i allt väsentligt en upprepning av den argumentation som han lade fram i sin recension förra året i New York Review of Books av Bostroms bok Superintelligence - en recension som triggade mig att i min egen bok inkludera en detaljerad vederläggning av Searles argument. I själva verket tillintetgör jag i Here Be Dragons hans argumentation dubbelt upp, genom att påvisa (a) att kinesiska rummet-argumentet inte håller, och (b) att även om vi skulle acceptera Searles slutsats från hans kinesiska rum så krävs en rejält "enfaldig" (för att nu låna lite av Searles egen terminologi) tankelapsus för att ur den slutsatsen kunna blåsa faran över rörande "att illasinnad superintelligens ska förgöra oss" à la paperclip Armageddon.

Mer har jag inte för avsikt att säga här och nu om de argument och motargument som figurerar i denna diskussion, utan hänvisar till Here Be Dragons och ber läsekretsen om några månaders tålamod tills dess att boken utkommit. Jag får återkomma längre fram med exakt publiceringsdatum för boken så att ni alla får tillfälle att hänga på bokhandelslåset den aktuella morgonen.

Fotnoter

1) Forskning och Framsteg har behandlat frågan om utsikterna för ett framtida AI-genombrott även i tidigare texter; se t.ex. min egen krönika om detta ämne i nr 7/2014.

2) Jag har tidigare diskuterat paperclip Aramgeddon såväl här på bloggen som i föredragsform.