Hofstadter!

Douglas Hofstadters Gödel, Escher, Bach är en extremt originell och djuplodande men också höggradigt spekulativ bok om mänskligt tänkande. När den kom ut 1979 blev den snabbt en succé av senastionella proportioner, som Martin Gardner skrev i sin glödande anmälan i Scientific American:

Every few decades, an unknown author brings out a book of such depth, clarity, range, wit, beauty and originality that it is recognized at once as a major literary event.

Jag var då ännu för ung för boken, men tio år senare blev jag uppmärksammad på den och läste den med stor aptit - en läsning som gjorde djupt intryck på mig. I nästan samma veva läste jag också hans tillsammans med Daniel Dennett redigerade antologi The Mind's I från 1981, vilken påverkade mig om möjligt ännu mer, då den lade grunden för årtionden av grubblerier om vad mänskligt medvetande egentligen är - grubblerier jag än idag ägnar mig åt emellanåt.

Till sin profession är Douglas Hofstadter forskare i artificiell intelligens (AI). Han har alltid gått sin egen väg, och har trots berömmelsen efter Gödel, Escher, Bach varit tämligen isolerad från huvudfåran bland AI-forskare. Den främsta skillnaden mellan hans ansats och sagda huvudfåra är att Hofstadters allt överskuggande ambition är att förstå mänsklig kognition, i motsats till flertalet andra AI-forskare som har mer närliggande och pragmatiska ambitioner om att skapa datorprogram för att lösa olika specifika problem, som att vinna i Jeopardy eller sortera batterier. Om denna i hög grad självvalda isolering berättar Hofstadter, bland mycket annat, i en aktuell och synnerligen läsvärd intervju i tidskriften The Atlantic. Jag har väldigt lätt att känna sympati med Hofstadter, men när jag i The Atlantic-intervjun når fram till följande passage...

Hofstadter hasn’t been to an artificial-intelligence conference in 30 years. “There’s no communication between me and these people,” he says of his AI peers. “None. Zero. I don’t want to talk to colleagues that I find very, very intransigent and hard to convince of anything. You know, I call them colleagues, but they’re almost not colleagues—we can’t speak to each other.”

Hofstadter strikes me as difficult, in a quiet way. He is kind, but he doesn’t do the thing that easy conversationalists do, that well-liked teachers do, which is to take the best of what you’ve said—to work you into their thinking as an indispensable ally, as though their point ultimately depends on your contribution. I remember sitting in on a roundtable discussion that Hofstadter and his students were having and thinking of how little I saw his mind change. He seemed to be seeking consensus. The discussion had begun as an e-mail that he had sent out to a large list of correspondents; he seemed keenest on the replies that were keenest on him.

“So I don’t enjoy it,” he told me. “I don’t enjoy going to conferences and running into people who are stubborn and convinced of ideas I don’t think are correct, and who don’t have any understanding of my ideas. And I just like to talk to people who are a little more sympathetic.”

...så kan jag inte låta bli att tänka att Hoftadter nog blivit lite väl bortskämd efter sin exempellösa framgång med Gödel, Escher, Bach, och att hans forskning nog skulle må bra av om han hade lite lättare att befatta sig med kritik. Det räcker dock med att jag åter plockar fram Gödel, Escher, Bach eller The Mind's I för att jag omedelbart skall förlåta honom denna egenhet. Hans senare böcker Metamagical Themas (1985) och I Am a Strange Loop (2007) har samma effekt - liksom för övrigt följande helt underbara föredrag rubricerat Analogy as the Core of Cognition som han höll i Stanford den 6 februari 2006:

Se det! Jag insisterar!

När jag ändå är i farten med att dela med mig av Hofstadter-föredrag så vill jag klippa in ett till, från samma plats (Stanford) och lite senare samma år (Singularity Summit, i maj 2006), där han talar över ett annat ämne jag intresserat mig för här på bloggen: Singulariteten.

Detta föredrag, rubricerat Trying to Muse Rationally about the Singularity Scenario, är långt ifrån lika briljant som Analogy as the Core of Cognition, men ändå intressant. Hofstadter förhåller sig försiktigt skeptisk men inte avfärdande i frågan om en Singularitet verkligen är möjlig. Han kritiserar böcker i ämnet av Hans Moravec och Ray Kurzweil, och efterlyser en seriös diskussion i bredare kretsar av fysiker, dataloger och andra forskare. Från den transkribering av föredraget som finns tillgänglig saxar jag följande.

I think what I am really concerned about, after having read Ray’s most recent book, and been very impressed with many of the arguments in it, I ask the question: How realistic is this? I have asked a number of friends, highly informed intellectual people of different disciplines, and I have heard reactions over the following range: “The ideas are nutty—not worth the time of day.” “The ideas are very, very scary.” “I don’t know. I just don’t know.” “They are reasonable, or they are probable.” But none of these people have read the book.

This is very interesting to me. What I find strange about this is that I get the feeling the scientific world is not taking any of this seriously. In other words, I do not see serious discussions of this among physicists when they get together.

[...]

I would like to hear serious scientists taking these ideas seriously and giving a serious skeptical response—not that I necessarily want it to be the other side. I want the debate to be very seriously taken. I think this is all to Ray’s credit. He has raised some terribly important issues.

Den situation vad gäller diskussion om fenomenet Singulariteten som Hofstadter beskrev 2006 finner jag beklagligt aktuell ännu 2013. Av framstående tänkare som, utan att på allvar befatta sig med den argumentation som exempelvis Ray Kurzweil eller Eliezer Yudkowsky lagt fram, är beredda att med några korta ord avfärda tanken om en intelligensexplosion, går det snart sagt 13 på dussinet.¹ Den ende, så vitt jag känner till, som tagit frågan på fullt allvar och som landat i slutsatsen att en intelligensexplosion är osannolik är Robin Hanson. Det behövs fler som är beredda att analysera argumenten på allvar.

Fotnot

1) Som exempel på tänkare jag respekterar högt men som intagit denna billiga position kan nämnas Steven Pinker och Daniel Dennett. Så här säger Pinker:

There is not the slightest reason to believe in a coming singularity. The fact that you can visualize a future in your imagination is not evidence that it is likely or even possible. Look at domed cities, jet-pack commuting, underwater cities, mile-high buildings, and nuclear-powered automobiles--all staples of futuristic fantasies when I was a child that have never arrived. Sheer processing power is not a pixie dust that magically solves all your problems.

Och så här säger Dennett:

My reactions to the first thirty-odd pages [of Chalmers (2010)] did not change my mind about the topic, aside from provoking the following judgment, perhaps worth passing along: thinking about the Singularity is a singularly imprudent pastime, in spite of its air of cautious foresight, since it deflects our attention away from a much, much more serious threat, which is already upon us, and shows no sign of being an idle fantasy: we are becoming, or have become, enslaved by something much less wonderful than the Singularity: the internet.

Min gästbloggare David Sumpter kan ränkas till samma kategori: han är visserligen mer mångordig jämfört med vad Pinker och Dennett här visar upp, men han landar i samma vägran att befatta sig med argumenten för en intelligensexplosion.