måndag 11 november 2013

Hofstadter!

Douglas Hofstadters Gödel, Escher, Bach är en extremt originell och djuplodande men också höggradigt spekulativ bok om mänskligt tänkande. När den kom ut 1979 blev den snabbt en succé av senastionella proportioner, som Martin Gardner skrev i sin glödande anmälan i Scientific American:
    Every few decades, an unknown author brings out a book of such depth, clarity, range, wit, beauty and originality that it is recognized at once as a major literary event.
Jag var då ännu för ung för boken, men tio år senare blev jag uppmärksammad på den och läste den med stor aptit - en läsning som gjorde djupt intryck på mig. I nästan samma veva läste jag också hans tillsammans med Daniel Dennett redigerade antologi The Mind's I från 1981, vilken påverkade mig om möjligt ännu mer, då den lade grunden för årtionden av grubblerier om vad mänskligt medvetande egentligen är - grubblerier jag än idag ägnar mig åt emellanåt.

Till sin profession är Douglas Hofstadter forskare i artificiell intelligens (AI). Han har alltid gått sin egen väg, och har trots berömmelsen efter Gödel, Escher, Bach varit tämligen isolerad från huvudfåran bland AI-forskare. Den främsta skillnaden mellan hans ansats och sagda huvudfåra är att Hofstadters allt överskuggande ambition är att förstå mänsklig kognition, i motsats till flertalet andra AI-forskare som har mer närliggande och pragmatiska ambitioner om att skapa datorprogram för att lösa olika specifika problem, som att vinna i Jeopardy eller sortera batterier. Om denna i hög grad självvalda isolering berättar Hofstadter, bland mycket annat, i en aktuell och synnerligen läsvärd intervju i tidskriften The Atlantic. Jag har väldigt lätt att känna sympati med Hofstadter, men när jag i The Atlantic-intervjun når fram till följande passage...
    Hofstadter hasn’t been to an artificial-intelligence conference in 30 years. “There’s no communication between me and these people,” he says of his AI peers. “None. Zero. I don’t want to talk to colleagues that I find very, very intransigent and hard to convince of anything. You know, I call them colleagues, but they’re almost not colleagues—we can’t speak to each other.”

    Hofstadter strikes me as difficult, in a quiet way. He is kind, but he doesn’t do the thing that easy conversationalists do, that well-liked teachers do, which is to take the best of what you’ve said—to work you into their thinking as an indispensable ally, as though their point ultimately depends on your contribution. I remember sitting in on a roundtable discussion that Hofstadter and his students were having and thinking of how little I saw his mind change. He seemed to be seeking consensus. The discussion had begun as an e-mail that he had sent out to a large list of correspondents; he seemed keenest on the replies that were keenest on him.

    “So I don’t enjoy it,” he told me. “I don’t enjoy going to conferences and running into people who are stubborn and convinced of ideas I don’t think are correct, and who don’t have any understanding of my ideas. And I just like to talk to people who are a little more sympathetic.”

...så kan jag inte låta bli att tänka att Hoftadter nog blivit lite väl bortskämd efter sin exempellösa framgång med Gödel, Escher, Bach, och att hans forskning nog skulle må bra av om han hade lite lättare att befatta sig med kritik. Det räcker dock med att jag åter plockar fram Gödel, Escher, Bach eller The Mind's I för att jag omedelbart skall förlåta honom denna egenhet. Hans senare böcker Metamagical Themas (1985) och I Am a Strange Loop (2007) har samma effekt - liksom för övrigt följande helt underbara föredrag rubricerat Analogy as the Core of Cognition som han höll i Stanford den 6 februari 2006:

Se det! Jag insisterar!

När jag ändå är i farten med att dela med mig av Hofstadter-föredrag så vill jag klippa in ett till, från samma plats (Stanford) och lite senare samma år (Singularity Summit, i maj 2006), där han talar över ett annat ämne jag intresserat mig för här på bloggen: Singulariteten.

Detta föredrag, rubricerat Trying to Muse Rationally about the Singularity Scenario, är långt ifrån lika briljant som Analogy as the Core of Cognition, men ändå intressant. Hofstadter förhåller sig försiktigt skeptisk men inte avfärdande i frågan om en Singularitet verkligen är möjlig. Han kritiserar böcker i ämnet av Hans Moravec och Ray Kurzweil, och efterlyser en seriös diskussion i bredare kretsar av fysiker, dataloger och andra forskare. Från den transkribering av föredraget som finns tillgänglig saxar jag följande.
    I think what I am really concerned about, after having read Ray’s most recent book, and been very impressed with many of the arguments in it, I ask the question: How realistic is this? I have asked a number of friends, highly informed intellectual people of different disciplines, and I have heard reactions over the following range: “The ideas are nutty—not worth the time of day.” “The ideas are very, very scary.” “I don’t know. I just don’t know.” “They are reasonable, or they are probable.” But none of these people have read the book.

    This is very interesting to me. What I find strange about this is that I get the feeling the scientific world is not taking any of this seriously. In other words, I do not see serious discussions of this among physicists when they get together.

    [...]

    I would like to hear serious scientists taking these ideas seriously and giving a serious skeptical response—not that I necessarily want it to be the other side. I want the debate to be very seriously taken. I think this is all to Ray’s credit. He has raised some terribly important issues.

Den situation vad gäller diskussion om fenomenet Singulariteten som Hofstadter beskrev 2006 finner jag beklagligt aktuell ännu 2013. Av framstående tänkare som, utan att på allvar befatta sig med den argumentation som exempelvis Ray Kurzweil eller Eliezer Yudkowsky lagt fram, är beredda att med några korta ord avfärda tanken om en intelligensexplosion, går det snart sagt 13 på dussinet.1 Den ende, så vitt jag känner till, som tagit frågan på fullt allvar och som landat i slutsatsen att en intelligensexplosion är osannolik är Robin Hanson. Det behövs fler som är beredda att analysera argumenten på allvar.

Fotnot

1) Som exempel på tänkare jag respekterar högt men som intagit denna billiga position kan nämnas Steven Pinker och Daniel Dennett. Så här säger Pinker:
    There is not the slightest reason to believe in a coming singularity. The fact that you can visualize a future in your imagination is not evidence that it is likely or even possible. Look at domed cities, jet-pack commuting, underwater cities, mile-high buildings, and nuclear-powered automobiles--all staples of futuristic fantasies when I was a child that have never arrived. Sheer processing power is not a pixie dust that magically solves all your problems.
Och så här säger Dennett:
    My reactions to the first thirty-odd pages [of Chalmers (2010)] did not change my mind about the topic, aside from provoking the following judgment, perhaps worth passing along: thinking about the Singularity is a singularly imprudent pastime, in spite of its air of cautious foresight, since it deflects our attention away from a much, much more serious threat, which is already upon us, and shows no sign of being an idle fantasy: we are becoming, or have become, enslaved by something much less wonderful than the Singularity: the internet.
Min gästbloggare David Sumpter kan ränkas till samma kategori: han är visserligen mer mångordig jämfört med vad Pinker och Dennett här visar upp, men han landar i samma vägran att befatta sig med argumenten för en intelligensexplosion.

10 kommentarer:

  1. Douglas Hofstadters skriverier präglas ofta av lekfullhet. Ett av de begrepp han gillar allra mest att bolla med är självreferens - centralt i Gödel Escher Bach och en del senare arbeten. I en avslutande epilog till min bok Riktig vetenskap och dåliga imitationer från 2008 gjorde jag ett försök att imitera hans lekfulla hantering av självreferensbegreppet - läs här!

    SvaraRadera
  2. The origin of life has questions associated with it similar to that of the creation of an artificial intelligence. How did the first cellular mechanisms come about? The formation of autocatalytic sets is considered to be a part of abiogenesis. The origin of life may have produced its own intelligence explosion.

    SvaraRadera
    Svar
    1. Yes. And in a blog post last month, I linked to a post by Yudkowsky who very eloquently made a similar point about the emergence of brains.

      Radera
    2. I haven't read Hofstadter but there are some earlier works that appear to be similar: Arbib - Brains, Machines and Mathematics (1964), Weiner - Cybernetics (1948) and Schrödinger - What Is Life? This might explain why it wasn't a current topic for physicists in the late 70s.

      Radera
    3. No other book ever written is similar (in content and/or style) to Gödel, Escher, Bach.

      Radera
  3. Claes Andersson14 november 2013 23:04

    När jag hörde talas om singulariteten som en teknologisk komplexitetsexplosion så blev jag mer intresserad av den än förr - kom på att jag på sätt och vis jobbar med den till och med fast i en lite mer arkaisk tappning. Tyvärr har jag inte för närvarande tid att sätta mig in i den moderna varianten, men det finns i bakhuvudet.

    En reflektion: En av de första effekterna av en användbar någorlunda generell AI: Byråkrati från helvetet. Organisationer försöker man bygga med maskiner som analogi. Det lyckas sådär eftersom komponenterna i organisationerna har en massa andra små agendor. Det har inte en AI. Det är som när flercelligt liv uppstod: plötsligt kom groddbanan och faktumet att alla cellers öden var länkade. Ingen cell har möjligheten att ensidigt bryta "överenskommelsen" - och så får man en explosion, eller ja 250Ma senare eftersom ett och annat mer skulle till tydligen. Datorer har ju redan haft LITE av den effekten på organisationer, men de är ju inte direkt i sig up for the task.

    SvaraRadera
    Svar
    1. Jag förstår inte, Claes. Varför skulle en AI nödvändigtvis sakna egen agenda?

      Radera
    2. Claes Andersson15 november 2013 22:58

      Det gör de inte nödvändigtvis - det gör heller inte celler nödvändigtvis - men de HAR inte nödvändigtvis en agenda heller. Särskilt inte till att börja med. Såvida såklart man inte tror på att sådana är en nödvändig konsekvens av intelligens, men det tror jag inte på personligen.

      Radera
  4. GEB har varit en viktig bok för mig och Methamagical Themas med i viss grad (fast jag fastnade visst halvvägs och läste aldrig ut den nån gång 93 så där). Men dages Hofstadter känns inte så inspirerade. Jag har nog lite svårt att hänga upp så mycket runt en vag definition av ett ord. I synnerhet som spåket är just så plastiskt och tvetydigt som H. observerar även om han väljer att kalla det observationer av fel i sitt föredrag. Men för att travestera tillämpningen av Gödels teorem i GEB; om spåket var så kraftfullt att det kunde beskriva våra kognitiva processer så skulle teoribygget också innehålla så många motsägelser att teoribygget riskerade att råka i självsvängning och kollapsa. Kanske enklast då att hålla sig till feature detektorer som löser någon avgränsad uppgift utan att trassla in sig så mycket i funderingar om detektorn är medvetande eller inte.

    SvaraRadera