tisdag 2 augusti 2016

Yudkowskys brutala uppgörelse med zombie-begreppet

Vilket område av filosofin gillar jag allra bäst? Jag kan nog inte svara bestämt på det, men den som läser min senaste bok Here Be Dragons lockas måhända att tro att det är antingen vetenskapsfilosofi eller moralfilosofi, då dessa ägnas varsitt helt kapitel i boken (Kapitel 6 rubricerat "What is science?" med 31 sidor, respektive Kapitel 10 rubricerat "What do we wnat and what should we do?" med 24 sidor) medan ett område som medvetandefilosofin får nöja sig med ett avsnitt (Avsnitt 3.8 rubricerat "Uploading: philosophical issues" med 9 sidor). Av dessa tre är det nog ändå medvetandefilosofin jag läst mest om genom åren, och jag har kvar en särskid kärlek till det området.

Två favoriter bland nutida medvetandefilosofer är David Chalmers och (i synnerhet) Daniel Dennett. Centralt i Chalmers tänkande är begreppet zombie, i betydelsen en varelse som fysiskt är identisk med en vanlig människa, ned till minsta molekyl och minsta elementarpartikel, men med skillnaden att den saknar medvetande. Han hävdar inte att zombier finns, men väl att de är tänkbara, och att de mycket väl skulle kunna finnas i ett annat universum. Dennett har lagt en del kraft på att attackera zombie-begreppet, och hävda att det bara är om man inte tänkt igenom saken ordentligt som man kan förledas att tro att zombier är tänkbara. Både Chalmers och Dennett skriver lysande, men det finns faktiskt en författare som överträffar Dennett i dennes egen specialgren (zombie-slakt), nämligen Eliezer Yudkowsky. 2008 skrev han texten Zombies! Zombies? och han har nu återvänt till den och publicerat en lätt redigerad och uppdaterad version under rubriken Zombies redacted. Läs den! Som ett smakprov på den skoningslösa skärpan och brutaliteten i Yudkowskys zombie-slakt erbjuder jag följande passage. Den inehåller ovanligt mycket kursivering, vilken i de flesta fall indikerar att Yudkowsky är så indignerad över att någon kan föreslå något så vettlöst som zombier att han inte kan låta bli att höja rösten - men ingenstans får indignationen honom att förlora tankeskärpan.
    [Here] is the position taken by Descartes and most other ancient thinkers: The soul is of a different kind, but it interacts with the body. Descartes's position is technically known as substance dualism - there is a thought-stuff, a mind-stuff, and it is not like atoms; but it is causally potent, interactive, and leaves a visible mark on our universe.

    Zombie-ists are property dualists - they don't believe in a separate soul; they believe that matter in our universe has additional properties beyond the physical.

    "Beyond the physical"? What does that mean? It means the extra properties are there, but they don't influence the motion of the atoms, like the properties of electrical charge or mass. The extra properties are not experimentally detectable by third parties; you know you are conscious, from the inside of your extra properties, but no scientist can ever directly detect this from outside.

    So the additional properties are there, but not causally active. The extra properties do not move atoms around, which is why they can't be detected by third parties.

    And that's why we can (allegedly) imagine a universe just like this one, with all the atoms in the same places, but the extra properties missing, such that every atom moves the same as before, but no one is conscious.

    The Zombie World might not be physically possible, say the zombie-ists - because it is a fact that all the matter in our universe has the extra properties, or obeys the bridging laws that evoke consciousness - but the Zombie World is logically possible: the bridging laws could have been different.

    But why, oh why, say that the extra properties are epiphenomenal and undetectable?

    We can put this dilemma very sharply: Chalmers believes that there is something called consciousness, and this consciousness embodies the true and indescribable substance of the mysterious redness of red. It may be a property beyond mass and charge, but it's there, and it is consciousness. Now, having said the above, Chalmers furthermore specifies that this true stuff of consciousness is epiphenomenal, without causal potency - but why say that?

    Why say that you could subtract this true stuff of consciousness, and leave all the atoms in the same place doing the same things? If that's true, we need some separate physical explanation for why Chalmers talks about "the mysterious redness of red". That is, there exists both a mysterious redness of red, which is extra-physical, and an entirely separate reason, within physics, why Chalmers talks about the "mysterious redness of red".

    Chalmers does confess that these two things seem like they ought to be related, but why do you need to assert two separate phenomena? Why not just assert one or the other?

    Once you've postulated that there is a mysterious redness of red, why not just say that it interacts with your internal narrative and makes you talk about the "mysterious redness of red"?

    Isn't Descartes taking the simpler approach, here? The strictly simpler approach?

    Why postulate an extramaterial soul, and then postulate that the soul has no effect on the physical world, and then postulate a mysterious unknown material process that causes your internal narrative to talk about conscious experience?

    Why not postulate the true stuff of consciousness which no amount of mere mechanical atoms can add up to, and then, having gone that far already, let this true stuff of consciousness have causal effects like making philosophers talk about consciousness?

    I am not endorsing Descartes's view. But at least I can understand where Descartes is coming from. Consciousness seems mysterious, so you postulate a mysterious stuff of consciousness. Fine.

    But now the zombie-ists postulate that this mysterious stuff doesn't do anything, so you need a whole new explanation for why you say you're conscious.

    That isn't vitalism. That's something so bizarre that vitalists would spit out their coffee. "When fires burn, they release phlogiston. But phlogiston doesn't have any experimentally detectable impact on our universe, so you'll have to go looking for a separate explanation of why a fire can melt snow." What?

Läs hela Zombies redacted här!

6 kommentarer:

  1. Arne Söderqvist3 augusti 2016 07:17

    I Aftonbladet beskrivs i två artiklar vad som kan ligga om hörnet när det gäller datortillämpningar. Illa nog.

    http://www.aftonbladet.se/kultur/article23249829.ab

    http://www.aftonbladet.se/kultur/article23268981.ab

    SvaraRadera
  2. Kan det vara så att Yudkowsky har en trasa i byken (eng. Skin in the game)?

    SvaraRadera
    Svar
    1. Jag förstår inte; utveckla gärna!

      Radera
    2. Om zombies är möjliga finns ju risken att Yudkowskys AI bara blir en zombie utan medvetande/själ. En simpel maskin alltså. Svårt att få forskningsanslag för en zombie, bättre då att stämma i bäcken och totalsåga begreppet.

      Radera
  3. Scott Alexander föreslår en elegant lösning på varför vi inte förstår fenomenalt medvetande baserat på simuleringshypotesen
    http://slatestarcodex.com/2016/08/23/the-view-from-ground-level/
    /tonyf

    SvaraRadera
  4. Jag har ett vagt minne av att Yudkowsky helst ser att en kommande superintelligent AI skulle vara icke fenomenalt medveten. Och att han åtminstone inte då uteslöt att en sådan konstruktion skulle eventuellt kanske kunna vara möjligt (fysiskt möjligt, givetvis, inte bara konceptuellt möjlig). Jag kan minnas detta rätt eller fel, källan (om jag minns det rätt) är text av Yudkowski på Less Wrong förmodligen någon gång kring 2009, men om den finns är den för svår för mina begränsade internätssökningskunskaper att hitta,speciellt som jag inte heller minns om det var i någon OP eller i någon kommentar.
    /tonyf

    SvaraRadera