Visar inlägg med etikett transhumanism. Visa alla inlägg
Visar inlägg med etikett transhumanism. Visa alla inlägg

onsdag 14 december 2016

Diskussioner i Sigtuna om medvetande, artificiell intelligens och transhumanism

Den 5 oktober i år medverkade jag i två paneldiskussioner på en konferens i Sigtuna arrangerad av nätverket Cusanus; se de båda videofilmerna nedan. Den första av dessa bar rubriken "Medvetandet, artificiell intelligens och människosyn". Mina medpanelister i den diskussionen var Carl Reinhold Bråkenhielm och Åsa Wikforss, vilket betyder att panelen hade exakt samma sammansättning som vid ett möte i Stockholm med Katharinastiftelsen vars videoupptagning jag anslagit i en tidigare bloggpost. Ämnet för diskussionen i Sigtuna överlappar med det i Stockholm, men det kom ändå att få en ganska annorlunda inriktning tack vare vårt fokus på frågan om huruvida maskiner kan ha medvetande.

Den andra paneldiskussionen i Sigtuna rubricerades "Transhumanism - tekniken som frälsningsväg?" och här hade jag nöjet att diskutera med Eva-Lotta Grantén och Anders Sandberg.

onsdag 9 mars 2016

Drakar under strecket

I en understreckare i gårdagens (8 mars) Svenska Dagbladet, rubricerad Teknikens löften ett växande hot, skriver författaren och fysikern Helena Granström om eventuella globala katastrofrisker härrörande från framtida teknikutveckling.1 Som utgångspunkt för sin diskussion tar hon min nyutkomna bok Here Be Dragons: Science, Technology and the Future of Humanity. Så här börjar hon:
    I takt med utvecklingen av bioteknik, nanoteknik och artificiell intelligens ökar även riskerna för att tekniken på ett eller annat sätt kommer att vända sig mot oss. Och även om så inte sker, är frågan om vi verkligen vill leva i en värld där visionerna istället besannats.

    Av alla de förmågor som tekniken har vunnit åt mänskligheten är det en som utmärker sig: vår förmåga att tillintetgöra oss själva. Denna tvivelaktiga färdighet kan först sägas ha förvärvats i och med atomvapnets tillkomst, men är numera också en konsekvens av tekniker som vi normalt uppfattar som konstruktiva: nanoteknologi, bioteknologi och robotik.

    [...]

    Till [litteraturen om detta] kan även Olle Häggströms nyutkomna bok "Here be dragons. Science, technology and the future of humanity" (Oxford University Press) räknas; en appell för att medvetandegöra riskerna med ny teknik, och därigenom kunna fatta informerade beslut om en önskvärd riktning för den teknologiska utvecklingen.

Granström håller med mig om mycket, men anmäler avvikande uppfattning på några punkter, inklusive synen på begreppet mänsklig värdighet2 (human dignity) och det hon kallar "den fysiska verklighetens prioritet över den virtuella":
    Häggström diskuterar som hastigast mänsklig värdighet som grund för en argumentation kring ny teknik, men finner att begreppet är för vagt för att vara meningsfullt: om vi är överens om betydelsen av att värna mänsklig autonomi, menar Häggström, tillför det ingenting. Problemet med en sådan hållning är att den riskerar att leda till att även begreppet mänsklighet i sig börjar luckras upp.

    Föreställ dig en framtid där omhändertagandet om såväl barn som äldre och sjuka sedan länge ­automatiserats; där vår grundläggande försörjning i än högre grad än idag gjorts beroende av maskiner, eftersom de nu också har förmågan att självständigt besluta om produktionsnivåer och transportkedjor; där genuppsättningen hos varje barn som föds är medvetet vald för att eliminera ärftliga sjukdomar, och optimera begåvning, utseende och fysisk hälsa.

    Eller, för att följa den transhumanistiska visionen till dess slutpunkt: en framtid där vi kan leva för evigt i en virtuell verklighet, genom att ladda upp våra medvetanden på datorer. En framtid där vi så väl behärskar den mänskliga kroppens biokemi att vi inte längre behöver vara lyckliga för att kunna få känna lycka.

    Samtliga dessa ting skulle mycket väl kunna vara resultatet av en serie fullt autonoma mänskliga beslut, som alla i sin enskildhet måste uppfattas som oproblematiska - men som icke desto mindre skulle summera till en allvarlig inskränkning av det vi idag förstår som mänsklighet. Om vi inte är beredda att tala om mänsklig värdighet - eller om den fysiska verklighetens prioritet över den virtuella - har vi slutligen ingenting att sätta emot sådana ­visioner. Men oavsett hur vi ställer oss till dem, bör vi vara överens om att det för ingen av dem är värt att riskera det biologiska livets fortsatta existens.

Läs hela Granströms understreckare här!

Fotnot

1) Snabbast av alla med att uppmärksamma mig på Granströms text var Arne Söderqvist, en av denna bloggs trognaste kommentatorer. Redan så tidigt på morgonen som 04:16, dagen för understreckarens publicering, hörde han av sig.

2) För den som vill förstå hur jag ser på detta begrepp rekommenderar jag i första hand Avsnitt 3.2 i Here Be Dragons, och i andra hand Steven Pinkers essä The Stupidity of Dignity som påverkat mitt tänkande på denna punkt.

tisdag 21 juli 2015

The prospect of brain emulation raises difficult ethical problems

I draw upon several hundred papers in my book Here Be Dragons: Science, Technology and the Future of Humanity, which is currently going through the copy-editing stages at Oxford University Press, and is scheduled to appear in January 2016. One of those papers is Anders Sandberg's Ethics of brain emulations, which was published last year in the Journal of Experimental & Theoretical Artificial Intelligence, and which draws attention to a host of unusual and difficult ethical issues that the prospect of brain emulation gives rise to. The journal's publisher, Taylor & Francis, offers the following crisp and elegant summary of the paper.

See also Anders' recent blog post Ethics for neural networks.

torsdag 25 juni 2015

I Vetenskapsrådets nättidning Curie om vikten av att beakta risker med nya teknologier

Då jag för en tid sedan inbjöds att bidra till Vetenskapsrådets nättidning Curie med en debattartikel om vikten av att beakta globala och existentiella risker med nya teknologier kände jag direkt att det inte var att tänka på att tacka nej till att skriva om det som på senare år kommit att bli en av mina främsta hjärtefrågor. Texten är nu publicerad, och jag återger den nedan i sin helhet, inklusive rubrik och ingress.

*

Syntetisk biologi, nanoteknologi och artificiell intelligens är några av de områden som kan påverka mänsklighetens existens. Att ignorera konsekvenserna av kommande forskningsgenombrott är som att med bindel för ögonen springa rakt fram i ett minfält, skriver Olle Häggström, professor i matematisk statistik.

Att premiera och stödja den bästa forskningen - i betydelsen den forskning som bäst flyttar fram gränserna för mänsklighetens samlade vetande, utan hänsyn till praktiska tillämpningar - är ett ideal som ligger nära Vetenskapsrådets, och som jag länge var svag för. På senare år har jag dock blivit alltmer tveksam. Låt mig förklara varför.

Vetenskapliga framsteg har en ofantlig inverkan på våra liv. Tänk på hur världen och våra liv såg ut i början av 1900-talet, på hur de ser ut idag, och på vilken stor del av denna väldiga transformation som möjliggjorts av vetenskapliga framsteg. Om vi tänker vidare på vad mobilteknologi och Internet gjort för oss de senaste tjugo åren, så inser vi att någon inbromsning i förändringstakten knappast har skett. I själva verket är det troligt att vetenskapliga framsteg under återstoden av innevarande sekel kommer att bjuda på ännu mer genomgripande förändringar än 1900-talets. Till de områden som sannolikt kommer att få omvälvande konsekvenser hör exempelvis syntetisk biologi, nanoteknik och artificiell intelligens, samt inte minst olika sätt att förändra den mänskliga naturen och vässa våra kognitiva förmågor med hjälp av farmakologiska preparat, genmodifiering eller elektroniska hjärnimplantat.

De potentiella vinsterna med genombrott på dessa och andra områden är enorma, men detsamma gäller riskerna. Ett exempel är artificiell intelligens, vars potential för ekonomiska och andra vinster är närmast obegränsade, samtidigt som det idag finns en berättigad oro för om maskinerna skall slå ut oss på arbetsmarknaden, samt (på lite längre sikt) huruvida mänskligheten skall kunna behålla herraväldet eller ens överleva den dag vi själva inte längre är de varelser på vår planet som har den högsta allmänintelligensen. Sistnämnda scenario kan låta extremt, men förtjänar att tas på allvar, och har det senaste året uppmärksammats av bland andra Nick Bostrom, Stephen Hawking, Max Tegmark och Bill Gates. Andra nya teknologier är tveeggade på liknande vis, och den möjligen största utmaningen på bara ett eller ett par decenniers sikt är hur vi skall undvika att kunskapsspridning inom syntetisk biologi leder till ohyggliga massförstörelsevapen i händerna på terrorister.

När så här mycket står på spel är det enligt min mening alltför ansvarslöst att prioritera mellan forskningsområden med hänsyn enbart till forskningens kvalitet och inte till dess utsikter att påverka samhället och våra liv. Om forskningens potentiella konsekvenser bara var av godo skulle jag kunna köpa tanken att enbart se till forskningens kvalitet och strunta i de samhälleliga konsekvenserna – särskilt för en finansiär som Vetenskapsrådet med ett särskilt ansvar för grundforskningen. Men med tanke på riskerna finner jag detta ohållbart. Ingen forskningsfinansiär bör tillåta sig att stödja forskning vars risker för mänskligheten är större än de positiva möjligheterna.

Så vilka framtida teknologier och forskningsområden bör vi i första hand satsa på för att maximera chanserna för ett lyckligt utfall för mänskligheten? Vilka områden är mindre viktiga, vilka bör vi beträda med stor försiktighet, och finns det rentav områden som vi helt bör undvika? Vår kunskap i dessa frågor är ytterst ofullständig, men vi behöver göra vad vi kan för att besvara dem. Att ignorera dem, vilket mestadels är vad vi gör idag, är liktydigt med att med bindel för ögonen springa rakt fram i ett minfält.

Ett rimligt första steg skulle kunna vara att ta fram en systematisk översikt över den kunskap som redan idag faktiskt finns beträffande globala risker med nya teknologier och relaterade framtidsfrågor. En sådan kunskapsöversikt skulle sedan kunna fungera som som stöd för de ämnesmässiga prioriteringar som Vetenskapsrådet och andra forskningsfinansiärer gör. Under mina drygt fem år som ledamot i Vetenskapsrådets NT-råd har jag då och då – så ofta jag vågat med hänsyn till risken att framstå som en omöjlig monoman – tagit upp hur angeläget detta är. Dessa ansträngningar har dock inte krönts med framgång, och de ämnesöversikter Vetenskapsrådet tog fram förra året (i vilka faror i samband med nya teknologier blott berörs pliktskyldigast och i största förbigående) fyller inte alls den önskade funktionen. Jag har därför försökt mig på även andra vägar framåt, inklusive författandet av boken Here Be Dragons: Science, Technology and the Future of Humanity (Oxford University Press, planerat boksläpp i januari 2016), i vilken jag efter bästa förmåga skisserar de möjligheter och faror som ligger framför oss, och argumenterar för framsynthet.

Jag har här fokuserat på forskningsfinansiärens roll och ansvar, men det finns givetvis andra aktörer som också har ett ansvar i frågan, inte minst politiker och forskarna själva. I ett komplext samhällsmaskineri med många olika aktörer är det frestande att rycka på axlarna och tycka att ansvaret borde vila på någon annan, men ett sådant förhållningssätt duger inte - lika lite för forskningsfinansiärer som för politiska makthavare, universitet och den enskilde forskaren.

tisdag 27 januari 2015

Special virtual issue of Physica Scripta: Emerging technologies and the future of humanity

Readers interested in the vitally important topic of emerging technologies and their potential consequences for the future of humanity are encouraged to check out the new virtual issue of Physica Scripta on precisely this topic. It grew out of a meeting at the KVA (Royal Swedish Academy of Sciences) in March last year. Besides a short editorial by yours truly, it contains at present three excellent papers (a fourth may be forthcoming), namely:

lördag 27 december 2014

Internetuppkoppling rakt in i hjärnan?

Kommer ni ihåg förra årets bloggpost Michael Chorost har en dator i sitt huvud, i vilken jag recenserade Michael Chorosts bok Rebuilt: How Becoming Part Computer Made Me More Human från 2005? Jag meddelade blandade känslor inför boken. Å ena sidan fann jag den ge en intressant skildring av tekniken bakom det hörselhjälpmedel som kallas cochleaimplantat, och av dess psykologiska och sociala konsekvenser. I följande stycke lyfte jag fram något av det bästa hos boken:
    Att cochleaimplantatet är något helt annat än en vanlig hörapparat förstår man på ett konkret sätt då Chorost kan koppla upp sig mot exempelvis en telefon eller en CD-spelare, och på så sätt få ta del av ljudupplevelser utan att dessa härrör från några som helst ljudvågor eller vibrationer i rummet han befinner sig i. Intressant är också hur han får tillgång till alternativa programvaror som var och en ger sina karaktäristiska ljudbilder och ljudupplevelser, vilket gör att han blir osäker på hur det "sanna" ljudet verkligen låter och till slut inser att det inte finns någon objektiv sanning i frågan utan bara olika representationer.
Å andra sidan fann jag (se bloggpostens Fotnot 1) bokens långa självbiografiska partier märkligt känslokalla och mekaniska.

Min uppfattning om hans uppföljare World Wide Mind: The Coming Integration of Humanity, Machines and the Internet (2011) är mer entydigt negativ. Den obehagligt känslokalla egocentriciteten i de självbiografiska partierna återkommer i den nya boken,1 medan denna gång även dess mer fackboksmässiga eller populärvetenskapliga passager har allvarliga brister. Chorosts tes (som innebär en helomvändning jämfört med hans kritiska inställning i den förra boken) är att vi kan och bör gå vidare från cochleaimplantattekniken, och skapa uppkopplingar mot Internet och mot varandra rakt in i våra hjärnor - uppkopplingar som allstå inte tar omvägen via våra normala sinnesorgan. De konsekvenser han tycker sig se är revolutionerande, och inkluderar upplösandet av individen i något slags kollektivt medvetande. Detta för tankarna till Star Trek-seriens skrämmande Borg-samhälle, något Chorost medger, men han associerar hellre till den ensamma människans kontaktsökande och tänker sig det utopiska tillstånd han skisserar som den ultimata kramen. Att en utveckling av det slaget på lång sikt är möjlig håller jag för någorlunda troligt, medan frågan om huruvida den är önskvärd tycks mig helt vidöppen, men det betyder inte att jag är beredd att svälja vad som helst på detta område. Chorosts futurologiska metod består i att han likt en profet fabulerar i stort sett fritt i sina berättelser om hur det kommer att bli, och understödjer sina profetior med som bäst vaga antydningar till argument. Här är en typisk passage:
    Inevitably, fears will arise that some nefarious organization will try to "control" citizens' minds and actions. I believe such fears will be overblown. As I explained2 earlier, the outside activation of cliques in the brain would feel different to the user than her own natural brain activity, much as a photograph is obviously a representation of a scene rather than the scene itself. It would feel artificial and contrived, and so it would be easy to know that it is imposed. Just as people today have learned to avoid spam emails that give links to fake banking websites, people tomorrow will learn to be suspicious of thoughts that feel fake (and block their senders). And just as email programs now successfully filter out most spam, phishes, and viruses, a future incarnation of the World Wide Web will have its own defenses against malicious senders. (s 197-198)
Hur kan Chorost veta allt detta? Det får vi inga besked om. Att läsa boken kort efter Nick Bostroms Superintelligence, där författaren förser varje framtidsscenario med föredömligt välavvägda reservationer och markeringar om epistemisk osäkerhet, ger en skarp kontrastverkan - en kontrast som inte faller ut till Chorosts fördel.

De mer jordnära stycken där Chorost redogör för aktuell forskning, exempelvis kring hur man med hjälp av så kallad optogenetik kan både läsa av och påverka hjärnaktivitet hos möss, är något bättre, men han har en återkommande tendens att övertolka resultaten.

Fotnoter

1) Ett typiskt exempel är följande stycke om hans (då) blivande hustru:
    My new skills of patience and compassion had helped me connect with Victoria. The binding energy of eros had followed. Very well: my next workshop would be our relationship. I had never been in a relationship lasting longer than six months. I needed to learn the challenges and rewards of a long-term relationship. I would learn what it is like for our two bodies to regulate each other on a daily basis, generating subtle and deep oxytocin rewards. We would grow both individually and together. (s 166)
Rent ironiskt blir det när han i ett efterord (s 209) skriver om henne att hon "came into my life when I was halfway through the manuscript, but her warmth and humor have illuminated every page", ty ingenstans i boken står vare sig någon värme eller någon humor att finna.

2) Ordet "explained" bör här inte förstås i dess antydda betydelse "påvisat", utan hellre som "spekulerat".

fredag 19 september 2014

Superintelligence odds and ends: index page

Nick Bostrom's Superintelligence: Paths, Dangers, Strategies is such an important, interesting and thought-provoking book that it has taken me several blog posts to comment on it. Here, to help the reader find her way in my writings on this topic, I provide a list of links to these posts, plus a few others.

After two initial mentions of Bostrom's book when it had just been released in July this year... ...I posted my review of the book on September 10: I then quickly followed up my review with a sequence of five blog posts with further comments on the book, under the joint heading Superintelligence odds and ends: That exhausts, for the time being, my list of blog posts devoted explicitly to Bostrom's Superintelligence, but I have a large number of further blog posts that treat the same or closely related topics as his book, such as the following: For those readers who, due to their weak or non-existent knowledge of Swedish, feel prevented from reading some of these posts, perhaps Google Translate can provide some assistance. Its translations are neither beautiful, nor perfectly accurate, but in many cases they can help readers identify the gist of a blog post.

torsdag 18 september 2014

Superintelligence odds and ends V: What is an important research accomplishment?

My review of Nick Bostrom's important book Superintelligence: Paths, Dangers, Strategies appeared first in Axess 6/2014, and then, in English translation, in a blog post here on September 10. The present blog post is the last in a series of five in which I offer various additional comments on the book (here is an index page for the series).

*

The following two-sentence paragraph, which opens Chapter 15 of Superintelligence, is likely to anger many of my mathematician colleagues.
    A colleague of mine likes to point out that a Fields Medal (the highest honor in mathematics) indicates two things about the recipient: that he was capable of accomplishing something important, and that he didn't. Though harsh, the remark hints at a truth.

At this point, I urge the angry mathematicians reading this not to stop reading, and not to conclude that Bostrom is a jackass and/or a moron unworthy of further attention. There is more to his "harsh" position than first meets the eye. And less, because to those of us who continue reading, it quickly becomes clear that he is not saying that the mathematical results discovered by some or all Fields Medalists are unimportant. Instead, he has two interesting and original points to make about research in mathematics (and in other disciplines), one general, and one more concrete. The general point is that the value of the discovery of a result is not equal to the value of the result itself, but rather the value of how much earlier we, as a consequence of the discovery, learned the result compared to what would have been the case without that particular discovery.1 The more concrete point is that even if deep and ground-breaking results in pure mathematics are valuable in themselves (as opposed to whatever scientific or engineering applications may eventually grow out of them), then there may be a vastly more efficient way to advance mathematics (compared to what the typical Fields Medalist engages in), namely to contribute to the development of AI or of transhumanistic technologies for enhancement of human cognitive capacities, in order for the next generation of mathematicians (made of flesh-and-blood or of silicon) to be in a vastly better position to make even deeper and even more ground-breaking discoveries. Here's how Bostrom explains his position:
    Think of a "discovery" as an act that moves the arrival of information from a later point in time to an earlier time. The discovery's value does not equal the value of the information discovered but rather the value of having the information available earlier than it otherwise would have been. A scientist or a mathematician may show great skill by being the first to find a solution that has eluded many others; yet if the problem would soon have been solved anyway, then the work probably has not much benefited the world. There are cases in which having a solution even slightly sooner is immensely valuable, but this is more plausible when the solution is immediately put to use, either by being deployed for some practical end or serving as the foundation to further theoretical work. And in the latter case [...] there is great value in obtaining the solution slightly sooner only if the further work it enables is itself both important and urgent.

    The question, then, is [...] whether it was important that the medalist enabled the publication of the result to occur at an earlier date. The value of this temporal transport should be compared to the value that a world-class mathematical mind could have generated by working on something else. At least in some cases, the Fields Medal might indicate a life spent solving the wrong problem - perhaps a problem whose allure consisted primarily in being famously difficult to solve.

    Similar barbs could be directed at other fields, such as academic philosophy. Philosophy covers some problems that are relevant to existential risk mitigation - we encountered several in this book. Yet there are also subfields within philosophy that have no apparent link to existential risk or indeed any practical concern. As with pure mathematics, some of the problems that philosophy studies might be regarded as intrinsically important, in the sense that humans have reason to care about them independently of any practical application. The fundamental nature of reality, for instance, might be worth knowing about, for its own sake. The world would arguably be less glorious if nobody studied metaphysics, cosmology, or string theory. However, the dawning prospect of an intelligence explosion shines a new light on this ancient quest for wisdom.

    The outlook now suggests that philosophic progress can be maximized via an indirect path rather than by immediate philosophizing. One of the many tasks on which superintelligence (or even just moderately enhanced human intelligence) would outperform the current cast of thinkers is in answering fundamental questions in science and philosophy. This reflection suggests a strategy of deferred gratification. We could postpone work on some of the eternal questions for a little while, delegating that task to our hopefully more competent successors - in order to focus our own attention on a more pressing challenge: increasing the chance that we will actually have competent successors. This would be high-impact philosophy and high-impact mathematics.

If this is not enough to calm down those readers feeling anger on behalf of mathematics and mathematicians, Bostrom furthermore offers the following conciliatory footnote:
    I am not suggesting that nobody should work on pure mathematics or philosophy. I am also not suggesting that these endeavors are especially wasteful compared to all the other dissipations of academia or society at large. It is probably very good that some people can devote themselves to the life of the mind and follow their intellectual curiosity wherever it leads, independent of any thought of utility or impact. The suggestion is that at the margin, some of the best minds might, upon realizing that their cognitive performance may become obsolete in the forseeable future, want to shift their attention to those theoretical problems for which it makes a difference whether we get the solution a little sooner.
The view of research priorities and the value of mathematical, philosophical and scientific progress that Bostrom offers in the above passages may seem provocative at first, but on second reflection it strikes me as wise and balanced. Are there any aspects of this issue he has failed to take into account? Of course there are, but the question should be whether there are any such aspects that are sufficiently relevant to overthrow his conclusion. Here's the best one I can come up with for the moment:

Perhaps the main value of a mathematical discovery lies not in the result itself, but in the process leading up to the discovery, and perhaps it is important that the cognitive work is done by an ordinary human tather than an enhanced human or some super-AI. Well, a bit of enhancement is OK - many years of education, plus some caffeine - but anything much beyond that reduces the value of the discovery significantly.

Something along those lines. But, honestly, doesn't it sound arbitrary, artificial, and more than a little anthropochauvinistic? It is certainly not an argument with which the mathematical community can hope to convince tax payers to support research in mathematics. Perhaps some similar argument might work for music or for literature, as the audience might have a preference for songs or novels they know are written by ordinary humans rather than by some superintelligence.2 But the case is very different for mathematics, because the population of people who can appreciate and enjoy, say, Wiles' proof of Fermat's Last Theorem or Perelman's proof of the Poincaré conjecture, is very small and consists almost exclusively of professional mathematicians. So using the argument for mathematics comes very close to asking taxpayers to support mathematical research because it is enjoyable to mathematicians.

The process-more-important-then-result objection fails to convince. All in all, I think that Bostrom's new perspective on the value of research findings, although of course not the only valid viewpoint, is very much worth putting on the table when discussing priorities regarding which research areas to fund.3

Footnotes

1) This notion of the value of a discovery is not entirely unproblematic, however. Consider the case of my friends Svante Linusson and Johan Wästlund, and their their solution to the famous problem of proving Parisi's conjecture. On the very same day that they announced their result, another group, consisting of Chandra Nair, Balaji Prabhakar and Mayank Sharma, announced that they had achieved the same thing (using a different approach). For the sake of the argument, let us make the following simplifying assumptions:
    (a) the two works and their timings were independent (almost true),

    (b) there is no extra value in having the two different proofs of the result compared to having just one (plain false),

    (c) without the two works, it would have taken another ten years for the scientific community to come up with a proof of Parisi's conjecture (pure speculation on my part).

With these assumptions, Bostrom's way of attaching value to research discoveries has some strange consequences. The work of Linusson and Wästlund is deemed worthless (because in view of the Nair-Prabhakar-Sharma paper, they did not accelerate the proof of Parisi's conjecture). Similarly and symmetrically, the Nair-Prabhakar-Sharma paper is deemed worthless. Yet, Bostrom has to accept that the two papers, taken together, are valuable, because they gave us proof of Parisi's conjecture ten years earlier than what would have been the case without them.

Such superadditivity of values is not unusual. A hot dog on its own may be worthless to me, and the same may go for a bun, but together they constitute a highly delicious and valuable meal. But the Linusson-Wästlund and the Nair-Prabhakar-Sharma papers, exhibiting the same superadditivity, still does not fit the hot-dog-and-bun pattern, because unlike the hot dog and the bun, each of the papers contains, on its own, the whole thing we value (the early arrival of the proof of Parisi's conjecture). Strange.

2) And chess. As a chess amateur, I enjoy studying the games of world champions and other grandmasters. For more than a decade, there have been computer programs that play clearly better chess than the very best human chess players. And yet, I do not find even remotely the same thrill in studying games between these programs, compared to those played between humans.

3) It will be interesting to see how this statement will be received by my friends and colleagues in the mathematics community. My hope and my belief is that the position I'm endorsing will be appreciated for its nuances and recognized as a point of view that merits discussion. But I am not certain about this. If worst comes to worst, my statement will be widely condemned and perhaps even mark the end of a 15-or-so years period during which I have received a steady stream of invitations and requests to take on various positions of trust in which I am expected to defend the interests of research mathematics. I would not welcome such a scenario, but I much prefer it to one in which I refrain from speaking openly on important issues.

tisdag 16 september 2014

Superintelligence odds and ends IV: Geniuses working on the control problem

My review of Nick Bostrom's important book Superintelligence: Paths, Dangers, Strategies appeared first in Axess 6/2014, and then, in English translation, in a blog post here on September 10. The present blog post is the fourth in a series of five in which I offer various additional comments on the book (here is an index page for the series).

*

The topic of Bostrom's Superintelligence is dead serious: the author believes the survival and future of humanity is at stake, and he may well be right. He treats the topic with utmost seriousness. Yet, his subtle sense of humor surfaces from time to time, diverting nothing from his serious intent, but providing bits of enjoyment for the reader. Here I wish to draw attention to a footnote which I consider a particularly striking example of Bostrom's way of exhibiting a slightly dry humor at the same time as he means every word he writes. What I have in mind is Footnote 10 in the book's Chapter 14, p 236. The context is a discussion on whether it improves or worsens the odds of a favorable outcome of an AI breakthrough with a fast takeoff (a.k.a. the Singularity) if, prior to that, we have performed transhumanistic cognitive enhancement of humans. As usual, there are pros and cons. Among the pros, Bostrom suggests that improved cognitive skills may make it easier for individual researchers as well as society as a whole to recognize the crucial importance of what he calls the control problem, i.e., the problem of how to turn an intelligence explosion into a controlled detonation with consequences that are in line with human values and favorable to humanity. And here's the footnote:
    Anecdotally, it appears those currently seriously interested in the control problem are disproportionately sampled from one extreme end of the intelligence distribution, though there could be alternative explanations of this impression. If the field becomes fashionable, it will undoubtedly be flooded with mediocrities and cranks.
The community of researchers currently working seriously on the control problem is very small - if their head count even reaches the realm of two-digit numbers, it is not by much. Bostrom is one of its two most well-known members; the other is Eliezer Yudkowsky. I'd judge both of them to have cognitive capacities fairly far into the high end of "the intelligence distribution" (and I imagine myself to be in a reasonable position to calibrate - as a research mathematician, I know a fair number of people (including Fields Medalists) in various parts of that high end). Bostrom is undoubtedly aware of his own unusual talents, as well as of the strong social norm saying that one should not talk about one's own high intelligence, yet his devotion to honest unbisaed matter-of-fact presentation of what he perceives as the truth (always with uncertainty bars) leads him in this case to override the social norm.

I like that kind of honesty, even though it carries with it a nonnegligible risk of antagonizing others. Yudkowsky, in fact, has been known for going far - much further than Bostrom does here - in speaking openly about his own cognitive talents. And he does receive a good deal of shit for that, such as in Alexander Kruels's recent blogpost devoted to what he considers to be "Yudkowsky’s narcissistic tendencies".

All this makes the footnote multi-layered in a humorous kind of way. I also think the footnote's final sentence about what happens "if the field becomes fashionable" carries with it a nice touch of humor. Bostrom has a farily extreme propensity to question premises and conclusions, he is well aware of this, and I do think this last sentence (which points out a downside to what is clearly a main purpose of the book - namely to draw attention to the control problem) is written with a wink to that propensity.

fredag 18 juli 2014

Dennett om transhumanism

Förra sommaren gjorde jag ett försök att på ett lättsamt vis engagera läsekretsen i det viktiga spänningsfältet biokonservatism vs transhumanism - något jag skrivit om även tidigare. Filosofen Daniel Dennett (en av de flitigast citerade personerna här på bloggen) har oftast varit upptagen av andra frågor. Ett undantag är hans medverkan som en av de få ljuspunkterna i rapporten Human Dignity and Bioethics: Essays Commissioned by the President's Council on Bioethics1 från 2008, där han bland annat (på s 83-88) begår lustmord på den särskilt fåraktiga form av biokonservatism som vissa av volymens övriga bidragsgivare försvarar, nämligen den som bygger på idén att det som står att läsa i Första Mosebok och andra heliga skrifter utgör bokstavliga, gudomliga och obestridliga sanningar. Ett annat undantag är följande kloka ord ur hans bok Freedom Evloves från 2003:
    The more we learn about what we are, the more options we will discern about what to try to become. Americans have long honored the “self-made man,” but now that we are actually learning enough to be able to remake ourselves into something new, many flinch. Many would apparently rather bumble around with their eyes closed, trusting in tradition, than look around to see what’s about to happen. Yes, it is unnerving; yes, it can be scary. After all, there are entirely new mistakes we are now empowered to make for the first time. But it’s the beginning of a great new adventure for our knowing species. And it’s much more exciting, as well as safer, if we open our eyes.

Fotnot

1) Den som inte vill läsa hela denna 577-sidiga lunta kan alternativt nöja sig med Steven Pinkers läsvärda och effektiva sågning i The New Republic.

torsdag 26 juni 2014

Transcendence är tyvärr inte helt lysande

För en tid sedan lovade jag att se science fiction-filmen Transcendence så snart den haft svensk premiär, och nu har jag gjort det. Filmen bjuder på en hel uppsättning av de ingredienser som en futurologiskt intresserad person som jag finner angeläget att diskutera - Singulariteten, uppladdning av medvetande, radikal nanoteknologi och transhumanistisk förbättring av människokroppen - och kryddar dessutom med en kacynskianskt inspirerad neoludditisk terrorgrupp. Och även om filmen börjar klart lovande, så måste jag konstatera (i likhet med flertalet recensenter) att orimligheterna snart börjar staplas på varandra, och till slut når en nivå där det inte längre går att ens nödtorftigt upprätthålla någon suspension of disbelief. Det mörkgröna slutet är rent ut sagt löjligt.

Att åstadkomma trovärdiga fiktiva skildringar av Singulariteten är dock inte någon lätt uppgift, möjligen snudd på omöjlig, och kanske bör vi vara glada åt att teamet bakom Transcendence trots allt försökt. Det är svårt att se hur en film på det temat skulle kunna undvika att antingen balla ur i visuell rappakalja så som i slutet av Stanley Kubricks 2001, eller också hanka sig fram med flagrant orealistiska inslag av mänsklighet. Vernor Vinge formulerade svårigheten redan 1983, i den passage där han myntade begreppet Singulariteten:
    We will soon create intelligences greater than our own. When this happens, human history will have reached a kind of singularity, an intellectual transition as impenetrable as the knotted space-time at the center of a black hole, and the world will pass far beyond our understanding. This singularity, I believe, already haunts a number of science fiction writers. It makes realistic extrapolation to an interstellar future impossible. To write a story set more than a century hence, one needs a nuclear war in between ... so that the world remains intelligible.

Transcendence bjuder på en del snygga specialeffekter, och jag gläds åt att stora delar av filmen utspelar sig i Berkeley - en stad jag verkligen gillar och haft flera givande forskningsvistelser i, och som numera också är säte för Machine Intelligence Research Institute (som vid sidan av Future of Humanity Institute i Oxford kan räknas som den främsta miljön för forskning kring Singulariteten). Skådespelarinsatserna imponerar emellertid inte. Johnny Depp är visserligen stajlad som det slags forskarnörd jag borde falla för, men varken han eller motspelerskan Rebecca Hall gör rolltolkningar som inbjuder till empati. Och Morgan Freeman är... Morgan Freeman. Ett något mindre uttjatat ansikte jag gladde mig åt att se var Kate Mara, och det tog mig faktiskt minst en halvtimmes funderande (Var tusan är det jag har sett den där mörka genomborrande snett-underifrån-blicken förut?) innan jag till slut kunde placera varifrån hon var bekant.

måndag 27 januari 2014

KVA-möte den 17 mars: Emergenta teknologier och mänsklighetens framtid

Måndagen den 17 mars i år äger ett möte rum på Kungliga Vetenskapsakademien (KVA) i Stockholm, som jag är med och arrangerar och som kan vara av stort intresse för de läsare som delar mitt intresse för mänsklighetens framtid och hur denna kan komma att påverkas av radikal teknikutveckling på olika områden. Det rör sig om ett heldagsmöte med rubriken Emerging technologies and the future of humanity. Mötet är öppet för allmänheten och kostnadsfritt, men föranmälan är obligatorisk. Så här har vi valt att formulera dess övergripande tema:
    A number of emergening and future technologies have the potential to transform - for better or for worse - society and the conditions for humanity. These include, e.g., geoengineering, artificial intelligence, nanotechnology, and ways to enhance human capabilities by genetic, pharmaceutical or electronic means. In order to avoid a situation where in effect we run blindfolded at full speed into unknown and dangerous territories, we need to understand what the possible and probable future scenarios are, with respect to these technological developments and their potential positive and negative impacts on humanity. The purpose of the meeting is to shed light on these issues and discuss how a more systematic treatment might be possible.
Fyra föredrag av lika många skarpsinniga, visionära och kontroversiella framtidsforskare (Seth Baum, Anders Sandberg, Karim Jebari och Roman Yampolskiy) kommer att presenteras, och mötet avrundas med en paneldiskussion där föredragshållarna kompletteras med tre inbjudna diskutanter (Ulf Danielsson, Gustaf Arrhenius och Katarina Westerlund) som kan väntas komma med kritiska synpunkter. Detaljerat tidsprogram finns tillgängligt på KVA:s hemsida, liksom följande sammanfattningar av föredragen.
  • Seth Baum, Global Catastrophic Risk Institute, NY, USA: The great downside dilemma for risky emerging technologies

    Many emerging technologies show potential to solve major global challenges, but some of these technologies come with possible catastrophic downsides. In this talk I will discuss the great dilemma that these technologies pose: should society accept the risks associated with using these technologies, or should it instead accept the burdens that come with abstaining from them? I will use stratospheric aerosol geoengineering as an illustrative example, which could protect humanity from many burdens of global warming but could also fail catastrophically. Other technologies that pose this great downside dilemma include certain forms of biotechnology, nanotechnology, and artificial intelligence, whereas nuclear fusion power shows less downside.

  • Anders Sandberg, Oxford University, UK: The future of humanity

    The key to the current ecological success of Homo sapiens is that our species has been able to deliberately reshape its environment to suit its needs. This in turn hinges on our ability to maintain a culture that grows cumulatively. We are now starting to develop technologies that enable us to reshape ourselves and our abilities - genetic engineering, cognitive enhancement, man-machine symbiosis. This talk will examine some of the implications of a self-enhancing humanity and possible paths it could take.

  • Karim Jebari, Kungliga Tekniska högskolan, Stockholm: Global catastrophic risk and engineering safety

    Engineers have maneged risk in complex systems for hundreds of years. Their approach differs radically from what economists refer to as “risk mangement”. The heuristics developed by engineers are very useful to understand and develop strategies to reduce global catastrophic risks. I discuss a potentially disruptive technology: control of ageing and argue that the risks of such a program have been underestimated.

  • Roman Yampolskiy, University of Louisville, KY, USA: Artificial general intelligence and the future of humanity

    Many scientists, futurologists and philosophers have predicted that humanity will achieve a technological breakthrough and create artificial general intelligence (AGI) within the next one hundred years. It has been suggested that AGI may be a positive or negative factor in the global catastrophic risk. After summarizing the arguments for why AGI may pose significant risk, I will survey the field’s proposed responses to AGI risk, with particular focus on solutions advocated in my own work.

Varmt välkomna den 17 mars!

lördag 5 oktober 2013

Om de två kulturerna

Begreppet "de två kulturerna" myntades 1959 av den engelske författaren och kemisten C.P. Snow, syftandes på å ena sidan humaniora, och å andra sidan det han kallade science, vilket är lite svårt att översätta till svenska eftersom vetenskap är för brett och naturvetenskap är för snävt. Hur som helst var Snows tes att det förelåg en klyfta och en brist på kommunikation mellan dessa båda kulturer, att klyftan var av ondo och att den borde överbryggas.

Mycket vatten har hunnit rinna under broarna sedan 1959, och en rad fora har genom åren skapats för just det slags överbryggning som Snow efterlyser. Sajten Edge är en sådan; en annan är kursen Naturvetenskap+ på Falkenbergs gymnasieskola, som jag härom veckan hade nöjet att göra ett litet inhopp i. Ändå förtjänar Snows budskap ännu att upprepas.

Från min föreläsning på Falkenbergs gymnasieskola den 26 september. (Foto Ola Folkesson, Hallands Nyheter)

I programförklaringen för Naturvetenskap+ skriver initiativtagarna Björn Bengtsson och Klas Broo vad kursen går ut på:
    Världen behöver människor som kombinerar naturvetenskap, samhällsvetenskap och humaniora. Kursen vill uppmuntra dig att bli en sådan människa.

    Naturvetenskap+ är en modern gymnasiekurs (Naturvetenskaplig specialisering) som behandlar evolutionsbiologi, kognitions- och socialpsykologi, logik, statistik, sannolikhet, retorik, argumentationsanalys, vetenskapshistoria och -teori, olika vetenskapliga metoder, filosofi och etik, samhälle, media och klimat. Med mer.

I en artikel i Hallands Nyheter den 28 september (tyvärr gömd bakom betalvägg) om min medverkan i kursen framgår att jag instämmer med herrarna Snow, Bengtsson och Broo:
    Olle Häggström tror att gymnasieskolans kurs har precis rätt tänk. För att klara utmaningar som mänskligheten står inför måste naturvetenskap kombineras med filosofi, samhällsvetenskap och humaniora.
Men det är en sak att upprepa slagorden om hur viktig överbryggningen är, och en annan att faktiskt förklara varför den är så viktig, som författaren och vännen Eva Franko nyligen antydde i en uppfordrande fråga till mig:
    Det skulle vara mycket värt om Häggström eller någon annan av samma kaliber fördjupar diskussionen och författar en mera klargörande text om hur det egentligen ligger till mellan Vetenskap och Humaniora inte bara inom den akademiska världen utan vad ett närmande mellan dessa discipliner skulle kunna innebära för samhället i stort.
Frågan om vikten av ett närmande mellan naturvetenskap och humaniora kan besvaras på flera plan. Ett är individuellt: den enskilde får en rikare begrepps- och tankevärld av att kunna belysa komplexa frågor från olika håll. Ett annat plan är att se till mänsklighetens samlade kunskapsproduktion, som i många fall gynnas kraftigt av ett närmande mellan de två kulturerna. Ett rykande färskt exempel på sådan kunskapsproduktion är den psykologiska studie som i veckan som gick rapporterades i Science och därefter för en bredare allmänhet i New York Times, där en forskargrupp funnit att människors empatiska förmåga gynnas av läsning av kvalitetslitteratur som Tjechov eller Alice Munro, på ett sätt som inte kunde skönjas om de istället läste kiosklitteratur.

Eva Frankos fråga föranleddes av en debatt mellan å ena sidan Steven Pinker, som i sin text Science is not your enemy förespråkar det slags brobyggande vi här talar om, och å andra sidan Leon Wieseltier, som i en text med den smaklösa rubriken Crimes against humanities istället vill resa murar för att skydda humaniora från naturvetenskapens hemska inflytande. Jag har själv kommenterat denna debatt i mina tidigare bloggposter Pinker om scientism och Akademiska gränsvakter. Den har sedan fortsatt, och Pinker ger i sitt senaste svar till Wielseltier exempel på frågor där en förening av naturvetenskapliga och humanistiska perspektiv har uppenbar potential att öka vår förståelse för viktiga frågor:
    In his commentary on my essay “Science is Not your Enemy,” Leon Wieseltier writes, “It is not for science to say whether science belongs in morality and politics and art.” I reply: It is not for Leon Wieseltier to say where science belongs. Good ideas can come from any source, and they must be evaluated on their cogency, not on the occupational clique of the people who originated them.

    Wieseltier’s insistence that science should stay inside a box he has built for it and leave the weighty questions to philosophy is based on a fallacy. Yes, certain propositions are empirical, others logical or conceptual or normative; they should not be confused. But propositions are not academic disciplines. Science is not a listing of empirical facts, nor has philosophy ever confined itself to the non-empirical.

    Why should either discipline stay inside Wieseltier’s sterile rooms? Does morality have nothing to do with the facts of human well-being, or with the source of human moral intuitions? Does political theory have nothing to learn from a better understanding of people’s inclinations to cooperate, aggress, hoard, share, work, empathize, or submit to authority? Is art really independent of language, perception, memory, emotion? If not, and if scientists have made discoveries about these faculties which go beyond received wisdom, why isn’t it for them to say that these ideas belong in any sophisticated discussion of these topics?

Lite längre fram i sitt läsvärda svar ger Pinker en rad konkreta exempel från sin egen verksamhet:
    Wieseltier doubts my sincerity when I note that the benefits of a consilience between the sciences and humanities go both ways. He bizarrely translates my observation that “the sciences [can] challenge their theories with the natural experiments and ecologically valid phenomena that have been so richly characterized by humanists” as “scientists think well and humanists write well." So let me explain the observation with a few examples of two-way traffic just from my own research. Theories of the mental representation of the visual field must accommodate the fact that the reproduction of linear perspective in painting is not cognitively natural but was a late invention in the history of art. A major theory of auditory scene analysis receives important confirmation from the phenomenon of virtual polyphony in music. Theories of mental imagery must account for the observations by analytical philosophers that images lack the geometric detail of visual percepts, and that even with such detail they would be unsuited to represent abstract concepts. Research in psycholinguistics depends heavily on philological scholarship on the history of words and grammatical constructions in English and other languages. Theories of cognitive categorization begin with contrasting views on the nature of concepts from Aristotle and Wittgenstein. The science of human aggression has learned immeasurably from the history of crime, war, genocide, criminal punishment, and religious and cultural attitudes toward violence. Examples could be multiplied from the research of others.
För den som (likt mig) anser att en utvidgning av mänsklighetens samlade vetande har ett värde i sig kan detta räcka som svar på Eva Frankos fråga, men vi kan också vidga diskussionen till ett tredje plan genom att föra in den mer praktiska betydelse för mänskligheten som antyds i citaten från Hallands Nyheter och Naturvetenskap+ ovan.

Ett exempel. I sin (av skäl som strax skall framgå helt bedrövliga) bok How to Spend $50 Billion to Make the World a Better Place1 från 2006 har den danske statsvetaren Bjørn Lomborg tagit hjälp av en panel ekonomer för att utröna vilka av en rad världsförbättrande åtgärder - malariabekämpning, vitamindistribution i tredje världen, begränsning av växthusgasutsläpp, etc - som ger störst utbyte för given kostnad. Projektet är inte i första hand naturvetenskapligt, men det är ekonomisk-teknokratiskt på ett sätt som lider svåra följder av bristen på humanistiskt perspektiv. För att över huvud taget kunna påbörja det slags jämförelser som Lomborg ägnar sig åt finns en rad djupt mänskliga värderingsfrågor att ta ställning till:

Är ett människoliv i Etiopien lika mycket värt som ett i New York, eller bör de värderas i förhållande till väntad ekonomisk produktivitet? Har vi moralisk rätt, gentemot kommande generationer, att utnyttja naturresurser i högre takt än de förnyas? Bör utrotningshotade djur- och växtarter värderas utifrån vilken framtida ekonomisk avkastning de kan tänkas ge, eller har de därutöver ett egenvärde? Hur mycket kan vi tänka oss att betala för att även i framtiden få njuta av skogspromenader och andra verkliga naturupplevelser, eller är vi beredda att avstå dessa och nöja oss med de fejkade dito som framtida virtual reality-teknik förhoppningsvis kan förse oss med? Är kortsiktig BNP-maximering viktigare än förhindrandet av en framtida klimatkatastrof? Varför skall vi över huvud taget göra något för framtiden - har den någonsin gjort något för oss? Etc, etc.

Se där några av de frågor som Lomborg kortsluter och inte låtsas om då han går rakt på sina kostnads-och-intäktskalkyler. Denna brist på humanistisk reflektion får hans projekt att urarta i barbari. Det är omöjligt att veta vad som hade hänt om Lomborg i sin ungdom hade haft lärare som Björn Bengtsson och Klas Broo på Falkenbergs gymnasieskola, men jag vill gärna föreställa mig att det hade resulterat i att How to Spend $50 Billion och Lomborgs övriga böcker hade blivit mer eftertänksamma och något mindre brutalt ekonomistiska.

Ett annat område där jag menar att ett närmande mellan de två kulturerna är fruktansvärt viktigt är den begynnande utvecklingen av farmakologisk, genetisk och elektronisk modifiering (eller "förbättring" som det oftast kallas) av människans fysiska och psykiska egenskaper. Om denna utveckling ses som ett naturvetenskapligt, medicinskt och teknologiskt projekt utan humanistiska inslag, så riskerar vi att hamna i den ena eller andra dystopiska framtid som vi inte ens reflekterat över i vår kortsiktiga jakt på förbättringar. Vad som måste integreras i de tekniska och naturvetenskapliga diskussionerna är djupa frågeställningar om (exempelvis) vad för slags varelser vi vill vara, vad som eventuellt kan pekas ut som de essentiellt mänskliga egenskaperna, och i vad mån dessa egenskaper är något vi bör värna om. Vad som bland annat behövs är humanistisk reflektion kring konkreta frågor av den typ som jag lite skämtsamt lyfte fram i somras i min bloggpost Testa dig själv: är du biokonservativ eller transhumanist - en reflektion och en diskussion som behöver gå långt mer på djupet jämfört med min lättsamma testa dig själv-lek i bloggposten.

Fotnot

1) Inget ont som inte har något gott med sig, heter det ju. Det var denna bok som en gång i tiden (2006) provocerade mig att börja engagera mig i klimatfrågan på allvar.

tisdag 1 oktober 2013

Michael Chorost har en dator i sitt huvud

Rubriken till dagens bloggpost syftar inte på det faktum att Michael Chorosts hjärna, liksom alla andras, är en (till stor del) elektrisk informationsbehandlingsapparat. Nej, vad den syftar på är att han har en programerbar liten dator av kisel och transistorer inopererad i huvudet. Det rör sig om ett så kallat cochleaimplantat, som via radiolänk tar emot och processar signaler från den så kallade transmittern, vilken sitter utanpå huvudet, och i sin tur har tagit emot signaler från exempelvis en mikrofon. Implantatet vidarebefordrar sedan de processade signalerna till hjärnans hörselnerver, vilket skänker (den i annat fall döve eller nästan döve) Chorost hörselupplevelser.

I sin läsvärda bok Rebuilt: How Becoming Part Computer Made Me More Human från 2005 berättar Chorost om hur han sommaren 2001, vid 36 års ålder, plöstligt går från den hörselskada han föddes med till att bli döv, och hur han med hjälp av det cochleaimplantat han får inopererat några månader senare successivt hittar tillbaka till en allt bättre hörsel.1 Han är inte förste bäraren av ett sådant implantat (före honom hade ett femsiffrigt antal personer fått cochleaimplantat, och antalet är nu en bra bit över 200 000) men han är först med att i bokform berätta om upplevelsen och om teknikens praktiska och filosofiska implikationer. Fokus i boken ligger på Chorosts egen berättelse, men vi får också lära oss den del om själva tekniken och om de blandade reaktioner med vilken den tagits emot i det amerikanska dövsamhället.

Att cochleaimplantatet är något helt annat än en vanlig hörapparat förstår man på ett konkret sätt då Chorost kan koppla upp sig mot exempelvis en telefon eller en CD-spelare, och på så sätt få ta del av ljudupplevelser utan att dessa härrör från några som helst ljudvågor eller vibrationer i rummet han befinner sig i. Intressant är också hur han får tillgång till alternativa programvaror som var och en ger sina karaktäristiska ljudbilder och ljudupplevelser, vilket gör att han blir osäker på hur det "sanna" ljudet verkligen låter och till slut inser att det inte finns någon objektiv sanning i frågan utan bara olika representationer.2

I bokens näst sista kapitel diskuterar Chorost ytterligare möjligheter att utveckla idén om direktkoppling mellan dator och nervsystem, bortom den specifika tillämpningen på hörselsinnet. Här vill han lägga band på den ohejdade teknikoptimism som andra författare som t.ex. Kevin Warwick ger uttryck för, och han vill dra en skarp skiljelinje mellan behandling och allmän förbättring, som i följande passage:
    These technologies are only for people with serious medical conditions. Warwick consistently neglects this important qualification. Upon having used his implant to pilot an electric wheelchair he comments, "I told everyone that this would ultimately mean, in the future, we should be able to drive a car around by picking up signals directly from the brain, and change direction just by thinking about it, right, left, and so on." For disabled people, this is an exciting prospect. But the rest of us already do drive with signals from our brains, picked up and executed perfectly by our arms and legs.

    Warwick might respond that having direct nervous control over an automobile would let us drive it better, since we wouldn't have to move around our heavy meat arms and legs. But then issues of practicality and safety come into play. (s 176-177)

Det finns mycket att invända mot i detta stycke, inklusive hans nästan löjligt malplacerade "perfectly". Men jag tror att det är överflödigt. Chorost verkar nämligen, efter författandet av Rebuilt, ha gjort en helomvändning i denna fråga. Marknadsföringen av hans uppföljare World Wide Mind: The Coming Integration of Humanity, Machines, and the Internet från 2011 mer än antyder att så är fallet. Jag får eventuellt ta och läsa den boken också.

Fotnoter

1) Jag gillar alltså boken, men jag får tidigt en svårbestämd känsla av att inte gilla författaren. Så småningom inser jag att det handlar om en störande långt driven egocentricitet, och om att hans personbeskrivningar genomgående har något mekaniskt över sig. Särskilt störande blir detta i skildringen av det singelliv i vilket han är aktiv med anlitandet av en rad dejtingförmedlingar - en skildring där de kvinnor han möter aldrig framstår som intressanta i sig utan enbart som redskap för att om allt vill sig väl skänka Chorost ett långt och lyckligt äktenskap.

2) Tyvärr begår Chorost en märklig lapsus då han efter en diskussion om ljudupplevelsers logaritmiska karaktär (som en funktion av ljudvågors amplitud) levererar följande passage.
    Dear reader with organic ears, you do not percieve the world as it really is, and you never will. But be glad: a truly faithful rendition of the auditory world would either be flat and shallow, or unbearably painful. (s 150-151)
Kursiveringen är hans egen, men det jag vänder mig emot är den sista meningen. Någon "truly faithful" återgivning finns inte, och att efterfråga en sådan eller ens (som här) antyda dess existens är ett filosofiskt misstag som negerar de i övrigt kloka och riktiga saker Chorost har att säga i frågan. Allt som finns är olika avbildningar mellan fysisk verklighet och hörselupplevelser. Någon objektivt rätt avbildning finns inte (och en logaritmisk avbildning mellan fysisk amplitud och ljudupplevelse är knappast mindre rätt än en linjär), utan det bästa man kan hoppas på är en avbildning som ger pålitlig och användbar information om vad som finns därute.

fredag 26 juli 2013

Testa dig själv: är du biokonservativ eller transhumanist?

Jag skrev häromsistens (liksom redan för ett par år sedan) om det kniviga spänningsfältet mellan biokonservatism och transhumanism. Detta är en debatt som de flesta inte är vana vid och därför inte explicit tagit ställning i. I korrespondens med min gode vän Ulf Persson uttryckte denne en misstanke om att han själv nog var biokonservativ, och i syfte att hjälpa honom bli klar över var han står erbjöd jag honom ett litet test, som jag nu vill låta även bloggens läsekrets få prova på. Välj, för var och en av de sex frågorna, det svarsalternativ som speglar din uppfattning bäst.1

* * *

1. Vad anser du om bruk av skor?

(a) Onaturligt och förkastligt.
(b) Hm, det tål att tänka på.
(c) Mycket bra och praktiskt i många situationer.

2. Vad anser du om bruk av glasögon?

(a) Ytterst olämpligt. Vi bör finna oss i den synskärpa Gud (eller evolutionen) givit oss.
(b) Hm, det tål att tänka på.
(c) Glasögon är ett ovärderligt instrument för många av oss, och ett fall framåt för mänskligheten.

3. Vad anser du om bruk av amfetamin i syfte att höja intellektuell och akademisk prestationsförmåga?

(a) Motbjudande fusk.
(b) Hm, det tål att tänka på.
(c) En utmärkt åtgärd.

4. Vad anser du om provrörsbefruktning av människor?

(a) Creepy.
(b) Behöver diskuteras mer.
(c) Mycket värdefullt led i hur vi äntligen tar kontroll över den egna reproduktionen.

5. Vad anser du om kloning av människor?

(a) Fruktansvärt creepy.
(b) Behöver sannerligen diskuteras mer.
(c) Önskvärt att en sådan teknik snarast blir tillgänglig. Föräldrar bör ha så stor frihet som möjligt att skänka sina barn bästa möjliga genuppsättning.

6. Vad anser du om uppladdning av mänskligt medvetande på datorer?

(a) Vad yrar du om nu?
(b) Innan vi tar ställning till om det är bra eller dåligt finns ett antal svåra filosofiska frågor om medvetande och personlig identitet att reda ut.
(c) Detta är den underbara framtid som slutligen kommer att befria oss från kroppens skröpliga skal.

* * *

Tillgodoräkna dig nu 2 poäng för varje a-svar, 1 poäng för varje b-svar, och 0 poäng för varje c-svar. Summering över de 6 frågorna ger en poängsumma mellan 0 och 12 poäng. Den läsare som landar i intervallet 0-2 poäng har givit uttryck för typiskt transhumanistiska uppfattningar, medan den som hamnar på 9-12 poäng svarat som en tvättäkta biokonservativ. Den som hamnar däremellan, på 3-8 poäng, verkar befinna sig i den bioetikens gråzon där man inte tagit tydlig ställning för vare sig biokonservatism eller transhumanism. Många av dessa, speciellt de som hamnar i den undre delen av detta mitt-intervall, kan tänkas vara transhumanister innerst inne men behöva lite tid på sig att vänja sig vid ny teknik.2

Fotnoter

1) Den uppmärksamma och kritiskt tänkande läsaren kommer eventuellt att finna att urvalet av frågor och inte minst deras ordningsföljd är tendentiös, och i så fall har vederbörande alldeles rätt. Provocerad av Ulfs tentativa positionering valde jag att, förklätt till det vanliga testa dig själv-konceptet, prova en sokratisk implementering av det retoriska grepp som beskrivs av Nick Bostrom och Julian Savulescu i introduktionen till deras läsvärda antologi Human Enhancement:
    The degree to which human enhancements constitute a distinctive cluster of phenomena for which it would be appropriate to have a (multidisciplinary) academic subfield is debatable, however. One common argumentative strategy, used predominantly to buttress pro-enhancement positions, is to highlight the continuities between new controversial enhancement methods and old accepted ways of enhancing human capacities. How is taking modafinil fundamentally different from imbibing a good cup of tea? How is either morally different from getting a full night’s sleep? Are not shoes a kind of foot enhancement, clothes an enhancement of our skin? A notepad, similarly, can be viewed as a memory enhancement—it being far from obvious how the fact that a phone number is stored in our pocket instead of our brain is supposed to matter once we abstract from contingent factors such as cost and convenience. In one sense, all technology can be viewed as an enhancement of our native human capacities, enabling us to achieve certain effects that would otherwise require more effort or be altogether beyond our power.

2) Jag kanske borde redovisa var jag själv landar i detta test. Jag får 3 poäng, vilket alltså placerar mig i gråzonen men med en tydlig dragning åt det transhumanistiska hållet. Det senare kan dock vara en konsekvens av att testet är så tydligt riggat (se Fotnot 1). Nick Bostrom ger i sin ofta citerade Transhumanist FAQ en tudelad definition av transhumanism:
    (1) The intellectual and cultural movement that affirms the possibility and desirability of fundamentally improving the human condition through applied reason, especially by developing and making widely available technologies to eliminate aging and to greatly enhance human intellectual, physical, and psychological capacities.

    (2) The study of the ramifications, promises, and potential dangers of technologies that will enable us to overcome fundamental human limitations, and the related study of the ethical matters involved in developing and using such technologies.

Om det bara gällde del (2) av denna definition så skulle jag utan vidare kalla mig varm anhängare av transhumanismen, men rörande del (1) känner jag mig ännu inte redo att sätta ned foten.

torsdag 11 juli 2013

Om psykofarmaka

Av alla radikala teknologiska utvecklingslinjer som kan bli aktuella i framtiden är modifiering av den mänskliga naturen på exempelvis farmakologisk, genetisk och elektronisk väg den på sätt och vis allra mest revolutionerande. Bejakande av denna utveckling kallas transhumanism. Mot transhumanismen kan, lite grovt, ställas biokonservatismen. Den senare hävdar att sagda utveckling riskerar underminera och till slut tillintetgöra centrala mänskliga värden, och att den därför bör undvikas.

Ett av mina pågående (men långsiktiga) personliga bildningsprojekt är att sätta mig in i den djupa motsättningen mellan transhumanism och biokonservatism. Jag försöker göra det med så öppet sinnelag som möjligt, och med undertryckande av den intuitiva magkänsla - det lätta illamående jag kan känna inför olika konkreta förslag på hur människans kropp och psyke kan omstöpas - som initialt drar mig åt det biokonservativa hållet. Hittills har det visat sig att ju mer jag läser om området, desto tydligare blir det för mig hur mycket svagare argumentationen är hos biokonservatismens frontfigurer som Leon Kass1, Michael Sandel och Francis Fukuyama, jämfört med den hos transhumanismens (enligt min mening) främste och mest övertygande företrädare Nick Bostrom. Oavsett om Bostrom argumenterar på egna villkor eller i respons på biokonservativa texter, så finner jag att hans resonemang överlag står sig bättre mot kritisk granskning än vad nämnda biokonservativa debattörers alster gör.

Men det gäller att försöka vaska fram det bästa hos båda sidor, och mitt syfte med dagens bloggpost är att lyfta fram vad jag tror är den bästa biokonservativa text jag (hittills) träffat på, nämligen den amerikanske litteraturteoretikern Frederick Crews essä Talking back to Prozac från 2007. Den skiljer sig från de länkade texterna av Kass, Sandel och Fukuyama genom att helt avstå från futuristiska funderingar och istället fokusera på situationen här och nu rörande det alltmer utbredda bruket av psykofarmaka i västvärlden. Essäns relevans för spänningsfältet transhumanism kontra biokonservatism kommer sig till stor del av att transhumanistiska debattörer tenderar (dock naturligtvis med stor individuell variation) att dra åt det laissez faire-liberala hållet: beslutet om förbättringar av individers psykiska och fysiska egenskaper bör så långt som möjligt läggas på individerna själva eller (t.ex. om dessa ännu inte finns) deras föräldrar, med så lite statlig inblandning som möjligt.2,3 Men en sådan liberalism tenderar att frigöra inte bara individerna, utan också (och kanske främst) marknadskrafterna och storföretagen. Crews visar hur dagens ökade bruk av psykofarmaka tycks mindre drivet av människors behov av sådana, än av läkemedelsjättarnas4 behov av att tjäna pengar:
    Drug makers earn their enormous profits from a very few market-leading products for which new applications are continually sought. If those uses don’t turn up through experimentation or serendipity, they can be conjured by means of “condition branding”—that is, coaching the masses to believe that one of their usual if stressful states actually partakes of a disorder requiring medication.
Ett centralt exempel i Crews framställning är hur det som tidigare kallades blyghet och sågs som ett normalt personlighetsdrag numera allt oftare diagnostiseras som en farmakologiskt behandlingsbar åkomma vid namn social anxiety disorder. Ett annat är den ökade förekomsten av diagnostiserad depression. Stor vikt i uppsatsen läggs på läkemedelsbolagens direkt skurkaktiga hantering av biverkningsrisker, men Crews uttrycker också, i sann biokonservativ anda, oro över att vi är på väg att medicinera bort viktiga delar av det mänskliga:
    Episodic sadness has always been a socially approved means of adjusting to misfortune and [...] much is lost, both medically and culturally, when it is misread as a depressive disorder.
Jag känner mig genuint osäker på hur stor vikt vi bör fästa vid detta argument (är sorgsenhet något vi bör värna om?), men finner hur som helst Crews uppsats både läsvärd och viktig.

Fotnoter

1) Kass talar sig i den länkade uppsatsen varm för "the wisdom of repugnance" (äckelkänslornas visdom), vilken innebär att jag bör ta det nyss omtalade illamåendet på allvar och tolka det som ett tecken på att föremålet för illamåendet verkligen är något som vi har anledning att försöka undvika.

2) Se t.ex. Anders Sandbergs Morphological freedom - Why we not just want it, but need it, och Max Mores regleringskritiska proactionary principle (formulerad i polemik med the precautionary principle - försiktighetsprincipen) som i sin första paragraf säger att "our freedom to innovate technologically is valuable to humanity. The burden of proof therefore belongs to those who propose restrictive measures. All proposed measures should be closely scrutinized."

3) Idéhistoriskt är det lätt att föreställa sig att denna tendens hos transhumanismen bottnar i rädsla för klassiska dystopiska scenarier som Aldous Huxleys Du sköna nya värld, där en staligt kontrollerad bioteknologi förvandlat folket till lydiga (men nöjda) nickedockor.

4) En senare uppsats i samma tidskrift (New York Review of Books) och med samma kritiska syn på Big Pharma som jag också tagit stort intryck av är Marcia Angells The illusions of psychiatry.

måndag 24 juni 2013

Om kryonik

I min förra bloggpost "Anders Sandberg vill helst inte dö" länkar jag till en film där Anders bl.a. berättar att ett av de medel med vilket han söker undgå döden är kryonik.1 Vad är då kryonik? I den första av två delar av dagens bloggpost svarar jag på den frågan. I den andra delen redogör jag för de personliga överväganden som ligger bakom att jag själv inte tecknat mig för kryonikbehandling.

1. Vad är kryonik?

Kryonik definieras av svenska Wikipedia som den teknik "med vilken man fryser ned en människa efter döden med hjälp av kryoteknik". Planen är att kroppen skall ligga nedfryst ända till den dag då den medicinska vetenskapen nått så långt att kroppen kan tinas upp och människan ifråga med hjälp av de nya medicinska landvinningarna kan räddas till livet. Kryonik dras med en tokstämpel, eftersom det med denna beskrivning låter som om det handlar om att väcka döda till liv. Kryonikens försvarare brukar därför hävda att den beskrivning som svenska Wikipedia (i likhet med så många andra) ger är felaktig: de människor som fryses ned är inte döda i ordets egentliga mening, utan blott svårt och livshotande sjuka.

Det är visserligen sant att alla som idag genomgår kryonisk nedfrysning (fram till idag handlar det om några hundra personer) är döda i lagens mening - att inte invänta sådan dödförklaring är (åtminstone i USA) olagligt. De som hävdar att kryonik inte kan fungera eftersom det per definition inte går att väcka döda till liv gör ett elementärt logiskt misstag, nämligen att förväxla å ena sidan dagens juridiska definition av (hjärt- eller hjärn-) död med å andra sidan den i sammanhanget relevanta informationsteoretiska definitionen av död, som inträffar då hjärnan drabbats av så svåra och irreparabla skador att personen är fysikaliskt omöjlig att återskapa.2 Att utan argument hävda att dessa dödsbegrepp sammanfaller är blott ett löst påstående - som till råga på allt troligen är felaktigt.

Kryonik är en spekulativ teknik, eftersom den bygger på framtida medicinska framsteg, om vilka vi givetvis inte kan veta något säkert. Men detta betyder inte att kryonik inte skulle ha någon vetenskaplig grund alls - det har den, och den sammanfattas förtjänstfullt i en artikel från 2008 rubricerad Scientific justification of cryonics practice av Benjamin Best. Den grundläggande tanken är att det är diverse kemisk aktivitet som hotar att åsamka kroppens celler och strukturer irreversibla skador, och att kemisk aktivitet minskar kraftigt med sänkt temperatur,3 för att vid de temperaturer det handlar om (cirka -196°C, kvävets kokpunkt) i praktiken ha avstannat helt.

Den kanske största komplikationen i samband med nedfrysning är att vattnet i kroppen blir till is som riskerar krossa cellerna. Det löses genom att ersätta kroppens blod med substanser som undviker isbildningen och istället leder till så kallad vitrifiering (övergång i samband med kylning till fast form utan kristallbildning) - en process som också förekommer i naturen, hos vissa övervintrande växter. En ytterligare komplikation är de eventuella skadeverkningar som de tillförda ämnena kan ha på kroppen under själva nedfrysningen. Bland annat på denna punkt pågår omfattande forskning inom det område som på engelska heter cryopreservation, vars tillämpningar idag dock inte i första hand handlar om kryonik, utan oftare om frysning av blod och organ för transplantation.

Ingen vet idag om de som nu genomgår kryonikbehandling någonsin kommer att väckas till liv. Att inte ha någon bestämd uppfattning åt det ena eller andra hållet synes mig förnuftigt. Max More, som är VD för det marknadsledande kryonikföretaget Alcor (och som därför kan tänkas ha andra skäl än de rent vetenskapliga för sin uppfattning) är optimistisk:
    We’ll look back on this 50 to 100 years from now — we’ll shake our heads and say, “What were people thinking? They took these people who were very nearly viable, just barely dysfunctional, and they put them in an oven or buried them under the ground, when there were people who could have put them into cryopreservation." I think we’ll look at this just as we look today at slavery, beating women, and human sacrifice, and we’ll say, “this was insane — a huge tragedy."

2. Varför har jag inte tecknat mig för kryonikbehandling?

Priset för kryonikbehandling varierar enligt Wikipedia mellan $10 000 och $250 000, beroende på vilket kryonikföretag man vänder sig till, om man vill bevara hela kroppen eller nöjer sig med huvudet, och vilken nivå av standby-service för att snabbt komma igång med processen man önskar få den dag man ligger för döden. För att bestämma sig för om man vill teckna sig för kryonik är det lämpligt (liksom vid köp och affärstransaktioner i största allmänhet) att väga kostnaden mot förväntat utbyte.

Låt oss säga att jag tecknar mig för kryonikbehandling i hopp om att väckas i ett framtida århundrade med avancerad medicin som kan göra mig frisk igen - och kanske rentav ge mig min ungdom åter, samt förse mig med hela det paket av fysiska och kognitiva förbättringar som transhumanister drömmer om. Det är mycket som skall klaffa för att så skall ske. För det första får inte idén med kryonik vara förfelad - kryonik måste vara möjligt (det vet vi inte att det är). För det andra måste jag komma på plats för kryonikbehandling tillräckligt snabbt efter mitt (legala) dödsfall, så att inte nedbrytningen av mitt nervsystem och eventuella andra vitala delar gått så långt att jag inte längre kan återskapas. För det tredje måste förhoppningen infrias om att den medicinska vetenskapens utveckling blir så positiv som jag här tänker mig (och inte t.ex. avbryts av någon framtida civilisationskollaps), så att det någonsin kan bli aktuellt att tina upp mig. För det fjärde måste kryonikföretaget hålla vad det lovar, och bevara mig nedfrusen genom vem-vet-vilka samhälleliga förändringar och oroligheter i kanske århundraden. För det femte måste det, när väl den nya medicinska teknik är på plats, finnas ett intresse att väcka till liv en (jämfört med de fysiskt och kognitivt boostade människor som då kommer att vara legio) skröplig efterbliven farbror från en svunnen tid. Det troligaste är nog att minst en av dessa punkter fallerar, men å andra sidan är det knappast uteslutet att de alla går enligt förhoppningarna, och att säga att jag skulle ha en chans på tusen att bli återuppväckt känns inte som någon orimligt optimistisk uppskattning. Så låt oss (för resonemangets skull) säga det: att sannolikheten, givet att jag tecknar mig för kryonik, att jag till slut blir återuppväckt är 0,001.

Nästa fråga vi behöver ta ställning till för att fullborda vår kostnads-och-intäktskalkyl är vad jag kan förvänta mig att få ut av att återuppväckas. Vad jag kan få uppleva i denna okända framtid är så svårt att säga något bestämt om att det knappt är någon idé att försöka få in i kalkylen, men om vetenskapen nått så långt att jag kan återuppväckas, och om någon anser detta återuppväckande vara en prioriterad åtgärd, så är det rimligt att tänka sig att jag kommer att försättas i ett gott fysiskt och mentalt skick - troligtvis långt bättre än jag någonsin tidigare befunnit mig i. Hur länge kommer jag att kunna leva, givet att jag återuppväcks? En radikal förlängning av livslängder kan väntas ha skett, kanske rent av med en etablerad teknik för backupkopior av våra medvetanden som gör oss snudd på odödliga. En rimlig subjektiv sannolikhetsfördelning för hur länge jag kan tänkas få leva behöver vara ytterst tungsvansad, och att klämma till med ett väntevärde (genomsnitt) på en miljon år är knappast optimistiskt i överkant.

Låt oss dra till med det: sannolikhet 0,001 att bli återuppväckt, och förväntad extra livslängd 1 000 000 år givet att så sker. Det ger ett obetingat väntevärde på
    0,001 * 1 000 000 = 1000 års extra livslängd,
till det facila priset om en till två miljoner kronor, eller rentav en bit under 100 000 kronor om jag vill snåla och nyttja någon budgetversion. Låt oss runda av siffrorna och säga i genomsnitt 1000 års extra livslängd för en miljon kronor, vilket betyder blott en tusenlapp för varje extra år. Detta låter som en riktigt no brainer (om uttrycket tillåts) för den som kan skaka fram pengarna! Det kan jag nog, och om det skulle knipa går det hela att lösa (som många har gjort) med hjälp av en livförsäkring i vars kontrakt finns inskrivet att om den faller ut så går pengarna till en noggrant specificerad kryonikbehandling med något visst kryonikföretag.

Ändå har jag valt att avstå från att teckna mig för kryonikbehandling! Detta tarvar en förklaring, och en sådan skall jag leverera. Med nedanstående förklaring tar jag emellertid två risker. För det första är det inte alltid så lätt att vara helt ärlig mot sig själv och att rätt förstå de motiv man har för sina handlingar. I det här fallet skulle det kunna vara så att den följande förklaringen, som kan framstå som lite konstlad, i själva verket är blott konstlad, och något jag lurat i mig själv för att slippa inse att mitt verkliga bakomliggande motiv är något betydligt mindre tjusigt och intressant, typ "innerst inne inser jag att kryonik är bullshit" eller "jag orkar inte stå emot det grupptryck som hävdar att den som tecknar sig för kryonik är en fullkomlig knäppgök - tusentals eller miljontals levnadsår i all ära, men om det kommer till priset av att mina (nuvarande) vänner och anhöriga tror att jag förlorat förståndet så avstår jag hellre". För det andra finns risken att min förklaring nedan framstår som så urflippad och wacko att jag kommer i ännu knäppare dager än om jag hade gått ut med att jag ämnar låta mig kryonikbehandlas. Dessa risker får jag leva med, då jag anser den följande diskussionen viktig.

Som måhända framgått i en del tidigare inlägg på denna blogg (t.ex. detta och detta) anser jag det viktigt att mänskligheten får en blomstrande framtid - även i ett tidsperspektiv som sträcker sig långt bortom nästa kvartalsrapport och nästa val. Vad jag däremot inte anser viktigt är att just jag får vara med om denna framtid. Jag är inte mer värd än andra människor.

Vän av ordning undrar kanske här om jag inte förbiser skillnaden mellan viktigt i största allmänhet, och viktigt för mig. Även om det ur ett opartiskt perspektiv inte är viktigt att jag lever år 2500, så borde väl i alla fall jag personligen ha ett intresse av att så sker? Det personliga intresset är emellertid överskattat, vilket man kan inse genom att bekanta sig med fångens dilemma och allmänningens tragedi, och som kan inses med ännu större kraft genom att läsa och ta till sig Derek Parfits fantastiska bok Reasons and Persons (möjligen det viktigaste moralfilosofiska arbete som författats under min livstid). Parfit problematiserar bland annat begreppet personlig identitet, och vi kan exemplifiera problematiken med att fråga oss vad utsagan
    (1) "Olle Häggström lever år 2500"
egentligen betyder. En tänkbar precisering av utsagan är något i stil med
    (2) "det existerar en person år 2500 vars personlighetsdrag i hög grad stämmer överens med dem jag (OH) har idag, och som bär på minnen från år 2013 och tidigare vilka stämmer väl överens med dem jag har idag".
Vad jag (inspirerad av Parfit) hävdar är att det utöver (2) inte finns någon mer fundamental eller metafysisk betydelse av (1), och inget "jag" som bevaras över tid i någon annan mening än den som avses i (2). Eller med andra ord - med en terminologi som jag förra året införde i min bloggpost "Dör man av att teleporteras?" - existerar ingen Öfverlefnad utan blott vanlig enkel överlevnad. Susan Blackmore har formulerat denna position (som hon kallar "deflationistisk") vackert i sin korta essä "She won't be me". Den är kontraintutiv, men bör ändå tills vidare accepteras, då varje försök att definiera Öfverlefnad och postulera dess existens verkar leda till ännu värre konstigheter, som luktar dualism och ren vidskepelse. Och om Öfverlefnad inte finns, då behöver jag knappast snöa in mig på att försöka se till att (1) inträffar.

Vän av ordning har kanske här en ny invändning, nämligen att jag inte tillämpar den här teorin konsekvent i mitt dagliga liv. Och det kan hon ju i så fall ha rätt i. Var och en som ser hur jag agerar, t.ex. då jag avsätter en groteskt stor del av min väl tilltagna professorslön till egen lyxkonsumtion, snarare än att via t.ex. Unicef eller Läkare utan gränser låta pengarna komma till användning för människor som behöver dem så ojämförligt mycket bättre, ser att jag i mina dagliga handlingar värderar mig själv högre än andra. Till det kan jag inte neka. Att jag agerar på detta gravt asymmetriska vis har att göra med att jag är människa, och således en produkt av evolutionen - en evolution som obamhärtigt sållat bort individer som inte ser om sitt eget hus utan som totalt osjälviskt offrar sig för andra.4 Här finns en diskrepens mellan, å ena sidan, hur jag intellektuellt anser att jag borde agera, och, å andra sidan, den impulsiva egoism som finns nedärvd i mig. Jag kan försöka göra mitt bästa att på ett förståndigt sätt hantera den senare, men att helt övermanna den är nog i praktiken ogörligt. Men om det nu faktiskt föreligger en konkret fråga - "Bör jag teckna mig för kryonik?" - där den impulsiva egoismen inte gör sig påmind genom att pocka på att jag skall göra det som är bäst ur mitt snäva OH-perspektiv, då bör jag tacksamt notera detta och avstå från det självcentrerade beteendet att teckna mig för kryonik - även om det ter sig inkonsekvent i förhållande till mina gärningar i övrigt.

Ett annat försvar för diskrepensen mellan mina dagliga gärningar och mitt ointresse för att leva år 2500 är följande. Jag har en mängd konkreta idéer om hur jag skall kunna göra världen en liten aning bättre här och nu - och då handlar det inte bara om en massa naivt optimistiska tankar om hur jag t.ex. i min nästa bok skall kunna sprida idéer som bidrar till en förnuftigare samhällsplanering, utan också om hur jag på jordnära enkla vis förhoppningsvis kan skänka något lite glädje åt vänner och anhöriga. Ingen av dessa saker är tillämplig år 2500 - mina anhöriga kommer inte att leva då, och jag har svårt att föreställa mig att jag skulle kunna bidra med något av värde till vetenskap, samhällsdebatt eller kultur bland de (över-)människor som lever då. Antagligen kommer de att med olika farmakologiska, genterapeutiska och elektroniska ingrepp att kunna öka min kognitiva förmåga till deras egen standard, men det finns knappast något skäl att tro att detta skulle gå bättre av att det utgår från mig istället för att börja från scratch eller från någon mer samtida person.

Är jag säker på att jag tänker rätt i denna fråga? Nej, det är jag såklart inte. Ibland får man chansa.

Fotnoter

1) Anders satte för ett antal år sedan upp en rikligt länkad webbsida där han förklarar varför han tycker att kryonik är en bra idé.

2) Exakt var den gränsen går vet vi väldigt lite om. Man skulle rentav kunna spekulera kring att om jag skulle råka dö imorgon och kremeras nästa vecka, så skulle det med rätt teknik ändå i princip vara möjligt att återskapa mig baserat på denna blogg; på mina böcker, artiklar, kvarlämnade anteckningar och schackprotokoll; och på djupintervjuer med min käresta, mina föräldrar och syskon, och något hundratal av mina vänner och kollegor. Tanken känns sjövild, men är det verkligen helt uteslutet att det skulle kunna vara så?

3) Detta är ett skäl till att kylskåp och frysboxar fungerar. Vidare är det ett välkänt faktum att människor kan överleva betydligt längre hjärtstillestånd om de samtidigt (t.ex. i samband med drunkningstillbud) är kraftigt nedkylda.

4) Att evolutionen ändå i många fall lyckats frambringa samarbete är underbart - både i sig, och som en intellektuell utmaning att försöka förstå!