måndag 29 juli 2013

Sotala och Yampolskiy om katastrofala AI-scenarier och hur dessa eventuellt kan förebyggas

Ingen kan säkert säga om den artificiella intelligensen (AI) någonsin kommer att nå eller passera mänsklig intelligensnivå, eller i så fall om det blir om 10, 50 eller 200 år. Experternas meningar går kraftigt isär, och om vi blickar bakåt så ser vi att många felaktiga prediktioner i frågan gjorts. Datalogerna Kaj Sotala och Roman Yampolskiy påpekar emellertid, i den aktuella uppsatsen Responses to catastrophic AGI risk: a survey (där titelns AGI står för artificial general intelligence), att det
    would be a mistake, however, to leap from "AGI is very hard to predict" to "AGI must be very far away."
Ännu svårare att säga vad konsekvenserna blir, om och när det sker. Ett scenario som vi i alla fall inte bör ränka bort är det slags hastigt accelererande utveckling jag ofta återkommit till under beteckningen Singulariteten, där den nya AI som är smartare än vi specifikt också är skickligare på att designa AI och därför bygger en ännu bättre AI, och så vidare i en spiral mot allt högre höjder.

Huruvida konsekvenserna av ett sådan intelligensexplosion blir gynnsam för oss människor är en fråga som inte har något självklart svar. Som ett rimligt default-scenario att ha i åtanke för vad som kan hända om vi inte tänker efter, tjänar Eliezer Yudkowskys ofta citerade påpekande...
    The AI does not hate you, nor does it love you, but you are made out of atoms which it can use for something else
...hämtat från hans 2008 publicerade uppsats Artificial intelligence as a positive and negative factor in global risk. Notera gärna titelns "positive and negative" - en dramatisk AI-utveckling innebär inte nödvändigtvis bara en global katastrofrisk, utan kan också tänkas fungera som hjälp för att avvärja andra globala katastrofrisker. Hur som helst är Yudkowskys "you are made of atoms"-scenario något vi har anledning att försöka undvika.

Men hur? Sotalas och Yampolskiys synnerligen väl-researchade uppsats (av dess 78 sidor upptar referenslistan inte mindre än 19) är en systematisk genomgång och nykter evaluering av de förslag som hittills framförts, alltifrån "låt dem döda oss, det är lika bra om mänskligheten dör ut" och "frågan är inte värre akut än att den gott kan skjutas på framtiden" till totalförbud mot AGI-forskning, mer nyanserade forskningspolitiska regleringar, och idéer om hur AGI kan förses med drivkrafter och moralsystem som gör ett för oss gynnsamt utfall mer troligt. Jag skulle vilja utnämna uppsatsen till obligatorisk läsning inte bara för alla de AI-forskare som glatt jobbar på utan att närmare fundera över vilka omstörtande konsekvenser som ett genombrott kan få, utan också för var och en som på allvar vill sätta sig in i vilka de riktigt stora framtidsfrågorna är. Hur vi förbereder oss för ett AI-genombrott är förvisso inte den enda, men allt annat än att ränka in den bland topp fem eller så vore orimligt våghalsigt.

fredag 26 juli 2013

Testa dig själv: är du biokonservativ eller transhumanist?

Jag skrev häromsistens (liksom redan för ett par år sedan) om det kniviga spänningsfältet mellan biokonservatism och transhumanism. Detta är en debatt som de flesta inte är vana vid och därför inte explicit tagit ställning i. I korrespondens med min gode vän Ulf Persson uttryckte denne en misstanke om att han själv nog var biokonservativ, och i syfte att hjälpa honom bli klar över var han står erbjöd jag honom ett litet test, som jag nu vill låta även bloggens läsekrets få prova på. Välj, för var och en av de sex frågorna, det svarsalternativ som speglar din uppfattning bäst.1

* * *

1. Vad anser du om bruk av skor?

(a) Onaturligt och förkastligt.
(b) Hm, det tål att tänka på.
(c) Mycket bra och praktiskt i många situationer.

2. Vad anser du om bruk av glasögon?

(a) Ytterst olämpligt. Vi bör finna oss i den synskärpa Gud (eller evolutionen) givit oss.
(b) Hm, det tål att tänka på.
(c) Glasögon är ett ovärderligt instrument för många av oss, och ett fall framåt för mänskligheten.

3. Vad anser du om bruk av amfetamin i syfte att höja intellektuell och akademisk prestationsförmåga?

(a) Motbjudande fusk.
(b) Hm, det tål att tänka på.
(c) En utmärkt åtgärd.

4. Vad anser du om provrörsbefruktning av människor?

(a) Creepy.
(b) Behöver diskuteras mer.
(c) Mycket värdefullt led i hur vi äntligen tar kontroll över den egna reproduktionen.

5. Vad anser du om kloning av människor?

(a) Fruktansvärt creepy.
(b) Behöver sannerligen diskuteras mer.
(c) Önskvärt att en sådan teknik snarast blir tillgänglig. Föräldrar bör ha så stor frihet som möjligt att skänka sina barn bästa möjliga genuppsättning.

6. Vad anser du om uppladdning av mänskligt medvetande på datorer?

(a) Vad yrar du om nu?
(b) Innan vi tar ställning till om det är bra eller dåligt finns ett antal svåra filosofiska frågor om medvetande och personlig identitet att reda ut.
(c) Detta är den underbara framtid som slutligen kommer att befria oss från kroppens skröpliga skal.

* * *

Tillgodoräkna dig nu 2 poäng för varje a-svar, 1 poäng för varje b-svar, och 0 poäng för varje c-svar. Summering över de 6 frågorna ger en poängsumma mellan 0 och 12 poäng. Den läsare som landar i intervallet 0-2 poäng har givit uttryck för typiskt transhumanistiska uppfattningar, medan den som hamnar på 9-12 poäng svarat som en tvättäkta biokonservativ. Den som hamnar däremellan, på 3-8 poäng, verkar befinna sig i den bioetikens gråzon där man inte tagit tydlig ställning för vare sig biokonservatism eller transhumanism. Många av dessa, speciellt de som hamnar i den undre delen av detta mitt-intervall, kan tänkas vara transhumanister innerst inne men behöva lite tid på sig att vänja sig vid ny teknik.2

Fotnoter

1) Den uppmärksamma och kritiskt tänkande läsaren kommer eventuellt att finna att urvalet av frågor och inte minst deras ordningsföljd är tendentiös, och i så fall har vederbörande alldeles rätt. Provocerad av Ulfs tentativa positionering valde jag att, förklätt till det vanliga testa dig själv-konceptet, prova en sokratisk implementering av det retoriska grepp som beskrivs av Nick Bostrom och Julian Savulescu i introduktionen till deras läsvärda antologi Human Enhancement:
    The degree to which human enhancements constitute a distinctive cluster of phenomena for which it would be appropriate to have a (multidisciplinary) academic subfield is debatable, however. One common argumentative strategy, used predominantly to buttress pro-enhancement positions, is to highlight the continuities between new controversial enhancement methods and old accepted ways of enhancing human capacities. How is taking modafinil fundamentally different from imbibing a good cup of tea? How is either morally different from getting a full night’s sleep? Are not shoes a kind of foot enhancement, clothes an enhancement of our skin? A notepad, similarly, can be viewed as a memory enhancement—it being far from obvious how the fact that a phone number is stored in our pocket instead of our brain is supposed to matter once we abstract from contingent factors such as cost and convenience. In one sense, all technology can be viewed as an enhancement of our native human capacities, enabling us to achieve certain effects that would otherwise require more effort or be altogether beyond our power.

2) Jag kanske borde redovisa var jag själv landar i detta test. Jag får 3 poäng, vilket alltså placerar mig i gråzonen men med en tydlig dragning åt det transhumanistiska hållet. Det senare kan dock vara en konsekvens av att testet är så tydligt riggat (se Fotnot 1). Nick Bostrom ger i sin ofta citerade Transhumanist FAQ en tudelad definition av transhumanism:
    (1) The intellectual and cultural movement that affirms the possibility and desirability of fundamentally improving the human condition through applied reason, especially by developing and making widely available technologies to eliminate aging and to greatly enhance human intellectual, physical, and psychological capacities.

    (2) The study of the ramifications, promises, and potential dangers of technologies that will enable us to overcome fundamental human limitations, and the related study of the ethical matters involved in developing and using such technologies.

Om det bara gällde del (2) av denna definition så skulle jag utan vidare kalla mig varm anhängare av transhumanismen, men rörande del (1) känner jag mig ännu inte redo att sätta ned foten.

onsdag 24 juli 2013

For the record: lite islamkritik

Idag fyller denna blogg två år! I den allra fösta bloggposten, författad två dagar efter Anders Behring Breiviks fruktansvärda dåd i Oslo och på Utøya, tog jag upp frågor om yttrandefrihet i praktiken och om vikten ett öppet samhälle där vi inte låter oss tystas av extremister. Jag tänkte idag återkomma till de frågorna.

Det jag nedan skriver om islam är självklarheter, men jag vill ändå ha dem nedtecknade. En gång för alla. For the record.

*

Påven avgår! Så lyder rubriken på den av mina bloggposter hittills under 2013 som mig veterligen väckt den största upprördheten bland mina läsare. En bidragande orsak till denna upprördhet är utan tvivel att en och annan läsare valt att grovt vantolka bloggposten som ett angrepp på katoliker i största allmänhet, snarare än som det mycket specifika angrepp på dåvarande påven Joseph Ratzinger den var avsedd som. Två av kommentarerna, av kommentatorerna kgb35 och Anonym 18:33, klandrar mig specifikt för att kritisera katolska kyrkans främste företrädare samtidigt som jag inte säger ett pip om islam - en religion där det minsann också finns ett och annat att kritisera!

Låt mig först och främst säga att jag finner denna kritik principiellt helt orimlig. Som trogna läsare av denna blogg vet så har jag tagit på mig oket att kritisera en och annan makthavare och maktstruktur som jag har invändningar emot (utan att vilja blåsa upp min personliga roll till något särskilt, noterar jag ändå att ett sunt levande demokratiskt samhälle förutsätter en bred skara av sådana samhällskritiker). Vad jag däremot inte tagit på mig är att kritisera varje enskild företeelse i exakt proportion till vad den förtjänar. Detta vore ett helt orimligt krav, som jag t.ex. bröt flagrant mot då jag häromsistens riktade kritik mot Chalmers senaste studentrekryteringskampanj samtidigt som jag totalt ignorerade det tusenfalt, miljonfalt och snudd på ojämförligt mycket mer klandervärda agerandet hos Nordkoreas ledare Kim Jong-un. Med ett sådant krav skulle jag knappt kunna debattera någon enda företeelse på det lokala eller (svenska) inrikespolitiska planet, med tanke på alla hemska krig och andra brott mot mänskliga rättigheter som pågår på annat håll i världen. En samhällsdebattör måste få lov att specialisera sig på ett sätt som inte strikt respekterar en global rangordning över världens alla problem och orättvisor. Och därför är det fullkomligt vrickat att, som kommentatorerna kgb35 och Anonym 18:33, begära att jag, varje gång jag gör ett kritiskt yttrande om något missförhållande i katolska kyrkan och dess ledning, balanserar detta med ett lagom hårt yttrande om något motsvarande missförhållande bland företrädare för islam.

Med detta klargjort tänker jag nu likväl gå kommentatorerna kgb35 och Anonym 18:33 en bit till mötes, och nu meddela ett avseende i vilket jag inte bara tycker illa om religionen islam, utan faktiskt finner den (i just detta avseende) mer motbjudande än varje annan religion jag känner till. Det är visserligen sant att jag har en allmänt religionskritisk hållning, på så vis att jag tycker att det är olämpligt att gå omkring och tro på besynnerliga ting (bisarra skapelseberättelser, gudar som far runt i en vagn bland åskmolnen och slår blixtar med sin hammare eller som hör bön om de uttalas med de rätta orden och ritualerna, oblater som förvandlas till människokött, etc etc) utan evidens, men det vore ett misstag om jag för den sakens skull drog alla religioner över en kam och påstod att varje religion är lika knäpp eller lika oskyldig som varje annan. Detaljerna har betydelse. En religion vars heliga skrifter predikar våld kan t.ex. vara värre än en som predikar ickevåld. Det finns inget originellt i dessa synpunkter, och andra har yttrat dem tidigare och långt elegantare än jag någonsin kommer att klara av - exempelvis Sam Harris1, som jag härmed ger ordet för att lyfta fram den så vitt jag vet helt unika egenhet hos just islam som jag finner så särskilt vedervärdig:2,3
    Anyone who wants to draw a cartoon, write a novel, or stage a Broadway play that denigrates Mormonism is free to do it. In the United States, this freedom is ostensibly guaranteed by the First Amendment—but that is not, in fact, what guarantees it. The freedom to poke fun at Mormonism is guaranteed by the fact that Mormons do not dispatch assassins to silence their critics or summon murderous hordes in response to satire. As I have pointed out before, when The Book of Mormon became the most celebrated musical of the year, the LDS Church protested by placing ads for the faith in Playbill. A wasted effort, perhaps: but this was a genuinely charming sign of good humor, given the alternatives. What are the alternatives? Can any reader of this page imagine the staging of a similar play about Islam in the United States, or anywhere else, in the year 2013? No you cannot—unless you also imagine the creators of this play being hunted for the rest of their lives by religious maniacs. Yes, there are crazy people in every faith—and I often hear from them. But what is true of Mormonism is true of every other faith, with a single exception. At this moment in history, there is only one religion that systematically stifles free expression with credible threats of violence.

Fotnoter

1) Sam Harris är författare till en rad böcker, av vilka jag läst och varmt rekommenderar The End of Faith, Letter to a Christian Nation och Free Will. Han är en intelligent religionskritiker och stenhård samhällsdebattör, med en nästan exceptionell intellektuell hederlighet och oräddhet som ofta tenderar att slå över i en dumdristighet, på så vis att han gör det lätt för meningsmotståndare att rycka hans ord ur deras sammanhang på ett sätt som får dem att se väldigt illa ut. Den text ur vilken ovanstående citat är hämtat är ett slags väldigt vass och väldigt underhållande greatest hits-samling över upprörda diskussioner han blivit föremål för med anledning av detta.

Harris text har, förutsägbart nog, väckt uppståndelse och irritation. Den vanligtvis kloke och nästan alltid underhållande bloggaren och biologen PZ Myers går fullständigt i taket i ett blogginlägg som bara kan förstås som att när det handlar om riktiga människor av kött och blod, deras väl och ve och deras liv och lem, så är det förkastligt att ta sig an moraliska dilemman analytiskt, utan man bör istället (han säger det inte explicit, man jag kan inte se något annat alternativ) nöja sig med att följa sina omedelbara moraliska intuitioner. Jag kan ha viss förståelse för den tankegångens omedelbara lockelse, men inte för att en välutbildad och intelligent person som Myers kan skriva en bloggpost på kanske 1000 ord om saken utan att hinna besinna sig och inse dess orimlighet.

Mina positiva ord om Harris skall inte förstås som att jag håller med honom om allt. En del av det han skriver i den aktuella texten finner jag moraliskt svårsmält, liksom hans position i frågan om amerikansk vapenlagstiftning, och den moraliska realism och de brott mot Humes lag han förfäktar mot slutet av The End of Faith (liksom, enligt uppgift, i The Moral Landscape).

2) För att förekomma ett visst slags fåraktiga vantolkningar av denna bloggpost, låt mig betona att Harris stycke och mitt instämmande i detta inte innebär att jag skulle anse att alla som kallar sig muslimer, eller ens de flesta, eller ens någon given procentandel, skulle ställa sig bakom den islamistiska våldsideologi som Harris stycke handlar om. Jag är fullt på det klara med att det finns miljontals och åter miljontals fredligt sinnade muslimer som aldrig skulle komma på tanken att ställa sig bakom mordhoten mot exempelvis Salman Rushdie och de danska Muhammedtecknarna. Allt jag säger är att islam också innefattar vidriga strömningar av ociviliserade våldsförespråkare som ställer sig bakom dylika fatwor och deltar i våldsamma upplopp och ambassadbränder, och att detta gör vår värld till en sämre värld än den hade varit annars.

3) Den tystnad som breder ut sig till följd av dessa ständigt närvarande våldshot kommentarar jag även mot slutet av min bloggpost Tack gode Gud för Lena Andersson.

fredag 19 juli 2013

För geografi- och matematiknördar

Nörd definieras som en person som uppvisar entusiastiskt intresse för något annat än fotboll. Nördar kan kategoriseras med avseende på vad de intresserar sig för. Två vanliga exempel är geografinördar och matematiknördar. Jag själv råkar tillhöra båda kategorierna, och tycker mig i min omgivning har observerat att de samanfaller oftare än vad man kan vänta sig under ett antagande om nollkorrelation. Finns det då ett samband mellan geografi och matematik som kan förklara den positiva korrelation jag tycker mig kunna se? Jag lämnar den frågan öppen, för att här nöja mig med att presentera ett exempel på ett fenomen inom geografi och ett inom matematik, vilka på lämplig abstraktionsnivå kan förstås som relaterade.

1. Geografi

På den för geografinördar tilltalande webbisdan Some interesting Islands and Lakes kan vi ta del av följande upplysningar:
  • Världens största ö är Grönland.
  • Världens största sjö är Kaspiska havet.
  • Världens största sjö på en ö är Nettilling Lake på Baffin Island i Kanada.
  • Världens största ö i en sjö är Manitoulin Island i (den kanadensiska delen av) Lake Huron.
  • Världens största ö i en sjö på en ö är Pulau Samosir i Danau Toba på Sumatra i Indonesien.
  • Världens största sjö på en ö i en sjö är Lake Manitou på ovan nämnda Manitoulin Island i Lake Huron.
  • Världens största sjö på en ö i en sjö på en ö är Crater Lake på Vulcano Island i Lake Taal på Luzon i Filippinerna.
  • Världens största ö i en sjö på en ö i en sjö är ett namnlöst stycke land i Mindemoya Lake på Manitoulin Island i Lake Huron.
  • Världens största ö i en sjö på en ö i en sjö på en ö är Vulcan Point i ovan nämnda Crater Lake på Vulcano Island i Lake Taal på Luzon i Filippinerna.
Fascinerande! Det visar sig emellertid att den avslutande uppgiften om Vulcan Point inte stämmer, och att det finns en namnlös ö - 300 meter lång och 50 meter bred, men klart större än Vulcan Point - i en sjö på en ö i en sjö på Victoria Island i Kanada. Tiden får utvisa om denna rekordbok kräver ytterligare revidering, och om någon orkar gräva ned sig ytterligare något snäpp i hierarkin.

2. Matematik

Låt oss tänka oss ett bikakemönster av sexhörningar, och att detta mönster sträcker sig oändligt långt i alla riktningar i planet. Låt oss vidare tänka oss att varje sexhörning oberoende av varje annan färgas röd med sannolikhet p och vit med den återstående sannolikheten 1-p. Följande figur visar ett ändligt utsnitt av denna så kallade perkolationsprocess,1 i det symmetriska fallet med p=0,5.

Vi kan tänka oss att de röda sexhörningarna representerar land, medan de vita representerar vatten. Vilken struktur av öar och sjöar kommer att uppstå i en sådan perkolationsprocess? Svaret visar sig dramatiskt bero på p i anslutning till det som kallas det kritiska värdet, som för just detta slags perkolationsprocess är just p=0,5. Följande trikotomi gäller nämligen, med sannolikhet 1.2
  • För p<0,5 (exempelvis p=0,49999) uppstår en oändlig vit ocean med ändliga röda öar. På vissa av dessa öar förekommer sjöar, och i vissa av dessa sjöar förekommer öar, etc. Varje sjö och varje ö är emellertid del av en ändlig (och vanligen ganska kort) sådan ö-sjö-hierarki.
  • För p>0,5 (exempelvis p=0,50001) uppstår en oändlig röd kontinent med ändliga vita sjöar. I vissa av dessa sjöar förekommer öar, och på vissa av dessa öar förekommer sjöar, etc. Varje sjö och varje ö är del av en ändlig (och vanligen ganska kort) sådan ö-sjö-hierarki.
  • För p=0,5 uppstår varken någon oändlig kontinent eller någon oändlig ocean. Istället kommer varje ö att ligga i en sjö som ligger på en ö i en sjö på en ö i en sjö på en ö i en sjö... och så vidare i en oändlig hierarki.

Fotnoter

1) Perkolationsteori råkar också vara det område där jag gjort mina mest uppmärksammade vetenskapliga insatser.

2) Denna trikotomi bevisades slutgiltigt av John Wierman i en viktig uppsats från 1981, baserad på Harry Kestens motsvarande resultat för kantperkolation på kvadratgittret i en ännu viktigare uppsats från 1980. Dessa resultat kan ses som kulmen på den tidens omfattande studium av perkolation på plana gitter, och fokus kom därefter alltmer att förskjutas till högre dimensioner. Perkolation på bikakegittret fick emellertid under 00-talet en ny glansperiod tack vare nya insikter av bland andra Stanislav Smirnov och Oded Schramm.

måndag 15 juli 2013

Bei Mir Bistu Shein

I mina ögon är du vacker - dessa ord vill jag tillägna M, som jag den dag som är idag, 15 juli 2013, varit gift med i 17 år. På jiddisch heter det Bei Mir Bistu Shein, vilket också är namnet på en sång från 1932 av Jacob Jacobs och Sholom Secunda. Dess historia är läsvärd, men framför allt är sången skön att lyssna till, här i Ilhama Gasimovas festligt bildsatta version från 2009:

Man kan också med fördel avnjuta sången i Max Raabes mer konventionella framförande, eller det ännu mer dito av Andrews Sisters från 1938 (som Gasimova lånat av i sin sampling). Den finns även med svensk text av Tage Danielsson.

torsdag 11 juli 2013

Om psykofarmaka

Av alla radikala teknologiska utvecklingslinjer som kan bli aktuella i framtiden är modifiering av den mänskliga naturen på exempelvis farmakologisk, genetisk och elektronisk väg den på sätt och vis allra mest revolutionerande. Bejakande av denna utveckling kallas transhumanism. Mot transhumanismen kan, lite grovt, ställas biokonservatismen. Den senare hävdar att sagda utveckling riskerar underminera och till slut tillintetgöra centrala mänskliga värden, och att den därför bör undvikas.

Ett av mina pågående (men långsiktiga) personliga bildningsprojekt är att sätta mig in i den djupa motsättningen mellan transhumanism och biokonservatism. Jag försöker göra det med så öppet sinnelag som möjligt, och med undertryckande av den intuitiva magkänsla - det lätta illamående jag kan känna inför olika konkreta förslag på hur människans kropp och psyke kan omstöpas - som initialt drar mig åt det biokonservativa hållet. Hittills har det visat sig att ju mer jag läser om området, desto tydligare blir det för mig hur mycket svagare argumentationen är hos biokonservatismens frontfigurer som Leon Kass1, Michael Sandel och Francis Fukuyama, jämfört med den hos transhumanismens (enligt min mening) främste och mest övertygande företrädare Nick Bostrom. Oavsett om Bostrom argumenterar på egna villkor eller i respons på biokonservativa texter, så finner jag att hans resonemang överlag står sig bättre mot kritisk granskning än vad nämnda biokonservativa debattörers alster gör.

Men det gäller att försöka vaska fram det bästa hos båda sidor, och mitt syfte med dagens bloggpost är att lyfta fram vad jag tror är den bästa biokonservativa text jag (hittills) träffat på, nämligen den amerikanske litteraturteoretikern Frederick Crews essä Talking back to Prozac från 2007. Den skiljer sig från de länkade texterna av Kass, Sandel och Fukuyama genom att helt avstå från futuristiska funderingar och istället fokusera på situationen här och nu rörande det alltmer utbredda bruket av psykofarmaka i västvärlden. Essäns relevans för spänningsfältet transhumanism kontra biokonservatism kommer sig till stor del av att transhumanistiska debattörer tenderar (dock naturligtvis med stor individuell variation) att dra åt det laissez faire-liberala hållet: beslutet om förbättringar av individers psykiska och fysiska egenskaper bör så långt som möjligt läggas på individerna själva eller (t.ex. om dessa ännu inte finns) deras föräldrar, med så lite statlig inblandning som möjligt.2,3 Men en sådan liberalism tenderar att frigöra inte bara individerna, utan också (och kanske främst) marknadskrafterna och storföretagen. Crews visar hur dagens ökade bruk av psykofarmaka tycks mindre drivet av människors behov av sådana, än av läkemedelsjättarnas4 behov av att tjäna pengar:
    Drug makers earn their enormous profits from a very few market-leading products for which new applications are continually sought. If those uses don’t turn up through experimentation or serendipity, they can be conjured by means of “condition branding”—that is, coaching the masses to believe that one of their usual if stressful states actually partakes of a disorder requiring medication.
Ett centralt exempel i Crews framställning är hur det som tidigare kallades blyghet och sågs som ett normalt personlighetsdrag numera allt oftare diagnostiseras som en farmakologiskt behandlingsbar åkomma vid namn social anxiety disorder. Ett annat är den ökade förekomsten av diagnostiserad depression. Stor vikt i uppsatsen läggs på läkemedelsbolagens direkt skurkaktiga hantering av biverkningsrisker, men Crews uttrycker också, i sann biokonservativ anda, oro över att vi är på väg att medicinera bort viktiga delar av det mänskliga:
    Episodic sadness has always been a socially approved means of adjusting to misfortune and [...] much is lost, both medically and culturally, when it is misread as a depressive disorder.
Jag känner mig genuint osäker på hur stor vikt vi bör fästa vid detta argument (är sorgsenhet något vi bör värna om?), men finner hur som helst Crews uppsats både läsvärd och viktig.

Fotnoter

1) Kass talar sig i den länkade uppsatsen varm för "the wisdom of repugnance" (äckelkänslornas visdom), vilken innebär att jag bör ta det nyss omtalade illamåendet på allvar och tolka det som ett tecken på att föremålet för illamåendet verkligen är något som vi har anledning att försöka undvika.

2) Se t.ex. Anders Sandbergs Morphological freedom - Why we not just want it, but need it, och Max Mores regleringskritiska proactionary principle (formulerad i polemik med the precautionary principle - försiktighetsprincipen) som i sin första paragraf säger att "our freedom to innovate technologically is valuable to humanity. The burden of proof therefore belongs to those who propose restrictive measures. All proposed measures should be closely scrutinized."

3) Idéhistoriskt är det lätt att föreställa sig att denna tendens hos transhumanismen bottnar i rädsla för klassiska dystopiska scenarier som Aldous Huxleys Du sköna nya värld, där en staligt kontrollerad bioteknologi förvandlat folket till lydiga (men nöjda) nickedockor.

4) En senare uppsats i samma tidskrift (New York Review of Books) och med samma kritiska syn på Big Pharma som jag också tagit stort intryck av är Marcia Angells The illusions of psychiatry.

måndag 8 juli 2013

Dennett och schackdatorerna: bloggosfären bubblar

Daniel Dennetts senaste bok Intuition Pumps and Other Tools for Thinking, som jag entusiastiskt recenserat här på bloggen, handlar inte om schack och schackdatorer. Däremot använder han sig i boken upprepade gånger av dessa företeelser för att inskärpa (i hans tycke) viktigare och större poänger rörande bland annat mänsklig kognition, fysikalism och fri vilja, vilket har triggat en sprudlande aktivitet i den avkrok jag kallar min i det bloggosfäriska sociala nätverket. Inet bara jag, utan därtill två av mina "blogg-bästisar", Björn Bengtsson och Bo Sjögren, har författat rejäla bloggposter om Dennetts användning av schackspelande datorer som tillhygge i det filosofiska samtalet. Författandet av bloggposterna är knappast statistiskt oberoende händelser, men det rör sig heller inte om någon koordinerad kampanj. Här är länkarna:
Björn återger och kommenterar i sin bloggpost Dennetts tankeexperiment med schackdatorer med syfte att visa hur fri vilja kan vara möjligt även i ett deterministiskt universum. Mitt bidrag i listan är för trogna läsare redan välbekant, och handlar om hur Dennett med utgångspunkt från duellen mellan Garri Kasparov och Deep Blue 1997 diskuterar likheter och skillnader mellan mänskligt tänkande och datorers. Bo Sjögren plockar i sin bloggpost upp samma tråd, men gör det mer initierat, mer kritiskt, och med överlägset större eftertanke än vad jag lyckades åstadkomma i min. Rekommenderad läsning!

söndag 7 juli 2013

Tuve Skånberg om tondövhet, empatilöshet och ateism

96 procent av världens befolkning tror på Gud eller en högre makt, meddelar riksdagsmannen Tuve Skånberg (kd) i sin nya debattartikel i Svenska Dagbladet. Ändå känner han sig uppenbarligen trängd av att det i debatten dyker upp en och annan ateist.1 På förvirrade2 grunder hävdar han att
    [d]et är lika orimligt att låta ateisterna vara det nya sekulära samhällets arkitekter som att ha tondöva till musikrecensenter, färgblinda till konstkritiker och empatilösa till vårdpersonal.

Fotnoter

1) Han nämner inga namn, men jag föreställer mig att det kan vara Lena Andersson och Christer Sturmark som gör honom så uppjagad. Kanske också Richard Dawkins.

2) Som stöd för sin position om vikten av att hålla tillbaka dessa hemska ateister anför Skånberg följande:
    Det som är dyrbarast i livet kan inte vetenskapen bevisa. Det ligger utanför dess kompetens att yttra sig om en tavlas skönhet, om ett musikstycke är vackert, om kärlek finns eller om Guds omsorg.

    Det finns faktiskt människor som saknar förutsättningar att uppleva något av detta. Några är totalt färgblinda, ytterligare fler är färgblinda för skillnaden mellan gult och blått, och 8 procent av män är färgblinda för skillnaden mellan rött och grönt. Medfödd amusi, tondövhet, finns hos en av 25 personer. De kan inte höra skillnad mellan små intervaller, som en halvton, men väl på större tonintervaller. Forskare har uppskattat att upp till 10 procent av befolkningen har en störning i förmågan att känna empati, medkänsla, och uppvisar någon eller flera egenskaper som är starkt förknippade med psykopati. Men ingen som är färgblind, tondöv eller saknar förmåga till empati skulle med trovärdighet kunna förneka förekomsten av skönhet i konst och musik, eller kärlekens verklighet.

Det sista sagt som kontrast mot de arroganta ateisternas Gudsförnekeri. Och jag håller givetvis med om att det vore orimligt att förneka kärlekens existens - den finns, och den kan studeras vetenskapligt. Men om man skall göra en relevant parallell till religionens område, så blir det i så fall en parallell mellan kärleken och - inte Gud, men gudstron. Den sistnämnda finns (det vet jag ingen som förnekar, trots att jag känner och umgås med många ateister), och den kan studeras vetenskapligt.

fredag 5 juli 2013

En bedrövligt mansdominerad blogg

Det talas en del om mansdominasen i svenska börsstyrelser, och finansminister Anders Borg har på nytt tagit upp frågan om könskvotering. Men mansdominansen här på bloggen är faktiskt ännu värre, som framgår av följande lista över personer vilkas namn fram till idag förekommit som blogginläggsetiketter minst två gånger (se längst ned på bloggen för länkar). Det här ser verkligen inte bra ut, och jag anar att jag med denna ensidighet går miste om många intressanta perspektiv. Så vad göra? Kvotering känns inte fräscht, men jag tar gärna emot tips om personer som förtjänar att uppmärksammas men som jag här hittills har förbisett.
    Nick Bostrom 12
    Daniel Dennett 9
    Alan Sokal 7
    David Chalmers 7
    Eliezer Yudkowsky 7
    Robin Hanson 6
    Stuart Armstrong 6
    Anders Sandberg 5
    Eric Schwitzgebel 5
    Ingemar Nordin 5
    Mitt Romney 5
    Barack Obama 4
    Bertrand Russell 4
    Christer Sturmark 4
    Derek Parfit 4
    Jan Björklund 4
    Jesus 4
    Lars Karlsson 4
    Ray Kurzweil 4
    Annika Borg 3
    Bosse Holmqvist 3
    Claes Strannegård 3
    Douglas Hofstadter 3
    Jean Bricmont 3
    Kimmo Eriksson 3
    Lars Wilderäng 3
    Lena Andersson 3
    Lisa Hernqvist 3
    Olof Palme 3
    Sarah Palin 3
    Steve Omohundro 3
    Timothy Gowers 3
    Alan Turing 2
    Allan Gut 2
    Ayn Rand 2
    Bengt Brülde 2
    Björn Bengtsson 2
    Bo Sjögren 2
    Claes Johnson 2
    David Deutsch 2
    David Hume 2
    David Parnas 2
    Elisabeth Gerle 2
    Evald Lindqvist 2
    G.H. Hardy 2
    Garri Kasparov 2
    Gregory Hansell 2
    Hans Bergström 2
    Johan Wästlund 2
    John Searle 2
    Liv Strömquist 2
    Luke Muehlhauser 2
    Magnus Carlsen 2
    Marcus Birro 2
    Michael Chorost 2
    Moira von Wright 2
    Mu*****d 2
    Patrik Lindenfors 2
    Per-Olof Nilsson 2
    Richard Dawkins 2
    Roland Poirier Martinsson 2
    Sten Kaijser 2
    Tage Danielsson 2
    Tanja Bergkvist 2
    Thomas Nagel 2
    Tim Minchin 2
    Tobias Malm 2
    Tony Judt 2
    Torbjörn Tännsjö 2
    William Grassie 2

måndag 1 juli 2013

Om människors och datorers sätt att spela schack

Det är en vanlig föreställning att datorer är i grunden själlösa tingestar som aldrig kommer att kunna tänka som vi människor. Själv vet jag inte vad "själlös" betyder, men jag tror att slutsatsen att de "aldrig kommer att kunna tänka som vi människor" är förhastad.

När datorerna visar sig inte bara matcha utan rentav övertrumfa mänsklig förmåga på något område - exempelvis schack eller TV-frågesporten Jeopardy - finns två strategier för den som vill försvara människans kognitiva överlägsenhet. Den ena är att hävda att det föreliggande området är ytterst snävt, och att det (åtminstone än så länge) bara är människan som besitter generell intelligens. Detta försvar menar jag, ännu i nådens år 2013, är välgrundat, men risken är att det till slut framstår som lika löjligt som mannen i skämtteckningen nedan (hämtad från Ray Kurzweils uppmärksammade bok The Singularity is Near), som febrilt kämpar med att nedteckna områden av mänsklig överlägsenhet, men som till följd av datorernas allt snillrikare programvaror tvingas stryka sina exempel i samma takt.

Den andra strategin är att säga att datorn visserligen besegrar människan i schack, men att det bara är människan som verkligen förstår schack, medan datorn själlöst återger exakt vad den är programmerad att göra. De flesta är nog böjda att instämma i denna ständigt upprepad kliché, men inte Daniel Dennett, som i sin nya bok Intuition Pumps and Other Tools for Thinking (som jag nyligen hyllade här på bloggen) erbjuder en välkommen nyansering. Vad var det egentligen som hände den där gången 1997 då dåvarande schackvärldsmästaren Garri Kasparov fick däng med 3½–2½ i en match över sex partier mot datorprogrammet Deep Blue, utvecklat av ett grupp experter med Murray Campbell i spetsen? Dennett förklarar:
    Who beat Garry Kasparov, the reigning World Chess Champion? Not Murray Campbell or any members of his IBM team. Deep Blue beat Kasparov. Deep Blue designs better chess games than any of them can design. None of them can author a winning game against Kasparov. Deep Blue can. Yes, but. Yes, but. You may be tempted to insist at this point that when Deep Blue beats Kasparov at chess, its brute-force search methods are entirely unlike the exploratory processes that Kasparov uses when he conjures up his chess moves. But that is simply not so - or at least it is not so in the only way that could make a difference to the context of this discussion of the Darwinian perspective on creativity. Kasparov's brain is made of organic material and has an architecture importantly unlike that of Deep Blue, but it is still, so far as we know, a massively parallel search engine that has built up, over time, an outstanding array of heuristic pruning techniques that keep it from wasting time on unlikely branches. There is no doubt that the investment in R & D has a different profile in the two cases; Kasparov has methods of extracting good design principles from past games, so that he can recognize, and know enough to ignore, huge portions of the game space that Deep Blue must still patiently canvas seriatim. Kasparov's "insight" dramatically changes the shape of the search he engages in, but it does not constitute "an entirely different" means of creation. Whenever Deep Blue's exhaustive searches close off a type of avenue as probably negligible (a difficult, but not impossible task), it can reuse that R & D whenever it is appropriate, just as Kasparov does. Deep Blue's designers have done much of this analytical work and given it as an innate endowment to Deep Blue, but Kasparov has likewise benefited from the fruits of hundreds of thousands of person-years of chess exploration transmitted to him by players, coaches, and books and subsequently installed in the habits of his brain.

    [...]

    The fact is that the search space for chess is too big even for Deep Blue to explore exhaustively in real time, so like Kasparov, it prunes its search trees by taking calculated risks, and like Kasparov, it often gets these risks precalculated. Both presumably do massive amounts of "brute-force" computation on their very different architectures. After all, what do neurons know about chess? Any work they do must be brute-force work of one sort or another.

    It may seem that I am begging the question in favor of a computational, AI approach by describing the work done by Kasparov's brain in this way, but the work has to be done somehow, and no other way of getting the work done has ever been articulated. It won't do to say that Kasparov uses "insight" or "intuition", since that just means that Kasparov himself has no privileged access, no insight, into how the good results come to him. So since nobody - least of all Kasparov - knows how Kasparov's brain does it, there is not yet any evidence to support the claim that Kasparov's means are "entirely unlike" the means exploited by Deep Blue. One should remember this when tempted to insist that "of course" Kasparov's methods are hugely different. What on earth could provoke one to go out on a limb like that? Wishful thinking? Fear? (s 263-265)

Väl talat! Visst föreligger skillnader mellan hur Kasparov och Deep Blue tänker, men jag håller med Dennett om att de alltför ivrigt brukar framställas som art- snarare än gradskillnader. När jag läste ovanstående passage kom jag att fundera över om det kunde gå att nyansera diskussionen ytterligare genom att konkret identifiera någon slag av tänkande som vi schackspelare ägnar oss åt som dagens schackprogram saknar. Jag har ett förslag i den riktningen. Innan du läser vidare, stanna gärna upp en stund inför nedanstående ställning, där vit är vid drag, och fundera över vad vit bör spela.

Här finns i själva verket blott tre tillåtna drag att välja mellan: 1. Ka2, 1. Kb2 och 1. axb6. Vilket eller vilka av dessa är bäst?

En lämplig första åtgärd när man är ställd inför en obekant ställning är att se hur det står till med det materiella läget. Här ser vi att svart har en förkrossande materiell ledning, med två torn och en löpare mer än vit. Vits ställning förefaller därför desperat, men notera att det finns möjlighet att omedelbart reducera det materiella underläget något, genom att medelst 1. axb6 eliminera svarts ena torn. Även om det materiella underläget därefter är fortsatt katastrofalt så är det i alla fall något mindre, varför 1. axb6 känns frestande att utnämna till vits bästa drag.

Om vi tittar lite djupare på ställningen ser vi emellertid att svart efter det draget ganska snabbt kan mobilisera ett oemotståndligt angrepp. Efter 1.- Lc6 (för att hejda b6-bondens fortsatta framfart) följt av drag som Kg7, Th8, Ta8 och a5 kan svart framtvinga en öppning av a-linjen, varefter det återstående tornet tränger in bakom vits bondelinjer med förödande verkan.

Men vad händer om vit avstår från att slå b6-tornet, och istället förhåller sig avvaktande med t.ex. 1. Kb2 följt av fortsatt kungsvandring hit och dit, i skydd bakom den egna bondelinjen? Hur skall svart då bryta igenom? Det är här det särskilda tänkande jag här vill framhålla kommer in. För att kunna besegra det avvaktande vita spelet måste svart någon gång antingen slå en vit bonde, eller tränga in bakom bondelinjen. Ingen av de svarta bönderna kan flytta, så det återstår att se vad som kan kan göras med tornen, löparen och kungen. En systematisk genomgång av fälten på svarts sida av bondelinjen visar att ingen av svarts pjäser från något av dessa fält kan slå en vit bonde eller tränga in bakom bondelinjen (för att komma fram till denna slutsats behöver vi använda oss av (a) att kungen inte får beträda schackad ruta, och (b) att en löpare som befinner sig på ett vitt fält aldrig kan nå ett svart fält). Det finns alltså ingen möjlighet för svart att bryta ned vits passiva försvar, och så länge vit håller sig till det är partiet dömt att till slut bli remi (genom antingen dragupprepning eller 50-dragsregeln).

Detta slags mer geometrisk analys1 tror jag (någon schackdatorexpert i läsekretsen får gärna rätta mig om jag har fel) inte förekommer hos dagens schackdatorer. Härmed vill jag inte ha sagt att tänkesättet skulle vara för evigt människans exklusiva egendom - jag ser inte några som helst principiella hinder mot att lära en dator resonera på det viset.

Min gode vän Jesper Hamark gjorde ett experiment för att se hur Houdini 2.0 - ett av de numera allmänt tillgängliga schackmotorer som anses överglänsa den mänskliga världseliten i spelstyrka - skulle behandla ställningen ovan. Den fick ställningen förelagd, och två timmar på sig för resten av partiet. Efter fyra minuter drog den 1. Kb2 och meddelade samtidigt att den gav slaget förlorat! Ett mycket intressant utfall, som jag tolkar som att den å ena sidan sett den kommande katastrofen via a-linjen efter 1. axb6 och bedömt denna som värre än ett svart innehav av ett extra torn, men att den å andra sidan inte lyckats förstå att svart inte kan bryta igenom ett avvaktande vitförsvar.

Hur vanligt, i en schackspelares tävlingsvardag, är då det slags geometriska tänkande jag här skisserat? Ställningen ovan är givetvis ett synnerligen idealiserat extremfall, som det vore mycket långsökt att tänka sig kunna uppkomma i ett verkligt parti. Men den här sortens tänkande förekommer faktiskt ganska ofta i praktiken, i synnerhet i slutspel med fixerad bondestruktur i centrum. Som exempel vill jag nämna följande ställning, ur ett parti mellan Dmitri Andreikin och världsettan Magnus Carlsen, i stormästarturneringen Tal Memorial i Moskva i förra månaden.

Carlsen hade med de svarta pjäserna länge varit lite halvpressed i partiet, men har här just dragit 34.- Lc7-d6 med remianbud. Andreikin accepterade efter kort betänkande. Hur bör vi förstå ställningen och Andreikins beslut att anta remianbudet?

Ställningen är materiellt lika med kung, löpare och sex bönder på vardera sidan. Att en ställning är materiellt lika utesluter dock inte att någon av spelarna har ett spelövertag, något som i så fall får framkomma av en mer förfinad analys. I den här ställningen ger en positionell bedömning snabbt vid handen att vit har ett visst positionellt övertag, i kraft av att alla svarts bönder i motsats till vits står på fält av samma färg som löparnas, vilket gör att vits löpare kan spela en offensiv roll i attackerandet av svarts bönder, medan svarts löpare är dömd till en mer defensiv roll. Detta räcker ofta till ett tillräckligt övertag för att ge goda vinstchanser i slutspelet.

Var det alltså av respekt och rädsla för världsettan på andra sidan schackbordet som Andreikin antog remianbudet? Troligen inte. En analys av samma slag som av den föregående mer esoteriska ställningen ger nämligen vid handen att om svart står kvar med kungen parkerad på c6, samtidigt som han låter löparen pendla mellan t.ex. c7 och d6, så finns inget sätt för vit att bryta igenom. Vit kan gå omkring länge med kung och löpare på den egna planhalvan, men för att något skall hända som kan hota svart måste han till slut antingen röra d3 eller g2-bonden, eller offra löparen på a5, c5, e5, f4 eller h4. Det är lätt att konstatera att samtliga dessa möjligheter förlorar material utan att åstadkomma något konstruktivt framåt. Därför finns inget bättre för vit än att precis som svart avvakta, och därför finns inget förnuftigare att göra än att acceptera remi.

Fotnot

1) Måhända är "geometrisk" inte riktigt rätt ord här. Om jag skall försöka precisera essensen i det slag av analys jag åsyftar, så handlar det om att söka efter modifikationer av den förelagda ställningen med pjäskonfigurationer för givna ändamål - en sökning som är befriad från inskränkningen att enbart betrakta de positioner som uppstår i ett konkret variantträd utgående från den förelagda ställningen.