Frågan är om Terminator kan bli verklighet - i Linköping

Kan Terminator bli verklighet? Den frågeställningen lånar Östgöta-Correspondenten idag från rubriken till ett föredrag som de lyfter fram som en av höjdpunkterna på den science fiction-konferens ConFuse 2015 vilken äger rum på Frimurarhotellet i Linköping den 7-9 augusti. Föredragshållare är ni-har-säkert-redan-gissat-vem, och programpunkten är schemalagd till lördagen den 8 augusti kl 18.00. Hela programmet för konferensen återfinns här, och för den som redan nu önskar få veta min grundinställning till rubrikens fråga kan jag rekommendera en titt på det inslag i TV4:s Nyhetsmorgon som jag medverkade i tidigare i somras.

En pompös filosofisk posör

Jag har flera högt begåvade vänner som avvisar filosofi såsom ett tröttsamt bollande med ord utan några som helst praktiska konsekvenser. Detta är en inställning jag inte alls delar, och jag finner stort utbyte och angelägna insikter hos exempelvis Paul Boghossian, Nick Bostrom, David Chalmers, Daniel Dennett, Thomas Nagel, Derek Parfit, Eric Schwitzgebel och Peter Singer för att nu bara nämna några av mina favoriter bland nutida filosofer. Dock kan jag känna en viss förståelse för vännernas inställning när jag läser den tyske filosofen Markus Gabriels senaste bok, som i år utkommit på svenska med titeln Varför världen inte finns. Ett tröttsamt bollande med ord är precis vad författaren bjuder på, och jag vill mycket starkt avråda läsekretsen från att kasta bort tid på denna bok.

Gabriel är något slags underbarn eller rising star inom tysk filosofi - eller i alla fall är det så hans bok marknadsförs. Hans självbild drar åt det pompösa hållet. Redan på sidan 9 får vi veta att vi idag lever i nyrealismens tidsålder, vilken han i sällskap med en italiensk kollega ringde in den 23 juni 2011 - en nyrealism som läsaren leds att förstå mest bygger på Gabriels eget arbete. När han i inledningen av Kapitel 3 (s 78) gör en liten rekapitulation låter det så här:

Låt oss börja med att ta upp vår första stora insikt, meningsfältsontologins ekvation:
existens = framträdande i ett meningsfält

För den matematiskt skolade läsaren framsår givetvis ordet "ekvation" som en smula malplacerat ("definition" eller "karaktäristik" hade säkert passat bättre, förutsatt att Gabriel har klart för sig vilket av dessa han menar, vilket inte är säkert), men man skulle ändå kunna hoppas att "insikten" blir begriplig genom att begrepp som "meningsfält" förklarats i tidigare kapitel. Och visst, dessa kapitel bjuder på ansatser till sådana förklaringar, men jag kan inte påstå att jag efter att ha tagit del av dessa begriper vad som menas med "meningsfältsontologins ekvation" och än mindre varför vi skulle tro på den. Gabriel gör anspråk på att resonera med precision, men verkar i själva verket i stort sett okunnig om hur precisa resonemang går till.¹ De logiska kortslutningarna i hans framställning är många; här några illustrativa exempel:

• På s 62-67 diskuterar Gabriel hur många grundläggande "substanser" det finns: en (monism), två (dualism) eller flera (pluralism). Efter att ha sagt sig vederlägga monismen (på grunder som jag emellertid inte förstår) återger han Descartes dualistiska ståndpunkt, vilken han finner "grundlös", och anser sig därmed (s 67) med uteslutningsmetoden ha kommit fram till pluralismen. Men att någon (som t.ex. Descartes) ger ett försvar för dualismen som visar sig grundlöst implicerar inte att dualismen är falsk. Och om nu det skulle vara sant, som Gabriel några sidor tidigare (s 63) hävdar, att dualismen jämfört med monismen "är mycket lättare att vederlägga, då den redan ytligt sett är absurd", varför presenterar han inte då en sådan vederläggning? De retoriska frågor han omedelbart därefter ställer - "Om man antar två substanser, hur vet man då att det inte finns fler än två? Varför två snarare än tjugotvå?" - utgör inte mycket till argument, och än mindre någon vederläggning, men längre än så verkar Gabriel inte komma i just denna fråga.
• På s 94 anför Gabriel följande:
  Om jag säger att Judith har huvudvärk, förutsätter jag att såväl Judith som huvudvärk existerar. Annars kunde Judith ju inte ha huvudvärk. Gäller detta för utsagor generellt, så gäller det också för negativa utsagor. Om vi hävdar att Judith inte har någon bil, underförstår vi att såväl Judith som bilar existerar, bara det att ingen bil just nu är i Judiths ägo.
  Nej, så är det inte. Om jag säger att mänskligheten (hittills) inte byggt någon Dysonsfär, så underförstår jag inte att Dysonsfärer förekommer på annat håll än på vår egen bakgård. Här, liksom på andra håll i boken, har de Gabrielska tankelapsusarna ett tydligt Martin Lembke-aktigt drag.²
• Gabriel drar sig inte för att, när han angriper ståndpunkter han inte gillar, tillgripa epistemologins allra mest trötsamma trumfkort: det radikalskeptiska "haha, du kan inte veta om alltsammans du hävdar i själva verket bara är inbillning!". Så här heter det t.ex. på s 36, där han angriper (sin egen halmgubbeversion³ av) materialismen:
  Materialisten menar att våra inbillningar om icke-materiella föremål bara finns eftersom vi befinner oss i vissa materiella tillstånd som handlar om något. Av det följer att även materialisten befinner sig i ett visst materiellt tillstånd när han tänker tanken "Det finns bara materiella tillstånd". [...] Hur kan han vara säker på att de materiella tillstånd som han tänker på inte är inbillningar utan verkligen är materiella?
  Kontrastera detta med hur han noggrant undviker att utsätta sina egna ståndpunkter för motsvarande kritik. På s 125 läser vi t.ex. följande:
  Om vi faktiskt varseblir att ett äpple ligger i fruktskålen, så varseblir vi ett äpple i fruktskålen och inte en visuell bild av det. Det framgår redan av att godtyckligt många olika personer kan varsebli samma äpple, även om varje person kommer att se det på sitt särskilda sätt.
  Jag kan hålla med Gabriel om att vi varseblir äpplet, men det hade varit klädsamt (givet hans stränga kritik mot materialismen) om han hade medgivit att för att undvika cirkelresonemang är den enda evidens han kan anföra sin egen varseblivning dels av äpplet, dels av ett antal personer som säger sig ha varseblivit äpplet.

Så här håller Gabriel på, sida upp och sida ned. Hans huvudtes är att världen (definierad på s 78-79 som "meningsfältet av alla meningsfält, det meningsfält där alla andra meningsfält framträder") inte existerar, och av detta drar han långtgående slutsatser, som t.ex. (s 134) att "alla världsbilder är falska". Alltsammans verkar dock, såvitt jag kan bedöma, vara trams.

Mot slutet av boken kommer ett kapitel om "religionens mening" vilket, utöver en massa Kirkegaard-referenser, bäst kan sammanfattas med den inledande repliken i följande välkända xkcd-teckning:

Fotnoter

1) En annan tolkning skulle kunna vara att Gabriel visst förmår argumentera stringent, och att han gör det i sina fackfilosofiska uppsatser, men att han fallerar när det gäller att i en bok som denna framställa sina tankegångar populärt. Jag har dock mycket svårt att tro att så är fallet, ty varför skulle någon som faktiskt behärskar stringenta resonemang tillåta sig att presentera det slags sörja som denna bok utgör?

2) Martin Lembke är känd för att vid Lunds universitet 2012 ha belönats med doktorsexamen för att ha tänkt ut ett nonsensartat så kallat Gudsbevis, i vilket Guds existens konkluderas på ett sätt som liknar Gabriels slutsats om bilars existens.

3) Gabriel lägger mycket kraft på att attackera det han kallar naturvetenskapens världsbild. Den som tagit del av mina egna utläggningar om densamma kommer dock inte att känna igen mycket i Gabriels bisarra nidbild, enligt vilken anhängare av ett naturvetenskapligt betraktelsesätt förnekar existensen av kärlek, skönhetsupplevelser, kaffefläckar, soffbord och allt annat utom elementarpartiklar.

Always on My Mind

En av låtens upphovsmän, Wayne Carson, gick ur tiden i måndags, vilket ger mig anledning att uppmärksamma två gudabenådade tolkningar av mästerverket Always on My Mind. Först Elvis Presleys inspelning från 1972:

Elvis är såklart oslagbar, men den tolkning av låten som likväl betytt mest för mig är Pet Shop Boys inspelning från 1987:

The prospect of brain emulation raises difficult ethical problems

I draw upon several hundred papers in my book Here Be Dragons: Science, Technology and the Future of Humanity, which is currently going through the copy-editing stages at Oxford University Press, and is scheduled to appear in January 2016. One of those papers is Anders Sandberg's Ethics of brain emulations, which was published last year in the Journal of Experimental & Theoretical Artificial Intelligence, and which draws attention to a host of unusual and difficult ethical issues that the prospect of brain emulation gives rise to. The journal's publisher, Taylor & Francis, offers the following crisp and elegant summary of the paper.

See also Anders' recent blog post Ethics for neural networks.

Om utomjordingar och klimatfrågan

Utomjordingar och klimatfrågan är två ämnen jag ofta återkommer till, men oftast var för sig. Jag kan bara påminna mig en enda gång då jag fört samman ämnena i en och samma bloggpost, och det var några år sedan, och inte här på Häggström hävdar utan på Uppsalainitiativet. Nu är det dags att föra samman dem igen, ty jag har råkat träffa på en rolig historia på Twitter som jag inte gärna vill undanhålla läsekretsen:

Alien: Why should I not blow up this planet?
Human: We are an advanced species.
A: How do you travel?
H: We light old dinosaurs on fire.

Gas av Edward Hopper, 1940.

Om biltrafik - några aktuella röster

Trafikfrågor engagerar. Följande är några synpunkter rörande biltrafik, och bilisters förhållande till cyklister och till hastighetsbegränsningar, som jag snappat upp de senaste veckorna.

• Bilistlobbyisten Ulf Perbo hävdade nyligen i SVT Debatt att "i Sverige finns ingen konflikt mellan bil och cykel". Så kan bara en djupt inskränkt person som sitter skyddad bakom plåt och airbags uttrycka sig. Visst finns det en konflikt mellan bilister och cyklister om det begränsade väg- och gaturymmet (och det är, med mycket få undantag, bilisterna som roffar åt sig det mesta av utrymmet). Jag behöver inte gå längre än till mig själv för att konflikten skall bli uppenbar: jag skulle mycket gärna hålla mig med cykel vid sommarstugan, men har avstått eftersom den hårda biltrafiken på den vägrenslösa Länsväg 171 gör cykling både outhärdligt och livsfarligt. Av detta märker Ulf Perbo såklart ingenting.

• En person som däremot håller med mig om existensen av en konflikt mellan bilister och cyklister är den uppenbart skogstokiga bilisten och Aftonbladet-kolumnisten Malin Wollin. Häromveckan skrev hon att "det är så många cyklister och löpare på vägarna att jag får hamster­hjärta. Och hälften av gångerna kan jag inte bestämma mig för om jag ska hålla ut eller försöka pricka dem med min kofångare". Jag tar för givet att Transportstyrelsen noterat hennes text och dragit in hennes körkort.

• "Högre fart räddar liv" utropar en rubrik i Teknikens Värld, och skribenten Mattias Rabe pläderar för höjda fartgränser på våra vägar. Det hela är så ogrundat och fåraktigt att man tar sig för pannan. Min gode vän och kollega Johan Wästlund har tittat närmare på argumentationen, och ser sig föranledd att citera vad en av Sven Stolpes medtrafikanter lär skall ha sagt på en smal bro i Värmland för många år sedan: "Det är väl för fan den som möter som skall väja!"

• Med hastighetsbegränsningar följer ett par andra gissel i trafiken: fartkontroller och fortkörningsböter. Men nu kan en ljusning skönjas i allt detta elände. I våra grannländer Danmark och Norge sprids nu en lika enkel som genial metod för att undvika just fortkörningsböter. Slik unngår du fartsbot.

Skriv på för att stoppa mördarrobotarna!

Stoppa mördarrobotarna! Det var rubriken till en bloggpost jag skrev för ett par år sedan. Bland annat skrev jag att det "mycket väl kan komma en dag då vi inte längre har något förnuftigt (eller annat) alternativ till att lägga över stora och livsviktiga beslut på maskiner. Tills vidare bör vi dock gå väldigt försiktigt fram, och mördarrobotar är enligt min mening snudd på sämsta möjliga val av område för spjutspetsteknologisk tillämpning av autonoma system". Överraskande nog fick jag en del mothugg i kommentarsfältet, men till de läsare som håller med mig riktar jag härmed uppmaningen att underteckna det upprop som Max Tegmark tagit initiativ till inför den internationella artificiell intelligens-konferensen IJCAI 2015 i Buenos Aires som öppnas den 28 juli. Så här lyder brevet i dess helhet:

Autonomous weapons select and engage targets without human intervention. They might include, for example, armed quadcopters that can search for and eliminate people meeting certain pre-defined criteria, but do not include cruise missiles or remotely piloted drones for which humans make all targeting decisions. Artificial Intelligence (AI) technology has reached a point where the deployment of such systems is - practically if not legally - feasible within years, not decades, and the stakes are high: autonomous weapons have been described as the third revolution in warfare, after gunpowder and nuclear arms.

Many arguments have been made for and against autonomous weapons, for example that replacing human soldiers by machines is good by reducing casualties for the owner but bad by thereby lowering the threshold for going to battle. The key question for humanity today is whether to start a global AI arms race or to prevent it from starting. If any major military power pushes ahead with AI weapon development, a global arms race is virtually inevitable, and the endpoint of this technological trajectory is obvious: autonomous weapons will become the Kalashnikovs of tomorrow. Unlike nuclear weapons, they require no costly or hard-to-obtain raw materials, so they will become ubiquitous and cheap for all significant military powers to mass-produce. It will only be a matter of time until they appear on the black market and in the hands of terrorists, dictators wishing to better control their populace, warlords wishing to perpetrate ethnic cleansing, etc. Autonomous weapons are ideal for tasks such as assassinations, destabilizing nations, subduing populations and selectively killing a particular ethnic group. We therefore believe that a military AI arms race would not be beneficial for humanity. There are many ways in which AI can make battlefields safer for humans, especially civilians, without creating new tools for killing people.

Just as most chemists and biologists have no interest in building chemical or biological weapons, most AI researchers have no interest in building AI weapons - and do not want others to tarnish their field by doing so, potentially creating a major public backlash against AI that curtails its future societal benefits. Indeed, chemists and biologists have broadly supported international agreements that have successfully prohibited chemical and biological weapons, just as most physicists supported the treaties banning space-based nuclear weapons and blinding laser weapons.

In summary, we believe that AI has great potential to benefit humanity in many ways, and that the goal of the field should be to do so. Starting a military AI arms race is a bad idea, and should be prevented by a ban on offensive autonomous weapons beyond meaningful human control.

Slut upp jämte Max Tegmark, Daniel Dennett, George Dyson, Steve Omohundro, Stuart Russell, Jaan Tallinn, Roman Yampolskiy, mig och hundratals andra, och skriv på brevet här!

Hur vårt moraliska tänkande korrelerar med höger-vänsterskalan

Den amerianske social- och moralpsykologen Jonathan Haidts TED-föredrag The moral roots of liberals and conservatives, inspelat 2008 och 18 minuter långt, rekommenderas varmt. Jag överdriver inte när jag säger att det är ett av de elegantaste och bästa föredrag jag hört. I början nickade jag lite självbelåtet - nickningar som sedan successivt övergick i tappad haka i takt med att jag började inse att Haidt inte var på väg dit det först verkade. Jag vill inte genom att avslöja var Haidt landar spoliera läsarens nöje av att se föredraget, men kan avslöja så mycket som att jag finner hans slutsats mäkta provocerande, samtidigt som den är väl värd att fundera vidare över och att pröva.¹

Fotnot

1) I syfte att förstå det moralpsykologiska området bättre har jag precis börjat läsa psykologen och moralfilosofen Joshua Greenes bok Moral Tribes, som verkar mycket lovande, och Haidt förekommer rikligt i både register och litteraturförteckning. Och Haidt själv har skrivit en bok som verkar ansluta nära till föredraget ovan: The Righteous Mind: Why Good People Are Divided by Politics and Religion. Min gode vän Björn Bengtsson har läst den men verkar inte helt övertygad.

Ett AI-genombrott för mänsklighetens bästa?

Jag har ofta skrivit här på bloggen om de katastrofala risker som är förknippade med ett genombrott inom AI (artificiell intelligens). Men vad händer om vi lyckas åstadkomma ett AI-genombrott där maskinerna varken tar kål på mänskligheten eller håller oss som slavar eller som föremål för deras sadistiska tortyrnöjen? Låt oss säga att vi faktiskt lyckas ordna så att maskinerna har vårt bästa för ögonen. Är allt frid och fröjd då? Jag är inte helt säker på det, liksom inte heller Saturday Morning Breakfast Cereal-tecknaren Zach Weiner är:

Knäck i lurarna

Här, utan inbördes rangordning, är mina tre bästa missförstånd rörande låttexter (samt de ungefärliga åldrar vid vilka jag fick de egentliga texterna klart för mig).

• Sometimes I feel like a marvellous child (15).
• Min vän, min vän, och älgskogsblomma (27).
• We will Coca-Cola bring it home to you (42).