Häggström hävdar tio år!

Idag är det på dagen tio år sedan som Häggström hävdar såg dagens ljus. Jubileet sammanfaller nära i tid med en annan, mer uppmärksammad och mer makaber, tioårsdag, och som jag framhöll i det första blogginlägget är det inte helt och hållet någon tillfällighet:

Det är inte en slump att jag lanserar min blogg blott ett par dagar efter de ohyggliga terrordåden i Oslo och på Utöya. Min starkaste reaktion, utöver fasa över det lidande som gärningsmannen orsakat och de många människoliv han släckt, är en känsla av beslutsamhet: Vi som tror på demokrati, mänskliga rättigheter och det öppna samhället skall fortsätta arbeta för dessa värden utan att låta oss skrämmas av galna extremister. Sjösättandet av bloggen får gärna tolkas som en markering i den riktningen.

Längre fram i samma bloggpost meddelar jag att jag avser att "på bloggen kommentera både vetenskapliga resultat och politiska/ideologiska spörsmål".¹ Denna utfästelse tycker jag mig ha infriat, i de cirka 800 bloggposter som sedan följt.

Som intensivast arbetade jag med bloggen de första fem-sex åren, då jag snittade ett par bloggposter i veckan, och var angelägen om att leverera ett någorlunda kontinuerligt flöde av intressant innehåll. Nu är ambitionen lägre, och jag använder bloggen framför allt som skyltfönster för mina övriga publika aktiviteter, som exempelvis min senaste bok Tänkande maskiner,² och den nystartade podden Vetenskapligt med Häggström & Livh.

Låt mig fira tioårsdagen med att lyfta det gångna decenniets tre mest lästa inlägg på bloggen. Notabelt är att alla tre kom inom en och samma 18-månadersperiod, som eventuellt kan betecknas som bloggens (hittills) främsta glansperiod.

1. Quickologisk sannolikhetskalkyl, 16 maj 2015. En mycket sträng recension av Göran Lambertz bristfälliga och då nyutkomna bok Quickologi. Som sannolikhetsteoretiker borde jag normalt bli glad då någon utanför matematikens och statistikens specialiserade kretsar tar sig an området, men när det görs med en kombination av okunskap, omdömeslöst hittepå och högtravande anspråk blir min reaktion den motsatta. Detta blev starten på en delvis ganska irriterad diskussion med Lambertz; se t.ex. mina uppföljningsbloggposter Lambertz laborerar med pseudokvantiteter, Ohederlig nyårsbetraktelse och Därför ställer jag inte upp som Göran Lambertz privata matematikbiträde.

2. Om statistisk signifikans, epigenetik och de norrbottniska farmödrarna, 23 februari 2014. Om en uppmräksammad medicinsk studie med så allvarliga och samtidigt lärorika brister att jag sedan dess regelbundet använt den som avskräckande exempel i min undervisning. Se även uppföljaren Epigenetiken i Överkalix och den statistiska signifikansen: Bygren bryter tystnaden.

3. Superintelligence odds and ends: index page, 19 september 2014. I anslutning till min recension av Nick Bostroms bok Superintelligence: Paths, Dangers, Strategies publicerade jag en serie bloggposter med fördjupande diskussion kring olika teman som tas upp i boken, och index page är som namnet antyder en (kommenterad) länk- och innehållsförteckning till dessa. Sju år har nu gått sedan Bostroms bok, och jag tvekar fortfarande inte att säga att detta är den bästa och viktigaste bok som skrivits om AI-risk och AI-säkerhet. Men området har (mycket tack vare boken) kommit att växa snabbt sedan dess, och för den som idag vill sätta sig in i det rekommenderar jag trots allt hellre någon av de nyare böcker som finns och som lyfter en del av det som hänt sedan 2014, som Stuart Russells Human Compatible (2019), Brian Christians The Alignment Problem (2020), eller min egen Tänkande maskiner (2021).

Fotnoter

1) Omedelbart därefter meddelar jag att "denna blandning är inte oproblematisk", ett tema jag utvecklat mer på djupet bland annat i ett offentligt samtal med Hanna Jedvik i höstas.

2) Jag kan passa på att meddela att boken nyligen fått ett par (med svenska mått mätt) högprofilerade recensioner:

• Peter Gärdenfors i Sydsvenska Dagbladet den 5 juli: Bröderna Wrights propeller kan lära oss om supersmarta AI-system.
• Rasmus Fleischer i Expressen den 17 juli: Det mest banala kan bli vår undergång.

Båda recensionerna är mestadels positiva, och i synnerhet Fleischer bjuder på några spänstiga passager jag gärna citerar:

Ganska tidigt in i ”Tänkande maskiner” finner sig läsaren på ett sluttande plan ner mot en bottenlös fasa. Tänk en myggsvärm, fast varje mygga är en liten robot utrustad med nervgift. Svärmen tar hjälp av ansiktsigenkänning för att finna och likvidera sina offer. Tekniken för sådana mördarrobotar behöver inte ligga jättemånga år fram i tiden, redo att släppas på svarta marknaden. [...]

Häggström är ingen domedagsprofet. Men för den som tänker att en AI-apokalyps borde gå att stoppas enkelt, genom att bara lägga in ett simpelt förbehåll i programkoden, visar den här boken klart och tydligt varför saken är så mycket svårare. Pedagogiken är imponerande, därtill är språket ovanligt väl genomarbetat och litteraturhänvisningarna en guldgruva för den som vill gå djupare. ”Tänkande maskiner” kan faktiskt läsas utan särskilda förkunskaper, varken inom matematisk logik eller filosofisk etik – de två hållpunkterna för de spekulativa bågar som spänns. Självklart får då andra perspektiv stryka på foten. Trots det utsökt balanserade anslaget så framträder framtiden hos Häggström som ett val mellan två vägar: himmel och helvete.