Ett annat USA, och en bok med en överraskande plot twist

Bortsett från Sverige är det land vars samhälle jag känner mig mest bekant med USA. Till stor del bottnar detta i egna vistelser från 11 års ålder och framåt och i kontakter med vänner och kollegor därifrån, men betydelsefullt i sammanhanget är givetvis också det stora kulturella inflytande som bland annat Hollywood har. Men USA är stort och heterogent, och min bekantskap med landet är knappast representativ utan har en kraftig slagsida mot akademiska miljöer och välbärgad medelklass, samt mot vissa av landets nordligare delstater (plus Kalifornien). Andra delar av USA, som den Djupa Södern och de Appalachiska bergstrakterna, är mig till följd av mina begränsade erfarenheter lika främmande och exotiska som många länder i tredje världen jag aldrig satt min fot i. Vad gäller livet i Appalacherna är mina kunskapskällor begränsade till filmer som The Deer Hunter och enstaka DN- eller SVT-reportage om vad som får så kallade vanliga amerikaner att rösta på Trump.

Fram tills nu, då jag läst Hillbilly Elegy från 2016. Denna självbiografiska berättelse utspelar sig i en fattig småstad i östra Kentuckys bergstrakter och den lite större industristad i södra Ohio dit många bergsbor arbetskraftsinvandrar. Den handlar om starka familjeband och djupa klassklyftor, och om fattigdom, missbruk, våld och avindustrialiseringens sociala effekter, men framför allt är den en coming of age-roman om hur en utsatt och vilsen pojke förvandlas till en vuxen man fast besluten att göra USA till ett bättre land för de stora befolkningsgrupper som hamnat så kraftigt på efterkälken i förhållande till den allt mer avskärmade öst- och västkusteliten. Boken är välskriven, och trots att berättarens återkommande reflektioner kring de besvärliga odds han övervunnit med avgörande stöd från några av sina käraste familjemedlemmar till slut får något repetitivt och självförhärligande över sig, så är det lätt att känna sympati med honom, och det värmer hjärtat att boken slutar så optimistiskt.

Eller gör den det? Om man går lite utanför bokens pärmar möts man av en ohyggligt mörk plot twist. Ett knappt decennium efter att huvudpersonen satt punkt för sitt bokmanus visar det sig nämligen att den framgångsrike och till synes så pro-sociale unge världsförbättrare han trots barndomens svåra omständigheter förvandlats till blott var en övergående fas eller en mask. När masken fallit visar han sig ha så stark avsky mot att hjälpa andra människor än den fattiga vita arbetarklass han själv är sprungen ur att han kallar the Bill and Melinda Gates Foundation "en cancersvulst på det amerikanska samhället". Han är genom sin blinda lojalitet gentemot sin chef Donald Trump den främste facilitatorn av dennes envåldshärskarambitioner, han är en mobbare som inte drar sig för att trakassera den europeiske ledare som inget annat vill än att skydda sitt land mot ett oprovocerat och olagligt ryskt anfallskrig, han är en skamlös demagog som talar sig varm för en handelspolitik som riskerar störta världsekonomin i fördärvet, och han är en bromskloss som gör vad han kan för att sätta sig på tvären mot dem som söker vägar att få mänsklighetens pågående och exitentiellt ödesmättade AI-äventyr att sluta lyckligt. Kort sagt, han har förvandlats till en av världens farligaste och mest destruktiva personer alla kategorier. Så gick det med bokens skenbart lyckliga slut.

Ödesfråga i Lund

Förra veckan talade jag i Lund, på Kungliga Fysiografiska Sällskapets årliga Rausingsymposium, som i år bar rubriken Behövs våra hjärnor? med underrubriken AI - hot och möjligheter. Symposiet som helhet finns anslaget som YouTube-video. Mitt eget bidrag bar rubriken AI är mänsklighetens största ödesfråga och upptar tidsspannet 24:00-58:30 i videon, men där finns också en rad andra föredrag värda att lyssna till, varav jag allra främst vill rekommendera vännen Thore Husfeldt bidrag AI och undervisning (4:25:00-5:00:30) som jag ärligt kan säga är det både förståndigaste och mest välformulerade jag hört i den brännande frågan om hur utbildningssystemet bör förhålla sig till den nya AI-tekniken.

Symposiet kommer även att publiceras i bokform, och jag har idag levererat till arrangörerna min text AI är mänsklighetens största ödesfråga, som visserligen inte är en ordagrann återgivning av föredraget, men som till både innehåll och form följer det relativt nära. Jag vill såklart gärna att ni läser den fyra och en halv sida långa texten i sin helhet, men här, som ett litet smakprov, några stycken hämtade ur den:

Jag har stor respekt för att det finns andra frågor än AI – exempelvis klimatförändringarna – som kan göra anspråk på att vara stora ödesfrågor för mänskligheten, men de senaste åren har jag kommit att landa i att den om hur vi hanterar AI-utvecklingen är den största och mest akuta av dem alla. Jag skall förklara varför, men vill börja i en mer jordnära ände.

[...]

En typ av arbetsuppgift där AI gjort särskilt dramatiska framsteg de senaste åren och som kan komma att få stor betydelse för den fortsatta utvecklingen som helhet är kodning och mjukvaruutveckling. AI-systemens förmåga att skriva korrekt kod och i övrigt lösa uppgifter riktigt är starkt avhängig uppgiftens omfattning. I en rapport från AI-säkerhetsorganisationen METR i mars i år studeras hur denna förmåga utvecklats över tid. Det visar sig att omfattningen – mätt i tidsåtgång för en mänsklig expert – som AI klarar av har ökat från enstaka sekunder 2019 till cirka en timme idag. Ökningen är exponentiell, med en observerad genomsnittlig fördubblingstid på sju månader, och om man extrapolerar den trenden blott ett par-tre år in i framtiden blir resultatet dramatiskt. Sådan kurvanpassning inbegriper givetvis stora osäkerheter, men ser man till hur modellerna förbättrats från 2024 och framåt verkar det snarast som att utvecklingen är på väg att gå ännu fortare.

Det är bland annat den sortens data som ligger till grund för den gedigna rapporten AI 2027, utkommen i april i år och författad av en kvintett forskare med den avhoppade OpenAI-medarbetaren Daniel Kokotajlo i spetsen. Rapporten är det ambitiösaste och bästa som hittills skrivits vad gäller detaljerade förutsägelser av kommande års AI-utveckling. Osäkerheterna är som sagt stora, men successivt och månad för månad arbetar de fram vad de ser som det mest sannolika förloppet. Centralt i detta förlopp är hur AI, till följd av den utveckling som bland annat METR-rapporten påvisat, år 2027 når en punkt där den är en lika skicklig AI-utvecklare som dagens främsta sådana av kött och blod. Tack vare att de ledande AI-företagen då kan sätta hundratusentals eller miljontals sådana AI i arbete leder detta på några få månader till så kallad superintelligens – AI som vida överträffar människan över hela spektret av relevanta förmågor.

[...]

AI alignment-pionjären Eliezer Yudkowsky kan med blott en mild överdrift sägas egenhändigt ha lagt grunden för området under 00-talet. I en inflytelserik artikel från 2008 beskriver han det han bedömer vara default-scenariot ifall vi misslyckas med eller helt enkelt ignorerar AI alignment: ”AI:n hatar dig inte, ej heller älskar den dig, men du består av atomer som den kan ha annan användning för”.

I en sådan situation vill vi givetvis inte hamna, och därför behöver vi lösa AI alignment i tid. Hur lång tid har vi då på oss? Ingen vet säkert, och det enda omdömesgilla är att medge att stor osäkerhet föreligger, men jag menar att vi bör ta på allvar den i AK-ekosystemet i San Francisco och Silicon Valley alltmer utbredda uppfattningen att superintelligent AI kan bli en realitet inom en tidsrymd som mäts i enstaka år snarare än decennier.

[...]

För att ge AI alignment-forskningen en chans att hinna ikapp tror jag att vi behöver dra i nödbromsen för utvecklingen av de allra mest kraftfulla AI-systemen. Detta försvåras dock av den kapplöpningssituation som föreligger, både mellan enskilda AI-företag och mellan länder (främst USA och Kina). Det allmänt hårdnande internationella klimatet sedan Trumps andra presidentämbetestillträde gör inte heller saken lättare. Ett lågvattenmärke för den globala AI-diskursen nåddes vid toppmötet AI Action Summit i Paris i februari i år, där säkerhetsfrågor sopades under mattan samtidigt som toppolitiker bjöd över varandra i vilka mångmiljardbelopp de avsåg satsa på AI-utveckling. Värst av allt var hur den amerikanske vicepresidenten JD Vance i sitt anförande uttryckte oförblommerat förakt för AI-säkerhet, då han slog fast att han ”inte var där för att tala om AI-säkerhet” och att ”vår AI-framtid inte erövras genom att oja sig över säkerhet utan genom att bygga”. Hans förhoppning lite längre fram i samma tal om att ”AI-ekonomin kommer att […] transformera den värld som består av atomer” ger, för den som minns Yudkowskys ovan citerade oneliner om AI och atomer, en isande rysning längs ryggraden.

Detta säger något om vilka krafter vi behöver övervinna om vi skall få ordning på AI-utvecklingen och styra den i för mänskligheten mer gynnsam riktning jämfört med vart vi idag verkar vara på väg. Men framtiden är inte ristad i sten, och jag tror fortfarande att det är möjligt att förhindra en AI-katastrof. Något som skulle förbättra oddsen ytterligare vore om vi lyckas mobilisera den folkopinion mot skapandet av övermänskligt intelligent AI som enligt diverse opinionsundersökningar verkar föreligga. Så hjälp gärna till att sprida budskapet!

Läs hela texten här!

Om kentaurschack

Igår skrev jag i Expressen om AI, arbetsmarknad och det så kallade människan i loopen-idealet. En central fråga är den om huruvida det finns någon vettig plats för människan i en process med AI-system som blivit bättre än vi på vad det nu är som skall göras. Ett populärt exempel att lyfta fram för dem som vill besvara frågan jakande har varit det så kallade kentaurschacket, vilket jag omtalar i artikeln:

Då AI överträffar mänsklig skicklighet kan vi [...] fortfarande hoppas att kombinationen människa plus AI ska visa sig mer kapabel än AI ensam. AI-entusiasternas paradexempel på detta var länge schack. Sedan mänskliga stormästare visat sig vara chanslösa mot de bästa schackprogrammen började man experimentera med spelformen kentaurschack, där mänskliga spelare fick lov att konsultera ett schackprogram innan de utförde sina drag. Så länge teamet människa plus maskin var bättre än maskinen ensam var spelformen intressant, men intresset kollapsade i slutet av 2010-talet då det blev snudd på omöjligt att överträffa en motståndare som valde att slaviskt följa datorns rekommendationer.

1997 förlorade den dåvarande schackvärldsmästaren Garri Kasparov en uppmärksammad match mot IBM:s schackprogram Deep Blue, och det var då kampen mellan människa och maskin på schackets område ansågs avgjord. Redan året efter lanserade Kasparov i en uppvisningsmatch mot stormästarkollegan Veselin Topalov det som senare kom att kallas kentaurschack, där alltså två mänskliga spelare med tillgång till schackprogram som de har rätt att konsultera under spelets gång ställs mot varandra. Spelformen fortsatte i nära två decennier att röna ett visst intresse, men i takt med att datorprogrammen blev allt spelstarkare närmade sig spelformen en kris: hur länge skulle den mänskliga komponenten i beslutsfattandet visa sig ha något att tillföra?

Så länge kombinationen människa plus maskin var starkare än maskinen ensam var spelformen intressant, och AI-propagandister kunde anföra kentaurschacket som ett exempel på hur människan kan förbli relevant även i närvaro av överlägset kapabla AI-system. Men det som tycks ha blivit den sista internationella kentaurschacksturneringen spelades 2017, varpå intresset i tysthet kollapsade. Jag har varit i kontakt med en av de ledande organisatörerna av kentaurschackturneringar, och han bekräftar min bild av att orsaken till det kollapsade intresset är att det inte längre verkade finnas något konstruktivt för den mänskliga parten i ett kentaurteam att bidra med. (Att till slut alla partier oundvikligen verkade sluta i remi bidrog också till att de sista entusiasterna ledsnade.)

Det ligger i sakens natur att ett vikande intresse för vad det nu må vara inte alltid dokumenteras explicit, och detta verkar vara fallet specifikt för det som hände med kentaurschacket 2017-2018. Och just detta bidrog antagligen till att en del av de oförväget optimistiska AI-debattörer som spred budskapet "Framtiden är ljus! Se på kentaurschacket!" inte observerade att tiden sprungit ifrån dem utan fortsatte med sina glada besked som om inget hade hänt. Den i Sverige ledande företrädaren för denna inobservanta falang är otvivelaktigt Mathias Sundin, i kraft av dennes bok Kentaurens fördel från 2023 (här är ett relevant utdrag). Jag hoppas att han i ljuset av det jag här meddelar kommer att korrigera sin kentaurschacksretorik, men med tanke på den inte alltför imponerande nivå av argumentativ stringens och hederlighet han hittills uppvisat (och som jag sett mig föranledd att kommentera här, här och här) håller jag inte andan.

Recommending the AI 2027 report by Kokotajlo and collaborators

Most people, including many AI experts, struggle to grasp (if they're even aware of it) the increasingly dominant view emerging in the epicenter of AI development in San Francisco and Silicon Valley: that extreme developments (on a scale surpassing even the Industrial Revolution) may well occur within the present decade. It is therefore entirely reasonable that there's growing demand for concrete scenarios describing what might happen. For almost exactly ten months, from early June 2024 onward, my go-to reference for such scenarios was Leopold Aschenbrenner’s Situational Awareness.

As of today, however, I recommend instead the brand-new AI 2027, by Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland and Romeo Dean. The report is an ambitious, detailed, remarkably competent and highly readable account of where things may be headed over the next few years. I commend the authors for putting in the considerable amount of work needed to produce the report, and I share their hope that the report will stimulate others in the AI sphere to react to it, for instance by challenging the various assumptions underlying the suggested scenario, or by proposing alternative scenarios.

Anyone with an interest in societal issues and a desire to ground their discussions in a realistic situational assessment is warmly encouraged to read it. In addition to the report itself, there is a highly informative three-hour podcast episode where Dwarkesh Patel interviews the first two authors, plus a short blog post by Scott Alexander introducing the project.

[Edit, April 9: Here are Scott Alexander's personal takeways from the project. Here and here are two relevant blog posts by Zwi Mowshowitz: the first is a detailed reading of the aforementioned podcast discussion, and the second is his summary of various people's initial reactions to the report, on Twitter and elsewhere. All of this is well worth reading, and I am certain a lot more will follow.]

METR on AI's ability to complete long tasks

The absolutely relentless deluge of breaking news from the AI world over the last few months has been pretty much impossible to adequately keep up with,¹ but the following is possibly the most important diagram I have encountered so far in 2025.

It is from a report released yesterday by the AI evals organization METR. In short: Due to the highly multi-dimensional nature of intelligence, we have so far been struggling to find a measure of AI capabilities that is appropriate for predicting when to expect AI with transformative societal effects. Since AI capabilities seem bottlenecked by the their ability to devise and execute plans in many steps, METR's proposal to measure capabilities in terms of how humanly long tasks AIs succeed at seems very promising. Their main result is that the length of tasks that AIs can handle seems to be growing exponentially, with an astonishingly short doubling time of around 7 months. Obviously the trend is in no way guaranteed to continue, but... extrapolating it just a few years into the future is vertigo-inducing.

Here is METR's report, and here is their summary blog post about the work.

Footnote

1) Anyone wishing to nevertheless try to do so is strongly advised to follow Zvi Mowshowitz' newsletter Don't Worry About the Vase.

Om AI och fabeln med hästarna: svar till Andreas Bergh

När första upplagan av min bok Tänkande maskiner var nyutkommen skrev nationalekonomen Andreas Bergh i en bloggpost den 10 maj 2021 positivt om boken, men tillät sig också ett stycke saklig kritik där han avvisar mina tankar om att den pågående AI-utvecklingen skulle kunna leda till esklerande massarbetslöshet. Kärnan i hans kritik finns i följande klipp från hans bloggpost.

Att jag nu tar till pennan kommer sig av att han igår återkom i samma ärende, i en bloggpost rubricerad Den vilseledande fabeln om hästar i diskussionen om AI och jobben som inleds med påpekandet att "Olle Häggström, Max Tegmark och Gregory Clark alla har [...] använt en fabel som förvirrar mer än den klargör". Jag skall strax återkomma till fabeln, men först vill jag berätta att jag redan 2021 tog mer intryck av Andreas kritik än han kanske anar. Bland annat har jag som en direkt följd av hans kritik inkorporerat i några av mina föreläsningar en kort diskussion om den så kallade ricardianska modellen för komparativa fördelar. Bilden ovan (inklusive grönmarkeringen) är liksom de följande hämtad från en sådan föreläsning, som jag gav den 11 september förra året vid ett hållbarhetsevenemang på Handelshögskolan vid Göteborgs universitet. Som en uppvärmning för min diskussion om ricardiansk teori visade jag följande exempel på nyttan med handel i en situation med aktörer som har olika kompetensprofil.

Här är det ganska enkelt att förstå vad som händer: Alice är bättre än Bob på korvtillverkning, medan Bob å sin sida är bättre än Alice på korvbrödstillverkning, så det är klart som korvspad att båda tjänar på om var och en av dem kan specialisera sitt arbete på det hen är bäst på. Men vad händer om Alice är bättre än Bob på allt? Då finns det väl inte mycket att göra? Jo, det går faktiskt som regel (och detta var 1800-talsekonomen David Ricardos briljanta insikt) att dra ömsesidig nytta av handel även i ett sådant fall:

Och här ligger Andreas poäng: människans situation i en värld där AI överträffar oss i allt kommer sannolikt att likna Bobs i det senare exemplet, på så vis att det kommer att gå att hitta områden där vår relativa underlägsenhet mot AI är mindre än på andra, och genom att arbeta inom dessa områden kan vi likt Bob ändå få en produktiv roll som bidrar positivt till ekonomin som helhet.

Värt att notera i Alice-och-Bob-exemplet är dock att Alices överlägsenhet över Bob är relativt måttlig: hon är fyra gånger så effektiv som Bob i fråga om korvtillvekning och dubbelt så effektiv inom korvbrödstillverkning. Vad skulle hända om hennes överlägsenhet vore större, så att hennes effektivitet överträffar Bobs tusenfaldigt eller mer på båda områdena? I praktiken skulle detta undergräva hennes incitament att handla med Bob, eftersom det lilla hon då har att vinna på saken sannolikt äts upp av transaktionskostnaderna för att bedriva sådan handel och av de övriga komplikationer som framhålls av Markus Stoor i nedanstående fotnot.¹ Då blir Bob ekonomiskt irrelevant, och situation genast mer bekymmersam - men tänk om det är just en sådan situation människan är på väg mot relativt AI? Denna eventualitet brukar jag inskärpa i mina föreläsningar, och slå fast att den ricardianska teorin därför inte duger för att avfärda risken för en framtida teknologisk arbetslöshet.

Jag är helt överens med Andreas om att så länge det finns arbetsmaknadsnischer där (för att citera den grönmarkerade passagen ovan) "människor [...] är nästan lika bra som maskiner", så ger ricardiansk teori goda skäl att anta att det kommer att finnas fortsatt plats för människor på arbetsmarknaden. Och även om jag på många andra håll i min bok talar om superintelligens, så medger jag att min passus på sidan 63 som Andreas citerar både i den gamla bloggposten och den nya - att jag har "svårt att tro att vi i evighet ska förmå hitta nya arbetsuppgifter där den mänskliga förmågan överstiger maskinernas" - var i slappaste laget, och att det hade varit bättre att ersätta "överstiger" med "inte helt utklassas av". Jag är mycket tacksam mot Andreas för att han pressar mig att klargöra denna viktiga punkt.

Men hur var det då med fabeln om hästarna? Andreas sammanfattar den osentimentalt men föredömligt koncist:

I fabeln konverserar två hästar i början av 1900-talet kring riskerna att deras position hotas av ny teknik: Ångmaskiner och bilar är de oroliga för. En häst är optimistisk, en annan är mer skeptisk. Fabeln avslutas med påpekandet att antalet hästar i USA föll med 90 procent mellan 1915 och 1960.

Och han kommenterar den med följande ord:

På vilket sätt är fabeln vilseledande? Jo, fabelformatet och kontexten får läsaren att tro att de talande hästarna symboliserar människor. Människor som hotas av ny teknik.

I själva verket symboliserar hästarna verktyg. När ånglok och bilar gör vad hästar tidigare gjorde fast bättre och billigare kommer allt färre att fortsätta använda hästar.

Talet här om vad fabeln "i själva verket symboliserar" antyder en lite märklig ontologi för fabler, där varje fabel existerar i något slags platonsk idévärld jämte ett facit rörande vad den "i själva verket" symboliserar, above and beyond författarens avsikt. I själva verket (hehe) finns ju inget sådant facit, vilket jag gissar att Andreas håller med om, och att han med sitt "I själva verket"-påstående snarare menar att fabeln enligt hans uppfattning passar bättre som illustration till hur det går för föråldrade verktyg än till hur människor riskerar att bli överflödiga.

Det verkar dock som att vi pratar förbi varandra när det gäller vad för slags framtid vi åsyftar. Å ena sidan, när Andreas läser mina ord från sidan 63 i boken tänker han per default på en värld där AI överträffar människan i alla arbetsuppgifter fastän på vissa områden med knapp marginal. Å andra sidan, när jag återger fabeln med hästarna tänker jag på en värld där AI nått mycket längre än så.

Var och en får såklart tänka på vilka framtider hen vill, och på så vis finns inget objektivt rätt svar på vem av oss som har den bästa tolkningen av fabeln, men man kan också fråga sig vilken av de båda framtidsvisionerna som är mest relevant. Eller med andra ord: hur långt är det troligt att AI-utvecklingen kommer att gå?

Varken Andreas eller jag eller någon annan vet något säkert svar på den frågan, men det senaste halvåret har jag entusiastiskt propagerat (i bloggposten Inte mycket om AI... och i den färska essän Our AI future and the need to stop the bear) för Nate Silvers TRS-skala (Technological Richter Scale) som ett värdefullt tankeredskap för att ta sig an frågan; se även Silvers bok eller Zvi Mowshowitz kommentar för närmare diskussion kring skalan. Jag lyssnade för någon månad sedan på Andreas poddsamtal med Joakim Wernberg om den svenska AI-kommissionens rapport,² och slogs av hur ingen av dem ens för en sekund verkade överväga möjligheten att AI-utvecklingen skulle kunna nå högre än en hög 7:a eller möjligen en låg 8:a på TRS-skalan.³ Om Andreas verkligen känner sig säker på att AI inte kan nå högre än så (något som i så fall vore intressant att se honom argumentera för) är det helt följdriktigt att han ser det ricardianska argumentet mot idén om eskalerande teknologisk arbetslöshet som helt avgörande, och hästen-som-människa-tolkningen av fabeln som en vilseledande fantasi. Om man (som jag) istället tar på allvar idén att AI kan nå längre och till och med kanske nå TRS-nivå 10, då ter sig den tolkningen av fabeln tvärtom ytterst relevant, medan Andreas påstående i den nya bloggposten att "det finns mekanismer i marknadsekonomin som gör permanent ökad arbetslöshet på grund av tekniska framsteg till något synnerligen osannolikt" framstår som överilat.

Kort sagt: meningsmotsättningen Andreas och mig emellan verkar inte handla om nationalekonomins ricardianska elementa (på detta område erkänner jag villigt hans expertis), utan snarare om hur långt vi räknar med att AI-utvecklingen kan komma att gå.

Fotnoter

1) Jag instämmer i det min gode vän Markus Stoor skriver i kommentarsfältet till Andreas nya bloggpost, och tillåter mig här att återge deras meningsutbyte:

Markus:

Men nej, det stämmer ju inte alls att det räcker med komparativa fördelar!

De komparativa fördelarna måste vara tillräckligt stora för att bära de fasta kostnaderna för en arbetare(eller häst).

Så kan det ju säkert vara så länge människor är nästan lika bra som maskiner på något, men det är väl vara osannolikt att vi i längden skulle stå oss så pass väl.

Eller?

Vi anställer ju inte 3-åringar eller schimpanser (eller hästar!) trots att de har komparativa fördelar.

Transaktionskostnaderna är för stora och värdet av deras arbetskraft för litet. Den samlade mänskligheten inklusive 3-åringarna och apligheten och hästligheten skulle producera mindre än den samlade mänskligheten pga att vi måste avdela så många vuxna till att organisera, arbetsleda och betala aporna, barnen och hästarna.

Andreas:

Hej Markus!

Min poäng var att man bör tänka i termer av komparativa fördelar, inte absoluta fördelar. Och det tycks du hålla med mig om.

Sedan beskriver du ett intressant specialfall i tillämpningen av komparativa fördelar, där exvis treåringar inte får arbete för att nettovärdet är negativt: kostnaden för att arbetsleda dem skulle överstiga värdet av vad de producerar. Då blir de oanvända i produktionen, det har du rätt i. Hur sannolikt det är att vuxna människor kommer att bli som treåringar i ditt exempel vill jag däremot låta vara osagt.

Markus:

Jag tycker att man ska vara uppmärksam på att teorin om komparativa fördelar har en gräns när den inte längre är tillämplig (det du här kallar specialfall). Även om det är väldigt tydligt med exemplet treåringar så gäller det också vuxna människor, vilket vi både ser på svensk arbetsmarknad och i internationell handel.

I fallet med treåringarna blir värdet nettonegativt redan om man ska involvera redan existerande treåringar i produktionen. Det tror jag är osannolikt vad gäller större delen av den vuxna befolkningen.

Tyvärr är dock klassen av specialfall större än så (eller som jag ser det, gränsen för modellen om de komparativa fördelarnas giltighet snävare än så) i och med att det inte räcker att lämna ett positivt produktionsbidrag efter transaktionskostnader. Man måste också täcka sina egna fasta kostnader.

För en människa innebär det ytterst att man måste vara effektivare i sitt resursutnyttjande vad det gäller begränsade resurser än maskinerna. Blir den sammanlagda produktionen högre ifall det står solceller på åkern där vetet till ditt bröd skulle ha odlats så är tyvärr din existens inte ett positivt bidrag till den sammanlagda produktionen. På det viset tror jag att det är rejält sannolikt att vi människor, liksom draghästarna den gången, kommer att bli obsoleta.

En fingervisning om det tycker jag mig se bakom den liknelse (fabel?) du ofta återkommer till i podden. Kentauren. Det fanns en tid när människor med schackprogram kunde slå schackprogram utan människor. Men kentaurernas tid var kort.

2) Se den här debattartikeln i Kvartal för min egen (skarpt kontrasterande) syn på kommissionens rapport.

3) Detta alltså trots att Andreas läst min bok Tänkande maskiner, något som jag dessvärre får notera som ett pedagogiskt misslyckande med boken. Det jag nu skulle önska mig mest av allt från Andreas, om han har tid och intresse för saken, är att han läser (åtminstone Avsnitt 1 och 3 i) min Stop the bear-essä och funderar ett varv till på hur långt han tror att AI-utvecklingen kommer att nå, i termer av TRS-skalan, samt (gärna i bayesianska termer) hur säker han är på denna prediktion. Ett skäl till att jag skulle tycka detta vore intressant är att jag tror att en väldigt stor del av dagens AI-debatt lider skada av att många kommentatorer implicit och strängt taget omotiverat tar för givet att AI inte kommer att utvecklas stort mer än epsilon bortom dagens nivå, och det vore intessant att se vad som händer om en allmänkompetent tänkare i denna kategori anstränger sig att resonera mer explicit om detta.

Snart dags för Vetenskapsfestivalen 2025

Varje år i april äger Vetenskapsfestivalen rum i Göteborg, och nästan varje år medverkar jag i en eller flera programpunkter. Så även detta år! Det publika programmet i år äger rum den 1-6 april, och jag finns med vid två tillfällen:

• Torsdag den 3 april kl 19:20-19:50 talar jag över ämnet Can AI be conscious i sal Pascal på Chalmers (hitta dit). Detta är en del av den större programpunkt A mathematical evening som äger rum 17:30-20:00, då tillfälle ges att även höra populärvetenskapliga framställningar av några av mina lokala matematikerkollegor.
• Fredag den 4 april kl 17:00-18:00 på Stadsbiblioteket samtalar jag med Chalmers rektor Martin Nilsson Jacobi om Vår framtid med AI. I programbeskrivningen utlovas diskussion om "...den dramatiska AI-utveckling som pågår, dess enorma möjligheter och likaledes enorma risker, och vad vi kan göra för att styra utvecklingen i en för människan och samhället gynnsam riktning. Perspektivet kommer i första hand att vara globalt, men [...] det finns även anledning att diskutera vad en teknisk högskola som Chalmers kan bidra med".