Om AI och fabeln med hästarna: svar till Andreas Bergh

När första upplagan av min bok Tänkande maskiner var nyutkommen skrev nationalekonomen Andreas Bergh i en bloggpost den 10 maj 2021 positivt om boken, men tillät sig också ett stycke saklig kritik där han avvisar mina tankar om att den pågående AI-utvecklingen skulle kunna leda till esklerande massarbetslöshet. Kärnan i hans kritik finns i följande klipp från hans bloggpost.

Att jag nu tar till pennan kommer sig av att han igår återkom i samma ärende, i en bloggpost rubricerad Den vilseledande fabeln om hästar i diskussionen om AI och jobben som inleds med påpekandet att "Olle Häggström, Max Tegmark och Gregory Clark alla har [...] använt en fabel som förvirrar mer än den klargör". Jag skall strax återkomma till fabeln, men först vill jag berätta att jag redan 2021 tog mer intryck av Andreas kritik än han kanske anar. Bland annat har jag som en direkt följd av hans kritik inkorporerat i några av mina föreläsningar en kort diskussion om den så kallade ricardianska modellen för komparativa fördelar. Bilden ovan (inklusive grönmarkeringen) är liksom de följande hämtad från en sådan föreläsning, som jag gav den 11 september förra året vid ett hållbarhetsevenemang på Handelshögskolan vid Göteborgs universitet. Som en uppvärmning för min diskussion om ricardiansk teori visade jag följande exempel på nyttan med handel i en situation med aktörer som har olika kompetensprofil.

Här är det ganska enkelt att förstå vad som händer: Alice är bättre än Bob på korvtillverkning, medan Bob å sin sida är bättre än Alice på korvbrödstillverkning, så det är klart som korvspad att båda tjänar på om var och en av dem kan specialisera sitt arbete på det hen är bäst på. Men vad händer om Alice är bättre än Bob på allt? Då finns det väl inte mycket att göra? Jo, det går faktiskt som regel (och detta var 1800-talsekonomen David Ricardos briljanta insikt) att dra ömsesidig nytta av handel även i ett sådant fall:

Och här ligger Andreas poäng: människans situation i en värld där AI överträffar oss i allt kommer sannolikt att likna Bobs i det senare exemplet, på så vis att det kommer att gå att hitta områden där vår relativa underlägsenhet mot AI är mindre än på andra, och genom att arbeta inom dessa områden kan vi likt Bob ändå få en produktiv roll som bidrar positivt till ekonomin som helhet.

Värt att notera i Alice-och-Bob-exemplet är dock att Alices överlägsenhet över Bob är relativt måttlig: hon är fyra gånger så effektiv som Bob i fråga om korvtillvekning och dubbelt så effektiv inom korvbrödstillverkning. Vad skulle hända om hennes överlägsenhet vore större, så att hennes effektivitet överträffar Bobs tusenfaldigt eller mer på båda områdena? I praktiken skulle detta undergräva hennes incitament att handla med Bob, eftersom det lilla hon då har att vinna på saken sannolikt äts upp av transaktionskostnaderna för att bedriva sådan handel och av de övriga komplikationer som framhålls av Markus Stoor i nedanstående fotnot.¹ Då blir Bob ekonomiskt irrelevant, och situation genast mer bekymmersam - men tänk om det är just en sådan situation människan är på väg mot relativt AI? Denna eventualitet brukar jag inskärpa i mina föreläsningar, och slå fast att den ricardianska teorin därför inte duger för att avfärda risken för en framtida teknologisk arbetslöshet.

Jag är helt överens med Andreas om att så länge det finns arbetsmaknadsnischer där (för att citera den grönmarkerade passagen ovan) "människor [...] är nästan lika bra som maskiner", så ger ricardiansk teori goda skäl att anta att det kommer att finnas fortsatt plats för människor på arbetsmarknaden. Och även om jag på många andra håll i min bok talar om superintelligens, så medger jag att min passus på sidan 63 som Andreas citerar både i den gamla bloggposten och den nya - att jag har "svårt att tro att vi i evighet ska förmå hitta nya arbetsuppgifter där den mänskliga förmågan överstiger maskinernas" - var i slappaste laget, och att det hade varit bättre att ersätta "överstiger" med "inte helt utklassas av". Jag är mycket tacksam mot Andreas för att han pressar mig att klargöra denna viktiga punkt.

Men hur var det då med fabeln om hästarna? Andreas sammanfattar den osentimentalt men föredömligt koncist:

I fabeln konverserar två hästar i början av 1900-talet kring riskerna att deras position hotas av ny teknik: Ångmaskiner och bilar är de oroliga för. En häst är optimistisk, en annan är mer skeptisk. Fabeln avslutas med påpekandet att antalet hästar i USA föll med 90 procent mellan 1915 och 1960.

Och han kommenterar den med följande ord:

På vilket sätt är fabeln vilseledande? Jo, fabelformatet och kontexten får läsaren att tro att de talande hästarna symboliserar människor. Människor som hotas av ny teknik.

I själva verket symboliserar hästarna verktyg. När ånglok och bilar gör vad hästar tidigare gjorde fast bättre och billigare kommer allt färre att fortsätta använda hästar.

Talet här om vad fabeln "i själva verket symboliserar" antyder en lite märklig ontologi för fabler, där varje fabel existerar i något slags platonsk idévärld jämte ett facit rörande vad den "i själva verket" symboliserar, above and beyond författarens avsikt. I själva verket (hehe) finns ju inget sådant facit, vilket jag gissar att Andreas håller med om, och att han med sitt "I själva verket"-påstående snarare menar att fabeln enligt hans uppfattning passar bättre som illustration till hur det går för föråldrade verktyg än till hur människor riskerar att bli överflödiga.

Det verkar dock som att vi pratar förbi varandra när det gäller vad för slags framtid vi åsyftar. Å ena sidan, när Andreas läser mina ord från sidan 63 i boken tänker han per default på en värld där AI överträffar människan i alla arbetsuppgifter fastän på vissa områden med knapp marginal. Å andra sidan, när jag återger fabeln med hästarna tänker jag på en värld där AI nått mycket längre än så.

Var och en får såklart tänka på vilka framtider hen vill, och på så vis finns inget objektivt rätt svar på vem av oss som har den bästa tolkningen av fabeln, men man kan också fråga sig vilken av de båda framtidsvisionerna som är mest relevant. Eller med andra ord: hur långt är det troligt att AI-utvecklingen kommer att gå?

Varken Andreas eller jag eller någon annan vet något säkert svar på den frågan, men det senaste halvåret har jag entusiastiskt propagerat (i bloggposten Inte mycket om AI... och i den färska essän Our AI future and the need to stop the bear) för Nate Silvers TRS-skala (Technological Richter Scale) som ett värdefullt tankeredskap för att ta sig an frågan; se även Silvers bok eller Zvi Mowshowitz kommentar för närmare diskussion kring skalan. Jag lyssnade för någon månad sedan på Andreas poddsamtal med Joakim Wernberg om den svenska AI-kommissionens rapport,² och slogs av hur ingen av dem ens för en sekund verkade överväga möjligheten att AI-utvecklingen skulle kunna nå högre än en hög 7:a eller möjligen en låg 8:a på TRS-skalan.³ Om Andreas verkligen känner sig säker på att AI inte kan nå högre än så (något som i så fall vore intressant att se honom argumentera för) är det helt följdriktigt att han ser det ricardianska argumentet mot idén om eskalerande teknologisk arbetslöshet som helt avgörande, och hästen-som-människa-tolkningen av fabeln som en vilseledande fantasi. Om man (som jag) istället tar på allvar idén att AI kan nå längre och till och med kanske nå TRS-nivå 10, då ter sig den tolkningen av fabeln tvärtom ytterst relevant, medan Andreas påstående i den nya bloggposten att "det finns mekanismer i marknadsekonomin som gör permanent ökad arbetslöshet på grund av tekniska framsteg till något synnerligen osannolikt" framstår som överilat.

Kort sagt: meningsmotsättningen Andreas och mig emellan verkar inte handla om nationalekonomins ricardianska elementa (på detta område erkänner jag villigt hans expertis), utan snarare om hur långt vi räknar med att AI-utvecklingen kan komma att gå.

Fotnoter

1) Jag instämmer i det min gode vän Markus Stoor skriver i kommentarsfältet till Andreas nya bloggpost, och tillåter mig här att återge deras meningsutbyte:

Markus:

Men nej, det stämmer ju inte alls att det räcker med komparativa fördelar!

De komparativa fördelarna måste vara tillräckligt stora för att bära de fasta kostnaderna för en arbetare(eller häst).

Så kan det ju säkert vara så länge människor är nästan lika bra som maskiner på något, men det är väl vara osannolikt att vi i längden skulle stå oss så pass väl.

Eller?

Vi anställer ju inte 3-åringar eller schimpanser (eller hästar!) trots att de har komparativa fördelar.

Transaktionskostnaderna är för stora och värdet av deras arbetskraft för litet. Den samlade mänskligheten inklusive 3-åringarna och apligheten och hästligheten skulle producera mindre än den samlade mänskligheten pga att vi måste avdela så många vuxna till att organisera, arbetsleda och betala aporna, barnen och hästarna.

Andreas:

Hej Markus!

Min poäng var att man bör tänka i termer av komparativa fördelar, inte absoluta fördelar. Och det tycks du hålla med mig om.

Sedan beskriver du ett intressant specialfall i tillämpningen av komparativa fördelar, där exvis treåringar inte får arbete för att nettovärdet är negativt: kostnaden för att arbetsleda dem skulle överstiga värdet av vad de producerar. Då blir de oanvända i produktionen, det har du rätt i. Hur sannolikt det är att vuxna människor kommer att bli som treåringar i ditt exempel vill jag däremot låta vara osagt.

Markus:

Jag tycker att man ska vara uppmärksam på att teorin om komparativa fördelar har en gräns när den inte längre är tillämplig (det du här kallar specialfall). Även om det är väldigt tydligt med exemplet treåringar så gäller det också vuxna människor, vilket vi både ser på svensk arbetsmarknad och i internationell handel.

I fallet med treåringarna blir värdet nettonegativt redan om man ska involvera redan existerande treåringar i produktionen. Det tror jag är osannolikt vad gäller större delen av den vuxna befolkningen.

Tyvärr är dock klassen av specialfall större än så (eller som jag ser det, gränsen för modellen om de komparativa fördelarnas giltighet snävare än så) i och med att det inte räcker att lämna ett positivt produktionsbidrag efter transaktionskostnader. Man måste också täcka sina egna fasta kostnader.

För en människa innebär det ytterst att man måste vara effektivare i sitt resursutnyttjande vad det gäller begränsade resurser än maskinerna. Blir den sammanlagda produktionen högre ifall det står solceller på åkern där vetet till ditt bröd skulle ha odlats så är tyvärr din existens inte ett positivt bidrag till den sammanlagda produktionen. På det viset tror jag att det är rejält sannolikt att vi människor, liksom draghästarna den gången, kommer att bli obsoleta.

En fingervisning om det tycker jag mig se bakom den liknelse (fabel?) du ofta återkommer till i podden. Kentauren. Det fanns en tid när människor med schackprogram kunde slå schackprogram utan människor. Men kentaurernas tid var kort.

2) Se den här debattartikeln i Kvartal för min egen (skarpt kontrasterande) syn på kommissionens rapport.

3) Detta alltså trots att Andreas läst min bok Tänkande maskiner, något som jag dessvärre får notera som ett pedagogiskt misslyckande med boken. Det jag nu skulle önska mig mest av allt från Andreas, om han har tid och intresse för saken, är att han läser (åtminstone Avsnitt 1 och 3 i) min Stop the bear-essä och funderar ett varv till på hur långt han tror att AI-utvecklingen kommer att nå, i termer av TRS-skalan, samt (gärna i bayesianska termer) hur säker han är på denna prediktion. Ett skäl till att jag skulle tycka detta vore intressant är att jag tror att en väldigt stor del av dagens AI-debatt lider skada av att många kommentatorer implicit och strängt taget omotiverat tar för givet att AI inte kommer att utvecklas stort mer än epsilon bortom dagens nivå, och det vore intessant att se vad som händer om en allmänkompetent tänkare i denna kategori anstränger sig att resonera mer explicit om detta.