tisdag 24 januari 2023

Denna text om ChatGPT kan ni inte läsa i DN

OpenAI:s lansering i november förra året av ChatGPT (som jag bland annat diskuterade i mitt YouTube-föredrag den 16 december) har lett till något av ett allmänt uppvaknande inför AI-utvecklingen. Så t.ex. skrev Lars Strannegård (rektor för Handelshögskolan i Stockholm och yngre bror till till sin äldre bror Claes) om saken ur ett (ut-)bildningsperspektiv på DN Kultur i förra veckan. Jag såg det som ett tillfälle att haka på och försöka bredda disussionen till ett större samhällsperspektiv, och skickade därför nedanstående text till DN Kultur. Den refuserades dock, och jag bjuder istället på den här på bloggen. För en lite längre utveckling av min slutpoäng i texten, se nämnda YouTube-video.

* * *

Utvecklingen inom artificiell intelligens (AI) går rasande snabbt, och nu senast har det kaliforniska AI-företaget OpenAI:s textrobot ChatGPT har tagit världen med storm. Denna konversations-AI kan föra häpnadsväckande intelligenta och mänskligt klingande samtal, men trampar liksom vi människor ofta snett och häver ur sig felaktigheter och ren bullshit. Som Lars Strannegård berättar (DN Kultur, 17/1) förs bland oss universitetslärare just nu en intensiv diskussion om vad det betyder för vår undervisning och examination av studenter när dessa nu kan överlåta mycket av sitt uppsatsskrivande och annat hemarbete på ChatGPT.

Jag tror inte att det är meningsfullt att diskutera den betydelse ChatGPT och andra så kallade stora språkmodeller (Large Language Models) har för utbildningssystemet utan att samtidigt beakta vad de kan göra i andra samhällssektorer. Denna AI-teknik ser ut att bland annat kunna komma att omforma allt administrativt och kommunikativt arbete snabbare och långt mer genomgripande än det sena 1900-talets datorisering. Strannegård har därför rätt när han pekar på det djupt problematiska med om våra lärosäten skulle försöka isolera sig själva och sina studenter från den nya tekniken, något som skulle skapa en i förhållande till arbetsmarknaden föråldrad utbildning.

Vad vi dessutom behöver ta i beaktande är att ChatGPT inte är slutpunkten på AI-utvecklingen, utan kommer att följas av en strid ström av ännu kraftfullare och intelligentare AI-system. Det betyder att den lösning Strannegård är inne på – att identifiera och sedan satsa på de unikt mänskliga förmågor som ligger bortom vad en AI kan göra – riskerar att allt snabbare behöva uppdateras i takt med att AI gör nya framsteg. Att idag hitta exempel på mänskliga förmågor som ChatGPT saknar är inte svårt, men desto svårare är att peka ut sådant som oöverstigligt för kommande AI. De senaste årens AI-utveckling har gått omilt fram mot den sortens prediktioner, och att slå fast något unikt mänskligt som permanent kommer att ligga bortom AI:s förmåga verkar det inte finnas utrymme för med en naturalistisk världsbild.

Några gränser för vad AI på sikt kan åstadkomma finns i praktiken inte alls, vilket för oss till de varningsord datavetenskapens fader Alan Turing formulerade i en känd essä från 1951, om hur en tillräckligt avancerad AI kan börja förbättra sig själv utan fortsatt mänsklig inblandning, och hur det kan leda vidare till ett läge där den tar över makten från oss människor. Vi hamnar då i samma slags prekära läge som gorillor befinner sig i idag, och mänsklighetens öde kommer att hänga på vad maskinerna har för mål och drivkrafter. Det av Turing förutsedda genombrottet har alltid framstått som tämligen avlägset, men på sistone har allt fler bedömare i ljuset av den snabba utvecklingen pekat på 10-20 år fram i tiden som en fullt möjlig tidtabell, och dagens två ledande AI-utvecklare – OpenAI och Londonbaserade DeepMind – har båda ambitionen att nå fram till ett sådant genombrott, under beteckningen artificiell generell intelligens (AGI).

Allt detta innebär att det är av största betydelse för mänsklighetens framtid att lista ut hur vi kan se till att denna AGI har mål som ligger i linje med mänskliga värderingar. Detta forskningsområde ignorerades i ett halvsekel efter Turings prediktion, men har nu börjat ta form under namnet AI alignment. Pionjären på området, Eliezer Yudkowsky, har sagt att ”AI:n varken hatar dig eller älskar dig, men du är gjord av atomer som den kan ha annan användning för” – ord som visar hur katastrofalt illa det kan gå om vi misslyckas med detta projekt. Tyvärr har AI alignment-forskningen hittills mest visat hur svårt det är, och ingen kan idag peka ut någon säker väg framåt.

Särskilt illavarslande i detta sammanhang är hur OpenAI misslyckats med att få ChatGPT att bete sig väl. De har ansträngt sig att utforma den på sådant vis att den undviker att ljuga, att uttrycka rasism eller att dela med sig av farlig kunskap som exempelvis receptet för Molotovcocktails. Ändå har skadeglada användare världen över visat hur lätt det är att provocera ChatGPT till just dessa beteenden. Om OpenAI inte ens klarar att lösa AI alignment för ett system som ChatGPT, hur skall de då ha en chans att göra det för en AGI?

Lars Strannegård fokuserar i sin artikel på hur vi kan anpassa oss till den nya AI-utvecklingen, vilket är gott så, men jag menar att vi inte bör stanna där, utan att även tänka över hur vi kan styra den i gynnsam riktning. Måhända är det dags att bygga upp ett politiskt momentum som förmår sätta press på OpenAI och andra ledande teknikbolag att sluta spela rysk roulette med mänsklighetens överlevnad som insats, och att i tid bromsa utvecklingen mot AGI?

12 kommentarer:

  1. Det verkar vara svårt att kommentera nu. Jag försökte för några dagar sedan men det gick inte då heller.

    SvaraRadera
  2. Problemet med nya super-intelligenser är inte minst att vi hittills aldrig lyckats utveckla ett särskilt rimligt etiskt tänkande ens för människor. Hur skall vi då klara av att utrusta super-AIs med ett sådant?

    SvaraRadera
    Svar
    1. Jag har skrivit en text om intelligent ekologisk (värde)pluralism på sådär 24.500 tecken. Den kan högst sannolikt öka våra chanser att överleva en eller flera super-AIs, samt en del annan skit. Jag har börjar distribuera den lite försiktigt. Olle Häggström kan få titta på den, om han vill.

      Radera
    2. Jag postar sannolikt följande på Less Wrong idag:
      Value Pluralism and AI

      Eliezer Yudkowsky sixteen years ago in a text entitled "Fake Utility Functions" expressed an obvious pluralism of value, however without using the word pluralism, instead he spoke of the complexity of value.

      Philosophers are still quite uncertain as to whether there is any one more foundational value, or whether there are a plurality of values, none of which is much more foundational than the others.

      The Encyclopedia of World Problems and Human Potentials spoke a few decades ago of "an ecosystem of values", but failed to give that ecosystem any topology or any more central values.

      Obviously survival should be fundamental to every ecosystem, but humans just as obviously desire more than sheer survival. We have many desires and anything that matches any of our desires could be seen as a value, especially if it is something that enhances our survival prospects, rather than lessens them.

      Some thinkers believe that an informed satisfaction of desires is the highest good, while others believe that it is a desire for pleasure or happiness that should be satisfied and that all other desires are really unimportant in comparision.

      I would say that it is very necessary that our minds (not least our frontal lobes) be engaged by reality, which for many of us requires far more than a little neuro-drugs and emotions. Our minds love a well-organized and preferably also dynamic complexity, which is an important part of a good and enduring life.

      These different types of desires and values need to be conjoined under the label of value pluralism, rather than anything else. We desire and need a rich plurality of experiences more than anything else, and interesting, fun and pleasant experiences are something we get through the rich variety of life and the world, rather than by dwelling very hard on some single things.

      A pluralism of values centered on survival, knowledge, competence, beauty, love and rich experiences (and a lot of other things) will promote human well-being and will also be helpful for our future AIs. I propose that international law stipulate that every AI and every owner of an AI should digest and adopt a document that explains these basic value matters.

      I have a longer text (26 300 characters) that explains these things more fully, which has not been translated into English yet. But this is a starter. There are hardly any really good texts on value pluralism, but you can read Yudkowsky's text (https://www.lesswrong.com/posts/NnohDYHNnKDtbiMyp/fake-utility-functions), the Wikipedia article on value pluralism (https://en.wikipedia.org/wiki/Value_pluralism), the entry on value pluralism in the Stanford Encyclopedia of Philosophy (https://plato.stanford.edu/entries/value-pluralism/), this text from the Encyclopedia of World Problems and Human Potentials (https://www.un-intelligible.org/projects/values/51comm91.php), this discussion in Washington (https://www.pewresearch.org/religion/2002/06/12/value-pluralism-and-the-challenges-of-freedom/) and this talk by Isaiah Berlin (https://isaiah-berlin.wolfson.ox.ac.uk/sites/default/files/2018-09/Bib.196%20-%20Pursuit%20of%20the%20Ideal%20by%20Isaiah%20Berlin_1.pdf).

      Value pluralism may possibly not have maximum sex appeal, but is the only solution for the world, it seems to me. I believe in a secular, Christian, ecological, social, liberal and democratic value pluralism and diversity/plurality enjoyment.

      Radera
  3. Och nu kommer tilläggen. "Ghostwrite" , Chrometillägg i Gmail, besvarar och skriver dina mail... 😮

    SvaraRadera
  4. En debattartikel får större genomslag införd i DN än i vilket annat medium som helst. Det hjälper inte hur angelägen, genomtänk och välformulerad en artikel än är. Den refuseras rutinmässigt om inte författaren är en "etablerad opinionsbildare". Ett alternativ är att man är känd av någon anledning; skälet därtill är oväsentligt. Sålunda har Billy Butt och Stig Bergling välkomnats, minst en gång var. DN är förstås en kommersiell produkt och prioriterar därmed skribenter som ökar intresset för tidningen.

    Yttrandefrihet är en väsentlig ingrediens i begreppet demokrati, vilket vår nye statsminister framhävt ett flertal gånger på sista tiden. Det är viktigt för demokratin att angelägna idéer kan bli framförda och bedömda. Det behövs ett icke kommersiellt organ avsett för detta ändamål. Den sedan länge nedlagda Newsmill fyllde ett sådant behov, men fick gå i graven när lönsamheten tröt. Radioprogrammet "Ring P1" har ingen annan funktion än den att en lyssnare (som har turen att få komma med) får avreagera sig under ett par minuter. En blogg i all ära, men att få den att attrahera intresset hos några beslutsfattare eller andra inflytelserika personer är näst intill omöjligt.

    Jag efterlyser ett medium likt den avsomnade Newsmill, men utan något kommersiellt vinstintresse.

    SvaraRadera
    Svar
    1. I en värld där vi riskerar att drunkna i strunt finns ändå en finess med redaktionellt sparsmakade högprestigefora, trots att det är oundvikligt att de ibland gör redaktionella felbedömningar. Den som vill kan hävda att DN gjorde en sådan felbedömning denna gång, men oavsett hur det står till med den saken känner jag inte att jag totalt sett har något att klaga på, då jag genom åren ganska ofta har fått utrymme såväl på DN Debatt som i andra ledande svenska dagstidningar.

      Radera
    2. Ett medium av den typ jag avsåg bör förstås ha en objektiv moderator, så att riktiga dumheter blir motade i grind. Jag anser att Newsmill utgjorde ett exempel på vad jag efterlyste. Men vad som är angeläget när det gäller att värna om en viktigt demokratisk komponent ska inte vara beroende av ekonomisk lönsamhet. Faktum är att en del newsmillartiklar med angeläget innehåll blev uppmärksammade och initierade en fortsatt debatt även i andra media.

      En sak som stör mig är att statsråd och andra makthavare har för vana att publicera sina utspel på DN-debatt och det långt innan andra media har erhållit någon kännedom om innehållet. DN finns bakom en betalvägg och jag finner det orimligt att just DN-läsarna ska få förstahandsinformation om vad som är i görningen.

      Radera
    3. Det där med "långt innan" förstår jag inte. Alla eller nästan alla större svenska medier får väl reda på innehållet senast i det ögonblick då utspelet publiceras på DN Debatt?

      Radera
  5. Men den som inte är DN-prenumerant får ju vänta tills andra medier har snappat upp och publicerat utspelet. En fördröjning uppstår oundvikligen, men hur lång den blir varierar förstås.

    Jag förstår inte varför DN ska ha en särställning bland media. Det vore bättre att till exempel kalla till en presskonferens. Men helst borde ett ickekommersiellt medium skapas eller varför inte utnyttja Post- och Inrikes Tidningar, som faktiskt fortfarande är ett officiellt kungörelseorgan, fast numera endast elektroniskt.

    SvaraRadera
  6. Tack för en bra text.

    SvaraRadera