Nobeldagen! Nu med AI-tema!

Idag firar vi Nobeldagen! Detta, och att AI står i centrum för såväl fysik- som kemipriset, uppmärksammar jag idag i tidskriften Kvartal. Min text bär rubriken Noblpristagaren som ändrade sig om AI och inleds med följande stycken:

”Att minska risken för utrotning orsakad av AI bör vara en globalt prioriterad fråga jämte andra samhällsrisker som pandemier och kärnvapenkrig.” Så lyder i sin helhet det öppna brev om existentiell AI-risk som släpptes i maj 2023, undertecknat av mer än 500 akademiker, forskare och ledare inom tekniksektorn.

Mitt eget namn finns en bit ned på undre halvan av undertecknarlistan, men på platserna 1 och 3 finner vi de båda undertecknare som vid prisutdelningsceremonin i Konserthuset i Stockholm idag den 10 december emottar sina Nobelpris ur kung Carl XVI Gustafs hand. Det handlar om fysikpristagaren Geoffrey Hinton och kemipristagaren Demis Hassabis, som både belönas för sina insatser i den revolutionerande AI-utveckling som vi idag befinner oss mitt i.

Frispråkigast av dem båda rörande AI-risk är Hinton. Våren 2023 gjorde han en helomvändning i synen på den AI-utveckling han själv bidragit så starkt till, och han steg till och med av från en lukrativ forskartjänst på Google för att därmed kunna tala mer fritt om saken. Vid presskonferensen i Stockholm den 8 oktober i år då fysikpriset offentliggjordes var han med via telefon och sade sig vara bekymrad över att den yttersta konsekvensen av hans och andra AI-forskares landvinningar kan bli skapandet av AI-system som är ”mer intelligenta än vi, och som slutligen tar kontrollen”.

Jämfört med Hinton är Hassabis oftast mer återhållsam med att kommentera detta ämne, men de har alltså båda skrivit under på att risken finns att AI-tekniken utplånar Homo sapiens. En dag som denna är detta ställningstagande extra pikant i och med att det i Alfred Nobels testamente heter att priset som bär hans namn ska tilldelas dem som ”gjort mänskligheten den största nytta”.

Läs resten av texten här, utan betalvägg, för att få reda på mer om intrigspelet som lett fram till den ohyggligt farliga situation vi nu befinner oss i, plus lite grand om plaskandet i den svenska ankdammen. Persongalleriet är omfattande, och inkluderar utöver de ovan nämnda även Shane Legg, Mustafa Suleyman, John Jumper, Larry Page, Elon Musk, Walter Isaacson, Sam Altman, Dario Amodei, Helen Toner, Carl-Henric Svanberg, Erik Slottner, Yoshua Bengio och Ilya Sutskever.

In good physicist company

Let me briefly tell you about two of my recent and quite rewarding interactions with prominent physicists.

1. On November 29, MIT physicist Max Tegmark and I coauthored and cosigned a letter to the EU Commission with feedback on their pilot assessment on Trustworthy AI. Our letter can be found here or (for those not wishing to create a login account for EU's Futurium) here.

2. Last week I had the honor of sharing the stage with a Nobel laureate. Steven Chu was awarded the Nobel Prize in physics in 1997 for his work on cooling and trapping atoms with laser light. On December 9, we both took part in the panel discussion on Averting the climate crisis at the 2019 Nobel Week Dialogue, together with John Hassler and Lisen Schultz. Given that he served as Secretary of Energy in President Obama's cabinet as recently as 2013, it was a pleasant surprise to learn how outspoken and radical Chu is on the urgent need for curtailing greenhouse gas emissions.

And yes, I did attend the Nobel banquet the day after. Locating me in the following photo is challenging but not impossible.

Nobelsnack i P4

I dagens avsnitt av Förmiddag i P4 Göteborg har jag åter varit med och snackat, med start cirka 41:15 in i sändningen, och fram till cirka 1:26:05. Det blev en hel del sagt om veckans Nobelfestligheter, dels om måndgens framträdande tillsammans med Noblepristagare och andra i Nobel Week Dialogue, men ännu mer om Nobelbanketten inklusive det "okända dramat som alla missade" (utom jag och mina bordsgrannar).

Paneldiskussioner i december

Låt mig flagga för ett par publika paneldiskussioner jag skall delta i nästa månad i min hemstad Göteborg:

• Tisdag den 3 december kl 14:00-16:30 äger mötet General Insights - AI, transparency & the legal implications rum på Lindholmen Science Park, organiserat av The AI Sustainability Center, Chalmers AI Research Centre, och AI Innovation of Sweden. En av programpunkterna, med start 15:10, är en paneldiskussion jag deltar i med rubriken Transparency and the evolving legal and regulatory framwork.

• Nobel Week Dialogue ingår i det officiella Nobelprogrammet och arrangeras varje år den 9 december, alternerande mellan Stockholm och Göteborg. I år är det Göteborgs tur, och mötet äger rum på Svenska Mässan kl 10:00-16:10. I vanlig ordning är talarlistan delvis tämligen högprofilerad och inkluderar en handfull av tidigare års Nobelpristagare. Huvudtemat i år är Into the unknown: Uncertainty, risk and opportunity, och jag medverkar i två av panelerna efter lunch, den ena rubricerad Where will AI lead us?, och den andra Averting the climate crisis.

Båda mötena kräver föranmälan.

Sanningen om Obama och Nobels fredspris

Det är intressant, tycker jag, att Länsstyrelsen i Stockholm, i egenskap av tillsynsmyndighet för Nobelstiftelsen, nu skall granska huruvida Nobels fredspris utdelas i enlighet med Alfred Nobels intentioner. Den norske juridikprofessorn Fredrik Heffermehl uppges ha varit pådrivande i frågan, och ha ifrågasatt bl.a. huruvida det är rätt och riktigt att priset går till företrädare för krigförande länder, som Barack Obama och Henry Kissinger.

Förvåning var en allmänt utbredd känsla, även bland oss som räknar eller räknade oss till Obamas anhängare, då denne tilldelades 2009 års fredspris. Den amerikanska serietecknaren Jen Sorensen har emellertid avslöjat sanningen bakom den norska Nobelkommitténs överraskande drag: