My lectures on AI risk and long-term AI safety

This week in Europe has been the darkest in a very long time. My thoughts go primarily to the brave Ukrainian people with wishes for success in their defence against Russia's criminal assault, and secondarily to those barve anti-war protestors who take to the streets in cities all over Russia.

In the shadow of all this, I have given a series of three two-hour lectures at CHAIR (Chalmers AI Research Centre) about AI risk and long-term AI safety, organized as follows:

1. How and why things might go wrong

2. Timelines, natural language processors and oracle AI

3. Research directions in AI alignment

Here are video recordings of the three lectures:

Tvåsiffrigt!

I dagens avsnitt av Vetenskapligt med Häggström & Livh samtalar vi med Ola Helenius (professor i ämnesdidaktik med inriktning mot matematik vid Göteborgs universitet) om skolmatematiken och om skolans roll i samhället, och i och med detta är antalet publicerade avsnitt av podden nu uppe i tvåsiffrigt. Sedan jag senast rapporterade här på bloggen om vad som händer på vår podd har vi även hunnit samtala med tre andra av Sveriges mest spännande och vältliga professorer, nämligen med Åsa Wikforss om demokrati och desinformation, med Thore Husfeldt om akademisk frihet, och med Anna Dreber Almenberg om p-värden och replikerbarhetskrisen. Här är den fullständiga listan över avsnitt sedan starten i juli förra året:

1. Grandiosa framtider med Anders Sandberg, 16 juli 2021.

2. Pengar, pandemi och puffning med Linda Thunström, 5 augusti 2021.

3. Mitt i planeten med astronom Maria Sundin, 18 augusti 2021.

4. Medmänsklighet på smartast möjliga sätt med Stefan Schubert, 3 september 2021.

5. Tänkande maskiner, 29 september 2021.

6. Klimatforskare Christian Azar om att förse politiker med fakta, 22 oktober 2021.

7. Desinformation, faktaresistens, fake news och demokrati med Åsa Wikforss, 18 november 2021.

8. Algoritmer och akademisk frihet med Thore Husfeldt, 13 december 2021.

9. Forskning om forskning med Anna Dreber Almenberg, 17 januari 2022.

10. Matematiken, skolan och samhället med Ola Helenius, 17 februari 2022.