tisdag 19 maj 2020

My conversation with Jaan Tallinn on AI risk and AI ethics in the age of covid-19

Today, as part of the AI ethics seminar series at Chalmers, I had a conversation with Jaan Tallinn that was broadcast live on Zoom. The topic of the day was AI risk and AI ethics in the age of covid-19, and a live recording of the discussion is available here.

One topic that was mentioned in our conversation is the (possibly crucial) role of embedded agency in AI alignment. I will have more to say about that in another live talk, on Wednesday next week, May 27, at 14:00 CEST. It's a Svenska statistikfrämjandet event, to which you can register here, and the title of my talk is AI alignment, embedded agency and decision theory.

torsdag 7 maj 2020

Fortsatt debatt i DN om coronastrategier

Som tidigare meddelats här på bloggen publicerade jag tillsammans med Olof Johansson Stenman, Joacim Rocklöv, Stefan Schubert och Markus Stoor på Valborgsmässoafton en debattartikel i DN rubricerad Alternativ coronastrategi för Sverige kan rädda liv. I måndags kom Martin Kulldorffs replik Hög dödlighet idag kan ge färre döda på sikt, och igår publicerades vår slutreplik Låt en kommission utvärdera svenska coronastrategin, där vi utöver att svara Kulldorff passade på att anknyta till ett par andra reaktioner på vår ursprungsartikel: en TT-intervju med Anders Tegnell, och en ledarkrönika i DN av Lars Calmfors. Så här inleds vår slutreplik:
    Martin Kulldorff argumenterar i sin replik för att Sverige även i fortsättningen endast bör bromsa Covid-19, och inte försöka stoppa den: vad vi i vår artikel kallade "bromsstrategin". Vi välkomnar hans replik varmt eftersom huvudbudskapet i vår debattartikel var just att det behövs mer öppen diskussion om fördelar och nackdelar med olika coronastrategier.

    Man kan diskutera hur de olika strategierna ser ut och vad de bör kallas. Kulldorff menar att den svenska strategin bör kallas "åldersstrategin" eftersom ett effektivt skydd av de äldre minskar konsekvenserna av den smittspridning som krävs för att nå flockimmunitet. Vi håller med om att det är klokt att särskilt skydda de äldre. Men valet kvarstår mellan att enbart bromsa smittan till nivåer sjukvården klarar av ("bromsstrategin") och att snabbare försöka få ner den till lägre nivåer, som till exempel Norge har gjort ("hammaren och dansen").

    Här är det viktigt att skilja mellan övergripande strategi, å ena sidan, och konkreta åtgärder med vars hjälp man implementerar den strategin, å den andra. "Hammaren och dansen" är en övergripande strategi, som syftar till att först få ner smittan till låga nivåer, och sedan se till att den hålls nere eller trycks tillbaka ytterligare.

    För att genomföra denna strategi behövs...

Läs den spännande fortsättningen här!