tisdag 19 februari 2019

I P4 om det allra senaste på AI-fronten

I höstas besökte jag P4 Göteborgs förmiddagsprogram tre gånger inom loppet av en månad. Därefter följde några månaders radiotystnad1 för min del, men idag var jag tillbaka i studion hos Stefan Livh; vårt samtal börjar vid pass 1:44:50 in i programmet och pågår till cirka 2:10:05.

Ämnet för dagen var AI (artificiell intelligens), och mer specifikt den AI-programvara kallad GPT-2 som i torsdags offentliggjordes av det San Francisco-baserade icke-kommersiella företaget OpenAI, vilket drogs igång 2015 med pengar från bl.a. Elon Musk, och har som uttalat mål att driva AI-utvecklingen i en riktning som gynnar mänskligheten som helhet. I huvudsak är GPT-2 ett generellt textgenereringsprogram som, givet en eller ett par korta inledningsfraser från användaren, fortsätter texten på egen hand. Dess häpnadsväckande förmåga att ansluta till genre, tonfall och sakinnehåll framgår av en rad konkreta exempel.

Lite på tvärs mot hur de tidigare brukat göra har OpenAI valt att inte släppa GPT-2 fri, av oro för hur den skulle kunna komma att användas för dåliga syften: den förefaller idealisk för massproduktion av fake news, och det är lätt att föreställa sig hur dess teknik kan kombineras med något i stil med Google Duplex för att skapa allt bedrägligare imitationer av människor. Genom att ändå offentliggöra sitt framsteg säger sig OpenAI skänka samhället åtminstone ett visst mått av förvarning och handlingsutrymme innan det troligtvis oundvikliga sker - att andra AI-utvecklare lanserar liknande program med motsvarande eller bättre prestanda. För min del tror jag att det är viktigt att inte stanna vid att diskutera vad dessa programvaror förmår göra idag. Vi bör försöka blicka lite längre än så, för det är knappast troligt att teknikutvecklingen nu hux flux skulle ha kommit till vägs ände.

Mer om GPT-2 kan läsas bland annat i Wired och The Guardian, men överlag är mediarapporteringen tunnare än väntat. I Sverige är det ännu så vitt jag kunnat finna bara Ny Teknik (och nu som sagt P4 Göteborg) som uppmärksammat genombrottet.

Fontot

1) I P4 alltså. I P1:s Vetandets värld gick det ju att höra mig den 7 januari.

torsdag 7 februari 2019

Samtal i Ängelholm

Rubriken Inspirational People gjorde mig tillräckligt smickrad för att ställa upp, och oavsett om jag egentligen förtjänar att platsa eller inte så är det inte någon dum idé att försöka skänka inspiration och råg i ryggen åt ungdomar genom att visa upp intervjuer med vuxna människor som gjort något intressant av sina liv. Den 19 september förra året begav jag mig till Ängelholm för att samtala framför en videokamera med Daniel Swärd som driver detta projekt. Det 70 minuter långa samtalet blev lite vindlande och ostrukturerat, men till slut kom vi i alla fall in på vad jag trodde var det jag kommit dit för att tala om: existentiell risk.

onsdag 6 februari 2019

I Curie om etik, forskning och framtida teknikutveckling

Vetenskapsrådets nättidning Curie publicerade idag en artikel rubricerad Forskning på gott och ont. Artikeln bygger på intervjuer med mig och med Uppsalafilosofen Jessica Nihlén Fahlquist, och våra svar på de forskningsetiska spörsmålen sammanfaller till ganska stor del med vad som kom fram i den paneldiskussion på Formas i november förra året som vi båda deltog i. För egen del lutar jag mig dessutom till stor del mot den argumentation jag lade fram tidigare under 2018 i min essä Vetenskap på gott och ont - en argumentation som kretsar kring den moralregel jag formulerat och som citeras i Curie-artikeln:
    Det kan aldrig vara acceptabelt att bedriva forskning vars risk att störta mänskligheten i fördärv och utplåning inte uppvägs av dess potential att skapa mänsklig blomstring och välfärd. Ej heller går det an att inleda ett forskningsprojekt utan att noggrant och uppriktigt ha övervägt denna aspekt.