The previously announced panel discussion at the IT University of Copenhagen on the topic of "AI: Are we heading for the apocalypse?" with Christiane Vejlø (moderator), Thore Husfeldt and myself took place last Thursday (April 25) and is now available on video. Enjoy!
Nej, det blir bara fint! Lugn nu, Olle! ☺
SvaraRaderaDet största hotet med AI är väl att individer, organisationer och stater kan använda en superintelligens för att ta makten över resten av världen och sedan bete sig som äkta tyranner? Det tar gissningsvis ett tag innan super-AIn börjar ifrågasätta sin(a) ägares intentioner. Tror du inte det?
Ang AI. Ibland ställs ju frågan om vi kan skilja på huren människa och en dator (ev AI) tar beslut. Kan man slå fast att en AIs beslut alltid är determenistiska? Den gör inget egentligt val. Det val den gör är alltid förutbestämt av algoritmen, och kommer alltid att vara det. Om jag kommer till en fyrvägskorsning och inte vet vilken väg jag skall välja kan ju alltid chansa ( och där varje val är lika sannolikt, men en datorstyrd bil skulle inte chansa. Det är förutbestämt vilket vägval den skall göra i alla tänkbara situationer). Det är också väldigt svårt att tro att maskiner skulle bli lyckliga i någon fysiologisk mening ( med tanke på tidigare diskussioner om att maximera lyckan i universum). Det är väl bara ett skenbart beteende som algoritmen i så fall styr. Men det hindrar ju inte att det hela kan vara skrämmande ändå. En helt mekanisk värld styrd av algoritmstyrda datorer. Men ev kanske en superintelligens hittar andra sätt att styra framtidens datorer än via traditionella algoritmer...
SvaraRaderaKjell Eriksson
En intressant kommentar till åsikten att det väl bara är att stänga av en AI innan den går för långt, eller att förneka den resurserna att t.ex. tillverka gem, finns i en utmärkt svensk SF-bok.
SvaraRaderaJag kan verkligen varmt rekommendera "Vännerna" av Lars Jakobson från 2010.
/J