En färsk teckning från SMBC (Saturday Morning Breakfast Cereal) illustrerar en del av de bekymmersamma aspekter på framtida genombrott inom artificiell intelligens som jag ofta återkommit till här på bloggen och i min bok Here Be Dragons.
Rubriken är givetvis skruvad (det är varken välgrundat eller särskilt konstruktivt att hävda att mänskligheten är dömd till undergång), och det är mycket troligt att det går att skapa även ganska avancerade hushållsrobotar utan att därmed sätta igång den självförbättringsspiral som benämns intelligensexplosion eller Singulariteten. Men välvilligt och lagom metaforiskt kan vi förstå den andra punkten i diagrammet som en varning för svårbemästrade fenomen som wireheading och pervers instantiering.
Vad tror du Olle, skulle en intelligensexplosion kunna inträffa hos en robot som inte är medveten om att den existerar? Eller krävs det att den uppfattar den yttre världen för att kunna optimera sig själv till att utföra vad den nu är programmerad till att göra? (Tillverka gem eller beräkna pi så långt det går t ex). Eller kan man tänka sig att en inledningsvis omedveten robot blir medveten när förbättringsspiralen skenar iväg (i stil med storyn i Terminatorfilmerna). Vänliga hälsningar
SvaraRadera