tag:blogger.com,1999:blog-8131794231697217573.post6820779891140697365..comments2024-03-28T09:06:16.955+01:00Comments on Häggström hävdar: Om evolution, drivkrafter och artificiell intelligens - ett svar till Per KraulisOlle Häggströmhttp://www.blogger.com/profile/07965864908005378943noreply@blogger.comBlogger7125tag:blogger.com,1999:blog-8131794231697217573.post-14217872719582430582014-07-08T21:52:51.419+02:002014-07-08T21:52:51.419+02:00Per Kraulis har nu författat en tredje bloggpost o...Per Kraulis har nu författat <a href="http://kraulis.wordpress.com/2014/07/08/kan-en-artificiell-intelligens-ges-en-ultimat-drivkraft/" rel="nofollow">en tredje bloggpost om AI</a>, denna gång som svar på min kommentar 11:44 här ovan. Han hävdar att så snart en dator förmår analysera sin ultimata drivkraft kommer denna att upphöra att vara en ultimat drivkraft (ett intressant påstående, som skulle bli ännu intressantare om det backades upp med ett argument), och han lovar att bekanta sig med litteraturen på området (bra!). Olle Häggströmhttps://www.blogger.com/profile/07965864908005378943noreply@blogger.comtag:blogger.com,1999:blog-8131794231697217573.post-33859377445472866732014-07-08T11:44:11.345+02:002014-07-08T11:44:11.345+02:00Per Kraulis har nu svarat med en andra egen bloggp...Per Kraulis har nu svarat med en andra egen bloggpost i ämnet, rubricerad <a href="http://kraulis.wordpress.com/2014/07/07/artificiell-intelligens-hot-mojlighet-eller-fantasi/" rel="nofollow"><i>Artificiell intelligens: hot, möjlighet eller fantasi?</i></a> Han kommenterar mina argument (1), (2) och (3) ovan. Låt mig helt kort replikera på var och en. <br /><br />(1) Här utgår Kraulis från att en framgångsrik evolutionäralgoritmisk väg till AI nödvändigtvis behöver återskapa den miljö som biologiska organismer evolverat i. Kanske är det så, kanske inte. Här krävs ödmjukhet, men om jag måste välja så tippar jag på det senare. <br /><br />(2) Här måste jag medge att jag missförstod Kraulis ursprungliga intention. Nu förklarar han att han menar att eftersom överlevnadsdrivkrafter etc uppstod på evolutionär väg, så är evolution antagligen den <i>enda möjliga</i> vägen till överlevnadsdrivkrafter etc. Så kan det möjligen tänkas ligga till, men för att hävda detta krävs tyngre argumentation. Själv har jag t.ex. svårt att se varför det skulle vara principiellt omöjligt att på artificiell väg härma de existerande biologiska mekanismerna. Och när man väl fått fungerande mekanismer på plats så blir det irrelevant hur de uppstått (naturlagarna är, såvitt vi vet, markovska).<br /><br />(3) Kraulis varnar i sin första bloggpost för antropomorft tänkande, men hans påstående att intelligenta självmedvetna varelser automatiskt kommer att drabbas av existentiell ångest och upphöra med all expansiv verksamhet luktar antropomorfism lång väg. Det är ändå fullt möjligt att han har rätt i sin spekulation (och jag har i <a href="http://haggstrom.blogspot.se/2012/08/implosion-istallet-for-explosion.html" rel="nofollow">en ändre bloggpost</a> skisserat en nära besläktad möjlighet, s.k. <i>wireheading</i>), men för att vi skall övertygas om det krävs väldigt mycket tyngre argumentation än den vaga intuition Kraulis levererar. Ett övervägande som jag tycker talar emot hans hypotes är att medan en AI kan förses med en ultimat drivkraft (t.ex. att producera gem, eller vinna schackpartier), så är människans nedärvda drivkrafter enbart ett hopkok av instrumentella <i>ad hoc</i>-drivkrafter (t.ex. att äta och idka könsumgänge), och skulle det inte kunna vara så att vår fallenhet för existentiell ångest härrör just från denna hopkoksegenskap och avsaknaden av ultimat drivkraft?<br /><br />Sammanfattningsvis tycker jag att det är fortsatt bra att Per Kraulis funderar över dessa frågor, men tror att han skulle vinna på att (a) ta del av litteraturen på området, och (b) dämpa lite på den tvärsäkerhet som han tycker sig se hos sina meningsmotståndare, men som tycks mig längre gången hos Kraulis än hos mig och hos flertalet ledande tänkare på området. Och på tal om epistemisk ödmjukhet tycker jag att det är värt att citera vad Nick Bostrom skriver i förordet till sin nya bok <a href="http://haggstrom.blogspot.se/2014/07/rekommenderad-sommarlasning-enligt.html" rel="nofollow"><i>Superintelligence</i></a>:<br /><br /><i>"Many of the points made in this book are probably wrong. </i>[...]<i> I have gone to some length to indicate nuances and degrees of uncertainty throughout the text - encumbering with an unsightly smudge of "possibly", "might", "may", "could well", "it seems", "probably", "very likely", "almost certainly". </i>[...]<i> Yet </i>[...]<i> they must be supplemented here by a systematic admission of uncertanity and fallibility. This is not false modesty: for while I believe that my book is likely to be seriously wrong and misleading, I think that the alternative views that have been presented in the literature are substantially worse - including the default view </i>[that]<i> we can for the time being safely or reasonably ignore the pospect of superintelligence.</i>Olle Häggströmhttps://www.blogger.com/profile/07965864908005378943noreply@blogger.comtag:blogger.com,1999:blog-8131794231697217573.post-20917051492439395532014-07-07T10:08:13.393+02:002014-07-07T10:08:13.393+02:00Tack för länkarna, blir lätt lite slö på mobilen. ...Tack för länkarna, blir lätt lite slö på mobilen. ska titta närmare på The Second Machine age. Alltid svårt att driva frågor inom politiken som inte gör skillnad nästa mandatperiod.... tyvärr.Magnushttps://www.blogger.com/profile/01617272924116099306noreply@blogger.comtag:blogger.com,1999:blog-8131794231697217573.post-82621737938967994632014-07-07T09:33:13.290+02:002014-07-07T09:33:13.290+02:00Anders Wijkman har helt klart en mycket viktig poä...Anders Wijkman har helt klart en mycket viktig poäng <a href="http://www.gp.se/nyheter/debatt/1.2420860-digitala-hotet-fragan-som-politikerna-glomt-bort" rel="nofollow">i artikeln du länkar till</a>. Men de framtidsscenarier han diskuterar rör sig, som jag ser det, inte på samma plan som de jag diskuterar i bloggposten ovan.<br /><br /><a href="http://haggstrom.blogspot.se/2014/05/transcendence-trailer.html" rel="nofollow">I en bloggpost för ett par månader sedan</a> uppmärksammande jag <a href="http://www.independent.co.uk/news/science/stephen-hawking-transcendence-looks-at-the-implications-of-artificial-intelligence--but-are-we-taking-ai-seriously-enough-9313474.html" rel="nofollow">ett debattinlägg av Stephen Hawking et al i <i>The Guardian</i></a>, där de delar upp robotiseringens och AI-utvecklingens riskabla konsekvenser i tre tidsperspektiv:<br /><br /><i>"In the near term, world militaries are considering autonomous-weapon systems that can choose and eliminate targets; the UN and Human Rights Watch have advocated a treaty banning such weapons. In the medium term, as emphasised by Erik Brynjolfsson and Andrew McAfee in The Second Machine Age, AI may transform our economy to bring both great wealth and great dislocation.<br /><br />Looking further ahead, there are no fundamental limits to what can be achieved: there is no physical law precluding particles from being organised in ways that perform even more advanced computations than the arrangements of particles in human brains. An explosive transition is possible, although it might play out differently from in the movie: as Irving Good realised in 1965, machines with superhuman intelligence could repeatedly improve their design even further, triggering what Vernor Vinge called a 'singularity' and Johnny Depp's movie character calls 'transcendence'."</i><br /><br />Det första och kortaste perspektivet diskuterade jag förra året i en bloggpost rubricerad <a href="http://haggstrom.blogspot.se/2013/04/stoppa-mordarrobotarna.html" rel="nofollow"><i>Stoppa mördarrobotarna!</i></a>. Det andra och meddellånga perspektivet är det som Wijkman tog upp i sin GP-artikel, och som jag diskuterade i <a href="http://haggstrom.blogspot.se/2014/04/robotisering.html" rel="nofollow">två</a> <a href="http://haggstrom.blogspot.se/2014/04/robotiseringsreplik.html" rel="nofollow">bloggposter</a> i april. Det tredje och längsta tidsperspektivet är det jag behandlar i bloggposten ovan (<a href="http://haggstrom.blogspot.se/search/label/Singulariteten" rel="nofollow">liksom i en lång rad andra</a>).<br /><br />Härmed är dock inte sagt att Hawkings et al uppdelning är oproblematisk. De tre nivåerna har samband som gör att de inte alltid bör diskuteras helt separat. Och vad gäller den långsiktigaste nivån - den de kallar <i>"Looking further ahead..."</i> - har vi problemet att vi har väldigt lite pejl på vad som är ett realistiskt tidsperspektiv. Det kan dröja århundraden innan den omtalade intelligensexplosionen blir verklighet, men det kan också vara så att den som tänker att det i alla fall inte kan bli aktuellt de närmaste decennierna har en gigantisk överraskning att vänta.Olle Häggströmhttps://www.blogger.com/profile/07965864908005378943noreply@blogger.comtag:blogger.com,1999:blog-8131794231697217573.post-25521270843404988362014-07-07T08:53:13.324+02:002014-07-07T08:53:13.324+02:00Har aw en poäng? http://t.co/qKBTL8j1BjHar aw en poäng? http://t.co/qKBTL8j1BjMagnushttps://www.blogger.com/profile/01617272924116099306noreply@blogger.comtag:blogger.com,1999:blog-8131794231697217573.post-85517553191161360202014-06-24T22:26:53.984+02:002014-06-24T22:26:53.984+02:00Anonym: Pröva att byta ut RNA mot begreppet 'm...Anonym: Pröva att byta ut RNA mot begreppet 'meme' och se om det tar dig till ett djupare kaninhål.<br /><br />Har ordet 'biologisk' verkligen någon signifikans alls? Evolution är en modellös algoritm. Biologisk evolution verka betyda något så flummigt som "om vi utgår från det väldigt komplexa med sammankopplade system som vi benämner livets träd för att det är det enda exempel vi har på det som vi lite osäkert benämner som intelligens" Att det gång på gång uppstår en diskussion kring ordet biologisk tror jag beror på att väldigt många människor fortfarande vill tro att det finns en magisk livsmassa som särskiljer sig från tex gråsten. Jag tror att om de slutade titta på massa i alla dess former utan istället betraktade rörelsen den uppvisar så skulle de hitta vad de söker (eller komma närmre i alla fall).<br /><br />ref.: "The word ―meme‖ is a neologism coined by Richard Dawkins in The Selfish Gene (1976), (although it may have had earlier roots) and defined as a self-reproducing and propagating information structure analogous to a gene in biology. Dawkins focused on the meme as a replicator, analogous to the gene, able to affect human evolution through the evolutionary algorithm of variation, replication, and differential fitness. But for near-term military or national security applications, the relevant characteristics of the meme are that it consists of information which persists, propagates, and influences human behavior. "<br /><br />http://www.semioticon.com/virtuals/memes2/memetics_compendium.pdfEntry 23 Eco of Kristoferhttps://www.blogger.com/profile/08660248305487815756noreply@blogger.comtag:blogger.com,1999:blog-8131794231697217573.post-5447858800471892792014-06-24T10:59:01.135+02:002014-06-24T10:59:01.135+02:00Kastar ut en idé: biologisk evolution bygger sanno...Kastar ut en idé: biologisk evolution bygger sannolikt på rna-molekylens förmåga att katalysera sin egen replikation. Det är ju drivkraften bakom allt liv. Går det att föreställa sig en AI i rna:s tjänst? Långsökt kanske, men här på bloggen brukar det vara högt i tak!Anonymousnoreply@blogger.com