tag:blogger.com,1999:blog-8131794231697217573.post6365355814020200887..comments2024-03-28T09:06:16.955+01:00Comments on Häggström hävdar: Pinker yttrar sig om AI-risk men vet inte vad han talar omOlle Häggströmhttp://www.blogger.com/profile/07965864908005378943noreply@blogger.comBlogger11125tag:blogger.com,1999:blog-8131794231697217573.post-26341753502865354172016-09-01T16:32:34.617+02:002016-09-01T16:32:34.617+02:00Frågan är inte alldeles lätt, utan kräver en lite ...Frågan <i>är</i> inte alldeles lätt, utan kräver en lite subtil diskussion som inte ryms inom en bloggkommentar, men låt mig i all anspråkslöshet rekommendera Avsnitt 4.6 i <a href="http://haggstrom.blogspot.se/2015/10/here-be-dragons-omslag-och.html" rel="nofollow"><i>Here Be Dragons</i></a>.Olle Häggströmhttps://www.blogger.com/profile/07965864908005378943noreply@blogger.comtag:blogger.com,1999:blog-8131794231697217573.post-10547180633108355712016-09-01T16:17:48.219+02:002016-09-01T16:17:48.219+02:00Litet svårt att förstå.Varför skulle den försöka t...Litet svårt att förstå.Varför skulle den försöka ta sig förbi kontrollmekanismerna och vägra ta order om den inte har vilja och alfaegenskaper.Anonymousnoreply@blogger.comtag:blogger.com,1999:blog-8131794231697217573.post-84881394108908605532016-08-28T21:13:45.275+02:002016-08-28T21:13:45.275+02:00AI i närtid har inget medvetande och ingen själ me...AI i närtid har inget medvetande och ingen själ men kan ändå vara intelligent och farlig. Varje kompetent programmerare kan redan idag skapa en autonom robot med kapacitet att utrota kanske inte hela mänskligheten men 1000-tals människor.<br /><br />Problemet när vi debatterar AI och risk är att vi tror att AI inte blir farlig förrän den har ett medvetande, trots att medvetandet i sig inte har någon som helst funktionell roll. skvammehttps://www.blogger.com/profile/12635948580273279412noreply@blogger.comtag:blogger.com,1999:blog-8131794231697217573.post-63720719266328064842016-08-28T20:30:23.274+02:002016-08-28T20:30:23.274+02:00Tycks ändå vara ganska vanligt bland i övrigt myck...Tycks ändå vara ganska vanligt bland i övrigt mycket intelligenta "public thinkers" att vara förvirrade i just AI-frågan. Det om något visar väl hur "stollig" AI-tesen kan låta om man inte tänkt på det på allvar. Neil DeGrasse Tyson, som jag i övrigt beundrar, visade sig vara pinsamt dåligt påläst i en intervju i Sam Harris podcast ("Waking Up") nyligen. Inte för att man måste vara superpåläst i alla ämnen, men då borde man kanske inte uttala sig så tvärsäkert som han gjorde. Det kändes nämligen som att han hade bestämt sig för att det var trams fast det var tydligt att han inte hade tänkt så mycket på det. Det förvånade mig att höra från en person som Tyson. Ollehttp://tanksprid.wordpress.comnoreply@blogger.comtag:blogger.com,1999:blog-8131794231697217573.post-60264898275491754082016-08-28T10:14:44.903+02:002016-08-28T10:14:44.903+02:00Ja, hade det varit bara varit på bigg think kanske...Ja, hade det varit bara varit på bigg think kanske man kan tänka sig att det var poppkulturen han tänkte på. Men med tanke på var han har skrivit tidigare så är det lite svårare. Magnushttps://www.blogger.com/profile/01617272924116099306noreply@blogger.comtag:blogger.com,1999:blog-8131794231697217573.post-42440623498013357252016-08-28T10:10:22.876+02:002016-08-28T10:10:22.876+02:00Ja det gör du. Det går säkert att skaka fram ensta...Ja det gör du. Det går säkert att skaka fram enstaka crackpots som hävdar <i>"att det måste gå åt skogen"</i>. Och vi kan såklart leka med tanken att det var dessa crackpots Pinker syftade på, samtidigt som han noggrant lät bli att låtsas om att det existerar en seriös AI-futurologi, utan istället gav sken av att dessa crackpots är alls som finns på området. Men det är i så fall en gravt ohederlig retorik Pinker ägnar sig åt.Olle Häggströmhttps://www.blogger.com/profile/07965864908005378943noreply@blogger.comtag:blogger.com,1999:blog-8131794231697217573.post-2412109586298794562016-08-28T09:33:31.338+02:002016-08-28T09:33:31.338+02:00Kanske böjer jag mig lite väl långt baklänges men,...Kanske böjer jag mig lite väl långt baklänges men, om han inte i de stycket syftade på dem då?Magnushttps://www.blogger.com/profile/01617272924116099306noreply@blogger.comtag:blogger.com,1999:blog-8131794231697217573.post-34225677102580374452016-08-28T09:23:09.742+02:002016-08-28T09:23:09.742+02:00Jaha, så du tror att "Pinker är så pass insat...Jaha, så du tror att <i>"Pinker är så pass insatt att han har hyfsad koll"</i> på vad ledande tänkare inom AI-risk och AI-futurologi säger. Och <i>lik förbannat</i> tillskriver han dem uppfattningen <i>"att det måste gå åt skogen"</i>. Det gör ju honom i så fall till en skamlös lögntrut av Lars Bern- eller Donald Trump-typ. För egen del håller jag fast vid (den aningen mer välvilliga) tolkningen att han rätt och slätt är okunnig. Olle Häggströmhttps://www.blogger.com/profile/07965864908005378943noreply@blogger.comtag:blogger.com,1999:blog-8131794231697217573.post-73117782147334629012016-08-28T00:09:15.855+02:002016-08-28T00:09:15.855+02:00Försöker på ett långt sent snabbt svar... ursäktar...Försöker på ett långt sent snabbt svar... ursäktar mig i förväg.<br /><br />Om jag som jag kan tycka är vettigt tolkar Pinker välvilligt kritiserar han främst antagandet att det måste gå åt skogen, att AI kommer gå illa (enkelt att göra) att formulera något kring att det finns en möjlighet att det går åt skogen är betydligt svårare och kanske för svårt att göra på 2 minuter. Jag har dock inte sett pinker hävda att AI inte kan gå åt skogen. Han ger själv ett möjligt scenario för hur det skulle kunna gå åt skogen. Jag vet inte men tror inte det är det ända som han skulle kunna komma på.<br /><br />Jag tror också att Pinker har kunskap om sakfrågan, baserat på bland annat hans twitter och hur personer som pratat med honom sedan diskuterat hans ståndpunkt... hur djupt insatt han är det vet jag inte.<br /><br />Däremot så tror jag att Pinker som har uppnått en sådan status att han kan yttra sig slarvigt och kort utan att hamna utanför rampljuset använder den statusen för att provocera. Jag får för mig att han tycker det hela är överdrivet och att det finns viktigare saker att pyssla med nu och gör sitt bästa för att kommunicera detta till en bredare publik (dvs tex 2 min på big think). <br /><br />Ang argumentet att man länge varnat för AI och inget hänt... sant det i sig är inget bra argument men det är bra att ha bakhuvudet. Om många seriösa forskare inom klimatvetenskap skulle varnat för att jorden skulle vara förstörd nu för 20 år sedan men inget hände så skulle det så klart vara problematiskt. Det betyder inte att det inte behöver vara ett problem nu dock.<br /><br />Men som sagt jag tror Pinker är så pass insatt att han har hyfsad koll. Jag har som jag återkommande säger inte läst alla böcker på området men min egen bedömning och så vitt jag kan se även googles teams bedömning (även andras) att vi inte ens är nära eller vet hur vi skulle kunna komma dit. Med tanke på din bakgrund är du säkert bra insatt i hur programmet kring den GO spelande datorn fungerar... fascinerande, användbart, spännande, grymt osv.... men känns inte det minsta hotfullt. <br /><br />Kanske blir det lite väl mycket genom andra känner man sig själv här... (fast tvärt om här) men jag tror Pinker ser det som troligt att det kommer vara ett stort företag alt nation universitet som närmar sig först. Denna grupp vet va de gör och ser hur systemet beter sig, de har goda avsikter och kommer mest troligt vara de som bäst hanterar säkerheten... den dagen är långt borta och därför tycker han frågan kan vänta och raljerar onödigt kring den.<br /><br />Får som avslutning be om ursäkt igen för en inte innan genomtänkt kommentar... men hoppas jag kunnat i alla fall ge dig något att fundera över.Magnushttps://www.blogger.com/profile/01617272924116099306noreply@blogger.comtag:blogger.com,1999:blog-8131794231697217573.post-72973845049907579412016-08-27T17:05:44.881+02:002016-08-27T17:05:44.881+02:00Nu är du lite för oartikulerad, Magnus, för att ja...Nu är du lite för oartikulerad, Magnus, för att jag skall förstå vad du menar. Vad syftar du på med <i>"den delen"</i>, med <i>"den enkla biten"</i> och med <i>"där"</i>?<br /><br />Vad gäller argumentet "detta har det varnats för länge utan att något allvarligt har hänt" tror och hoppas jag att du håller med om att det argumentet inte är mycket att komma med om man i övrigt inte har någon kunskap om sakfrågan. Jämför med klimatförnekarnas favoritargument "redan de gamla grekerna varnade för att himlen skulle ramla ned, varför en förhöjd koldioxidhalt inte rimligtvis kan ha några katastrofala konsekvenser för klimatet, så vi bör inte överreagera".Olle Häggströmhttps://www.blogger.com/profile/07965864908005378943noreply@blogger.comtag:blogger.com,1999:blog-8131794231697217573.post-84628608320594438412016-08-27T16:04:51.223+02:002016-08-27T16:04:51.223+02:00Mmm förvisso fegt att inte bemöta den delen tydlig...Mmm förvisso fegt att inte bemöta den delen tydligare utan ta den enkla biten. Men har han inte ståndpunkten där att det varnas för länge utan att något hänt och det är bäst att inte överreagera idag. ? Vad som händer framöver är för svårt att sia om...Magnushttps://www.blogger.com/profile/01617272924116099306noreply@blogger.com