- Bostrom konstaterar [...] att om vi - den mänskliga civilisationen - överlever de faror som lurar det närmaste århundradet eller så, så kommer den teknologi vi (eller de robotar som eventuellt efterträder oss) då förfogar över att vara närmast ofattbart mer avancerad än den vi har idag. Bland annat kommer vi att ha tillgång till praktiskt taget outtömlig datorkraft. Framtidens historiker kan väntas vara mycket intresserade av vad som egentligen hände de där kritiska årtiondena som föregick "det stora teknologiska språnget". De kommer att använda delar av den enorma datorkraften till att göra omfattande och detaljerade datorsimuleringar av vad som egentligen hände då, och dessa simuleringar kommer att vara så verklighetstrogna att de virtuella människor som befolkar dem får medvetanden, så som vi själva. Men tack vare att så ofantligt många sådana datorsimuleringar genomförs, så överstiger det antal virtuella människor genom historien som tror sig leva år 2007 vida det antal om knappt 7 miljarder människor som verkligen upplevde (originalversionen av) 2007. Och därför är det långt troligare att vi hör till de virtuella människorna i dessa datorsimuleringar än att vi utgör originalen. Vi lever alltså i the Matrix.
Man kan spekulera vidare kring detta scenario. Varför skulle det vara förbehållet professionella historiker att köra dessa simuleringar? Nog kunde det bli ett populärt nöje, åtminstone bland lagom nördigt inriktade personer, att i sina datorer upprepa historien, eller ännu hellre se hur den hade utvecklats då förutsättningarna varieras på olika sätt? Kanske Gud egentligen är en pubertetsfinnig 15-åring anno 2243 som kommit att fundera över det otroligt jämna amerikanska presidentvalet år 2000 och över vad som egentligen hade kunnat hända om den där religiöse och halvt imbecille alkoholisten till motkandidat faktiskt hade vunnit?
[...]
Bostroms uppsats kan förstås som att han inte blott hävdar att det är möjligt att vi lever i the Matrix, utan rentav att det är ytterst troligt. Och även om jag inte kan slå fast att han har fel, så går det att peka på ett antal obevisade antaganden som hans resonemang hänger på. (Av de följande pekar Bostrom själv på de första två, medan han däremot inte säger något om det tredje.) För det första behöver det, som Bostrom själv påpekar, föreligga en icke-försumbar sannolikhet att vi - den mänskliga civilisationen - lyckas nå den tänkta teknologiska nivån innan vi förgör oss själva. Jag vill gärna tro att så är fallet, men om man skall vara realistisk så framstår det som en vidöppen fråga. [...] För det andra förutsätter Bostroms argument den så kallade datorteorin för medvetande, som säger att fenomenet medvetande inte är beroende av något specifikt slags materiellt medium för att kunna uppstå, så att t.ex. kisel kan gå lika bra som kött och blod; detta behövs för att datorsimuleringarnas virtuella människor skall erhålla medvetanden. Åter har vi att göra med en vidöppen fråga. Och för det tredje bygger Bostroms sannolikhetsargument på det implicita antagandet att det existerar en mekanism enligt vilken "vi" - de medvetna varelser du och jag råkar finna oss identiska med - väljs ut på måfå enligt likformig fördelning bland alla medvetanden i universum. Vad som skulle ligga bakom en sådan mekanism har jag svårt att se, men vem vet?
- We need to ask what proportion of the conscious AIs (at least the ones relevantly epistemically indistinguishable from us) live in large, stable sims, and what proportion live in small or unstable sims?
I see no reason here for high levels of optimism. Maybe the best way for the beings at the base level of reality to create a sim is to evolve up billions or quadrillions of conscious entities in giant stable universes. But maybe it's just as easy, just as scientifically useful or fun, to cut and paste, splice and spawn, to run tiny sims of people in little offices reading and writing philosophy for thirty minutes, to run little sims of individual cities for a couple of hours before surprising everyone with Godzilla. It's highly speculative either way, of course! That speculativeness should undermine our confidence about which way it might be.
If we're in a sim, we probably can't know a whole lot about the motivations and computational constraints of the gods at the base level of reality. (Yes, "gods".) Maybe we should guess 50/50 large vs. small? 90/10? 99/1? (One reason to skew toward 99/1 is that if there are very large simulated universes, it will only take a few of them to have the sims inside them vastly outnumber the ones in billions of small universes. On the other hand, they might be very much more expensive to run!)
If you/I/we are in a small sim, then some version of radical skepticism seems to be warranted. The world might be only ten minutes old. The world might end in ten minutes. Only you and your city might exist, or only you in your room.
Det värsta är att man knappt kan avfärda tramset i religionernas innehåll helt heller, eftersom det finns en sannolikhet att tex en bibel-troende sitter och simulerar deras "sanning". Pascals wager har börjat plåga mig en del på senare.
SvaraRaderaMan kanske kunde hoppas på ett matematiskt teorem för en slags övre gräns för beräkningskapacitet/datormaterial? Eller tex att man behöver lika mkt "fysiskt nätverkande" per medvetande som hjärnan har nu. Då blir det mindre rimligt att nån skulle kunna köra miljarder medvetanden i en dator.
Jag gillar Searles (gammla Searle) distinktion mellan obervatörsberoende och intrinsikala fenomen. Tex, att om man i detalj simulerar matspjälkningsprocessen så har man fortfarande inte en dator som kan spjälka mat. Vi tolkar outputen som att "de där ettorna och nollorna representerar process X", men de är inte process X. Han menade vidare att medvetandet existerar intrinsikalt och att om något (tex en dator) ska bli medvetet måste de ha samma kausala kraft som en hjärna (systemet av neuroner orsakar hjärnans medvetenhet intrinsikalt. Kausaliteten är enl Searle analog med hur vattenmolekyler orsakar systemets viskositet). Det skulle isf kunna tala för att man behöver en fysikalisk struktur (ett "cortex" av kretsar eller dylikt) till varje medvetande som man vill skapa. Det talar då emot att en superdator simulerar miljarder medvetanden samtidigt, i samma hårdvara, och att dessa är intrinsikalt medvetna. Speciellt eftersom samma hårdvara simulerar allt annat i världen.
Jag undrar om detta argument är förenligt med computational theory of mind, som jag vet att du lutar åt.
Daniel
Man kan spekulera i att det skulle gå att simulera hela universum med någon sorts variant av Game Of Life: Rummet skulle vara ett rutnät av celler som var och en befinner sig i något av ett begränsat antal möjliga tillstånd, och dessa tillstånd uppdateras stegvis baserat på granncellernas tillstånd enligt en programmerad regel.
SvaraRaderaOm vi hade levt i ett sådant universum, skulle vi kanske ha kunnat se vissa symptom på detta även om rutnätet var alltför finmaskigt för att kunna observeras direkt:
* Det begränsade minnesutrymmet i datorn skulle innebära att ett sådant universum måste vara begränsat i tid och rum.
* Även om man inte kunde räkna ut den exakta regeln för cellernas uppdatering, skulle man kunna se att samma princip gäller överallt, så att naturen i grunden är beskaffad på samma sätt exempelvis ute i rymden som på jorden.
* På grund av rutnätet blir materien “pixlig”: Försöker man dela den i allt mindre delar, når man fram till ett litet antal grundformer som sedan inte kan delas vidare.
* Den stegvisa uppdateringen baserad på grannceller skulle göra att effekten av en händelse skulle fortplanta sig genom rummet som en vågfront med en bestämd och universellt konstant hastighet, som samtidigt skulle utgöra en övre gräns för hur fort någonting kan röra sig.
Man får hoppas att fysiker och kosmologer genast slår larm om de upptäcker några sådana konstigheter i vår verkliga värld.
Intressant, jag undrar vad som skiljer en perfekt simulering från verkligheten?
SvaraRaderaBilden får mig att minnas en reklamkampanj för kattmat för några år sedan. Stora plakat som var uppsatta här och där hade en bild på ett katthuvud, som var flera kvadratmeter stort. När jag kom gående förbi dessa plakat förstod jag hur en mus uppfattar en katt.
SvaraRaderaFascinerande. Men Olle om jag fattar dig rätt så är det programeraren som du uppfattar som gud. Men om man kombinerar detta med idéen om en AI som skött simuleringen så får vi ju faktiskt en gud som han föreställa i de monoteistiska religionerna.
SvaraRaderaFinns den en meningsfull skillnad mellan simuleringsargumentet och religion(er)?
SvaraRaderaEtt till argument mot att vi skulle leva i en simulering: Om vi överlever det här seklet och utvecklas vidare så att den här typen av simuleringar blir möjliga - har vi då inte sannolikt fortsatt bli mer etiska, så att de här simuleringarna i framtiden när de kan göras, ses som ett sätt att orsaka enorma mängder onödigt lidande?
SvaraRadera