Den senaste veckan har inte mindre än tre poddavsnitt där jag medverkar släppts:
- Jag är med i två avsnitt på raken av Johan Landgrens engelskspråkiga videopodd Evolution Show, i vilka han med energi och entusiasm frågar ut mig om AI med avstamp från min nya bok Tänkande maskiner:
- Why artificial superintellignce can’t be ignored no more, or switched off later, 2 juni 2021.
- AI alignment or paperclip planet, 9 juni 2021.
- Däremellan hann jag med att medverka i avsnittet Om vi bor i en datorsimulering1 (3 juni 2021) i den lundensiska podden Om filosofers liv och tankar med Fredrik Eriksson och Martin Jönsson.
Fotnot
1) Det var tack vare ett tidigare inlägg här på Häggström hävdar som Erikssson och Jönsson kom på att bjuda in mig för att diskutera Nick Bostroms simuleringsargument. Det blev ett bra samtal, men när poddmakarna på tal om att Bostrom långt ifrån var först med att lyfta tanken att den verklighet vi lever i kanske inte utgör den högsta eller mest fundamentala verklighetsnivån frågade varför det var först med Bostroms argument som jag började ta denna tanke på visst allvar, så gav jag ett lite lamt svar. Ett bättre svar hade varit följande. Det var inte (den i mitt tycke skakiga) bostromska sannolikhetskalkylen som övertygade mig. Iställdet var det hur väl hans resonemang levandegjorde möjligheten att i vår egen verklighet bädda in andra (simulerade) verkligheter, varifrån slutsatsen nästan föreslår sig självt att denna vår egen verklighet skulle kunna ligga inbäddad i en högre sådan.
Jag har läst din nya bok. Jag förstår att "gemhypotesen" är en metafor. Men vad en superintelligent maskin än kommer att ha för sig så bygger den på att det kommer att finnas en fungerande infrastruktur för dess ändamål. I fallet med gem så krävs det gruvor för metallbrytning och metallframställning, transportväsende, energitillförsel mm. En maskin som skulle klara av allt detta kan naturligtvis med fog kallas "superintelligent".
SvaraRaderaEgentligen har människan redan litat på maskiner utan att kunna förstå hur de "tänkt". Ett exempel är beviset av Fermats stora sats. Vad jag vet så har ingen kunnat följa den slutledning som lett datorerna till beviset. Men att satsen verkligen är bevisad betvivlas nog inte av särskilt många.
Det behöver inte vara maskiner som får människor att sluta lita på sin egen tankeförmåga. Det var alltför många som inte bara böjde sig för vad som ledde till Förintelsen, utan även dem som litade på att den var förnuftig. Förvisso var det riskabelt att vara oppositionell, men övertygelse var alltför vanligt förekommande.
Religiösa övertygelser kan också få människor att lämna förnuftet därhän. Ekonomiska kalkyler som lett till hejdlösa privatiseringar och NPM har medfört en hel del vansinnigheter, som att friskolor kan gå i konkurs och att elever ställas på "bar backe". I det fallet är det siffror som styr och förnuftet blir åsidosatt.