Förra veckan rapporterade jag här på bloggen om att en ny upplaga av min bok Tänkande Maskiner nu finns på bokhandelsdiskarna. Den största skillnaden jämfört med originalutgåvan är inklusionen av ett fullmatat 73-sidigt bonuskapitel om den dramatiska utvecklingen på AI-fronten under 2021-2023 samt vilka slutsatser som kan dras av denna.1
För alla er som redan läst 2021 års upplaga och som finner det extavagant i överkant att inhandla den nya enbart för detta bonuskapitel, har jag nu nöjet att meddela att kapitlet nu finns...
Fotnot
1) Min redogörelse fångar upp händelseutvecklingen fram till september 2023, vilket innebär att exempelvis Rishi Sunaks AI Safety Summit i Bletchley Park i början av november, och turbulensen på OpenAI senare i samma månad, inte behandlas i kapitlet. Det finns en gräns för hur dagsfärska nyheter som är rimliga att rapportera i bokform.
Toppen! Tack!
SvaraRadera/Cecilia
Utmärkt, grattis! Jag antar att det blir ytterligare ett 100 sidor långt kapitel år om två år, ett nytt på 200 sidor år 2027, osv.
SvaraRaderaTack Olle! Suverän text för den som vill få en uppdatering både på utveckling i stort och hur och var du justerat dina tankar.
SvaraRaderaEn kommentar till sida 343+ . Jag håller med om att risk för maktövertagande via människor är viktig att lyfta.
Men ditt fokus på risker med social manipulation tycker jag borde breddas till att lyfta risker med ekonomiskt inflytande. Världens ekonomiska system (banker, börser, högfrekvenshandel, ...) är till stor del digitala och AI torde användas och integreras av organisationer och människor där, av effektivitets- och konkurrensskäl. Om oalignerad transformativ AI (OTAI) dyker upp i en sådan kontext kan den tänkas bli rik på finansteknisk manipulation eller bara överlägsen prestation. OTAI kan sen rekrytera mänskligt inflytande (politiska donationer, organisationer och jurister i skatteparadis, legosoldater, ...) med reda pengar, utöver mer sociala eller verbala metoder som gaslighting och hot.
Tack M!
RaderaDu har såklart rätt i att en oalignerad AI:s härjningar på börsen kan vara en viktig riskfaktor att beakta. Jag avstod från att diskutera detta i bonuskapitlet mest för att jag inte ville upprepa mig från Kapitel 5, s 109, där jag tar upp saken.
Nu har jag läst boken (julklapp från kära hustrun). En gedigen genomgång av ämnet, lätt tillgänglig för den intresserade lekmannen som vill hänga med i debatten. Förvånansvärt balanserad och analyserande. Trodde du skulle svinga vilt mot menigsmotståndare :)
SvaraRaderaHåller med i stora delar. Skulle gärna ha sett en fördjupning i hur en AI skulle kunna bedöma hot mot sin egen existens. Kräver en sådan riskbedömning ett medvetande? En varseblivning om tid och rum? Eller kan en zombie-AI "beräkna" risk för framtida händelser?
Tack Lars! Ja, det finns många frågor som förtjänar utredas vidare. Dock betraktar jag frågor på formen "är medvetande en förutsättning för förmåga X" som mestadels en distraktion.
Radera