Min entusiasm då jag 2014 recenserade Nick Bostroms då nyutkomna Superintelligence: Paths, Dangers, Strategies kan illustreras med hur jag avslutade recensionen med bedömningen att boken...
- may turn out the most important alarm bell since Rachel Carson's Silent Spring from 1962, or ever.
Nu finns Bostroms bok i svensk översättning med titeln Superintelligens: Vägar, faror, strategier, och jag har nyss fått hem ett exemplar. Jag kan utan större överdrift berömma mig om att behärska bokens argumentation i stort sett utan och innan, och jag vill därför inte lägga tid på att läsa den svenska utgåvan, men jag har gjort några lite slumpartade nedslag i den och finner översättningen vara tillfyllest. I den mån det finns en läsekrets av personer som bryr sig om mänsklighetens framtid, som är beredda att följa tankegångar en bit utanför mainstreamdiskursens snäva box, och som föredrar att läsa på svenska framför engelska, så är detta en värdefull utgivning.
Det slog mig att mitt vägande av till exempel klimatfrågans lösning som mer angelägen att jobba på idag inte har så mycket att göra med vilken fråga som potentiellt kan få störst konsekvenser. Utan snarare har att göra med ett moraliskt övervägande kring att veta att något är ett stort problem och dessutom veta hur man kan lösa det men inte göra något. Då i kontrast mot AI förödelse som kan gå bra eller inte gå alls eventuellt bara bli värre av att försöka hindra? (ok sista kanske är lite tillspetsat)
SvaraRaderaeftersom man inte vet nyttan av det ena så faller nyttokalkylen över till att försöka lösa det allvarliga problemet som man vet ungefär hur det ska lösas...
Det finns säkert någon bra text om detta som jag missat... har du någon att rekommendera?
Det finns en del gjort om den sortens avvägningar; här en aktuell uppsats.
Radera