- The great downside dilemma for risky emerging technologies by Seth Baum. The author offers, with particular focus on the example of geoengineering, a principled discussion of the dilemma involved in deciding whether to go ahead with a technology that can one hand can bring about great benefits, but on the other hand risks causing global catastrophe.
- Of Malthus and Methuselah: does longevity treatment aggravate global catastrophic risks? by Karim Jebari. As the title indicates, this is a discussion about possible catastrophic risks in connection with radical life extension.
- Responses to catastrophic AGI risk: a survey by Kaj Sotala and Roman Yampolskiy. This is a mildly updated version of an extremely important paper that has been around in preprint form since 2013 and that I praised in a blogpost from that year; it is a systematic discussion of risks associated with a breakthrough in artificial intelligence, and what we can do about them.
En medborgare och matematiker ger synpunkter på samhällsfrågor, litteratur och vetenskap.
tisdag 27 januari 2015
Special virtual issue of Physica Scripta: Emerging technologies and the future of humanity
torsdag 3 april 2014
Sveriges Radio rapporterar från KVA-mötet om emergenta teknologier och mänsklighetens framtid
torsdag 27 februari 2014
David Keith har skrivit en läsvärd liten bok om geoengineering
-
(1) I och med att metoden inte angriper den ökande koldioxidhalten så kvarstår det andra stora koldioxidproblemet (jämte global uppvärmning), nämligen försurningen av världshaven och de katastrofala ekologiska konsekvenser det kan föra med sig.
(2) Kemin i partikelbildningen är komplicerad och långt ifrån välutredd, och beroende på vad för ämne vi väljer att tillföra stratosfären finns risken att starta reaktioner som skadar det livsnödvändiga ozonskiktet.
(3) Metoden kan visserligen hejda den globala uppvärmningen, men den kan inte att stoppa klimatförändringarna. Då medeltemperaturen höjs med en mekanism (växthusgaser) och sedan sänks i motsvarande mån med en annan (aerosoler) kan vi inte räkna med bevarat status quo i andra avseenden än just global medeltemperatur. På vissa håll blir det varmare och på andra håll kallare; dessutom är stora regionala förändringar i nederbördsmönster att vänta.
(4) Om vi använder detta slags geoengineering som ursäkt för att inte dra ned på våra koldioxidutsläpp, så bygger vi in oss i en alltmer prekär situation där vi inte kan avbryta geoengineeringprojektet utan att orsaka en plötslig katastrofal uppvärmning inom loppet av bara ett par år. Utsläppen måste därför pågå i generation efter generation - men vad vet vi om huruvida den samhälleliga infrastrukturen flera hundra år fram i tiden kommer att klara att upprätthålla ett sådant högteknologiprojekt, och har vi verkligen rätt att pådyvla våra barnbarnsbarn och deras barnbarn en sådan arbetsuppgift?
- ...att om storskaligt genomförande av svavel-i-stratosfären-metoden och andra solskyddsmetoder överhuvudtaget kan komma ifråga, så är det i så fall enbart som temporärt bidrag till lösning på en akut klimatkris. Samtidigt framhöll han solskyddsmetodernas allmänna fördel jämfört med koldioxidborttagning, nämligen deras snabbhet: när vi fått ett solskyddsmedel på plats inverkar det genast med full kraft på jordens energibalans vilket kan kyla ned klimatet avsevärt på bara något år. Effekten av koldioxidborttagning däremot, behöver decennier på sig för att märkas i klimatet. Därför håller Keith öppet för att exempelvis svavel i stratosfären kan komma till användning under något decennium eller två, för att kapa en tillfällig temperaturtopp som i annat fall bedöms riskera att kasta klimatsystemet över en eller annan tipping point. Även med ambitiösa utsläppsmiskningar kan en sådan situation tänkas uppstå framemot mitten eller slutet av innevarande sekel, som en följd dels av fortsatt stor osäkerhet om koldioxidens klimatkänslighet (den temperaturökning som en fördubbling av koldioxidhalten leder till), dels av den stora tröghet i klimatsystemet som gör att temperaturen kan fortsätta stiga många decennier efter att vi lyckats vända koldioxidhalten nedåt.
- If geo-engineering is publicly considered a “solution” to climate change, governments may reduce their efforts to restrict the carbon emissions that caused global warming in the first place. If you promise that in a future emergency you can chill the Earth in a matter of months, cutting emissions today will seem far less urgent. “Geo-engineering needs some government funding, but the most disastrous thing that could happen would be for Barack Obama to stand up tomorrow and announce the creation of a geo-engineering task force with hundreds of millions in funds,” says David Keith.
måndag 27 januari 2014
KVA-möte den 17 mars: Emergenta teknologier och mänsklighetens framtid
- A number of emergening and future technologies have the potential to transform - for better or for worse - society and the conditions for humanity. These include, e.g., geoengineering, artificial intelligence, nanotechnology, and ways to enhance human capabilities by genetic, pharmaceutical or electronic means. In order to avoid a situation where in effect we run blindfolded at full speed into unknown and dangerous territories, we need to understand what the possible and probable future scenarios are, with respect to these technological developments and their potential positive and negative impacts on humanity. The purpose of the meeting is to shed light on these issues and discuss how a more systematic treatment might be possible.
- Seth Baum, Global Catastrophic Risk Institute, NY, USA: The great downside dilemma for risky emerging technologies
Many emerging technologies show potential to solve major global challenges, but some of these technologies come with possible catastrophic downsides. In this talk I will discuss the great dilemma that these technologies pose: should society accept the risks associated with using these technologies, or should it instead accept the burdens that come with abstaining from them? I will use stratospheric aerosol geoengineering as an illustrative example, which could protect humanity from many burdens of global warming but could also fail catastrophically. Other technologies that pose this great downside dilemma include certain forms of biotechnology, nanotechnology, and artificial intelligence, whereas nuclear fusion power shows less downside.
- Anders Sandberg, Oxford University, UK: The future of humanity
The key to the current ecological success of Homo sapiens is that our species has been able to deliberately reshape its environment to suit its needs. This in turn hinges on our ability to maintain a culture that grows cumulatively. We are now starting to develop technologies that enable us to reshape ourselves and our abilities - genetic engineering, cognitive enhancement, man-machine symbiosis. This talk will examine some of the implications of a self-enhancing humanity and possible paths it could take.
-
Karim Jebari, Kungliga Tekniska högskolan, Stockholm: Global catastrophic risk and engineering safety
Engineers have maneged risk in complex systems for hundreds of years. Their approach differs radically from what economists refer to as “risk mangement”. The heuristics developed by engineers are very useful to understand and develop strategies to reduce global catastrophic risks. I discuss a potentially disruptive technology: control of ageing and argue that the risks of such a program have been underestimated.
- Roman Yampolskiy, University of Louisville, KY, USA: Artificial general intelligence and the future of humanity
Many scientists, futurologists and philosophers have predicted that humanity will achieve a technological breakthrough and create artificial general intelligence (AGI) within the next one hundred years. It has been suggested that AGI may be a positive or negative factor in the global catastrophic risk. After summarizing the arguments for why AGI may pose significant risk, I will survey the field’s proposed responses to AGI risk, with particular focus on solutions advocated in my own work.
fredag 11 januari 2013
Geoengineering (favorit i repris)
- (1) Global uppvärmning vs klimatförändring. Metoden har potential att hejda den globala uppvärmningen, men inte att stoppa klimatförändringarna. Då vi höjt medeltemperaturen med en mekanism (växthusgaser) och sedan sänker den i motsvarande mån med en annan mekanism (aerosoler) kan vi inte räkna med att uppnå status quo i andra avseenden än just global medeltemperatur. På vissa håll kommer det att bli varmare, på andra håll kallare, och därutöver är stora regionala förändringar i nederbördsmönster att vänta.3
(2) Damokles svärd.4 Om vi använder svavel-i-stratosfären-lösningen som ursäkt för att inte dra ned på våra koldioxidutsläpp, så bygger vi in oss i en alltmer prekär situation där vi inte kan avbryta svavelutsläppen utan att orsaka en plötslig katastrofal uppvärmning inom loppet av bara ett par år. Svavelutsläppen måste därför pågå i generation efter generation - men vad vet vi om huruvida den samhälleliga infrastrukturen flera hundra år fram i tiden kommer att klara att upprätthålla ett sådant högteknologiprojekt? Strängt taget ingenting.
11) Förutom Levitt och Dubner har t.ex. också Björn Lomborg börjat förespråka geoengineering. Vad gäller Lomborg kan vi notera att han, från att (i böcker som t.ex. Global Crises, Global Solutions och How to Spend $50 Billion to Make the World a Better Place) motsätta sig begränsningar i koldioxidutsläpp med motiveringen att det är viktigare att bekämpa malaria, nu har gått över till att motsätta sig samma sak med hänvisning till billigare och bättre metoder att i framtiden hejda den globala uppvärmningen. Är jag orättvis mot Lomborg om jag tolkar honom som att det viktiga för honom är frihet från höga koldioxidskatter, och att den argumentativa vägen dit är av underordnad betydelse?