tisdag 31 juli 2018

On dual-use technologies

Dual-use technologies are technologies that can be applied both for causing death and destruction and for more benign purposes. An xkcd strip last month illustrates the concept beautifully by recycling Isaac Newton's cannonball thought experiment:

In my 2016 book Here Be Dragons: Science, Technology and the Future of Humanity, I point out at some length the troublesome fact that many emerging technologies have this dual-use feature, and that the dangers are in some cases of such a magnitude that they can mean the end of civilization and humanity. How should we react to this fact? I often encounter the attitude that since there are no inherently good or evil technologies but only good or even uses of them, engineers need not worry about ethical concerns when deciding what to develop. In my recent manuscript Vetenskap på gott och ont (in Swedish) I wholeheartedly condemn that attitude, and view it as an attempt to fall back on a simple one-liner in order to grant oneself the luxury of not having to think inconvenient thoughts ("ett simpelt slagord avsett för att slippa tänka obekväma tankar") or take responsibility for the consequences of one's work.

What to do instead? In Here Be Dragons I admit not having any easy answers to that, but suggest that an improved understanding of the landscape of possible future technologies and their consequences for humanity would improve the odds of a happy outcome, and that it might be a good idea to launch some IPCC-like international body with the task of summerizing our (sparse, but improving) knowledge in this field and making that knowledge available to decision makers on all levels (IPCC is short for Intergovernmental Panel on Climate Change). I was pleased to learn, quite recently, that Daniel Bressler at Columbia University and Jeff Alstott at MIT have developed, in some detail, a similar idea for the highly overlapping field of global catastrophic risk. Do have a look at their report The Intergovernmental Panel on Global Catastrophic Risks (IPGCR): A Proposal for a New International Organization.

6 kommentarer:

  1. I think almost everything can be used for warlike purposes. As Chrusjtjov said, even buttons are needed for soldiers to keep their pants on.

    The former Swedish king Karl XII is said to have been shot with a uniform button. Even if not true, it could have been that way.

    SvaraRadera
  2. IPGCR låter som en bra idé. Jag önskar att jag själv kunde delta i något dylikt, men det riskerar att kräva en eller annan fin titel. Det förefaller som ett problem att många kommissioner och liknande ger för lite möjlighet till input från fritänkare. Möjligheterna till värdefullt input har möjligen ökat lite pga internet.

    Här något jag skrev häromdagen:

    Det krävs nytt politiskt tänkande

    Flertalet människor torde vid det här laget begripa att människan är en svår belastning på jordklotet. Särskilt lätt att göra något åt faktumet att vi är för många och konsumerar för mycket är det inte. Att mena att det är de fattiga eller de rika som utgör problemet förefaller inte särskilt konstruktivt. Många gör sedan lång tid tillbaka för många barn, medan andra konsumerar för ymnigt. Bägge bitarna är ungefär lika problematiska. Gör man för många barn blir det ekologiska trycket stort även om man är fattiga. Konsumerar man som dårar räcker planeten inte till ens för en miljard människor.

    Våra politiker försöker allt som oftast låtsas att ekonomisk tillväxt kommer lösa problemen och ignorerar därvid att det i mycket hög grad är den ekonomiska tillväxten som utgör problemet. Vi behöver sluta drömma om flott välstånd för alla. Vissa menar att vi måste omfördela rikedom från de rika till de fattiga, men det löser inte nödvändigtvis några problem. Viktigare än att fördela resurserna annorlunda är att de högkonsumerande framverkar grönare teknik, vilket de framförallt kommer göra för att försöka bevara sina mer eller mindre intressanta, roliga och angenäma vanor. Kommunism har aldrig varit bra för en hållbar utveckling. Människan arbetar helst för sig själv. Att istället arbeta för världens fattiga passar blott ett fåtal.

    Politikerna bör en gång för alla fatta att det är omöjligt att skapa meningsfulla arbeten åt många miljarder människor när såväl företagare som myndigheter glatt ersätter arbetare med robotar och artificiell intelligens. Människan klarar inte av att konkurrera med modern teknik. Och Jorden pallar inte med ytterligare enormt mycket ekonomisk tillväxt i ett futilt försök att trots den accellererande automatiseringen skapa meningsfulla arbeten åt alla.

    Därför måste medborgarinkomst införas, på nationell nivå, på europeisk nivå och på global nivå. Enda alternativet är att på något sätt ta bort de många miljarder människor som inte behövs. Det finns säkert mångmiljardärer och oligarker som gärna eliminerar större delen av världsbefolkningen. En del av dem kommer kämpa mot införandet av medborgarinkomster. De vill hellre se dig och mig döda. Vilket du och jag högst sannolikt är lite mindre intresserade av.

    Ett försök att skapa en värld blott för en liten ekonomisk elit och deras betjänter kommer med största sannolikhet sluta med ett tredje världskrig, så vi behöver istället försöka skapa en värld som har något för alla. Med medborgarinkomster och bostäder och fordon som inte använder sig av fossil energi kan vi komma långt. Därtill behöver vi politisk ideologi som är kompatibel med en grön omställning. Det är inte vad våra politiker levererar.

    facebook.com/story.php?story_fbid=1781813278570497&id=358506554234517

    SvaraRadera
    Svar
    1. Det du lite nedlåtande kallar "fin titel" kan också stavas "uppvisad professionell kompetens".

      Radera
    2. Om "uppvisad professionell kompetens" verkligen tillvaratogs skulle samhället fungera mycket bättre. Dessvärre tycks social nätverkstillhörighet ofta väga tyngre. Inte bara i "bananrepubliker", utan även i Sverige.

      Se till exempel hur de numera avskedade och avgångna riksrevisorerna tillsattes! Just en riksrevisor torde främst av alla vara en person utan några som helst hedersskulder pga. sin utnämning.

      Radera
    3. Det finns väl en del sanning i det, men mycket handlar också om att man har allt längre kravlistor med saker som ska uppfyllas från HR och värdegrunder mm., men det är sämre med listor på vilken kompetens som ska uppfyllas för arbetets huvuduppgift.

      Vad gäller din samhällsbeskrivning så har det länge varit så att det som premieras högst är inte att göra jobbet (praktiskt eller teoretiskt) utan att snacka rätt och ta åt sig äran för det som utförts. Medborgarna är i både ekonomisk och politisk mening något man inte vill befatta sig med utan man skapar hellre luftslott av visioner och med banker som i praktiken trycker egna pengar.
      Robotar och artificiell intelligens utgör i sammanhanget ett minimalt hot, det som utgör det verkliga hotet är samhällets uppbyggnad av en sorts pyramidspel utan kontroll på diverse olika områden, samt det relaterade beteende som ibland kallas funktionell dumhet (se Mats Alvesson), vilket låter sådana fortgå bortom all rimlighet.

      Radera
    4. "Långa kravlistor" utgör ofta rena signalementet på den person man vill anställa. Annonsering av tjänsten är då en ren formalitet.

      Det viktiga är förstås att den nyanställde har rätt kompetens, men även att det inte förekommer några hedersskulder pga. positiv särbehandling vid tillsättningen. I så fall uppstår naturligen hämningar när det gäller att utöva professionalismen, om verksamheten visar sig vara på väg åt ett olyckligt håll.

      Radera