I P1:s myspysprogram Spanarna i fredags kunde vi höra Per Naroskin kåsera kring frågor om framtida utveckling inom artificiell intelligens. Hans inslag (som börjar cirka 30:45 in i programmet) bjuder inte på några djupare insikter, men är ändå värt att lyssna på. Som utgångspunkt tar han det Luddit-pris som en tankesmedja vid namn Information Technology & Innovation Foundation (ITIF) givit till Elon Musk och Stephen Hawking med flera, för att dessa uttryckt oro över en tänkbar utveckling där ett genombrott inom artificiell intelligens leder till katastrof och i värsta fall mänsklighetens undergång. För den som känner till vad ordet luddit1 betyder kan det synas mäkta underligt att förknippa Elon Musk (mannen bakom bl.a. SpaceX, PayPal och Tesla Motors) med den sortens teknikfientlighet. Jag känner mig personligen en smula upprörd över priset, eftersom jag i min nya bok Here Be Dragons fäster stor vikt vid samma slags scenarier som Musk och Hawking tar upp, samtidigt som jag ogärna vill förknippas med luddism.2
I CNET:s rapportering om priset medger ITIF:s talesperson Rob Atkinson att det kan se en smula underligt ut att ge ett sådant pris till Musk, då denne är "the antithesis of a Luddite", men han menar att Musk ändå "is giving aid and comfort to the Luddite community". Underligast av allt är emellertid att Atkinson, att döma av CNET:s rapportering, hävdar att det är en fråga om tonfall:
- "It's not inappropriate to raise the issue that AI be developed in a safe and responsible way," said Atkinson. "The problem is their tone scares people."
Fotnot
1) Wikipedia sammanfattar:
- Ludditerna eller maskinstormarna var en samhällsrörelse bland engelska arbetare som under det tidiga 1800-talet protesterade, ofta genom att förstöra textilmaskiner, mot den industriella revolutionens förändringar, som de kände hotade deras arbeten. Rörelsen, som startade 1811, var uppkallad efter en troligtvis fiktiv ledare, Ned Ludd. [...]
På senare tid används termerna luddism och luddit eller neo-luddism och neo-luddit synonymt med någon som motsätter sig teknikens och teknologins utveckling på grund av de kulturella förändringar utvecklingen för med sig.
Det kan kanske vara så att Elon Musks konkurrenter vill ge honom en liten knäpp på näsan? ITIF är ju finansierad av stiftelser kopplade till Amerikansk näringsliv. Däribland finns GM, Google, Cisco, Loral Space, etc. "Follow the money" kan ju ibland ge förklaringar..
SvaraRaderaAtt civilisationen kommer att gå under verkar vi vara överens om. Några kallar farorna för AI och befriar delvis människan från ansvar. Det är konkurrensen mellan människor som drivit utvecklingen framåt (en del av evolutionen), samma "kraft" som kommer att driva människan till civilisationens upphörande
SvaraRaderaNej, Anonym 23:22, det är vi INTE överens om. Det finns stora faror, men framtiden är inte ristad i sten. Tvärtom, som jag skrev i SvD häromveckan, "vad vi gör i dag kan mycket väl innebära skillnaden mellan å ena sidan en blomstrande framtid för mänskligheten, och å andra sidan en nära förestående undergång".
RaderaUndergången är inte ristad i sten säger du men den tekniska utvecklingen är dock ristad i sten. Datorerna blir allt mer kompetenta och programvarorna likaså. Vi människor är destinerade att konkurrera med varandra. Alla metoder är tillåtna även AI. Om det blir AI eller en resurskollaps är dock inte skrivet i sten.
RaderaNej, den tekniska utvecklingen är inte ristad i sten.
RaderaAr det inte att stoppa huvudet i sanden?
RaderaMenar du att det är gruppen kring Nick Bostrom, Max Tegmark, Stephen Hawking och Bill Gates som kommer att förhindra den tekniska utvecklingen?
En helt utopisk idé enligt min mening.
Sluta fåna dig, Anonym 23:22/10:23/12:35. Ingen av dem du räknar upp har uttryckt någon ambition om att förhindra den tekniska utvecklingen. Det vi däremot kan hoppas på är att med klokskap kunna påverka dess riktning.
RaderaOch det där med "huvudet i sanden"? Ser du inte att det är din fatalistiska utvecklingen-blir-som-den-blir-och-vi-kan-inget-göra-åt-saken-inställning som är liktydig med att stoppa huvudet i sanden?
Drönare och landbaserade robotar som är beroende av avancerad programvara (AI) är redan en realitet.
RaderaVästs (USA:s) främsta vapen mot terrorism är idag drönare som styrs från satelliter som har placerats i bana med hjälp av ett svenskt helstatligt bolag.
Kommunikationen till och från satelliterna (dvs också drönarna) går över satellitstationer ägda av samma statliga bolag.
Sverige är snart med i NATO om alliansen vinner nästa val.
Putin rustar längs gränsen mot väst och NATO hakar på.
Klokskap ska förändra världen?
Ja, det är mycket som är bekymmersamt. Och till råga på allt har vi alla dessa anonyma kommentatorer som trivs så bra i sin övertygelse om att allt kommer att gå åt helvete, att hånfullheter är det enda de har till övers för dem som söker tänka i konstruktiva banor.
Radera