Snälla Mats Alvesson, stör mig inte när jag äter frukost!

Ett viktigt inslag i min vardag, och ett ofta avgörande moment för att ge mig en bra start på dagen, är att få läsa DN vid frukostbordet. Ibland, när tidningen någon gång är alltför välfylld med misshagligheter, fungerar det dock inte på önskat vis, och jag måste säga att hellre än ännu en debattartikel av professorn i företagsekonomi Mats Alvesson tar jag del av 24-sidiga reklambilagor från SIBA eller en kulturdel dominerad av Eurovisionsschlagerspekulationer.

När en artikel blir tillräckligt svamlig och dum blir det svårt att skilja rena skriv- och slarvfel från vad författaren faktiskt menar med sitt "resonemang". Så t.ex. är jag oförmögen att avgöra om Mats Alvesson verkligen menar vad han skriver då han i sin debattartikel Låt resultaten vägleda skolan – detaljstyr mindre i dagens DN föreslår att man "eventuellt kan [...] tänka sig ekonomiska incitament: de klart över eller under snittet i förhållande till jämförbara skolor kan få en belöning". Om jag ändå skall försöka mig på en sammanfattning av hans enastående floskulösa sörja till artikel, så verkar dess huvudbudskap vara att resultaten i det av New Public Management-tänkande genomsyrade svenska skolsystemet är dåliga, och att vad som fattas är ännu mera New Public Management-tänkande.

Ändå är det inte detta budskap som nära nog ger mig ett apoplektiskt anfall denna morgon, utan följande alvessonska förslag:

Lärare i ämnen som kräver föga för- och efterarbete, till exempel matematik, skulle kunna undervisa mer, medan lärare som tar nya eller krävande kurser kanske kunde undervisa lite mindre.

Det skulle vara mycket intressant (obs, ironi) att höra vad Alvesson känner till om matematikundervisning och vad han har för belägg för att sådan kräver "föga för- och efterarbete". Tanken har kanske inte slagit honom att svenska elevers sviktande matematikresultat möjligen möjligen skulle ha något att göra med en utbredd (och i hög grad påtvingad) kultur av dåligt förberedd matematikundervisning?

Om förutsägelser, framtidsforskning och popperiansk falsifikationism på Vetenskapsfestivalen

Göteborg Vetenskapsfestival närmar sig, och liksom förra året och flera gånger tidigare kommer jag att bidra med ett föredrag, denna gång inom ramen för den senare av de båda matematiska aftnar som äger rum på torsdag (8 maj) och fredag (9 maj). Se sidan 11 i festivalprogrammet. På fredag klockan 18:45-19.30 kommer jag (i sal Euler på institutionen för matematiska vetenskaper, Chalmers) således att tala över ämnet "Vad kan vetenskapen säga om framtiden?".^1,2 Jag avser att bjuda på vetenskapsteoretiska och andra insikter, varav mycket kommer att kännas igen från olika bloggposter, men inte riktigt allt, och inramningen kommer att vara ny. Jag råkade på planeringsstadiet nämna för min Chalmerskollega Ulf Persson att jag i föredraget eventuellt kunde väntas undslippa mig något ofördelaktigt om hans husgud Karl Popper.³ Troligen uppfattade han den lätt retsamma glimten i mitt öga, men för säkerhets skull valde han att försäkra sig om snabb replikmöjlighet genom att schemalägga ett eget föredrag rubricerat "Kan vi lita på vetenskapen?" omedelbart efter mitt. Het debatt är möjligen att vänta.

Fotnoter

1) Ur programmet saxar jag följande sammanfattning.

Ett viktigt inslag i vetenskapliga metoder är att kunna testa sina teorier och resultat. Men om resultaten handlar om vad som ska ske långt in i framtiden uppstår ett problem. Exempelvis kan vi ju inte nu, år 2014, få något facit på hur väl förutsägelser om klimatet år 2100 stämmer. I detta föredrag diskuteras framtidsforskning ur statistiska, vetenskapsteoretiska och filosofiska perspektiv, med exempel hämtade både från klimatforskning och från andra brännande områden.

2) Den vetgirige gör klokt i att infinna sig redan en stund före 18:00, då Serik Sagitov inleder med att tala över ämnet "Matematisk fylogenetik".

3) Till Ulfs nya bok Karl Popper, falsifieringens profet avser jag inom kort återkomma här på bloggen.

Transcendence trailer

Hollywoodfilmen Transcendence med Johnny Depp i huvudrollen hade premiär i USA för några veckor sedan, den 10 april. Här i Sverige får vi vänta till den 21 juni innan den går upp på svenska biografer. Tills dess får vi nöja oss med den officiella trailern:

Filmen har fått mestadels negativa recensioner, men jag tänker ändå se den, då den ju (om vi får tro trailer och recensenter) tar upp återkommande ämnen här på bloggen som Singulariteten och uppladdning av mänskligt medvetande (oavsett filmens eventuella kvaliteter och brister vill jag gärna hålla mig à jour med hur dessa ämnen presenteras för bred publik). Det dramatiska inslaget att Depps AI-forskare tidigt i filmen blir skjuten av en neo-ludditisk terrorist är lånat inte bara från James Camerons mästerverk Terminator 2 från 1991, utan också från verkligheten.

Fysikern Stephen Hawking tog i en artikel häromdagen i The Independent,¹ tillsammans med AI-forskaren Stuart Russell och fysikerkollegorna Max Tegmark och Frank Wilczek, filmen som förevändning och avstamp för att skriva om Singulariteten:

With the Hollywood blockbuster Transcendence playing in cinemas, with Johnny Depp and Morgan Freeman showcasing clashing visions for the future of humanity, it's tempting to dismiss the notion of highly intelligent machines as mere science fiction. But this would be a mistake, and potentially our worst mistake in history.

Efter att ha ordat kort om dagens AI-utveckling och vad den i förlängningen kan komma att ge oss - "everything that civilisation has to offer is a product of human intelligence; we cannot predict what we might achieve when this intelligence is magnified by the tools that AI may provide, but the eradication of war, disease, and poverty would be high on anyone's list" - kommer de fyra forskarna över på de risker som också finns:

In the near term, world militaries are considering autonomous-weapon systems that can choose and eliminate targets; the UN and Human Rights Watch have advocated a treaty banning such weapons. In the medium term, as emphasised by Erik Brynjolfsson and Andrew McAfee in The Second Machine Age, AI may transform our economy to bring both great wealth and great dislocation.

Looking further ahead, there are no fundamental limits to what can be achieved: there is no physical law precluding particles from being organised in ways that perform even more advanced computations than the arrangements of particles in human brains. An explosive transition is possible, although it might play out differently from in the movie: as Irving Good realised in 1965, machines with superhuman intelligence could repeatedly improve their design even further, triggering what Vernor Vinge called a "singularity" and Johnny Depp's movie character calls "transcendence".

One can imagine such technology outsmarting financial markets, out-inventing human researchers, out-manipulating human leaders, and developing weapons we cannot even understand. Whereas the short-term impact of AI depends on who controls it, the long-term impact depends on whether it can be controlled at all.

Hawking, Russell, Tegmark och Wilczek avslutar med väsetligen samma budskap som denna bloggs läsekrets vid det här laget har vant sig vid att jag själv predikar, nämligen vikten av att ta frågan om radikala framtida AI-scenanrier på allvar, och att göra vårt bästa för att utröna hur vi kan förbättra chanserna för ett gynnsamt utfall:

So, facing possible futures of incalculable benefits and risks, the experts are surely doing everything possible to ensure the best outcome, right? Wrong. [...] Although we are facing potentially the best or worst thing to happen to humanity in history, little serious research is devoted to these issues outside non-profit institutes such as the Cambridge Centre for the Study of Existential Risk, the Future of Humanity Institute, the Machine Intelligence Research Institute, and the Future Life Institute. All of us should ask ourselves what we can do now to improve the chances of reaping the benefits and avoiding the risks.

Fotnot

1) Artikeln är misstänkt lik en bloggpost på The Huffington Post av samma namnkunniga kvartett den 19 april.

Liten bloggpost om desto större sak

Den ansamling av galaxer som upptäcktes i november förra året och som benämns The Hercules–Corona Borealis Great Wall mäter enligt Wikipedia mer än 10 miljarder ljusår från den ena änden till den andra.

Om trial-and-error

Vad händer om/när forskningen inom artificiell intelligens når ett genombrott och lyckas skapa en maskin med en allmännintelligens som överträffar människans? Kommer detta att leda till en intelligensexplosion och en så kallad teknologisk Singularitet? Detta är, vilket jag upprepade gånger (bl.a. här) framhållit, viktiga frågor som förtjänar långt större vetenskaplig uppmärksamhet än de får idag.

I sitt gästinlägg Why "intelligence explosion" and many other futurist arguments are nonsense i höstas här på bloggen hävdar David Sumpter att den tankeverksamhet som hittills ägnats frågorna är så spekulativ att den inte förtjänar kallas vetenskap, och därtill att frågorna är av sådan art att de knappast ens kan behandlas vetenskapligt. På dessa punkter är jag djupt oenig med David, och jag bemötte hans bloggpost i ett svar med rubriken No nonsense. Här och nu vill jag blott göra ett tillägg, rörande det alternativa förhållningssätt David förespråkar - dvs vad vi skall göra istället för att forska om den eventuella intelligensexplosionen. I sitt ursprungliga gästinlägg skriver han:

Now I don’t know if the "intelligence explosion" is true or not, but I can think of some models that are more probable. Maybe I can ask my smart phone to do something more than calling my wife and it will actually do it? Maybe a person-sized robot can walk around for two minutes without falling over when there is a small gust of wind? Maybe I can predict, within some reasonable confidence interval, climate change a number of years in to the future? Maybe I can build a mathematical model that predicts short-term economic changes? These are all plausible models of the future and we should invest in testing these models. Oh wait a minute... that’s convenient... I just gave a list of the type of engineering and scientific questions our society is currently working on. That makes sense!

Och i en kommentar till mitt svar fortsätter han:

It is impossible for me to rise to your challenge of rolling up my sleeves and get to work on the substance [regarding the problem of a possible intelligence explosion]. I would love to, but there is nothing substantive to work on. I have little data on which to build a model, nor has anyone supplied a concrete explanation of where to start. I could start working on a specific aspect, for example, automated learning for playing games or maybe models of social behaviour. But, actually, this is what I already do in my research. One day this information might provide a step in the path towards the Intelligence Explosion, but I have no way of saying how or when it will do so.

Enligt David är alltså vår bästa chans att förbättra kunskapsläget om något så grandiost futuristiskt som intelligensexplosionen följande: Vi bör helt enkelt släppa fokus på intelligensexplosionen och istället forska om mer jordnära ting. Ingen kan veta i förväg vart vetenskapen då skall föra oss och vilka oväntade upptäckter som skall uppdagas, men kanske kommer till slut något att uppenbaras som leder mot intelligensexplosionen.

Hans approach till problemet har något tilltalande ödmjukt över sig, men den duger enligt min mening inte. (Förtydligande: Det är helt OK om David Sumpter personligen anammar denna approach. Vad som inte går an är om forskarsamhället som helhet gör det.) Skälet är följande. Enligt min uppfattning (och många andras, inklusive Stuart Armstrong, James Barrat, Nick Bostrom, David Chalmers, Stephen Hawking, Bill Joy, James Miller, Anna Salamon, Kaj Sotala, Max Tegmark, Roman Yampolskiy och Eliezer Yudkowsky) är en eventuell intelligensexplosion förknippad med så kallad existentiell risk för mänskligheten - en risk för att vi helt enkelt går under, eller att vår potential till framtida blomstring går permanent förlorad. Sådana risker har vi inte råd att behandla på samma sätt som mer vardagliga och småskaliga risker. I sin uppsats Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards förklarar Bostrom varför:

Our approach to existential risks cannot be one of trial-and-error. There is no opportunity to learn from errors. The reactive approach – see what happens, limit damages, and learn from experience – is unworkable. Rather, we must take a proactive approach. This requires foresight to anticipate new types of threats and a willingness to take decisive preventive action and to bear the costs (moral and economic) of such actions.

Jag är helt enig med Bostrom här. Låt mig ändå, för diskussionens skull, ge sista ordet i denna bloggpost till AI-forskaren Ben Goertzel, som i sin läsvärda och infallsrika recension av Stuart Armstrongs nya bok Smarter Than Us: The Rise of Machine Intelligence invänder följande mot den Armstrong-Bostromska ståndpunkten om hur oacceptabel trial-and-errormetoden är:

I do agree with Armstrong that, before we launch superhuman AGIs upon the world, it would be nice to have a much better theory of how they operate and how they are likely to evolve. No such theory is going to give us any guarantees about what future superhuman AGIs will bring, but the right theory may help us bias and sculpt the future possibilities.

However, I think the most likely route to such a theory will be experimentation with early-stage AGI systems...

I have far more faith in this sort of experimental science than in "philosophical proofs", which I find generally tend to prove whatever the philosopher doing the proof intuitively believed in the first place...

Of course it seems scary to have to build AGI systems and play with them in order to understand AGI systems well enough to build ones whose growth will be biased in the directions we want. But so it goes. That's the reality of the situation. Life has been scary and unpredictable from the start. We humans should be used to it by now!

Att avslöja dålig vetenskap är viktigt

Den vetenskapliga litteraturen är gigantisk, och ofta skyms de viktiga och värdefulla studierna av de dåliga. Dålig forskning är ofta inte bara värdelös, utan sämre än så, då den sprider förvirring och mer allmänt bidrar till ett försämrat signal/brusförhållande i litteraturen.

Därför är det (vilket jag i åtminstone tio års tid påpekat) viktigt att dålig vetenskap avslöjas och exponeras.¹ Jag ägnar mig, som trogna läsare vet, själv emellanåt åt denna något oglamorösa och i vetenskapssamhället föga ansedda uppgift. När jag går loss mot sådan uppenbar dårpippi som den engelske teologen Richard Swinburne anspråk på att vetenskapligt argumentera för Guds existens har mina insatser måhända mest bara ett visst underhållningsvärde. Viktigare är att fästa strålkastarljuset på undermålig forskning i fall där denna ytligt sett kan vara till förväxling lik den goda högkvalitativa vetenskapen; se exempelvis mina bloggposter Artificial intelligence and Solomonoff induction, En anspråksfull bok om matematik och evolutionsbiologi och Om statistisk signifikans, epigenetik och de norrbottniska farmödrarna. Sådana enstaka insatser kan inte göra mycket mer än att skrapa på ytan av den uppsjö av dålig forskning som förekommer, men förhoppningsvis kan den ändå bidra till ökad medvetenhet om vikten av kritiskt tänkande och rigorös vetenskaplig metod.

Idag tänkte jag tipsa om ett par ytterligare exempel för den som vill ta del av (den ofta lärorika) nedplockningen av dålig vetenskap:

• I den uppmärksammade och välciterade artikeln Numerical Magnitude Representations Influence Arithmetic Learning av Julie Booth och Robert Siegler, publicerad 2008 i tidskriften Child Learning, saknas stöd i data för det påstående som författarna trumpetar ut i artikelrubriken. Det statistiska utfall som ligger till grund för deras slutsats kan nämligen fullt ut förklaras med fenomenet regression to the mean (eller regression mot medelvärdet som det ibland heter i halvhjärtad svensk översättning) - ett lite paradoxalt statistiskt fenomen som är tillräckligt vanligt förekommande för att platsa som en av punkterna på på den topplista om 20 saker journalister och makthavare bör veta om vetenskap som i höstas publicerades i Nature och The Guardian. Kimmo Eriksson² och jag förklarar Booths och Sieglers misstag utförligt i vår artikel Lord's Paradox in a Continuous Setting and a Regression Artifact in Numerical Cognition som häromdagen kom "i tryck" (ett alltmer anakronistiskt uttryck) i tidskriften PLOS ONE. Se även Kimmos kortare redogörelse på Curie-bloggen.

• Matematisk modellering inom molekylärbiologi och genomik är för närvarande ett fantastiskt dynamiskt och hett område där stora framsteg görs. Men inte allt inom området håller högsta kvalitet, och publiceringshetsen kan få enskilda forskare eller forskargrupper att ta genvägar och söka publicera uppsatser baserade på svag eller renatv undermålig forskning. Den Berkeleybaserade matematikern och beräkningsbiologen Lior Pachter skrev tidigare i år en serie intressanta och lärorika bloggposter där han påvisar hur även uppburna forskare på området ibland faller för sådana frestelser:
  • The network nonsense of Albert-László Barabási
  • The network nonsense of Manolis Kellis
  • Why I read the network nonsense papers

Fotnoter

1) Den verksamheten skall dock inte förväxlas med den verksamhet som bedrivs på klimatförnekarbloggar med orwellskt kllingande namn som t.ex. Klimatupplysningen, där samvetslösa klimatförnekare (ofta med professorstitlar) går loss mot allehanda klimatforskning, som regel inte för att där skulle finnas några metodfel, utan helt enkelt för att resultaten inte är i linje med vad klimatförnekarna skulle önska. På den klimatvetenskapliga folkbildningsbloggen Uppsalainitiativet, som jag är med och driver, försöker vi, så gott vi hinner med, att bemöta dessa klimatförnekare.

2) Kimmo hör till dem här i Sverige som tar renhållningsarbetet inom vetenskapen på störst allvar. Jag vill t.ex. varmt rekommendera hans och Brent Simpsons kompetenta nedplockning av en vida uppmärksammad men vetenskapligt undermålig studie från 2011 om hur amerikaner uppfattar fördelningen av ekonomiskt välstånd i samhället.

Robotiseringsreplik

Igår skrev jag kort om robotarnas intrång på arbetsmarknaden. Möjligen bidrog jag därmed till att inspirera bloggrannen Lars Wilderäng (även känd som Cornucopia) att just den annandag som är idag ta upp ämnet, under vinjetten Robotiseringen är inget hot. Det här är ett område där det gäller att kunna hålla flera tankar i huvudet samtidigt. Lars framhåller i sin bloggpost framför allt två:

(1) Automatisering och robotisering av mänskliga sysslor är något som pågått länge, och vi har alltid funnit ny användning för mänsklig arbetskraft.

(2) Automatisering och robotisering av mänskliga sysslor är något i grunden positivt, eftersom det befriar oss från tvånget att utföra dessa sysslor, och ger oss tid till annat.

Det här är en bra början. (Jag framhöll för övrigt båda sakerna i gårdagens bloggpost - varav den senare med stöd i vissångaren Kjell Höglunds kärnfullt begåvade sångtext Maskinerna är våra vänner.) Tillsammans pekar de på robotiseringen som något gott och oproblematiskt. Men precis som med alla andra stora samhällstrender kan det vara mödan värt att problematisera. Lars tar upp en problematisk aspekt:

(3) I takt med den tilltagande komplexiteten i vårt robotiserade samhälle blir vi allt mer sårbara: "Hotet är [...] om strömmen går eller någon bränner av en EMP. Då är vi i princip hjälplösa i dagens robotiserade värld."

Däremot är Lars direkt avvisande mot den problematisering jag igår lyfte fram:

(4) Kan vi räkna med att även fortsättningsvis fina nya meningsfulla sysselsättningar åt dem vilkas jobb blivit bortrationaliserade?

Han skräder inte orden: "Från fler och fler ludditer förs myten om robotiseringen och automatiseringen som ett hot mot våra jobb. [...] Missuppfattningen kring robotiseringen och automatiseringen handlar om en brist på analytisk förmåga, där man silar mygg och sväljer kameler." Hans argument förefaller uteslutande bestå i en observation av ovan nämnda trend (1), och han säger bl.a. att "vi har haft automatisering i 1000-talet år, och likväl har vi jobb, rent av har fler (nominellt) människor jobb idag än någonsin tidigare. Uppenbarligen har inte automatiseringen hotat mänsklighetens sysselsättning än så länge, även om enskilda enahanda jobb och yrken i princip har försvunnit".

Men att peka tillbaka på (1) räcker inte för att besvara (4). Inte alla trender fortsätter i evighet. Lars kan utan problem hitta gott om exempel inom ekonomi, energi och ändliga naturtillgångar - centrala teman för hans blogg - på trender som brutits eller som av enkla fysikaliska inte kan fortsätta obrutna. Eller se till den sedelärande fabel som kallas Russells kalkon (eller se den här xkcd-strippen för ett något mindre makabert exempel).

Just inom området robotisering av arbetstillfällen finns beaktansvärda skäl att ifrågasätta om mönstret (1) kan väntas fortskrida i evighet. Vårt stora trumfkort gentemot maskinerna har alltid varit vår intelligens, och då maskinerna börjat slå oss i både schack och Jeopardy har vi hela tiden kunnat svara att det där är starkt specialiserade uppgifter, och att vi fortfarande är överlägsna maskinerna i termer av allmänintelligens. Och det är vi, men hur länge då? Hur länge kommer mannen i nedanstående bild att kunna hålla teknikutvecklingen stången i sina försök att hävda mänsklighetens särart och överlägsenhet?

Teckning hämtad ur Ray Kurzweils bok The Singularity is Near från 2005 (men redan inaktuell).

Idag är det inte många seriösa bedömare som hävdar att mänskligt tänkande bygger på något slags magisk eller gudomlig essens, omöjlig att återskapa artificiellt. Och den mänskliga hjärnan är visserligen snillrik, men inte obegränsad i sin förmåga.¹ Av detta har många dragit (den i och för sig inte 100% tvingande) slutsatsen att det bara är en tidsfråga innan teknikutvecklingen, om den får fortskrida obehindrat, leder till en artificiell intelligens som bräcker oss människor i allt. Och vad händer då?

Det här är stora och svåra frågor, som varken Lars Wilderäng eller jag vet svaren på. Jag vill här bara tipsa honom om att när en eller annan debattör kommer fram till ett annat svar än han på frågan om huruvida robotiseringen utgör ett hot, så behöver det inte alltid bero på "en brist på analytisk förmåga". Det kan också vara så att vederbörande (som t.ex. kan vara Al Gore eller någon av de Axess-skribenter jag uppmärksammade igår) tänkt ett steg längre, genom att inte ta svaret på (4) för givet.

Fotnot

1) Försåvida inte vi tillåter oss radikal transhumanistisk modifiering av den mänskliga naturen, exempelvis via ingrepp i våra gener. Just detta har faktiskt fysikern Stephen Hawking föreslagit som förebyggande botemedel mot att vi blir akterseglade och krossade av våra robotar.