Aschenbrenner, Bostrom, Carlsmith

För första gången sedan hösten 2018 innehåller det nya numret av Förbundet Humanisternas medlemstidning Humanisten en artikel jag författat.¹ Denna gång bär min artikel rubriken AI-debattens ABC, där ABC står för de tre ledande AI-tänkarna Leopold Aschenbrenner, Nick Bostrom och Joe Carlsmith, vilka alla under 2024 utkommit med viktiga böcker eller boklånga essäer. Så här inleds min text:

När detta skrivs i augusti 2024 är en av de stora snackisarna inom AI – artificiell intelligens – den pinfärska forskningsrapporten The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery, vars författarkollektiv kommer från företaget Sanaka AI och ett par olika universitet. De har kommit långt i att automatisera vetenskaplig forskning, inklusive avgörande steg som brainstorming, hypotesgenerering, försöksplanering, datavisualisering och rapportförfattande. Lite i förbigående nämner de hur deras AI i en viss tillämpning hindrades av en restriktion i hur länge dess beräkningar kunde exekveras, och hur AI:n då gick in och försökte redigera sin egen programkod i syfte att eliminera denna restriktion. För oss som kan vår AI-historik är det omöjligt att inte associera till Alan Turings spekulationer i en berömd föreläsning 1951, om hur tillräckligt intelligenta maskiner skulle kunna nå en tröskel där de kan börja förbättra sig själva utan vidare mänsklig inblandning, och hur en sådan utveckling kan väntas leda till att vi till slut förlorar kontrollen över maskinerna.

Turing brukar med rätta framhållas som en av 1900-talets mest banbrytande tänkare och som den största AI-pionjären av alla. Det sistnämnda alltså trots att han dog redan 1954 (för egen hand, till följd av det brittiska rättssystemets på den tiden barbariska syn på homosexualitet), ännu inte 42 år fyllda, och därmed inte fick uppleva det som numera räknas som AI-forskningens egentliga startskott två år senare, sommaren 1956. Då samlades ett antal av USA:s ledande matematiker för en sommarkonferens vid Dartmouth College i New Hampshire kring den ambitiösa idén att skapa datorprogram med förmågor som vi dittills hade sett som unikt mänskliga: språkanvändning, skapande av abstraktioner, lärande och självförbättring. Mötet kom att sätta stark prägel på decennier av fortsatt arbete, och de utmaningar som då formulerades står än idag i centrum för AI-forskningen. De höga förväntningarna var tidvis svåra att leva upp till, så till den grad att området kom att genomgå ett par perioder av så kallad AI-vinter, och det var först på 2010-talet som den exponentiellt ökande tillgången till datorkraft och datamängder gjorde att gamla neurala nätverksidéer började bära frukt på allvar och ge stora framgångar inom så olika tillämpningar som bildigenkänning, brädspel och autonoma fordon.

För den breda allmänheten är det de senaste årens utvecklingen av så kallade språkmodeller som blivit mest synlig: marknadsledande här är OpenAI, vars lansering av ChatGPT i november 2022 för första gången gjorde det möjligt för gemene man att föra samtal med en till synes intelligent AI. Under de knappa två år som sedan förflutit har utvecklingen fortsatt i rasande takt, och ovan nämnda produkt från Sanaka är bara ett av många dramatiska framsteg som alltmer pekar mot att vi närmar oss det som kallas AGI – artificiell generell intelligens – och den kritiska punkt som Turing talade om i sina varningsord från 1951. Att AI-utvecklingen radikalt kommer att transformera många samhällssektorer och även samhället som helhet blir alltmer uppenbart, och även om teknikens potential att skapa ekonomiskt välstånd är i det närmaste obegränsad finns också risken att ett slarvigt genomfört AI-genombrott leder till vår undergång.

Detta slags farhågor har det senaste decenniet lett till ökade satsningar på det som kommit att kallas AI Alignment – AI-forskning specifikt inriktad på att se till att de första i fråga om allmänintelligens övermänskligt kapabla AI-systemen har mål och drivkrafter som prioriterar mänsklig välfärd och mer allmänt är i linje med mänskliga värderingar. Detta har dock visat sig vara lättare sagt än gjort, satsningarna på AI Alignment är ännu små (i förhållande till AI-utvecklingen som helhet), och vi verkar idag vara mycket långt ifrån en lösning. Härav de senaste årens diskurs från tänkare som Eliezer Yudkowsky och Max Tegmark som de senaste åren varnat för att satsningar på AI Alignment kanske inte räcker till, och att vi därför behöver dra i nödbromsen för utvecklingen av de allra mest kraftfulla AI-systemen; även jag har alltmer kommit att ansluta mig till denna tankegång.

Samtidigt finns det de som hävdar att allt tal om existentiell AI-risk är grundlös science fiction och som stämplar oss som lyfter dessa farhågor som domedagspredikanter. I spetsen för denna motdebatt finns kända namn som IT-entreprenören Marc Andreessen och Metas AI-forskningschef Yann LeCun, men för att försvara deras position behöver man anta antingen att AI-utvecklingen automatiskt kommer att avstanna innan den nått övermänsklig allmänintelligens, eller att en övermänskligt intelligent AI på något sätt automatiskt skulle anamma en för mänskligheten gynnsam uppsättning värderingar. Den första av dessa linjer tenderar att implicit postulera någon närmast magisk förmåga hos den mänskliga hjärnan, något som är svårt att passa in i en ickereligiös naturalistisk världsbild, och den andra har visat sig ungefär lika ohållbar.

Precis som intressant och konstruktiv klimatdiskussion undviker att fastna i polemik med klimatförnekarnas insisterande på att den globala uppvärmningen antingen är en chimär eller är oberoende av mänsklig aktivitet, så lämnar den mest givande AI-diskussionen idag det Andreessen-LeCunska AI-riskförnekeriet därhän, och blickar istället framåt, med fokus på hur vi bör tänka för att bäst navigera en osäker framtid. För den som vill fördjupa sig i den för vår framtid så avgörande AI-frågan vill jag ur 2024 års bokutbud rekommendera tre böcker som alla tar detta grepp, men som i övrigt ger inbördes väldigt olika perspektiv. Det handlar om...

Läs den spännande fortsättningen här!

Fotnot

1) Jag håller lite grand andan inför vilka läsarreaktionerna blir denna gång. Förra gången uppstod ett visst palaver, vilket om jag inte missminner mig landade i att en medlem vid namn Ernst Herslow utträdde ur Humanisterna i vredesmod över att synpunkter som mina fick lov att ventileras i medlemstidningen.

Hårt angripen i Humanisten

Igår fick jag hem det nya numret 1/2019 av Humanisternas medlemstidning Humanisten i brevlådan. Bland mycket annat bjuder det på ett rasande angrepp på mig av en medlem vid namn Ernst Herslow, som är så upprörd över vad jag i det föregående numret 4/2018 skriver om klimatfrågan och hur jag tycker att Humanisterna bör förhålla sig, att han villkorar sitt fortsatta medlemskap med att styrelsen tar avstånd från mina ståndpunkter. Med anledning av det utmärkta svaret till Herslow från styrelseledamoten Patrik Lindenfors förmodar jag att han (Herslow) nu lämnar Humanisterna.

Jag har ingen anledning att tro att Ernst Herslow läser denna blogg, men om någon läsare råkar känna honom undrar jag om ni kan hälsa honom följande.

Herslow är givetvis i sin fulla rätt att ha vilka (miss-)uppfattningar i klimatfrågan han vill, att torgföra dessa, och att gå till storms mot mig. Men jag skulle önska att, om han nu känner ett så trängande behov av att göra det sistnämnda, han höll sig till att angripa ståndpunkter jag faktiskt har och yttranden jag faktiskt gjort, istället för att fabulera och fantisera. Det irriterar mig en smula när han tillskriver mig ordvalet "avfälling"¹ och den gravt felaktiga uppfattningen att "ett så komplext och kaotiskt system [som klimatet], med så många okända faktorer, styrs av en enda komponent, nämligen koldioxid"².

Fotnoter

1) Såpass språkkänsla har jag att jag uppfattar det ordets sektmentalitetskonnotationer, och jag kan inte minnas att jag någonsin skulle ha tagit det i min mun.

2) Atmosfärens koldioxidhalt har stor betydelse för klimatet, men är givetvis inte den enda faktor som påverkar. Se t.ex. min gamla Uppsalainitiativet-bloggpost Koldioxid och procentsiffror för en närmare diskussion.

Seglora smedja vid vägs ände

Vi är vana vid att tänka på Svenska kyrkan som snäll - att den står för snällast möjliga lättmjölkskristendom fjärran från tankevärlden hos galna amerikanska presidentkandidater som går till storms mot ogudaktigheter som homosexualitet och preventivmedel, eller hos de Livets Ords framgångsteologer vilka låter hadikappade få veta att Gud har låtit lemlästa dem för att de har syndat. De senaste månaderna har allt fler sprickor börjat synas i denna snällhetsfasad. Jag har tidigare rapporterat här på bloggen om en del av de aggressioner som bubblat upp från Svenskkyrkligt håll, framför allt mot personer som i offentlig debatt haft mage att ta strid för oskyldiga gossebarns kroppsliga integritet och rätt att slippa utsättas för medicinskt omotiverade och irreversibla kirurgiska ingrepp.

Till de mest upphetsade rösterna hör den av Svenska kyrkan sponsrade nättidningen Seglora smedja och dess redaktör och grundare, prästen och journalisten Helle Klein. Invektiven därifrån har under en tid eskalerat allt mer, men nu tror jag faktiskt att de har nått vad som måste beskrivas som vägs ände och ett närmast ounderträffbart bottennapp, sedan de släppt in den unge teologistudenten Petter Zachrisson att, så rakt och oförblommerat det bara är möjligt utan att explicit nämna Adolf Hitler vid namn, bunta ihop två av deras meningsmotståndare med denne:

Man kan tycka att det är en metadebatt när personer som Annika Borg och Christer Sturmark äter upp så mycket mediautrymme, men minnet av hur totalitära ideologier växte fram under 1900-talet som ledde fram till folkmord och förtryck får aldrig glömmas bort.

Är fortsatt debatt och en återgång till sakfrågan överhuvudtaget möjlig efter ett sådant lågvattenmärke? Från Humanisternas sida (där Sturmark är förbundsordförande) har man valt en annan väg: att bidra till den kaskad av Domkapitelsanmälningar som vinterns debatt fört med sig. Det hela är på sätt och vis farsartat, men framför allt väldigt dystert.

Nidbilderna av Humanisterna behöver bemötas

Jag är medlem (och var under en tid till och med styrelseledamot) i Förbundet Humanisterna, vars icke-religiösa livssyn och arbete för ett sekulärt samhälle provocerar många. Gång efter annan hamnar vi i skottlinjen för ilskna utfall på debattsidor och annorstädes. Gemensamt för nästan alla våra kritiker är att de målar upp groteska och gravt osakliga nidbilder av oss - beskrivningar som är omöjliga att känna igen sig i.

Dessa nidbilder behöver bemötas, vilket jag för några år sedan ägnade en del kraft åt med inlägg bland annat i Borås Tidning 30/5 2007, i Kristdemokraten 18/11 2007 och i Axess 2/2008. Sedan dess har mitt försvar av Humanisterna och det vi står för kommit att få stå tillbaka för andra debatter och andra uppgifter jag tagit på mig. Men som väl är finns andra som sköter saken alldeles förträffligt. Christer Sturmarks enträgna arbete bör naturligtvis nämnas i detta sammanhang.

Idag vill jag dock uppmärksamma en annan av Humanisternas, sekularismens och det rationella tänkandets försvarare, nämligen Per Dannefjord, engagerad styrelseledamot i Humanisterna och lektor i sociologi vid Linnéuniversitetet. Läs hans dagsfärska suveräna uppgörelse på Newsmill med tre aktuella men djupt ohederliga angrepp på Humanisterna! Sakligt och elegant dissekerar han besynnerliga utfall från Anders Björnsson och Börje Peratt, samt den om möjligt ännu bisarrare Marcus Birro-krönika jag för inte så länge sedan behandlade ur ett lite annat perspektiv här på bloggen.

Varför är då detta viktigt? Med Per Dannefjords egna ord:

Kritiken mot förbundet Humanisterna och det sekulära samhällets förespråkare tycks ha nått en ny fas. Det finns många frågor i den debatt som förs som är både rimliga och möjliga att diskutera. Vi kan diskutera religiösa friskolor, abortlagstiftning, kulturell särbehandling, åtgärder mot kvinnoförtryck, skolavslutningar, aktiv dödshjälp, kunskapsteori, rasism och en massa annat. I alla dessa frågor finns det en uppsättning fakta, olika argument och skilda värderingar. Vi kan undersöka konsekvenserna av olika handlingar och vi kan pröva våra uppfattningar på rationella eller känslomässiga sätt. Vi kan också diskutera skillnader och likheter mellan de rationella eller känslomässiga argumenten. Det finns olika uppfattningar i olika grupperingar och det finns också olika uppfattningar inom var och en av dessa grupperingar. Det finns exempelvis olika åsikter inom förbundet Humanisterna precis som det finns olika synsätt och argument inom kyrkan. Ibland missförstår vi varandra och ibland är vi inte bättre människor än att vi trycker till lite extra i onödan. Detta är inget konstigt och att debatten emellanåt blir hård och får ett uppskruvat tonläge är ofrånkomligt. Det måste alla som ger sig in i debatten vara beredda att acceptera.

Det verkar hända nu är emellertid något annat än att debatten skruvats upp. Nu debatterar Humanisternas motståndare genom att hitta på. Vi ställs inför påståenden som är helt osanna och tvingas ta kritik för saker som vi aldrig sagt eller tyckt. Detta är sorgligt och kan inte leda debatten framåt, oavsett på vilken sida man står. Det är enkelt att göra poänger genom att uppfinna en fiende, men det är djupt olyckligt när de åsikter som uppfinns knyts till en existerande organisation eller, än värre, till enskilda personer.

På kort tid har Marcus Birro (Expressen), Anders Björnsson (Newsmill 110824) och Börje Peratt (Newsmill 110902) skrivit artiklar där Humanisterna, "ny-ateisterna" och sekularismen angrips på de mest besynnerliga sätt. Alla tre kan, lite beroende på hur man läser dem, anses ta upp enskildheter som går att diskutera. Jag tänker dock bortse från detta. Jag är inte intresserad av att i nuläget diskutera de sakfrågor de tar upp, helt enkelt därför att deras texter innehåller så mycket märkligheter som måste rensas bort innan någon verklig diskussion blir möjlig. De tycks, medvetet eller omedvetet, försöka ge en frånstötande bild av Humanisterna genom att tillskriva organisationen, dess medlemmar och företrädare obehagliga åsikter och egenskaper. Problemet är att dessa tillskrivningar är osanna och åsikterna är produkter av deras fantasi, eller - än värre - avsiktliga nidbilder.