måndag 6 juli 2015

Ett AI-genombrott för mänsklighetens bästa?

Jag har ofta skrivit här på bloggen om de katastrofala risker som är förknippade med ett genombrott inom AI (artificiell intelligens). Men vad händer om vi lyckas åstadkomma ett AI-genombrott där maskinerna varken tar kål på mänskligheten eller håller oss som slavar eller som föremål för deras sadistiska tortyrnöjen? Låt oss säga att vi faktiskt lyckas ordna så att maskinerna har vårt bästa för ögonen. Är allt frid och fröjd då? Jag är inte helt säker på det, liksom inte heller Saturday Morning Breakfast Cereal-tecknaren Zach Weiner är:

11 kommentarer:

  1. Arne Söderqvist6 juli 2015 10:36

    När Mark Twain fick tillvaron innanför Pärleporten beskriven för sig, tyckte han att den tedde sig så torftig att han beslöt sig för att försöka komma till "det andra stället".

    SvaraRadera
  2. Zach Weiner snuddar här vid de bekymmersamma tankar som jag var inne på i min snart ett år gamla bloggpost Superintelligence odds and ends I: What if human values are fundamentally incoherent.

    SvaraRadera
  3. Är dåligt bevandrad i vad AI egentligen är, en del var väl cybernetics och sådan där systemteori, som samhällsvetarna sedan kidnappade. Men det verkar ju gå framåt med stormsteg med deep learning (kurvanpassning), en slags systematik med en grundläggande träningskorpus, och sedan tillgång till en förfärlig mängd data. Stefan på Computer Vision på KTH höll ett lärorikt föredrag, att efter en lång mörkervandring på slutet av sin forskarbana ha funnit ljuset, funktionen, utan att det ännu fanns en tydlig teori bakom.

    Kanske ska man skilja på lager (arkiv, bibliotek och databaser) och på beslutsfattandet, tex en robot som spelar schack eller fattar beslut om köp/sälj på en marknad (med hjälp av aktuell och historisk data)

    Hittills har ju databaser begränsats av relationsdatabaser, som vars främsta egenskapn är att de saknar relationer. Data är substantiverat i klasser (universalier) vilket innebär att adjektiven är egenskaper, som sas särskiljer en klass. Men man har lite tappat verben. Vad som skiljer en tvååring från en ettåring är just verben, och det är en ganska stor skillnad, då verb kan vara transitiva eller intransitiva, dvs i någon mån riktade eller inte riktade mot ett objekt.

    Därför är nog utvecklingen mot grafdatabaser intressant, att viss data mår bra av att komma ut ur garderoben, och bli lite mer "verbig"
    Nog handlar beslut(sfattande) och AI om verb?

    If angry Crocodile
    then run
    (or dont swim)

    Så tricket (med databaserna) och kanske den där "big data" mängd-datan är att dels ha en fast grund, tex en terminologi, tex otvetydiga regler för att gå med och sedan behålla medlemskapet i en klubb, tex Euron, och se till att dessa reglers kriterier inte kan manipuleras misstolkas etc. I den stokastiska naturen självrelgeras allt, och där människan finns, ett AI i sig, så går det nästa alltid åt pipsvängen, pga komplexitet och människans förmåga att framställa sig som god (och smart), lite gud så där. Kommendera (fatta verbiga beslut) är en sak, kontrollera en annan, och vad kommenderar vi för objekt och på vilken information, och vad är det sedan vi ska kontrollera? Hur den som ska utföra verbet, tolkade ordern och sedan valde att förpacka kontrolldatat?

    C2 command controll

    C2I Command Control Intelligence

    C2IS Command Control Information Systems

    C3 Command Control Communication (Human activity)

    C3 Command Control Communications (Technology)

    C3 Consultation Command Control [NATO-grej]

    C3I Command Control Communications Intelligence

    Sammanfattat till:
    Consultation Command Control

    Intelligence
    Information Systems
    Communication (Human activity)
    Communications (Technology)
    S.W

    SvaraRadera
  4. Men man blir inte klokare, i grunden är det ett subjekt, som ska fatta beslut om ett objekt, med hjälp av kunskap (om)
    vad vi varit
    var vi är (en funktion av varit)
    vart vi är på väg, med eller utan ett beslut från subjektet.

    och då kommer man sannolikt in på mikro och makro, gick det att isolera Irak från resten av världen, innan Bush kommenderade anfall, det fanns ingen data som stödde (det officiella) beslutet, och kontrollen, jag den tappade man fullständigt, men vi fick IS som ett resultat. Kurvanpassning tillämpad på fria, bildade och självtänkande individer, som fattar självständiga beslut, är nog rätt bra AI, och kurvanpassning tillämpad på ängsliga får, som följer John, är nog mindre bra, tom för den tosseboll som lyckats manipulera sig till att sitta högst upp i nätverket. Makro-frågan löser man ändå inte, mellan universalier, kategorier och primitiver, i vart fall inte språkligt.

    partikulärt substantiv < - > partikulärt substantiv

    partikulärt substantiv < - > universalt substantiv

    universalt substantiv < - > universalt substantiv

    sedan samma sak med verben och adjektiven

    sedan knö i detta med primitiver, Nicolai Hartmann gjorde goda försök numera bland annat John Sowa. Allt känns kusligt Aristoteliskt. S.W

    SvaraRadera
  5. När det gäller utbrytningsscenariot (en ASI som överlistar oss) så används ofta argumentet: att vi måste tillåta oss anta att en ASI kommer att kunna komma på smartare lösningar än vi (med våra begränsningar) kan förrställa oss.

    Borde man inte göra liknande antaganden om ASI som jobbar för vårt bästa? Vem som helst kan ju förstå att människor riskerar att känna sig understimulerade och obehövda. Per definition förstår ju en ASI det också (bättre än vi).

    SvaraRadera
  6. Hej Olle, jag har inte läst speciellt mycket mer än vad du skrivit om riskerna med framtida AI, men jag inbillar mig att den här bloggen är rätt allmänbildande i frågan :). Nå, rätta mig om jag missat något, men det är en fråga i det här som jag inte sett behandlas hittills:

    Om risken med AI-n är befintlig, borde inte samma typ av risk föreligga även för AI-n när den utvecklar AI-(n+1)?

    Har frågan behandlats? Intuitivt tycker jag att riskerna borde öka i takt med att AI:ns intelligens ökar, men det kan måhända vara tämligen enfaldigt.

    SvaraRadera
  7. Ingen risk, säger jag. Vi ägnar oss fortfarande åt att spela schack trots att datorer kan göra det utan oss, åt att simma trots att det finns ubåtar, åt att springa ikapp trots att det finns maskiner (eller för den delen hästar och geparder) som kan springa/köra om oss. Mänskliga aktiviteter är ofta intressanta för att de är mänskliga, inte för det resultat de ger.

    Däremot kan jag tänka mig att ett maskinparadis skulle leda till att vi börjar uppskatta saker som vi nu bara tycker är jobbiga och inte inser att vi behöver. På samma sätt som vi numera ”motionerar” för att ersätta de rörelser som maskiner tagit över, skulle vi kanske t.ex. behöva åka på stressläger då och då ifall maskinerna tagit ifrån oss all stress. Det är det enda exemplet jag kan komma på, men det beror säkert på det begränsade perspektivet jag har av att inte leva i ett tillräckligt genomfört maskinparadis.

    SvaraRadera
  8. Arne Söderqvist11 juli 2015 06:58

    Min fd. kollega vid KTH, Lasse Johansson, har skrivit följande:

    Just nu håller jag på att läsa "Arbetssamhället", en bok om all
    irrationalitet och meningslöst arbete som måste till då automation och
    robotisering gör arbetskraften alltmer överflödig.
    http://www.adlibris.com/se/bok/arbetssamhallet---hur-arbetet-overlevde-teknologin-9789140671370

    Fram till nittonhundratalet har all ekonomisk teori handlat om hur man
    skall hantera och motverka knappheten. Med nuvarande teknikutveckling
    har dess frågeställningar blivit irrelevanta. Det är inte längre
    knappheten som är problemet utan överflödet. Lösningen är absurd
    överkonsumtion och improduktivt arbete.

    Den gamla moralen "den som inte arbetar skall inte längre äta" kommer
    att skuldbelägga majoriteten av jordens befolkning, och hålla den
    utanför "konsumtionen". För jobben kommer inte att räcka åt alla. I
    synnerhet om man får för sig att minska konsumtion och produktion av
    miljöskäl.

    SvaraRadera
  9. Det skulle vara lite intressant att se din kommentar på Peter Olaussons inlägg på bloggeb Faktoider.
    http://faktoider.blogspot.se/2015/09/myten-om-ai-katastrofen.html

    SvaraRadera
    Svar
    1. Jag fick samma propå på Facebook häromdagen, fast det var "reaktioner" som efterfrågades snarare än en kommentar, men det kan väl gå på ett ut. Mitt svar blev i alla fall följande.

      "Vadå reaktioner [...], är det från mig du väntar dig sådana, och i så fall varför? Jag kan inte finna något i bloggposten värt att reagera på, inga argument, bara ett naket 'jag tycker att Yudkowsky är fånig'."

      Radera
  10. Håller med om att argument saknas. Han brukar kunna bättre.

    SvaraRadera