Jag har ofta skrivit här på bloggen om de katastrofala risker som är förknippade med ett genombrott inom AI (artificiell intelligens). Men vad händer om vi lyckas åstadkomma ett AI-genombrott där maskinerna varken tar kål på mänskligheten eller håller oss som slavar eller som föremål för deras sadistiska tortyrnöjen? Låt oss säga att vi faktiskt lyckas ordna så att maskinerna har vårt bästa för ögonen. Är allt frid och fröjd då? Jag är inte helt säker på det, liksom inte heller Saturday Morning Breakfast Cereal-tecknaren Zach Weiner är:
När Mark Twain fick tillvaron innanför Pärleporten beskriven för sig, tyckte han att den tedde sig så torftig att han beslöt sig för att försöka komma till "det andra stället".
SvaraRaderaZach Weiner snuddar här vid de bekymmersamma tankar som jag var inne på i min snart ett år gamla bloggpost Superintelligence odds and ends I: What if human values are fundamentally incoherent.
SvaraRaderaÄr dåligt bevandrad i vad AI egentligen är, en del var väl cybernetics och sådan där systemteori, som samhällsvetarna sedan kidnappade. Men det verkar ju gå framåt med stormsteg med deep learning (kurvanpassning), en slags systematik med en grundläggande träningskorpus, och sedan tillgång till en förfärlig mängd data. Stefan på Computer Vision på KTH höll ett lärorikt föredrag, att efter en lång mörkervandring på slutet av sin forskarbana ha funnit ljuset, funktionen, utan att det ännu fanns en tydlig teori bakom.
SvaraRaderaKanske ska man skilja på lager (arkiv, bibliotek och databaser) och på beslutsfattandet, tex en robot som spelar schack eller fattar beslut om köp/sälj på en marknad (med hjälp av aktuell och historisk data)
Hittills har ju databaser begränsats av relationsdatabaser, som vars främsta egenskapn är att de saknar relationer. Data är substantiverat i klasser (universalier) vilket innebär att adjektiven är egenskaper, som sas särskiljer en klass. Men man har lite tappat verben. Vad som skiljer en tvååring från en ettåring är just verben, och det är en ganska stor skillnad, då verb kan vara transitiva eller intransitiva, dvs i någon mån riktade eller inte riktade mot ett objekt.
Därför är nog utvecklingen mot grafdatabaser intressant, att viss data mår bra av att komma ut ur garderoben, och bli lite mer "verbig"
Nog handlar beslut(sfattande) och AI om verb?
If angry Crocodile
then run
(or dont swim)
Så tricket (med databaserna) och kanske den där "big data" mängd-datan är att dels ha en fast grund, tex en terminologi, tex otvetydiga regler för att gå med och sedan behålla medlemskapet i en klubb, tex Euron, och se till att dessa reglers kriterier inte kan manipuleras misstolkas etc. I den stokastiska naturen självrelgeras allt, och där människan finns, ett AI i sig, så går det nästa alltid åt pipsvängen, pga komplexitet och människans förmåga att framställa sig som god (och smart), lite gud så där. Kommendera (fatta verbiga beslut) är en sak, kontrollera en annan, och vad kommenderar vi för objekt och på vilken information, och vad är det sedan vi ska kontrollera? Hur den som ska utföra verbet, tolkade ordern och sedan valde att förpacka kontrolldatat?
C2 command controll
C2I Command Control Intelligence
C2IS Command Control Information Systems
C3 Command Control Communication (Human activity)
C3 Command Control Communications (Technology)
C3 Consultation Command Control [NATO-grej]
C3I Command Control Communications Intelligence
Sammanfattat till:
Consultation Command Control
Intelligence
Information Systems
Communication (Human activity)
Communications (Technology)
S.W
Men man blir inte klokare, i grunden är det ett subjekt, som ska fatta beslut om ett objekt, med hjälp av kunskap (om)
SvaraRaderavad vi varit
var vi är (en funktion av varit)
vart vi är på väg, med eller utan ett beslut från subjektet.
och då kommer man sannolikt in på mikro och makro, gick det att isolera Irak från resten av världen, innan Bush kommenderade anfall, det fanns ingen data som stödde (det officiella) beslutet, och kontrollen, jag den tappade man fullständigt, men vi fick IS som ett resultat. Kurvanpassning tillämpad på fria, bildade och självtänkande individer, som fattar självständiga beslut, är nog rätt bra AI, och kurvanpassning tillämpad på ängsliga får, som följer John, är nog mindre bra, tom för den tosseboll som lyckats manipulera sig till att sitta högst upp i nätverket. Makro-frågan löser man ändå inte, mellan universalier, kategorier och primitiver, i vart fall inte språkligt.
partikulärt substantiv < - > partikulärt substantiv
partikulärt substantiv < - > universalt substantiv
universalt substantiv < - > universalt substantiv
sedan samma sak med verben och adjektiven
sedan knö i detta med primitiver, Nicolai Hartmann gjorde goda försök numera bland annat John Sowa. Allt känns kusligt Aristoteliskt. S.W
När det gäller utbrytningsscenariot (en ASI som överlistar oss) så används ofta argumentet: att vi måste tillåta oss anta att en ASI kommer att kunna komma på smartare lösningar än vi (med våra begränsningar) kan förrställa oss.
SvaraRaderaBorde man inte göra liknande antaganden om ASI som jobbar för vårt bästa? Vem som helst kan ju förstå att människor riskerar att känna sig understimulerade och obehövda. Per definition förstår ju en ASI det också (bättre än vi).
Hej Olle, jag har inte läst speciellt mycket mer än vad du skrivit om riskerna med framtida AI, men jag inbillar mig att den här bloggen är rätt allmänbildande i frågan :). Nå, rätta mig om jag missat något, men det är en fråga i det här som jag inte sett behandlas hittills:
SvaraRaderaOm risken med AI-n är befintlig, borde inte samma typ av risk föreligga även för AI-n när den utvecklar AI-(n+1)?
Har frågan behandlats? Intuitivt tycker jag att riskerna borde öka i takt med att AI:ns intelligens ökar, men det kan måhända vara tämligen enfaldigt.
Ingen risk, säger jag. Vi ägnar oss fortfarande åt att spela schack trots att datorer kan göra det utan oss, åt att simma trots att det finns ubåtar, åt att springa ikapp trots att det finns maskiner (eller för den delen hästar och geparder) som kan springa/köra om oss. Mänskliga aktiviteter är ofta intressanta för att de är mänskliga, inte för det resultat de ger.
SvaraRaderaDäremot kan jag tänka mig att ett maskinparadis skulle leda till att vi börjar uppskatta saker som vi nu bara tycker är jobbiga och inte inser att vi behöver. På samma sätt som vi numera ”motionerar” för att ersätta de rörelser som maskiner tagit över, skulle vi kanske t.ex. behöva åka på stressläger då och då ifall maskinerna tagit ifrån oss all stress. Det är det enda exemplet jag kan komma på, men det beror säkert på det begränsade perspektivet jag har av att inte leva i ett tillräckligt genomfört maskinparadis.
Min fd. kollega vid KTH, Lasse Johansson, har skrivit följande:
SvaraRaderaJust nu håller jag på att läsa "Arbetssamhället", en bok om all
irrationalitet och meningslöst arbete som måste till då automation och
robotisering gör arbetskraften alltmer överflödig.
http://www.adlibris.com/se/bok/arbetssamhallet---hur-arbetet-overlevde-teknologin-9789140671370
Fram till nittonhundratalet har all ekonomisk teori handlat om hur man
skall hantera och motverka knappheten. Med nuvarande teknikutveckling
har dess frågeställningar blivit irrelevanta. Det är inte längre
knappheten som är problemet utan överflödet. Lösningen är absurd
överkonsumtion och improduktivt arbete.
Den gamla moralen "den som inte arbetar skall inte längre äta" kommer
att skuldbelägga majoriteten av jordens befolkning, och hålla den
utanför "konsumtionen". För jobben kommer inte att räcka åt alla. I
synnerhet om man får för sig att minska konsumtion och produktion av
miljöskäl.
Det skulle vara lite intressant att se din kommentar på Peter Olaussons inlägg på bloggeb Faktoider.
SvaraRaderahttp://faktoider.blogspot.se/2015/09/myten-om-ai-katastrofen.html
Jag fick samma propå på Facebook häromdagen, fast det var "reaktioner" som efterfrågades snarare än en kommentar, men det kan väl gå på ett ut. Mitt svar blev i alla fall följande.
Radera"Vadå reaktioner [...], är det från mig du väntar dig sådana, och i så fall varför? Jag kan inte finna något i bloggposten värt att reagera på, inga argument, bara ett naket 'jag tycker att Yudkowsky är fånig'."
Håller med om att argument saknas. Han brukar kunna bättre.
SvaraRadera