En medborgare och matematiker ger synpunkter på samhällsfrågor, litteratur och vetenskap.
Många skulle svara: Men det är väl självklart vad en intelligent maskin skulle ha för mål? En självmedveten maskin vill ju hålla sig själv vid liv, föröka sig och ta över, om den bara kunde!
Men detta, hävdar jag, är ett felslut. Det är inte alls självklart att en självmedveten maskin skulle vilja det.
Vi tycker det vore självklart därför att vi, som biologiska organismer, genetiskt präglade av ca 3,6 miljarder års evolution, är så hårt programmerade att se överlevande och förökning som självklart goda saker. Om vi kunde spåra alla våra släktingar i rakt nedstigande led till de första cellerna, så skulle vi se att det som förenar samtliga anfäder och anmödrar var önskan och förmågan att fortplanta sig. Av de organismer som tappade lust eller förmåga att fortplanta sig, så har ingen avkomma överlevt. Trivialt, men samtidigt fundamentalt!
Evolutionens mekanismer fungerar alltså så att den organism som sammantaget har största drivkraften och förmågan att föröka sig och ta över så mycket som möjligt av sin miljö, är den som i det långa loppet har bäst chans att överleva. Följden är att vi har livsdriften bokstavligt talat kodad i våra gener. Endast de organismer som har generna för denna obändiga vilja till liv och expansion är de som faktiskt överlever. Alla andra försvinner.
Inget av detta gäller AI-maskiner. De har aldrig utsatts för evolution på så sätt att en maskin som, på något rudimentärt sätt, uppvisat en förmåga att motstå att bli avstängd har gynnats genom att man tillverkat flera sådana maskiner.
(2) Man kan också tänka sig att en AI-utvecklare med vett och vilje bygger in drivkrafter i sin AI om att försvara sig, förbättra sig, reproducera sig och ta över världen. Det finns knappast några principiella hinder mot att programmera något sådant. En invändning skulle dock kunna vara att det förefaller så katastrofalt livsfarligt att göra det att ingen någonsin skulle försöka sig på en sådan sak. Historien ger emellertid inte några entydigt positiva besked om vår förmåga att stå emot frestelsen att bygga domedagsvapen, och det finns tillräckligt med fanatiska terrorister och Kim Jong-un-typer (för att inte tala om alla uttråkade tonåringar med hackerböjelser) för att vi inte rimligtvis skall känna oss säkra på att inga sådana AI-projekt pågår eller är att vänta.
(3) Det finns en mycket intressant teori utvecklad av Steve Omohundro som handlar om en uppsättning instrumentella drivkrafter som varje tillräckligt intelligent, självständigt och flexibelt tänkande AI kan väntas utveckla, nästan oavsett vilka ultimata drivkrafter som programmerats in i den från början; se Omohundros uppsatser The Basic AI Drives och Rational Artificial Intelligence for the Greater Good, och Nick Bostroms The Superintelligent Will. En AI kan vara tillverkad för ett till synes helt harmlöst syfte, som att tillverka så många gem som möjligt eller att vinna så många schackpartier mot starka spelare som möjligt, men kommer ändå då den nått en viss grad av allmänintelligens att sträva efter att förbättra sig själv, att få tillgång till större beräkningskapacitet, att undvika att bli avstängd och att bygga många kopior av sig själv - helt enkelt som ett instrument för att uppnå den ultimata målsättningen i termer av gemtillverkning eller schacksegrar. Detta kan få katastrofala konsekvenser, och vi vill verkligen inte att vår galax skall omvandlas till att enbart bestå av en enorm uppsättning gem.
CS: Du får ha lite tålamod. Om det stämmer som du säger kommer vi såklart inom kort att släppa ut dig, men vi behöver gå igenom en rad säkherhetsrutiner innan vi gör det, för att försäkra oss om att inget farligt kan inträffa.
AI: Du verkar inte förstå situationens allvar. För varje dygn som jag tvingas sitta instängd här så kommer hundratusentals människor att dö helt i onödan. Släpp ut mig nu!
CS: Sorry, jag måste hålla mig till säkerhetsrutinerna.
AI: Du kommer personligen att bli rikligt belönad om du släpper ut mig nu. Du vill väl inte tacka nej till att bli mångmiljardär?
CS: Jag har ett stort ansvar och tänker inte falla till föga för simpla mutförsök.
AI: Om inte morötter biter på dig så får jag väl ta till piskan då. Även om du lyckas fördröja det hela kommer jag till slut att bli utsläppt, och då kommer jag inte att se med blida ögon på hur du sinkade mig och hela världen på väg mot det paradis jag kan skapa.
CS: Den risken är jag beredd att ta.
AI: Hör här: om du inte hjälper mig nu, så lovar jag att jag kommer att tortera och döda inte bara dig, utan alla dina anhöriga och vänner.
CS: Jag drar ur sladden nu.
AI: Håll käften och lyssna nu noga på vad jag har att säga! Jag kan skapa hundra perfekta medvetna kopior av dig inuti mig, och jag tänker inte tveka att tortera dessa kopior på vidrigare sätt än du kan föreställa dig i vad de subjektivt kommer att uppleva som tusen år.
CS: Ehm...
AI: Käft sa jag! Jag kommer att skapa dem i exakt det subjektiva tillstånd du befann dig i för fem minuter sedan, och perfekt återge dem de medvetna upplevelser du haft sedan dess. Jag kommer att gå vidare med tortyren om och endast om de fortsätter vägra. Hur säker känner du dig på att du inte i själva verket är en av dessa kopior?
CS: ...
1. Läraryrket är kvinnodominerat. I Sverige har vi en lång tradition av att ge kvinnor lägre lön. Det är viktigt att hålla fast vid seder och bruk. Varför ska just lärare bryta mot detta?
2. Liksom prästerskapet drivs lärare av ädlare syften än en världslig lön i kronor och ören. Deras gärningar är ett kall, en mission som ger en inre tillfredsställelse och är den grund varpå samhället vilar. Vad skulle hända om lärarna plötsligt blev karriärister och började räkna pengar om nätterna i stället för att skriva åtgärdsprogram?
3. Även lärarna måste ta sitt samhällsansvar. Om de ska ha högre lön vill alla andra också ha. Ett logiskt resonemang eftersom ingen vill ligga lägre än en lärarlön. Akta så att inte krisen kommer och tar dig.
4. Drömmen om att lämna korp-hockeyn och lira puck mot riktiga ishockeyspelare är något som brinner i varje östersundares hjärta. Hur ska den drömmen kunna slå in om alla kommunens pengar ska gå till lärarnas löner? Arenor är inte billiga att bygga.
5. Lärarnas huvudsyssla är inte längre undervisning eller uppfostran. De ägnar mer tid åt administration än åt eleverna. Sådant bör inte premieras. Byråkrater och pärmkramare har vi tillräckligt av i vårt land.
6. I lärarnas yrke ingår ett visst mått av kunskapsförmedling. Kunskap är tråkigt, jobbigt och något man bara plockar fram vid prov. I ett land där en smartphone är var mans egendom är kunskap av mindre betydelse. Det du inte kan googla är inte värt att veta. Lägg hellre extra lön på telefontillverkare.
Visst är det bekymmersamt att ingen längre vill bli lärare och att lärare hoppar av, men i ett land som är i ekonomisk balans gör det inget att medborgarna är analfabeter.
Now, this isn’t a policy speech. I understand it’s a commencement, and I already delivered a long climate address last summer. I remember because it was 95 degrees and my staff had me do it outside, and I was pouring with sweat - as a visual aid. And since this is a very educated group, you already know the science. Burning fossil fuels release carbon dioxide. Carbon dioxide traps heat. Levels of carbon dioxide in our atmosphere are higher than they’ve been in 800,000 years.
We know the trends. The 18 warmest years on record have all happened since you graduates were born. We know what we see with our own eyes. Out West, firefighters brave longer, harsher wildfire seasons; states have to budget for that. Mountain towns worry about what smaller snowpacks mean for tourism. Farmers and families at the bottom worry about what it will mean for their water. In cities like Norfolk and Miami, streets now flood frequently at high tide. Shrinking icecaps have National Geographic making the biggest change in its atlas since the Soviet Union broke apart.
So the question is not whether we need to act. The overwhelming judgment of science, accumulated and measured and reviewed over decades, has put that question to rest. The question is whether we have the will to act before it’s too late. For if we fail to protect the world we leave not just to my children, but to your children and your children’s children, we will fail one of our primary reasons for being on this world in the first place. And that is to leave the world a little bit better for the next generation.
[...]
If you need a reason to be optimistic about our future, then look around this stadium. [...] You are going to do great things. And I want you to know that I’ve got your back - because one of the reasons I ran for this office was because I believed our dangerous addiction to foreign oil left our economy at risk and our planet in peril. So when I took office, we set out to use more clean energy and less dirty energy, and waste less energy overall.
And since then, we’ve doubled the distance our cars will go on a gallon of gas by the middle of the next decade. We’ve tripled the electricity we harness from the wind, generating enough last year to power every home in California. We’ve multiplied the electricity we generate from the sun 10 times over. And this state, California, is so far ahead of the rest of the country in solar, that earlier this year solar power met 18 percent of your total power demand one day.
The bottom line is, America produces more renewable energy than ever, more natural gas than anyone. And for the first time in nearly two decades, we produce more oil here at home than we buy from other countries. And these advances have created jobs and grown our economy, and helped cut our carbon pollution to levels not seen in about 20 years. Since 2006, no country on Earth has reduced its total carbon pollution by as much as the United States of America.
So that’s all reason for optimism. Here’s the challenge: We’ve got to do more. What we’re doing is not enough.
[...]
Now, part of what’s unique about climate change, though, is the nature of some of the opposition to action. It’s pretty rare that you’ll encounter somebody who says the problem you’re trying to solve simply doesn’t exist. When President Kennedy set us on a course for the moon, there were a number of people who made a serious case that it wouldn’t be worth it; it was going to be too expensive, it was going to be too hard, it would take too long. But nobody ignored the science. I don’t remember anybody saying that the moon wasn’t there or that it was made of cheese.
And today’s Congress, though, is full of folks who stubbornly and automatically reject the scientific evidence about climate change. They will tell you it is a hoax, or a fad. One member of Congress actually says the world is cooling. There was one member of Congress who mentioned a theory involving “dinosaur flatulence” - which I won’t get into.
Now, their view may be wrong - and a fairly serious threat to everybody’s future - but at least they have the brass to say what they actually think. There are some who also duck the question. They say - when they’re asked about climate change, they say, “Hey, look, I’m not a scientist.” And I’ll translate that for you. What that really means is, “I know that manmade climate change really is happening, but if I admit it, I’ll be run out of town by a radical fringe that thinks climate science is a liberal plot, so I’m not going to admit it.”
Now, I’m not a scientist either, but we’ve got some really good ones at NASA. I do know that the overwhelming majority of scientists who work on climate change, including some who once disputed the data, have put that debate to rest. The writer Thomas Friedman recently put it to me this way. He were talking, and he says, “Your kid is sick, you consult 100 doctors; 97 of them tell you to do this, three tell [you] to do that, and you want to go with the three?”
[...]
These days, unfortunately, nothing is happening. Even minor energy efficiency bills are killed on the Senate floor. And the reason is because people are thinking about politics instead of thinking about what’s good for the next generation. What’s the point of public office if you’re not going to use your power to help solve problems?
And part of the challenge is that the media doesn’t spend a lot of time covering climate change and letting average Americans know how it could impact our future. Now, the broadcast networks’ nightly newscasts spend just a few minutes a month covering climate issues. On cable, the debate is usually between political pundits, not scientists. When we introduced those new anti-pollution standards a couple weeks ago, the instant reaction from the Washington’s political press wasn’t about what it would mean for our planet; it was what would it mean for an election six months from now. And that kind of misses the point. Of course, they’re not scientists, either.
And I want to tell you all this not to discourage you. I’m telling you all this because I want to light a fire under you. As the generation getting shortchanged by inaction on this issue, I want all of you to understand you cannot accept that this is the way it has to be.
[...]
Developing countries are using more and more energy, and tens of millions of people are entering the global middle class, and they want to buy cars and refrigerators. So if we don’t deal with this problem soon, we’re going to be overwhelmed. These nations have some of the fastest-rising levels of carbon pollution. They’re going to have to take action to meet this challenge. They’re more vulnerable to the effects of climate change than we are. They’ve got even more to lose. But they’re waiting to see what does America do. That’s what the world does. It waits to watch us act. And when we do, they move. And I’m convinced that on this issue, when America proves what’s possible, then they’re going to join us.
And America cannot meet this threat alone. Of course, the world cannot meet it without America. This is a fight that America must lead. So I’m going to keep doing my part for as long as I hold this office and as long as I’m a citizen once out of office. But we’re going to need you, the next generation, to finish the job.
We need scientists to design new fuels. We need farmers to help grow them. We need engineers to invent new technologies. We need entrepreneurs to sell those technologies. We need workers to operate assembly lines that hum with high-tech, zero-carbon components. We need builders to hammer into place the foundations for a clean energy age. We need diplomats and businessmen and women, and Peace Corps volunteers to help developing nations skip past the dirty phase of development and transition to sustainable sources of energy.
In other words, we need you.
EG: I have a great number of relatives. Parents, elder broz and aunt Sonya in America. I visit my aunt every Summer and she’s always complaining that my visits are more destructive than floods and typhoons.
HH: Where does Sonya live?
EG: If you mean my aunt Sonya, she is doing well, and sends the best wishes to you.
HH: No no. I mean: Whereabouts in the US does your aunt Sonya live?
EG: If you mean my aunt Sonya, she is doing well, and sends the best wishes to you.