Terminator med vingar

Robotar och artificiell intelligens är teknologier med enorm potential att, på några årtiondens sikt, skänka oss välstånd, välfärd och välbefinnande. Emellertid, som den framgångsrike amerikanske datalogen och entreprenören Bill Joy vältaligt framhåller i den klassiska essän Why the future doesn't need us från 2000, så är de också förknippade med väldiga risker, bland annat i samband med det hypotetiska teknologisprång som benämns Singulariteten. Detta är en fråga som förtjänar avsevärt mer utrymme i det allmäna medvetandet (utöver hos science fiction-entusiaster) än vad fallet är idag, och jag avser återkomma till den på denna blogg så snart jag ägnat den tillräcklig eftertanke för att det jag skriver skall kunna bli mer upplysande än förvirrande. Idag nöjer jag mig med att slå ett slag för den aktuella artikeln Predators and robots at war av Christian Caryl i New York Review of Books, som berör ett litet hörn av den problematik jag har i åtanke.

Obemannade flygplan blir ett allt vanligare inslag i amerikansk krigföring. Caryl skriver:

Drones [fjärrstyrda flygplan] are in the headlines. We read daily about strikes against terrorist targets in the tribal areas of Pakistan using unmanned aerial vehicles (UAVs)—remote-controlled aircraft equipped with elaborate sensors and sometimes weapons as well. Earlier this summer the US sent Predator drones into action against militants in Somalia, and plans are reportedly afoot to put the CIA in charge of a drone offensive against al-Qaeda operatives in Yemen. NATO has dispatched UAVs to Libya. State-of-the-art stealth drones cased the house where Osama bin Laden was living before US Navy seals staged their now famous raid. And in a speech a few weeks ago, White House counterterrorism chief John Brennan made it clear that drones will continue to figure prominently in the Obama administration’s counterterrorism strategy. On August 22, a CIA drone killed the number-two al-Qaeda leader in the mountains of Pakistan.

Denna utveckling är oroande på flera plan. Ett av dem är geopolitiskt. Den amerikanska hemmaopinionens motstånd mot att riskera amerikanska soldaters liv utgör en hälsosam broms mot startandet av nya anfallskrig, men vad händer när krig kan föras utan att skicka fram soldater? Caryl igen:

The US government is using drones to conduct a military campaign against the sovereign state of Pakistan. Yet no one in Congress has ever pressed the President for any sort of legal declaration of hostilities—for the simple reason that the lives of American military personnel are not at stake when the Predators set off on their missions.

En fråga som möjligen är av ännu större dignitet rör den tekniska utvecklingen mot allt större autonomi hos de obemannade planen. Tanken på vad som skulle kunna hända när vi tappar kontrollen över dem är skrämmande. Caryl på nytt:

As noted earlier, UAVs can already take off, land, and fly themselves without human intervention. Targeting is still the exclusive preserve of the human operator—but how long will this remain the case? [...] We are not far from the day when it will become manifest that our mechanical warriors are better at protecting the lives of our troops than any human soldier, and once that happens the pressure to let robots take the shot will be very hard to resist. Pentagon officials who have been interviewed on the subject predictably insist that the decision to kill will never be ceded to a machine. That is reassuring. Still, this is an easy thing to say at a point when robots are not yet in the position to take the initiative against the enemy on a battlefield. Soon, much sooner than most of us realize, they will be able to do just that.

När Caryl, angående beskeden från Pentagon om att beslut om avfyrande av vapen aldrig kommer att överlåtas på maskinerna, med orden "This is reassuring" uttrycker sin lättnad så är det (vilket framgår i meningen efter) med en stor dos ironi.

Vi gör klokt i att uppmärksamt följa utvecklingen på detta område - den går fort. En bra början är att läsa Christian Caryls artikel.