Natochef Snart kan robotar attackera behövs nya lagar - Klungor av autonoma drönare som attackerar fientliga mål - och robotar som angriper.
Framtidens krig kommer att vinnas av den som har bäst artificiell intelligens. Från säkerhetskonferensen i München kommer nu krav på standarder, lagstiftning - eller förbud.
BONN Paneldebatten om artificiell intelligens och krigsföring öppnades sent på torsdagen av Sophia, en människoliknande robot med släta anletsdrag och klippande ögonlock. Hon presenterade gästerna och svarade på komplicerade frågor. Men ibland tappade hon tråden eller gav osammanhängande svar.
- Nästa gång vi möts kommer vi att vara överraskade, förutsade säkerhetskonferensens ordförande Wolfgang Ischinger.
Att utvecklingen går rasande fort var alla överens om. Likaså att det är en vild, oreglerad och oförutsägbar värld som avtecknar sig.
Förre Natochefen Anders Fogh Rasmussen målade upp en skrämmande bild av framtidens vapensystem och risken för dramatiskt ökande instabilitet.
- Snart kommer vi kanske att se horder av robotar som attackerar ett helt land.
- Robotar kan snabbt sättas in, de blir aldrig trötta och de blir inte uttråkade, förklarade Rasmussen enligt Defense News och sa att han var övertygad om det behövs ett förbud mot tillverkning och användning av sådana vapensystem.
Men han uppmanade också NATO att göra sig redo att möta det nya hotet. I första hand måste försvarsalliansen effektivisera sina långsamma beslutsprocesser för att kunna reagera snabbare. Risken är att artificiell intelligens skapar "gråzoner" som kan utnyttjas av främmande makter för att destabilisera och provocera.
Estlands president Kersti Kaljulaid sa att det finns en sannolikhet på 50 procent för att det i mitten av seklet existerar artificiella system kapabla att starta och föra krig på egen hand.
Det är något som världen i dag är helt oförberedd på. Precis som när Ryssland överraskande lanserade cyberattacken mot Estland 2007 och lamslog webbsajter hos parlamentet, banker och i medierna.
- Problemet är att vi inte har en strategi och inte heller internationell lagstiftning som avskräcker från att använde den här typen av krigsföring, manade hon.
Tio år efter cyberattacken mot Estland har det byggts upp nationella cyberkommandos i bland annat USA, Tyskland, Frankrike och Storbritannien. I den amerikanska cyberdoktrinen slås fast att angrepp på digital infrastruktur kommer att besvaras med alla nödvändiga medel, även militära.
Mary Wareham från "Campaign to Stop Killer Robots" sa att 22 länder runt om i världen har uttalat sig för att bojkotta autonoma vapen.
- Avgörande är att vi säkerställer att det är människor som kontrollerar och fattar de avgörande besluten, sa hon.
Ett grundläggande problem är att cyberkrig riskerar att sudda ut skillnaderna mellan civilister och kombattanter, mellan krig och fred och mellan proportionella och oansvariga militära aktioner.
Tyskland har mot den bakgrunden klargjort att man inte kommer att acceptera att beslut över liv och död fattas självständigt av autonoma system.
- Vår position är entydig. Vi har inte för avsikt att anskaffa autonoma system, klargjorde i München generallöjtnant Ludwig Leinhos som leder Tysklands Cyber- och informationskommando som sattes upp i början av 2017.