Angriff der Killerroboter: Wenn der Algorithmus tötet

Was viele seit langem befürchtet haben, ist laut einem UN-Bericht erstmals passiert: Eine autonome Militärdrohne hat im März 2020 ohne Anweisung einen flüchtenden Soldaten in Libyen gejagt und attackiert.[1] Der Kargu-Quadcopter des türkischen Herstellers STM, der Kameras und künstliche Intelligenz (KI) zur Identifikation seiner Ziele einsetzt, sei demnach darauf programmiert gewesen, eigenständig Ziele anzugreifen, ohne zuvor eine Datenverbindung zum Betreiber herzustellen.

Dieser Angriff belegt nicht nur, wie weit die Autonomisierung konventioneller Waffensysteme, sogenannter letaler autonomer Waffensysteme (LAWS), vorangeschritten ist, sondern auch, dass diese bereits auf dem Kampffeld eingesetzt werden. LAWS entscheiden ohne menschliche Kontrolle über einen Waffeneinsatz und die Tötung von Menschen. Eben darin unterscheiden sie sich auch von unbemannten Luftfahrzeugen (unmanned aerial systems, UAS), die nicht selbst agieren, sondern ferngesteuert werden.

Der Ruf nach einem Verbot von LAWS wird bereits seit Jahren immer lauter. Begründet wird diese Forderung unter anderem mit der Gefahr einer rasanten Zunahme dieser Waffentechnologien und damit eines qualitativen, unkontrollierten Wettrüstens. Wenn man diesem nicht rechtzeitig Einhalt gebiete, drohe ein enthemmter, massenhafter und völkerrechtswidriger Einsatz dieser Waffen.

Dieser Artikel stammt aus der Ausgabe August 2021. Klicken Sie hier, um zur Inhaltsübersicht dieser Ausgabe zu gelangen.

Gemeinhin nutzen Staaten Exportkontrollen, um den Transfer sensibler Güter, Technologien oder Dienstleistungen an staatliche und nichtstaatliche Akteure zu regulieren. Sie beschränken häufig etwa die Ausfuhr von Massenvernichtungswaffen; das von bislang 41 Staaten unterzeichnete Wassenaar-Abkommen reguliert beispielsweise den Transfer konventioneller Waffen und sogenannter Dual-Use-Technologie, die sowohl zivil als auch militärisch genutzt werden kann.

Autonome Waffensysteme werden von diesen Exportkontrollen jedoch bislang explizit nicht erfasst. Ganz im Gegenteil: In den Vereinigten Staaten erklärte beispielsweise der Verband der Luft- und Raumfahrtindustrien, dass die jüngsten Überarbeitungen des Vertrags über den konventionellen Waffentransfer ihnen künftig sogar mehr Flexibilität böten. Sofern sichergestellt sei, dass solche Systeme nicht in die falschen Hände gerieten, könnten unbemannte Drohnen in andere Länder exportiert werden.

In der Vergangenheit versagten die USA den Vereinigten Arabischen Emiraten, Jordanien oder Saudi-Arabien den Kauf von US-Drohnen, was jedoch China einen Zugang zu deren Märkten erleichterte. Im Rahmen des Raketentechnologie-Kontrollregimes (Missile Technology Control Regime) hatte sich daher zuletzt die Trump-Administration für die Erleichterung des Exports von UAS auch in diese Länder eingesetzt – mit einer kleinen Einschränkung: Diese dürften, wie etwa die Drohne MQ-9 Reaper von General Atomics, nur mit weniger als 650 Stundenkilometern fliegen.[2]

Derzeit kann niemand die USA daran hindern, die eigenen Exportbeschränkungen aufzuweichen. Zwar beraten auf globaler Ebene die UN-Mitgliedstaaten im Rahmen der UN-Waffenkonvention (CCW) bereits seit 2014 auch über Ausfuhrbeschränkungen von autonomen Waffensystemen. Sie haben sich aber bisher lediglich auf unverbindliche Prinzipien verständigt, die unter anderem vorsehen, dass „bei der Entwicklung oder dem Erwerb neuer Waffensysteme auf der Grundlage neu entstehender Technologien im Bereich der tödlichen autonomen Waffensysteme […], das Risiko des Erwerbs durch terroristische Gruppen und das Risiko der Verbreitung berücksichtigt werden sollen.“[3]

Dieser UN-Konsens stellt zudem nur eine unverbindliche Empfehlung und kein geltendes Völkerrecht dar. Eine Einigung auf einen völkerrechtlich verbindlichen Verbotsvertrag für LAWS liegt damit in weiter Ferne und dürfte in der UNO vor allem am Widerstand Russlands, der USA und Chinas scheitern. Auch Deutschland votiert in Genf bislang nicht für ein solches Verbot, was im klaren Widerspruch zu zurückliegenden und gegenwärtigen Koalitionsverträgen steht.

Wettrüsten ohne Regeln

Die fehlenden Regeln befördern damit das zunehmende, unregulierte Wettrüsten insbesondere zwischen jenen Staaten, die sowohl die technische Weiterentwicklung als auch den Export von autonom agierenden Waffen vorantreiben.

Dies lässt sich anschaulich auf den einschlägigen Waffenmessen beobachten. Chinesische Rüstungs- bzw. Technologieunternehmen drängen derzeit vehement auf die Märkte des Nahen und Mittleren Ostens. Sie verfolgen das erklärte Ziel, die dort noch dominante US-Konkurrenz vom Markt zu verdrängen. Auf Waffenmessen wie der IDEX 2019 in Abu Dhabi bot das chinesische Unternehmen Ziyan dazu etwa das Waffensystem „Blowfish“ an – im Wesentlichen eine mit einem Maschinengewehr ausgestattete Hubschrauberdrohne. Laut Ziyan führt der Typ A3 „autonom komplexere Kampfeinsätze […] und gezielte Präzisionsschläge“ durch. Über den Verkauf des Modells „Blowfish A2“ verhandelte Peking zuletzt mit den Regierungen Pakistans und Saudi-Arabiens.[4]

Die russische Kalaschnikow-Konzerngruppe stellt die Kamikazedrohne KUB-UAV her, die ebenfalls über autonome Fähigkeiten verfügt. Die Drohne ist in der Lage, weit entfernte Bodenziele zu zerstören oder spezielle Ladungen zu Zielkoordinaten zu transportieren.[5] Laut Kalaschnikow soll die russische Drohne im Vergleich zu US-amerikanischen und israelischen Kamikazedrohnen „sehr billig“ sein. Zielmarkt seien „kleinere Armeen“ auf der gesamten Welt.[6]

Noch aber sind US-amerikanische und israelische Unternehmen weltweit technologisch führend bei der Entwicklung (teil-)autonomer Waffensysteme. Israel etwa hat zwei halbautonome Drohnensysteme entwickelt – Harpy und Harop – die auch als „Loitering Ammunition“ bezeichnet werden. Diese Systeme „patrouillieren“ über einem Zielgebiet, suchen nach Zielen und greifen diese an.[7] Harpy, produziert von Israel Aerospace Industries, ist dabei sogar in der Lage, feindliche Radarsignale zu entdecken und selbstständig zu zerstören. Die Waffe braucht kein bestimmtes Ziel, um gestartet zu werden, und ein Mensch ist für ihre tödliche Entscheidungsfindung nicht erforderlich. Laut Medienberichten hat Israel die Waffe bereits an Chile, China, Indien, Südkorea und die Türkei verkauft.[8]

Die Nato will da nicht zurückstehen. Die Lobbyisten der European Industrial Advisory Group werben auf Waffenmessen offen für eine „frühzeitige Einbeziehung der Industrie als Schlüsselfaktor für eine autonome Transformation“. Zugleich versichern Hersteller aus Nato-Staaten dort, dass die Produktion autonomer Waffensysteme technisch kein Problem mehr sei, sie sich aber zugleich stets bemühten, das Völkerrecht zu beachten. Letztendlich entscheide aber der Kunde, welche Fähigkeiten das gewünschte System haben solle.

Die Nachfrage nach solchen Systemen aus dem europäischen Raum ist groß. Derzeit sind insbesondere Systeme gefragt, die wahlweise autonom oder teilautonom agieren. So ist etwa die türkische Kamikazedrohne Kargu – wie soeben in Libyen unter Beweis gestellt – in der Lage, über einen längeren Zeitraum im Luftraum zu patrouillieren, im Schwarm zu operieren, Gesichter zu identifizieren sowie Ziele selbstständig und ohne menschliche Kontrolle zu finden und zu zerstören. Kargu wird derzeit nicht nur in Libyen, sondern auch an der Grenze zu Syrien eingesetzt. Und auch das französische Rüstungsunternehmen MBDA sowie Milrem Robotics aus Estland präsentierten bereits 2019 auf der International Defence Exhibition ein teilautonomes, unbemanntes Antipanzersystem, das bereits in Mali eingesetzt wird.[9]

Mindestens teilautonom operieren soll auch das Future Combat Air System (FCAS), ein in Entwicklung befindliches, milliardenschweres Gemeinschaftsprojekt von Airbus, Dassault Aviation, MTU und MBDA. Das als „System der Systeme“ bezeichnete FCAS soll ab 2040 alle bemannten und unbemannten Komponenten des Luftkampfes miteinander verbinden und durch Systeme künstlicher Intelligenz unterstützen.[10] Als das Herzstück von FCAS gilt das Waffensystem NGWS Next Generation, das Deutschland, Frankreich und Spanien gemeinsam entwickeln. NGWS besteht aus drei Komponenten: erstens dem Next Generation Fighter (NGF), zweitens unbemannten Unterstützungsflugzeugen bzw. autonomen Drohnenschwärmen und Raketen sowie drittens einer „Combat Cloud“, die als Serverstruktur alle Systeme miteinander vernetzt.[11] Das System soll eine „skalierbare Autonomie“ bereitstellen, die flexibel eine Reihe unbemannter Betriebsarten ermöglicht.[12]

Während FCAS sich noch in der Entwicklung befindet, ist der Kampfroboter Mission Master von Rheinmetall schon fertig und kann ferngesteuert, teilautomatisiert oder vollautonom betrieben sowie mit Kamikazedrohnen – die laut dem Hersteller WB Group „völlig autonom während eines Angriffs“ operieren können – oder 70-mm-Raketen ausgestattet werden.[13] Auch das deutsch-französische Rüstungsunternehmen KNDS bietet bereits ein unbemanntes, bewaffnetes Roboterfahrzeug (OPTIO X20) an, das ferngesteuert oder autonom operieren kann.[14]

Das Silicon Valley rüstet mit auf

Aber nicht nur die altbekannten Waffenhersteller wollen beim Geschäft mit den Killerrobotern mitmischen. Auch bekannte Technologie- bzw. IT-Unternehmen sind längst auf den Waffenmessen vertreten, um dort ihre KI- und Cloud-Technologien zur Integration in autonome Waffensysteme anzubieten.

Amazon oder auch Microsoft beispielsweise stritten lange um das Zehn Milliarden Dollar schwere Projekt Joint Enterprise Defense Infrastructure (JEDI) des US-Verteidigungsministeriums, das dem Pentagon und den Soldaten vor Ort als Cloud-Infrastruktur dienen soll und das nun neu ausgeschrieben wird. Der Chief Management Officer des Projekts erklärte, bei diesem Programm gehe es darum, „die Tödlichkeit unserer Abteilung zu erhöhen“.[15] Kritiker warnen, dass JEDI eine wichtige Rolle bei der Funktionsweise autonomer Waffensysteme spielen wird, etwa bei der Zielidentifizierung oder der Verarbeitung anderer Informationen.

Die militärische Verwendung von KI an sich ist nicht per se problematisch. Diese kann beispielsweise für autonome Start- und Landemaßnahmen oder zur Navigation eingesetzt werden. Wird KI- oder Cloud-Technologie jedoch in Waffensystemen angewendet, um damit die autonome Auswahl von Zielen und den Angriff auf diese zu ermöglichen, ist dies höchst problematisch. Denn die Entwicklung solcher Waffen hat einen enormen Einfluss auf die Art und Weise, wie Krieg geführt wird. Kommen sie zur Anwendung, werden Menschen gezielt aus den Entscheidungsprozessen bestimmter militärischer Aktionen herausgenommen, womit sie nur noch eine begrenzte Aufsichtsfunktion ausüben, etwa indem sie nur noch allgemeine Missionsparameter festlegen, alle weiteren Kriegshandlungen aber automatisch erfolgen.

All das zeigt: Wird kein völkerrechtlich verbindliches Verbot für Herstellung, Einsatz und Weitergabe letaler autonomer Waffensysteme vereinbart, werden diese schon sehr bald zur Standardausrüstung der meisten Armeen weltweit zählen. Dann aber drohen sie auch in die Hände von Terroristen zu fallen, Diktatoren werden sie einsetzen, um die eigene Bevölkerung zu kontrollieren und zu unterdrücken, Warlords mit deren Unterstützung ethnische Säuberungen durchführen.

Auch Tech-Unternehmen müssen von einem solchen Verbotsvertrag erfasst werden. Bis es so weit ist, sollten sie Maßnahmen ergreifen, die verhindern, dass ihre Technologien zur Entwicklung und Produktion tödlicher autonomer Waffen beitragen. Sie sollten sich außerdem öffentlich dazu verpflichten, die Entwicklung solcher Waffen nicht zu fördern.

Gelingt eine solche Einhegung (teil-)autonomer Waffensysteme nicht, werden wir schon sehr bald weitere Berichte darüber erhalten, dass Killerroboter eigenständig Menschen verfolgen, angreifen – und am Ende auch töten. Friedlicher wird die Welt damit ganz gewiss nicht werden.

Dieser Kommentar entstand unter Mithilfe von Johanna Trittenbach, Education and Research Staff Member, Faculteit Rechtsgeleerdheid Instituut voor Publiekrecht, Grotius Centre for Intern Legal Studies.