Autonome Waffen: Killerroboter außer Kontrolle? | Blätter für deutsche und internationale Politik

LoginWarenkorb

Autonome Waffen: Killerroboter außer Kontrolle?

von Thomas Küchenmeister

Ein neues, globales Wettrüsten ist im Gange: Die Entwicklung autonomer Waffensysteme (AWS) gilt als die dritte Revolution der Kriegsführung – nach der Erfindung des Schwarzpulvers und der Atombombe. Tatsächlich hätte diese „Revolution“ immense Auswirkungen: Denn es ist zu befürchten, dass allein die Verfügbarkeit autonomer Kampfroboter die Wahrscheinlichkeit kriegerischer Auseinandersetzungen erheblich erhöhen und zugleich die Hemmschwelle für den Einsatz dieser Waffen drastisch senken wird.

Teilautomatisierte Waffensysteme kommen bereits heute vielfach zum Einsatz.[1] Sie können bestimmte Einzelfunktionen – etwa das Zielen oder die Navigation – selbstständig ausführen und sind im Militärischen bereits vielfach präsent: So sind etwa ferngesteuerte Aufklärungs- und Kampfdrohnen schon weltweit im Einsatz.

Voll autonome Waffensysteme hingegen üben sämtliche ihrer Funktionen eigenständig aus. Infolge der Fortschritte auf dem Feld der künstlichen Intelligenz (KI) gewinnen sie derzeit rasant an Bedeutung. Schon bald, so prognostiziert es ein kürzlich veröffentlichtes Pentagon-Strategiepapier, werden autonome Waffensysteme in der Lage sein, ihre Ziele ohne jedwede menschliche Einwirkung auszuwählen und „auszuschalten“. Sie stützen sich dabei beispielsweise auf lernfähige Algorithmen, die mittels Sensoren empfangene Daten auswerten und entsprechende Ziele eigenständig auswählen.[2]

Die Folgen dieser sich bereits abzeichnenden Entwicklung sind dramatisch – auf dem Kriegsfeld, vor allem aber auch in moralischer wie rechtlicher Hinsicht: „Waffensysteme ohne menschliche Kontrolle sind in jedem Fall rechtswidrig“, erklärt das Internationale Komitee des Roten Kreuzes (IKRK). Denn solche Roboter könnten in Zukunft gänzlich unabhängig von menschlichem Einfluss eine Person erfassen, die „Gefahr“, die von ihr ausgeht, errechnen und dann über Tod und Leben dieser Person entscheiden.[3]

Auch zivilgesellschaftliche Organisationen wie die internationale Campaign to Stop Killer Robots, tausende Wissenschaftler*innen, der UN-Generalsekretär António Guterres, zahlreiche Staaten und politische Parteien sowie das EU-Parlament befürchten, dass autonome Waffen etablierte moralische und völkerrechtliche Standards unterlaufen. Sie haben die Staatengemeinschaft nachdrücklich aufgefordert, internationale Beschränkungen autonomer Waffensysteme zu vereinbaren.

Keine Regulierung in Sicht

Derzeit aber liegt eine solche Regulierung in weiter Ferne. Ende März blieb eine weitere Gesprächsrunde über autonome Waffensysteme im Rahmen der „UN-Konvention über bestimmte konventionelle Waffen“ (CCW) im sechsten Jahr in Folge ohne nennenswerte Ergebnisse. Damit wurde möglicherweise endgültig das Ende dieses UN-Prozesses eingeläutet.

Vor allem diejenigen Staaten, die bei der Entwicklung von autonomen Waffensystemen weltweit führend sind, blockieren die Verhandlungen: Allen voran die USA, Russland, Großbritannien, Australien, Südkorea und Israel verschleppen die Gespräche und hinderten so von Beginn an die eigentliche Mehrheit der Gegner daran, über ein umfassendes und verbindliches Regelwerk – oder gar ein Verbot autonomer Waffen – zu verhandeln.

Unter den erklärten Gegnern autonomer Waffen sind vor allem Länder aus Südamerika, Asien und Afrika, aber auch der Vatikan und Österreich. Zuletzt hatten zudem die neue finnische Regierung und das niederländische Parlament ihre Unterstützung für verbindliche internationale Verbotsregeln erklärt.

Die Bundesrepublik und ihr Bündnispartner Frankreich setzen sich im CCW-Rahmen hingegen nicht für ein Verbot oder auch nur für Verhandlungen darüber ein. Stattdessen sprechen sich beide Staaten lediglich für einen unverbindlichen Verhaltenskodex oder eine politische Absichtserklärung aus, wonach alle Waffensysteme menschlicher Kontrolle unterliegen sollten. Als „geeignetes Forum“ für Gespräche über autonome Waffensysteme bezeichnen Deutschland und Frankreich zudem ausgerechnet die „Konvention über bestimmte konventionelle Waffen“ – wohlwissend, dass das dort vereinbarte Konsensprinzip Staaten wie den USA, Russland, Großbritannien, Australien, Südkorea und Israel erlaubt, ihre politischen, wirtschaftlichen und militärischen Interessen durchzusetzen. Auf diese Weise münden Verhandlungen in der Regel in minimale, unverbindliche Kompromisslösungen. Auf ähnliche Weise scheiterten in der Vergangenheit auch Bemühungen, Tretminen oder Streumunition im UN-Rahmen zu verbieten.

Die Befürworter autonomer Waffen streben im CCW-Rahmen dementsprechend auch nicht deren Verbot an, sondern sprechen lieber über „potentielle Chancen und die Grenzen der militärischen Nutzung“ autonomer Waffen (Russland), über „Kontroll- und Anwendungssysteme für autonome Waffensysteme“ (Australien) oder werben gar für deren „humanitäre Vorteile“ (USA) im Kriegseinsatz.

Israel, Russland und die Vereinigten Staaten wollen sich beim Einsatz autonomer Waffen am besten gar nicht beschränken lassen. Im Rahmen informeller CCW-Konsultationen im Juni dieses Jahres forderten sie, den Satz, „ein Waffensystem, das unüberwachbar, unvorhersehbar oder zeitlich und räumlich unbegrenzt ist, wäre rechtswidrig“, aus einem CCW-Entwurfspapier zu streichen.

Künstliche Intelligenz als Garant für Sicherheit?

Eine solche Rechtsbewertung würde in der Tat weder zum Anspruch der US-Regierung passen, die globale Führungsrolle in Bezug auf KI einzunehmen, noch zu der großen Bedeutung, die sie der KI für die Aufrechterhaltung der wirtschaftlichen und nationalen Sicherheit der Vereinigten Staaten einräumt. Das US-Verteidigungsministerium erklärte in einem Bericht, dass KI in den USA genutzt werden solle, um die Bürger*innen und das Land zu schützen.[4] Dazu könnten Waffen wie die amerikanischen Perdix-Drohnen zum Einsatz kommen, die ihr Ziel in Schwarmformation umkreisen können und die vom Pentagon als eine Art „kollektiver Organismus, der ein Gehirn für die Entscheidungsfindung teilt und sich wie in der Natur aneinander anpasst“ bezeichnet werden.

Neben den USA entwickeln auch Großbritannien, Frankreich, Russland, China und Israel seit geraumer Zeit autonome „Stealth-Drohnen“. Diese Drohnen zeichnen sich neben ihrer Fähigkeit, vom Radar unentdeckt zu bleiben, unter anderem durch lange Einsatzzeiten, hohe Geschwindigkeit und vertikales Aufsteigen aus – Eigenschaften, die auf eine offensive militärische Verwendung hinweisen. Das französische nEUROn-System gilt als das derzeit autonomste der in Entwicklung befindlichen Waffensysteme. Es soll über drei Stunden autonom fliegen können und über vollautomatische Angriffsmöglichkeiten, Zielanpassung und Kommunikation zwischen den Systemen verfügen.[5] Darüber hinaus drängt China massiv auf die Rüstungsmärkte, besonders im Nahen und Mittleren Osten. Hersteller versprechen sich in der Krisenregion gute Absatzchancen für unbemannte Systeme aller Art, wie etwa Helikopterdrohnen oder autonome Kampfschiffe.

Deutschlands Scheinheiligkeit

Offiziell will die Bundesregierung das globale Wettrüsten beschränken und sieht sich insbesondere im CCW-Prozess gerne als Vorreiter. De facto bleibt sie dabei weit hinter ihrer Zusage zurück, autonome Waffensysteme ächten zu wollen – ein Versprechen, das sie in den letzten beiden Koalitionsverträgen festgehalten hat. Bisher spielt jedoch diese vertragliche Verpflichtung aus den Jahren 2013 und 2018 im CCW-Prozess keinerlei Rolle. Dort unterstützt Deutschland weder die Verbotsforderung für AWS noch die Forderung nach Verhandlungen über eine solche. Die deutsche CCW-Delegation schlägt stattdessen – gemeinsam mit Bündnispartner Frankreich – lediglich eine unverbindliche „politische Erklärung“ beziehungsweise einen „Verhaltenskodex“ vor.

Die Diskrepanz zwischen den Absichtserklärungen und der tatsächlichen deutschen Rüstungskontrollpolitik wird umso deutlicher, wenn man Äußerungen von Bundesaußenminister Heiko Maas dem Agieren seiner Delegierten beim CCW-Prozess gegenüberstellt. Während Maas autonome Waffensysteme als „Angriff auf die Menschlichkeit selbst, auf die menschliche Würde und auf den Kern unserer Verfassung“ bezeichnet und zuletzt im März 2019 ihr Verbot forderte, ignorieren die Verlautbarungen deutscher Diplomat*innen diese Perspektive zumeist. Vielmehr ist aus deutschen Diplomatenkreisen in der Vergangenheit regelmäßig zu vernehmen gewesen, dass Koalitionsverträge und deren Inhalte irrelevant seien.

Dessen ungeachtet könnte Maas theoretisch ein nationales Moratorium für AWS umsetzen. Für dieses müsste er keine Rücksicht auf andere Staaten nehmen, wohl aber auf den Koalitionspartner CDU/CSU. Allerdings spricht sich die Union zwar ebenfalls für menschliche Kontrolle bei Waffeneinsätzen aus, autonome Waffensysteme betrachtet sie aber als eine normale technologische Weiterentwicklung der Streitkräfte und die Entwicklung künstlicher Intelligenz obendrein als entscheidend für den Erfolg zukünftiger militärischer Operationen.[6]

Wirtschaftliche Interessen

Neben den militärischen gibt es außerdem industriepolitische Gründe für die Zurückhaltung der Bundesrepublik. Denn Deutschland kooperiert im Bereich der künstlichen Intelligenz beziehungsweise bei unbemannten Waffensystemen mit autonomen Fähigkeiten eng mit seinem französischen Nachbarn.

Laut aktuellem Koalitionsvertrag wollen beide Länder gemeinsam Technologieprogramme zu „Robotik“ und „autonomen Systemen“ einrichten. Wörtlich ist dort zu lesen, dass Deutschland mittels einer „Plattform Lernende Systeme“ die Bereiche „künstliche Intelligenz“ und „maschinelles Lernen“ aufbauen und diese „konsequent auf Anwendungen in allen Feldern der Forschungs- und Innovationsstrategie ausrichten“ will.

Bereits vollständig entwickelt ist das bewaffnete Roboterfahrzeug (OPTIO X20) von KMW + NEXTER Defence Systems (KNDS), das ferngesteuert oder autonom operieren kann. Und das ambitionierte Projekt „Future Combat Air System“ (FCAS) von Airbus & Dassault Aviation sieht eine Verbindung von bemannten und unbemannten Plattformen – also Kampfflugzeugen, Drohnenschwärmen und Raketen – vor, die ebenfalls teilweise autonom agieren sollen. Die ersten Tests mit Drohnenschwärmen fanden bereits statt.[7]

Allerdings regt sich innerhalb der Industrie auch erhebliche Kritik an derlei Vorhaben. So forderte etwa der Bundesverband der Deutschen Industrie einen verbindlichen Vertrag zur Ächtung autonomer Waffen.[8] Auch die Gesellschaft für Informatik, der 20 000 Informatiker*innen angehören, verlangt ein Verbot von AWS, ebenso wie der Ratsvorsitzende der evangelischen Kirchen in Deutschland, Bischof Bedford-Strohm, sowie Bündnis 90/Die Grünen und 12 große deutsche Nichtregierungsorganisationen, die einen offenen Brief an Heiko Maas unterzeichneten.[9]

Den Worten Taten folgen lassen

Ob der wachsende öffentliche Druck ausreicht, eine Wende der derzeitigen deutschen Rüstungskontrollpolitik im CCW-Rahmen zu bewirken, darf allerdings bezweifelt werden. Wirtschaftliche und militärische Interessen spielen eine zu gewichtige Rolle: Schätzungen zufolge soll der globale Markt für AWS im vergangenen Jahr einen Umsatz von 11,4 Mrd. US-Dollar generiert haben.

Und nicht zuletzt die Aussage des russischen Präsidenten Wladimir Putin, „Wer KI beherrscht, beherrscht die Welt“, zeigt deutlich, welch große militärische Bedeutung autonomen Waffen hinsichtlich der Kriegsführung von morgen und damit der militärischen und technologischen Vorherrschaft zukommt.[10] Hinzu kommt, dass die für AWS erforderliche (KI-)Technologie – etwa für Gesichtserkennungs- und Cloud-Speicheranwendungen – zu großen Teilen von zivilen IT-Unternehmen wie Amazon (Amazon Rekognition), Google, Nvidia oder Microsoft entwickelt wird. Sie ist somit sowohl für zivile Applikationen als auch für Waffentechnik verwendbar. Das macht eine verbindliche, umfassende Rüstungskontrolle schier unmöglich.

Umso mehr ist nun zu hoffen, dass die Staatengemeinschaft zumindest jenseits der Vereinten Nationen einen Vertrag verabschiedet – falls erforderlich zunächst auch ohne die großen KI-Staaten. Einen solchen Prozess könnte auch die Bundesrepublik einleiten und anführen und damit ihren eigenen Beschlüssen endlich Taten folgen lassen.

 


[1] Vgl. US Department of Defense, Summary of the 2018 Department of Defense Artificial Intelligence Strategy. Harnessing AI to Advance Our Security and Prosperity, www.defense.gov, 12.2.2019.

[2] Vgl. Julia Merlot, Autonome Waffen außer Kontrolle, www.spiegel.de, 24.2.2019.

[3] Internationales Komitee des Roten Kreuzes, Towards limits on autonomy in weapon systems, www.icrc.org, 9.4.2018.

[4] Vgl. US Department of Defense, a.a.O. .

[5] Vgl. ICAS, nEUROn: an international cooperation to enhance innovation, www.icas.org.

[6] Vgl. CDU/CSU Fraktion im Bundestag, „KI wird entscheidend für den Erfolg militärischer Operationen sein“, Interview mit Henning Otte, www.cducsu.de, 1.3.2019.

[7] Vgl. Airbus, Future air power. Making manned an unmanned platforms smarter, www.airbus.com, 25.4.2018.

[8] Vgl. BDI, Künstliche Intelligenz: Eine sicherheitsrelevante Zukunftstechnologie, www.bdi.eu, 2.2.2019.

[9] Vgl. den offenen Brief der Nichtregierungsorganisationen an Bundesaußenminister Heiko Maas, www.facing-finance.de, 10.3.2019.

[10] Zit. nach: Martin Holland, Putin: Wer bei KI in Führung geht, wird die Welt beherrschen, www.heise.de, 4.9.2017.

(aus: »Blätter« 9/2019, Seite 37-40)
Themen: Krieg und Frieden, Technologiepolitik und Vereinte Nationen

top