Künstliche Intelligenz: Wettlauf ohne Ethik | Blätter für deutsche und internationale Politik

LoginWarenkorb

Künstliche Intelligenz: Wettlauf ohne Ethik

istockphoto/PhonlamaiPhoto Foto: istockphoto/PhonlamaiPhoto

von Daniel Leisegang

Die Künstliche Intelligenz (KI) boomt: Schon jetzt können Computersysteme schwarzen Hautkrebs schneller und besser diagnostizieren als Dermatologen. Am vollautonomen Auto tüftelt längst nicht nur Tesla, sondern werkeln auch VW, BMW und Audi. Und wer sein Vermögen vermehren will, kann damit einen „Anlageroboter“ betrauen.

Das enorme Potential der KI hat auch die Bundesregierung erkannt. Laut ihrem jüngst veröffentlichten Eckpunktepapier will sie die künftige Schlüsseltechnologie dabei nicht dem Silicon Valley überlassen. Stattdessen müsse KImade in Germany zum neuen Qualitätsprädikat werden. Um Deutschland „auf ein weltweit führendes Niveau“ zu bringen, werde man Wirtschaft und Wissenschaft massiv fördern.[1]

Aus wirtschaftspolitischer Sicht erscheint dieser Vorstoß durchaus nachvollziehbar. Laut Pricewaterhouse-Coopers soll KI – mittels Produktinnovationen auf der einen und Effizienzsteigerungen auf der anderen Seite – der deutschen Wirtschaft in den kommenden Jahren ein beachtliches Umsatzplus bescheren. Bis 2030 soll das Bruttoinlandsprodukt dank KI um mehr als elf Prozent ansteigen.[2]

Allerdings werden Fördermittel allein nicht ausreichen, um die ambitionierten Regierungsziele zu erreichen – erst recht nicht im nationalen Alleingang. Denn KI meint und verlangt vor allem das Zusammenspiel von Rechenkraft und Big Data: Ein Computersystem nutzt dabei eine Abfolge von Rechenschritten – Algorithmen –, um Rohdaten auf bestimmte Muster hin zu untersuchen und aus diesen Gesetzmäßigkeiten abzuleiten. Diese ermöglichen dann eine Automatisierung „intelligenten“ Verhaltens. Um KI zu entwickeln, braucht es somit hauptsächlich zweierlei: Kapazitäten für deren Erforschung und Entwicklung sowie möglichst viele Daten. An dem einen wie dem anderen herrscht hierzulande jedoch großer Mangel.

Hinzu kommt ein weiteres Problem: Bei der Entwicklung von KI sollte es um weit mehr gehen als um Wettbewerbsfähigkeit, nämlich auch um die Frage, wie wir künftig leben wollen. Selbst KI-Forscher räumen ein, dass die Algorithmen für sie mitunter eine „Black Box“ darstellen – sie also gar nicht genau wissen, wie diese zu Schlussfolgerungen gelangen.[3] Damit aber ist auch nicht absehbar, welche Folgen die KI hat, geschweige denn, ob diese kontrollier- und umkehrbar sind. 

Der große Braindrain

Derlei Bedenken schenkt die Bundesregierung derzeit allerdings nur wenig Beachtung. Gehör finden hingegen die Klagen deutscher Forschungseinrichtungen wie der Max-Planck-Gesellschaft. Sie vermelden seit Jahren einen zunehmenden Braindrain. Vor allem die großen amerikanischen Techfirmen locken deutsche Forscherinnen und Ingenieure an. Allein Facebook verfügt über mehrere eigene KI-Forschungsstandorte, der größte mit mehr als 130 Experten befindet sich in Menlo Park im Silicon Valley. Und in Googles KI-Abteilung namens Brainsind ebenfalls mehrere hundert hochkarätige Forscher beschäftigt, denen der Konzern bis zu siebenstellige Jahreseinkommen zahlt.

Um die Talentabwanderung nach Übersee zu stoppen, einigten sich Union und SPD im Koalitionsvertrag darauf, ein deutsch-französisches KI-Zentrum ins Leben zu rufen. Eine solche Partnerschaft bietet sich geradezu an: Bereits vor dem Vorstoß der Bundesregierung hatte der französische Präsident Emmanuel Macron eine engere bilaterale Kooperation im Technologiebereich angeregt. Im vergangenen April stellte er zudem seine eigene KI-Strategie vor, die die deutschen Ambitionen noch übertrifft. Demnach plant Paris, innerhalb der kommenden fünf Jahre 1,5 Mrd. Euro in die KI-Forschung und -Vermarktung zu stecken. Bis zu sechs interdisziplinäre Forschungsinstitute sollen entstehen und junge Talente mit attraktiven Arbeitsbedingungen anlocken. 

Doch die deutsch-französische Kooperation ist gehörig ins Stocken geraten, unter anderem deshalb, weil sich beide Seiten nicht auf einen Standort für das gemeinsame KI-Zentrum einigen können. Die Eckpunkte der Bundesregierung sehen daher nur noch ein Netzwerk aus europäischen Forschungseinrichtungen vor. 

Zugleich steht die Bundesregierung einer engeren Kooperation auf gesamt-europäischer Ebene im Weg. Im Frühjahr hatte die EU-Kommission angekündigt, bis 2020 insgesamt 20 Mrd. Euro in die Erforschung und Entwicklung von KI investieren zu wollen. Die Hälfte dieser Mittel müsste aus den nationalen Haushalten kommen. Die Bundesrepublik zögert jedoch, der EU mehr Geld und damit mehr Einfluss auf Industrie und Forschung zu gewähren.Statt ihre Kräfte also mit denen der europäischen Nachbarn zu bündeln, entscheidet sie sich bewusst für den nationalen Alleingang – offenbar auch in der Hoffnung, mit eigenen KI-Innovationen die EU-Nachbarn abzuhängen.[4]

Innovationspartner China

Für das zögerliche Vorgehen der Bundesregierung gibt es allerdings noch einen weiteren Grund: die sogenannte Innovationspartnerschaft mit China, Deutschlands wichtigstem Handelspartner außerhalb der EU. Seit Jahren bemüht sich die hiesige Wirtschaft nach Kräften darum, „die besten Zugänge nach China zu besetzen“.[5] Die vor drei Jahren getroffene Kooperationsvereinbarung sieht dementsprechend eine enge Zusammenarbeit beider Länder insbesondere in den Bereichen Forschung und Technologieentwicklung vor. Weil die Bundesregierung diese Kooperation nicht gefährden möchte, findet sie sich nun zwischen zwei Stühlen wieder – jenem der EU und jenem Chinas.

Dabei verfolgt auch China längst eigene, überaus ambitionierte Ziele: Bis 2030 will das Land laut seiner im Sommer vergangenen Jahres veröffentlichten KI-Strategie selbst die globale Vorreiterrolle übernehmen. Dazu investiert es derzeit unter anderem umgerechnet rund zwei Mrd. Euro in einen Industriepark westlich von Peking. Hier sollen in naher Zukunft hunderte Unternehmen zu KI forschen und entsprechende Produkte entwickeln.

Unter ihnen wird voraussichtlich auch das chinesische Startup Sensetime sein, das vor allem Gesichts- und Bilderkennungstechnologie entwickelt. Mit einem Marktwert von 4,5 Mrd. US-Dollar gilt es derzeit als das weltweit wertvollste Jungunternehmen auf dem Gebiet der KI. Sein wichtigster Kunde: die chinesische Regierung. Diese setzt dessen Software vor allem in Kamerasystemen ein, die den öffentlichen Raum überwachen.

Mittels der umfassenden Ausspähung gelangen chinesische KI-Unternehmen auch an ihren wichtigsten Rohstoff: die Daten der Bürgerinnen und Bürger. Mehr als 750 Millionen Menschen nutzen in China das Internet, deutlich mehr als sowohl die USA als auch die EU Einwohner haben. In enger Kooperation mit der chinesischen Regierung testen die Konzerne derzeit zudem sogenannte Scoringsysteme, die das Sozial-, Kauf- und Nutzungsverhalten der Chinesinnen und Chinesen detailliert aufzeichnen und auswerten. In zwei Jahren soll das sogenannte Social Credit System landesweit eingeführt werden, es wäre damit das größte Überwachungssystem der Welt.[6] Die dadurch hinzukommenden Datenberge könnten China tatsächlich den entscheidenden Vorteil verschaffen, um die KI-Weltspitze zu erklimmen. 

USA: Keine roten Linien

Dort befinden sich derzeit noch die Vereinigten Staaten – oder genauer: das Silicon Valley. Insbesondere den mächtigen Big Four– Apple, Google, Amazon und Facebook – sind mit Blick auf die KI-Forschung, -Entwicklung und -Vermarktung kaum Grenzen gesetzt.

Dafür verantwortlich ist auch das in den USA vorherrschende Nachsorgeprinzip. Während in der EU Produkte nur auf den Markt gelangen, wenn zweifelsfrei feststeht, dass sie nicht gesundheitsschädlich sind, ist es in den USA genau umgekehrt: Erst wenn wissenschaftlich belegt ist, dass ein Produkt gefährlich ist, kann es nachträglich vom Markt genommen werden. 

Umso überraschender war es daher auch, dass das Weiße Haus in den letzten Monaten der Amtszeit Barack Obamas nicht nur Überlegungen zu den gesellschaftlichen Auswirkungen von KI veröffentlichte, sondern obendrein auch Vorschläge zu deren öffentliche Finanzierung und Kontrolle unterbreitete.[7] Doch die Trump-Regierung stampfte das Konzept umgehend nach Amtsantritt des jetzigen Präsidenten ein. Dem Erfinder Thomas Edison habe die Politik einst auch keine roten Linien aufgezeigt, bevor dieser seine erste Glühbirne einschalten konnte, heißt es nun lapidar aus dem Weißen Haus.[8] Die Techkonzerne in den USA dürften sich freuen: Sie können – wie auch die chinesischen Unternehmen – ihren Datenreichtum weitgehend ungehindert für eigene KI-Entwicklungen nutzen. 

Gänzlich anders stellt sich die Lage in Deutschland dar. Hierzulande gibt es keine Unternehmen, die auch nur über annähernd große Datenmengen verfügen. Die Bundesregierung erwägt daher unter anderem den Einsatz von Daten der öffentlichen Verwaltung. Völlig unklar ist allerdings, wie die Wirtschaft an diese gelangen soll: Denn bei eGovernment und digitaler Verwaltung hinkt Deutschland im internationalen Vergleich ebenfalls meilenweit hinterher – wie auch beim Breitbandausbau, der digitalen Bildung und der Startup-Förderung. 

Hinzu kommt, dass in der Europäischen Union soeben eines der strengsten Datenschutzgesetze weltweit in Kraft getreten ist: die sogenannte Datenschutzgrundverordnung (DSGVO). Sie schränkt die Verfügbarkeit und Nutzung personenbezogener Daten durch Unternehmen und Behörden – zu Recht – erheblich ein. Die KI-Forschung ist damit allerdings zusätzlich erschwert.

KI made in Europe

Angesichts von Braindrain, Datenarmut und einem sich abzeichnenden Duopol aus den USA und China droht sich die Bundesregierung – statt an die KI-Weltspitze – in eine Sackgasse zu manövrieren. Will sie ihre KI-Ambitionen nicht aufgeben, hat sie keine andere Wahl, als eine Kooperation mit EU-Partnern einzugehen – allen voran mit Frankreich. Ressourcen und Anstrengungen ließen sich so gleichermaßen bündeln, allerdings müsste die deutsche Regierung dazu ihre KI-Strategie in einen gemeinsamen europäischen Ansatz einbetten.[9] Das Qualitätsmerkmal einer KI made in Europekönnten dann das Vorsorgeprinzip sowie ein hoher Datenschutz und eine hohe Datensicherheit sein.

Für all das bedarf es jedoch vorab einer breiten Debatte über Sinn und Zweck der KI – und damit auch über ihre Risiken. Mit diesen sollen sich eigentlich drei Beratungsgremien befassen, die allesamt im vergangenen Sommer von Bundesregierung und Bundestag eingesetzt wurden: ein zehnköpfiger „Digitalrat“, eine 16köpfige „Datenethikkommission“ sowie eine neue Enquete-Kommission zum Thema KI.[10] Auf deren Agenden stehen drängende ethische und regulatorische Fragen: Wer etwa übernimmt die Verantwortung, wenn Maschinen autonom agieren und Fehlentscheidungen treffen? Wie lassen sich Diskriminierungen durch KI-Systeme vermeiden? Und wie muss eine KI aussehen, die die für unsere Gesellschaft konstitutiven Grundrechte garantiert?

Die Antworten auf diese Fragen will die Bundesregierung allerdings nicht abwarten. Sie plant ihre ausformulierte KI-Strategie bereits im Dezember vorzulegen – und damit noch bevor der Digitalrat erste Ergebnisse präsentieren kann. Die Datenethikkommission soll ebenfalls bis Mitte kommenden Jahres tagen, die hinter verschlossenen Türen beratende Enquete-Kommission sogar bis zum Sommer 2020.

Wie fahrlässig diese Fokussierung allein auf den Wettbewerb ist, zeigte sich eindrücklich Ende August in New York. Unter dem Dach der Vereinten Nationen verhandelten dort mehr als 75 Staaten über die Regulierung (teil-)autonomer Waffensysteme. Geht es nach den Rüstungsunternehmen, sollen die sogenannten Killerroboter die „dritte Revolution der Kriegsführung“ einleiten – nach Schießpulver und Nuklearwaffen. Die US-Armee verfügt bereits heute über Drohnen, die eigenständig über den Waffeneinsatz entscheiden können. Die russische Armee plant ebenfalls die Anschaffung weitgehend autonom agierender Roboterpanzer. Und ausgerechnet an der „heißen“ Grenze zwischen Nord- und Südkorea wachen mit Maschinengewehren ausgestattete „Sicherheitsroboter“.

Eine internationale Regulierung ist somit überfällig. Doch vor allem die USA, Russland und China verhinderten eine verbindliche Vereinbarung. Die Abrüstungschefin der UN, Izumi Nakamitsu, warnte daraufhin eindringlich, „dass die technologische Innovation der zivilen Kontrolle entgleitet“; ein Missbrauch der KI aber habe „potenziell katastrophale Konsequenzen“.[11] Diese Mahnung sollte endlich auch die Bundesregierung zu einem Umdenken veranlassen – weg vom bloßen Wettbewerb, hin zu den ethischen Konsequenzen der KI.

 


[1] Vgl. Eckpunkte der Bundesregierung für eine Strategie Künstliche Intelligenz, www.bmwi.de, 18.7.2018.

[2] Vgl. PWC, Auswirkungen der Nutzung von künstlicher Intelligenz in Deutschland, Juni 2018. 

[3] Vgl. Sibylle Anderl, Denn wir wissen nicht, wie sie‘s tun, www.faz.net, 23.8.2017. 

[4] Vgl. Europa ringt um gemeinsamen Kurs im Forschungswettlauf, www.deutschlandfunk.de, 22.8.2018.

[5] Aufholen und überholen, in: „Der Spiegel“, 21/2018, S. 69-75.

[6] Vgl. Katika Kühnreich, Soziale Kontrolle 4.0? Chinas Social Credit Systems, in: „Blätter“, 7/2018, S. 63-70.

[7] Vgl. The Administration’s Report on the Future of Artificial Intelligence, https://obamawhitehouse.archives.gov, 12.10.2016.

[8] Vgl. Anton Weste, Künstliche Intelligenz: Trump berät sich selbst, www.heise.de, 28.5.2018.

[9] Vgl. Dietmar Harhoff u.a., Eckpunkte einer nationalen Strategie für Künstliche Intelligenz, Stiftung Neue Verantwortung, Mai 2018.

[10] Vgl. dazu die Leitfragen der Bundesregierung an die Datenethikkommission, www.bmjv.de, 5.9.2018. 

[11] Der Krieger der Zukunft ist eine Maschine, www.rp-online.de, 30.08.2018.

(aus: »Blätter« 10/2018, Seite 21-24)
Themen: Technologiepolitik, Europa, USA, China und Ethik

top