Wenn der Algorithmus über Leben und Tod entscheidet
Bild: Schuh-Aktion zum Thema Femizide in Deutschland auf dem Tübinger Marktplatz, 25.11.2021 (IMAGO / ULMER Pressebildagentur)
„Stell dir vor, wir gucken einen Film in meinem Bett, dann beginne ich, dich mit meinem Kissen zu würgen, und du stirbst“ – so lautet der Text eines TikTok-Videos, das tausendfach gelikt und hunderte Male geteilt wurde. Auf der vor allem von jungen Menschen weltweit massenhaft genutzten Videoplattform bildeten die Fantasien junger Männer, wie sie eine Frau beim ersten Date töten würden, vor einiger Zeit einen regelrechten Trend.[1] Auch auf Youtube finden sich frauenverachtende und gewaltverherrlichende Videos. Auf dem Kanal „Woman Shot AI“ wurden noch bis vor kurzem KI-generierte Clips veröffentlicht, in denen Frauen per Kopfschuss getötet werden. Erst nach einer Anfrage des von US-Journalist:innen gegründeten digitalen Medienunternehmens „404 Media“ löschte die Plattform den Kanal.[2] Eine Kultur, die Gewalt an Frauen verharmlost, rechtfertigt, teils glorifiziert und fördert, ist weit verbreitet – und Morde an Frauen sind weltweit allgegenwärtig. Erst Ende September 2025 gingen tausende Argentinier:innen auf die Straße, geschockt von den Morden an der 15-jährigen Lara Gutiérrez und ihren 20-jährigen Freundinnen Morena Verri sowie Brenda del Castillo, die in Buenos Aires entführt, gefoltert und ermordet wurden, während ein Livestream lief.[3] Den Vereinten Nationen zufolge, die jährlich am 25. November mit dem „Internationalen Tag zur Beseitigung von Gewalt gegen Frauen“ auf die globale „Epidemie“ aufmerksam machen, wurde 2023 weltweit etwa alle zehn Minuten eine Frau ermordet, oft von Partnern, Ex-Partnern oder Angehörigen.[4]
Auch in Deutschland vergeht kein Tag ohne Gewalt an Frauen. Fast jeden zweiten Tag wird eine Frau von ihrem Partner oder Ex-Partner getötet; 155 Frauen wurden dem Bundeskriminalamt zufolge allein 2023 Opfer tödlicher Partnerschaftsgewalt.[5] Femizide, also Tötungen von Frauen, weil sie Frauen sind, sind keine Einzelfälle – es handelt sich vielmehr um Gewalt mit System, mit der die Täter die Betroffenen zu kontrollieren suchen und die oft nach ähnlichen Mustern verläuft.[6] „Jeder Fall von Gewalt in Partnerschaften kann potenziell zum Hochrisikofall werden“, warnt der Bundesverband Frauenberatungsstellen und Frauennotrufe (bff).[7] Es sei daher notwendig, systematisch zu arbeiten und die Kooperation zwischen allen beteiligten Stellen zu verbessern – so erhöhe sich die Wahrscheinlichkeit, Fälle mit erhöhtem Risiko zu erfassen, die auf den ersten Blick nicht als solche zu erkennen sind. Viele Frauen könnten ihre Situation dem bff zufolge gut einschätzen, andere wiederum würden die Gefahr unterschätzen oder bagatellisieren. Kann Technologie dabei helfen, drohende Gewalt gegen Frauen besser zu erkennen – und sogar einzudämmen?
Vorbild Spanien: Mit Technologie gegen Gewalt an Frauen?
Staaten und Polizeien weltweit setzen immer öfter Technologien wie Prognosesysteme ein, die spezifische Handlungsmuster rechtzeitig erkennen und künftige Gewalt vorhersagen sollen, auch in Deutschland. Bei „Hochrisikofällen“ könnte hierzulande künftig auch die Überwachung von gewalttätigen Männern mit dynamischen Trackingsystemen – der sogenannten elektronischen Fußfessel nach dem spanischen Modell – ausgeweitet werden. Fest steht: Mehr Maßnahmen, die sich auf tatsächliche oder potenzielle Gewalttäter fokussieren, sind dringend notwendig. Doch wie zuverlässig die neuen technischen Ansätze funktionieren und ob sie Gewalt gegen Frauen tatsächlich verhindern können, ist umstritten.
Eine standardisierte Risikobewertung, die die Wahrscheinlichkeit wiederholter oder potenzieller Gewalteskalationen prognostizieren und als Grundlage für Schutzmaßnahmen dienen soll, zählt auch zu den Vorgaben der Istanbul-Konvention, dem Übereinkommen des Europarats zur Verhütung und Bekämpfung von Gewalt gegen Frauen und häuslicher Gewalt. Laut der Group of Experts on Action against Violence against Women and Domestic Violence (Grevio), das Expert:innenkomitee, das die Umsetzung der Konvention untersucht, setzt eine Reihe von Staaten bereits Gefährdungsanalysen ein – sie reichen von simplen Fragebögen bis hin zu statistischen Prognosemodellen. Einige europäische Polizeien haben Verfahren aus Großbritannien, den USA oder Kanada wie DASH, Danger Assessment (DA) oder Ontario Domestic Assault Risk Assessment (ODARA) übernommen; Länder wie Spanien oder Polen nutzen selbst entwickelte Tools.
Die Grevio-Expert:innen bemängeln allerdings zahlreiche Probleme: Die Ansätze berücksichtigten teils wichtige Risikofaktoren nicht, wie den Zugang des Täters zu Schusswaffen oder die kürzliche Trennung der Betroffenen vom Täter. Auch würden Risikobewertungen teils nicht systematisch durchgeführt oder Polizist:innen vergäßen, wichtige Informationen von den Betroffenen zu erfassen, und ergänzten fehlende Daten mitunter selbst. Die Systeme werden teilweise offenbar unsachgemäß und ungenau verwendet, manche Polizeibeamt:innen vertrauten eher ihrer Erfahrung und ihrer Intuition, um einen Fall einzuschätzen.[8] Doch das Bauchgefühl kann trügen, gerade dann, wenn Polizist:innen nicht angemessen für geschlechtsspezifische Gewalt sensibilisiert sind.
Doch auch das Gegenteil kann problematisch sein: wenn sich Polizist:innen zu sehr auf einen Algorithmus verlassen, wie beispielsweise in Spanien. Das Land gilt in Europa als Pionier bei der Bekämpfung von geschlechtsspezifischer Gewalt und Femiziden. 2007 führte Spanien das System VioGén ein, um die Wahrscheinlichkeit Betroffener, künftig erneut Gewalt zu erleben, besser einschätzen zu können und zu bewerten, welche Schutzmaßnahmen sinnvoll sind. Mit einem standardisierten digitalen Fragebogen ermitteln Polizist:innen nach Anzeigen von Beziehungsgewalt im Gespräch mit Betroffenen frühere Übergriffe und Merkmale des Täters und versuchen, die Verletzlichkeit der Frauen zu ermitteln. VioGén kalkuliert dabei eine Punktzahl, die Betroffene in eine niedrige, mittlere, hohe oder extreme Risikokategorie einstuft – oder als nicht gefährdet.
Doch das System diagnostizierte die künftige Gefahr, in der Frauen schwebten, nicht immer richtig – teils mit fatalen Folgen. Einem Bericht der „New York Times“ von 2024 zufolge wurden von rund 92 000 aktiven Fällen, die von VioGén bewertet wurden, rund 83 Prozent als wenig gefährdet eingestuft, erneut angegriffen zu werden. Doch acht Prozent der als kaum gefährdet eingestuften Frauen und 14 Prozent der vermeintlich gering gefährdeten Frauen wurden später wieder verletzt. Seit 2007 wurden zudem Dutzende Frauen ermordet, für die VioGén zuvor ein vernachlässigbares oder geringes Risiko ermittelt hatte.[9] „Obwohl der Algorithmus als Empfehlungssystem konzipiert ist, weichen Polizeibeamte selten von der automatisch zugewiesenen Risikobewertung ab, sodass das System in den meisten Fällen die Schutzmaßnahmen für die Opfer vorschreibt“, kritisiert die spanische KI-Organisation Eticas, die bereits in einem 2022 veröffentlichten Audit Probleme bei VioGén angeprangert hatte.[10] Anfang 2025 kündigte die Regierung immerhin an, das System überarbeiten zu wollen: Mehr Daten sollen erfasst und die Kategorie „niedriges Risiko“ gestrichen werden.
Eticas kritisiert, dass der Algorithmus „weitgehend ohne Rechenschaftspflicht oder Transparenz“ eingesetzt worden sei, und fordert bei staatlich finanzierten, automatisierten Entscheidungssystemen mit derart großem gesellschaftlichen Einfluss wie im Fall von VioGén gesetzlich vorgeschriebene Evaluationen durch unabhängige Expert:innen, denn solche Systeme können mitunter über Leben und Tod entscheiden.[11] Auch in Deutschland ist die unabhängige wissenschaftliche Begleitung und Evaluation von Risikoanalysetools im Polizeieinsatz oft unzureichend oder fehlt völlig.[12]
Präventive Fußfessel nach spanischem Vorbild?
Bei der deutschen Polizei ist der Umgang mit Risikoanalysen unter anderem aufgrund des föderalen Systems extrem uneinheitlich. Es fehle deutschlandweit eine „flächendeckende, systematische Arbeit mit Hochrisikofällen bei Gewalt in Partnerschaften“, kritisiert der Bundesverband Frauenberatungsstellen und Frauennotrufe – vielmehr herrsche hierzulande ein Flickenteppich vor: An einigen Orten gibt es Modelle guter Praxis, an vielen anderen fehlen solche.[13] Einige Bundesländer setzen etwa das US-amerikanische System „Danger Assessment“ (DA) ein, das Hinweise auf eine statistisch wahrscheinliche Gewalteskalation innerhalb des nächsten Jahres abfragt, oder das kanadische Tool Odara, das einen wahrscheinlichen Rückfall des Täters innerhalb der nächsten fünf Jahre vorhersagt, oder auch beide.
Die Datenwissenschaftlerin Ba Linh Le sieht das jedoch kritisch: „Tools wie DA und Odara wurden vor mehr als zwei Jahrzehnten entwickelt, auf Basis von Daten aus Kanada oder den USA, mit veralteten Methodologien.“[14] Ihr Berliner Start-up Frontline hat eine KI-basierte Anwendung namens Lizzy entwickelt. Um die komplexen Muster von Gewalt zu verstehen, hat Frontline ein bundesweit repräsentatives Panel von 7400 Personen aus Deutschland aufgebaut, die nach Gewalterfahrungen befragt wurden. In einem digitalen Fragebogen mit rund 30 Fragen werden verschiedene Gewaltformen abgefragt, darunter körperliche, sexualisierte, emotionale, digitale und finanzielle Gewalt. Frauenberatungsstellen und Frauenhäuser in zehn Bundesländern setzen Lizzy mittlerweile ein. Zwar errechnet auch dieses System ein niedriges, mittleres oder hohes Risiko – über individuelle Maßnahmen entscheiden aber am Ende immer Berater:innen und Betroffene. Die Polizeien setzen das Tool bisher noch nicht ein.
Die Erkenntnisse aus den umstrittenen Tools im Polizeieinsatz könnten auch mitbeeinflussen, ob ein Fall als „Hochrisikofall“ eingestuft wird. Ein Entwurf zur Änderung des Gewaltschutzgesetzes aus dem Bundesjustizministerium sieht vor, dass Familiengerichte Täter künftig in solchen Fällen präventiv zum Tragen einer elektronischen Fußfessel nach dem spanischen Modell verpflichten können.[15] Acht Bundesländer haben zudem in ihren Landespolizeigesetzen bereits eine Rechtsgrundlage geschaffen, die eine solche präventive Überwachung bei häuslicher Gewalt vorsieht. Das Justizministerium drängt auf eine bundesweite Regelung. Zwei korrespondierende Geräte, die Täter und Betroffene tragen, ermöglichen es, ihre aktuellen Aufenthaltsorte und ihren Abstand zueinander zu ermitteln, rund um die Uhr. Anders als bei der herkömmlichen Fußfessel soll so eine dynamische Schutzzone entstehen. Richter sollen die Fußfessel zunächst für höchstens ein halbes Jahr anordnen dürfen, eine Verlängerung um je drei Monate soll bei anhaltender Gefahr möglich sein.
In Spanien wird die Fußfessel bereits seit 2009 eingesetzt, bislang in 13 000 Fällen. Regierungsangaben zufolge sei keine der Frauen, die durch eine solche Fußfessel geschützt wurde, getötet worden. Inwieweit dies allein auf den Einfluss der Fußfessel zurückzuführen ist, lässt sich aber nicht nachweisen. Hierzulande setzt sich der Weisse Ring seit Jahren für den Einsatz der spanischen Fußfessel ein. „Gerichte beschließen Kontakt- und Annäherungsverbote wegen der Dringlichkeit häufig sogar im Eilverfahren“, kritisiert die Opferschutzorganisation den mangelnden Schutz in Deutschland. „Aber im Anschluss wird den Gewalttätern der Beschluss einfach zugestellt, manchmal nur durch Einlegen in den Briefkasten. Eine Überwachung der Gefährder durch den Staat findet nicht statt“, bemängelt der Verband.[16]
Einige Bundesländer wenden das neue Tracking unterdessen bereits zur Überwachung von Gewalttätern nach einer Haftstrafe an. Hessen hat 2024 mit dem Domestic Violence GPS Proximity Notification System (DV-Technik) ein modernes Trackingsystem eingeführt, mit dem das spanische Modell umsetzbar ist und das auch andere Länder nutzen. Der Täter trägt dabei die Fußfessel, die betroffene Person erhält ein mobiles Endgerät mit GPS-/Funkzellenortung sowie Alarmfunktion, die sie akustisch, visuell und durch Vibrieren auf eine Annäherung des Täters aufmerksam macht. Eine Telefonie-Funktion ermöglicht den Kontakt mit der Leitstelle in Hessen. Die Gemeinsame elektronische Überwachungsstelle der Länder (GÜL) in Hessen analysiert die Meldungen und entscheidet schließlich, welche Maßnahmen notwendig sind. In Sachsen wurde in diesem Jahr erstmalig in Deutschland eine solche Fußfessel zum Schutz einer Frau eingesetzt und deren Ex-Mann nach Verbüßung seiner Haftstrafe überwacht.[17]
Keine 100-prozentige Sicherheit
Expert:innen wie die Rechtsanwältin und Autorin Asha Hedayati[18], die von Gewalt betroffene Frauen vertritt, sehen die Fußfessel aufgrund des massiven Grundrechtseingriffs indes kritisch. „Ich kann mir vorstellen, dass eine solche Überwachungsmaßnahme missbrauchsanfällig ist“, sagt Hedayati. „Sie garantiert nie eine 100-prozentige Sicherheit und wird nur einen Bruchteil der Betroffenen retten.“[19] Die Expertin befürchtet zudem, dass die Überwachung diskriminierend eingesetzt werden könne: „Bei solchen Vorstößen habe ich Angst, wer am Ende darüber entscheidet – ich kann mir vorstellen, dass bestimmte Personengruppen eher betroffen sein werden.“ Aber noch weit wichtiger: In Spanien sei die Fußfessel zudem eingebettet in viele andere Maßnahmen zum Schutz von Gewalt betroffener Frauen – in Deutschland hingegen gebe es auf sehr vielen Ebenen diesbezüglich Nachholbedarf.
Die Fußfessel werde „womöglich ein paar Täter zeitweise von schwersten Straftaten abhalten“, glaubt auch Anwältin und Autorin Christina Clemm. „Um Geschlechtsbezogene Gewalt zu beenden, bedarf es aber viel mehr – ein Gesamtkonzept, Prävention, Öffentlichkeitsarbeit zu aggressiver Männlichkeit, flächendeckenden Schutz und Beratung, Täterarbeit, Aus- und Fortbildung, Solidarität mit Betroffenen und vieles mehr“, so Clemm.[20] Die Grevio-Expert:innen kritisieren Deutschland schon lange für das mangelhafte Unterstützungssystem für von Gewalt betroffene Frauen. Anfang dieses Jahres wurde immerhin das Gewalthilfegesetz beschlossen, das den Zugang zu Schutz und Beratung künftig bundesweit, niedrigschwellig und kostenfrei absichern soll. Bis 2036 sollen 2,6 Mrd. Euro Bundesmittel in den Ausbau des Systems fließen.[21] Dorothea Hecht von der Frauenhauskoordinierung hält das Gesetz für einen „Meilenstein“, eine Finanzierungslücke bestünde aber weiterhin, der Bund will erst ab 2027 finanzieren, auf zehn Jahre begrenzt, ein Rechtsansprucht gelte erst ab 2032.[22] Noch fehlen rund 14 000 Frauenhausplätze, Frauen und Kinder müssen oft abgewiesen werden und viele Hilfs- und Beratungsstellen sind chronisch unterfinanziert – ebenso wie Stellen, die Beratung und Anti-Gewalttrainings anbieten für Täter oder Männer, die fürchten, gewalttätig zu werden. „Teilweise werden den Programmen die Mittel gekürzt, es gibt auch Regionen, in denen es solch ein Angebot für Täter, die an sich arbeiten wollen, gar nicht gibt“, kritisiert Rechtsanwältin Hedayati. Dass der Entwurf des Gewaltschutzgesetzes vorsieht, dass Familiengerichte Täter künftig zu Anti-Gewalttrainings verpflichten können, begrüßt sie. Ob diese Angebote künftig angemessen finanziert werden, ist indes ungewiss.
Klar ist: Ein Wundermittel sind die neuen Technologien in diesem fragilen Schutzszenario, wie es in Deutschland vorherrscht, nicht. Zwar können digitale Prognosen und Überwachungsinstrumente wie die Fußfessel als Baustein einer umfassenderen Strategie zum Gewaltschutz hilfreich sein, aber sowohl bei ihrer Entwicklung als auch bei ihrem Einsatz sind mehr Transparenz und Kontrollmechanismen nötig – und es bedarf unabhängiger und fundierter Evaluationen. Die Erwartung, dass die neuen Technologien bedrohte Frauen automatisch besser vor Gewalt schützen, ist jedenfalls unrealistisch – dafür bedarf es weit mehr, nicht zuletzt eines umfassenden kulturellen Wandels in der Gesellschaft.
[1] Männer machen sich in geschmacklosem Tiktok-Trend über Femizide lustig, derstandard.de, 21.3.2022.
[2] Emanuel Maiberg, AI-Generated YouTube Channel Uploaded Nothing But Videos of Women Being Shot, 404media.co, 22.9.2025.
[3] Manuela Castro, The live-streamed murder of two women and a girl has shocked Argentina, edition.cnn.com, 30.9.2025.
[4] One woman killed every 10 minutes: The harrowing global reality of femicide, news.un.org, 25.11.2024.
[5] Bundeskriminalamt, Bundeslagebild Häusliche Gewalt 2023, bka.de, 7.6.2025.
[6] Kein Familiendrama: Berichterstattung über Femizide und der Umgang mit Überlebenden und Angehörigen, journalist.de, 15.6.2023.
[7] bff: Bundesverband Frauenberatungsstellen und Frauennotrufe, Gefährdungen von Frauen als Hochrisikofall erkennen und einschätzen, effektive Maßnahmen zum Schutz entwickeln. Regionale Kooperationen und wirksames Fallmanagement aufbauen. Ein Handbuch, frauen-gegen-gewalt.de, November 2022.
[8] GREVIO, 5th general report on GREVIO’s Activities, rm.coe.int, Oktober 2024.
[9] Adam Satariano und Roser Toll Pifarré, An Algorithm Told Police She Was Safe. Then Her Husband Killed Her, nytimes.com, 18.7.2024.
[10] Eticas, the adversarial audit of viogen three years later, eticas.ai.
[11] Eticas, a.a.O.
[12] Automating Injustice: Germany – ‚Predictive‘ policing and criminal ‚prediction‘ and profiling systems used by law enforcement and criminal justice authorities in Germany, algorithmwatch.org, März 2025.
[13] bff: Bundesverband Frauenberatungsstellen und Frauennotrufe, Gefährdungen von Frauen als Hochrisikofall erkennen und einschätzen, a.a.O.
[14] Interview Ba Linh Le, Mitgründerin von Frontline am 14.8.2025.
[15] Bundesministerium der Justiz und für Verbraucherschutz, Erstes Gesetz zur Änderung des Gewaltschutzgesetzes, bmjv.de, 2.12.2024.
[16] Weisser Ring Magazin, Wie die Fußfessel Frauen besser schützen könnte, wr-magazin.de, 15.3.2024.
[17] Dem hessischen Justizministerium zufolge wurden im August 2025 im Rahmen der sogenannten Führungsaufsicht in Hessen drei, in Nordrhein-Westfalen drei und in Sachsen eine Fußfessel mit DV-Technik eingesetzt. Die elektronische Fußfessel wird aber auch im Rahmen der Landespolizeigesetze genutzt, in Hessen mit Stand August fünfmal, in Nordrhein-Westfalen und in Schleswig-Holstein jeweils einmal. Wie oft das System bei Beziehungsgewalt eingesetzt wird, wird allerdings nicht erfasst. E-Mail des Hessisches Ministeriums der Justiz und für den Rechtsstaat vom 6.10.2025.
[18] Vgl. auch Asha Hedayati, Mütter ohne Recht, Kinder ohne Schutz. Wie die Justiz gewalttätige Väter begünstigt, in: „Blätter“, 11/2023, S. 91-102.
[19] Interview mit Asha Hedayati am 8.9.2025.
[20] Interview mit Christina Clemm vom 7.10.2025.
[21] Maßnahmen zur Bekämpfung von Gewalt gegen Frauen beraten, bundestag.de, 6.12.2024.
[22] Dorothea Hecht, Das Gewalthilfegesetz – ein Akt feministischer Interessenvertretung, frauenhauskoordinierung.de, 30.9.2025.