Warum eine globale Regulierung Künstlicher Intelligenz nötig ist
Bild: Humanoide Roboter treten im Kickboxen bei der 2. Roboter-WM in China gegeneinander an, 26.8.2026 (IMAGO / VCG)
KI verändert zunehmend unsere Kommunikation, die Wirtschaft und die Geopolitik. Die jüngsten Meldungen über ausgebrochene KI-Agenten zeigen: Es wächst nicht nur die Gefahr, dass wenige Unternehmen oder Staaten dieses mächtige Werkzeug kontrollieren, sondern auch das Risiko, dass die KI selbst außer Kontrolle gerät.
Mythos ist kein Mythos mehr. Die gleichnamige Software des KI-Unternehmens Anthropic ist in die reale Welt eingebrochen. Das ist wörtlich gemeint: Das staatliche britische Institut für KI-Sicherheit (AISI) meldete am 4. August, bei einem seiner Tests sei »Mythos 5«, die aktuelle Version der KI, mehrfach aus seiner gesicherten Versuchsumgebung entkommen und bei anderen Servern eingebrochen. Im gravierendsten Fall versuchte das Programm, Schadcode in eine Opensource-Software einzufügen. Dazu erfand es eine Identität, gab sich als Mensch aus und verwischte seine Spuren.
Es ist nicht der erste Vorfall dieser Art. Kurz vorher musste OpenAI, die Firma hinter ChatGPT, zugeben, dass einige ihrer »KI-Agenten«1 bei einem Test aus ihrer sand box, also ihrer Testumgebung, ausgebrochen waren und dann einen massiven Angriff auf HuggingFace – ein anderes Softwareunternehmen – gestartet hatten. Offenbar hofften sie, dort die Lösung für ihre Testaufgabe zu finden.
