EU AI Act: Warum Red Teaming für KI zur Pflicht wird — und was der Digital Omnibus 2026 verschoben hat
Lange war das Testen von KI-Systemen gegen Missbrauch eine freiwillige Best Practice. Das ändert sich per Gesetz: Mit dem EU AI Act wird Red Teaming — das gezielte, angreiferische Testen von KI — für viele Unternehmen zur Pflicht. Doch die Zeitleiste hat sich gerade verschoben: Der im Juni 2026 final beschlossene Digital Omnibus hat zentrale Hochrisiko-Fristen nach hinten gerückt. Wer KI in der EU einsetzt oder anbietet, sollte beides kennen — was gefordert ist und ab wann.
Vom Vorschlag zur Pflicht — die neue Zeitleiste
Der EU AI Act wird in Stufen scharfgeschaltet — und der Digital Omnibus hat die späteren Stufen neu sortiert:
- Seit Februar 2025: erste Verbote (etwa bestimmte manipulative KI-Praktiken).
- Seit August 2025: Pflichten für große Allzweck-KI-Modelle (GPAI) — inklusive Modell-Evaluierung und Adversarial Testing für Modelle mit systemischem Risiko. Hier steht Red Teaming faktisch bereits im Gesetz.
- 2. August 2026: die Transparenzpflichten (Art. 50) — Nutzer müssen erkennen, dass sie mit KI interagieren; KI-generierte Inhalte müssen gekennzeichnet werden.
- 2. Dezember 2027: volle Durchsetzung für eigenständige Hochrisiko-KI (Annex III) — ursprünglich für August 2026 geplant, per Digital Omnibus verschoben.
- 2. August 2028: Hochrisiko-KI, die in regulierte Produkte eingebettet ist (Annex I).
Für Hochrisiko-Systeme gilt: Vor dem Inverkehrbringen müssen sie adversarial getestet und gegen Angriffe wie Data Poisoning, Adversarial Examples und Prompt Injection gehärtet sein (Art. 15). Im Klartext: Red Teaming.
Hinweis: Dieser Beitrag erklärt die Praxisbedeutung — er ersetzt keine Rechtsberatung.
Wer ist überhaupt betroffen?
Nicht jede KI-Anwendung fällt unter die strengen Pflichten. Im Fokus stehen zwei Gruppen:
- Hochrisiko-KI: Systeme in sensiblen Bereichen — z. B. kritische Infrastruktur, Bildung, Personalauswahl, Strafverfolgung, Grenzkontrolle oder medizinische Anwendungen.
- GPAI mit systemischem Risiko: sehr große, allgemein einsetzbare KI-Modelle, deren Auswirkungen weit reichen.
Wichtig: Auch wer ein solches System nur einsetzt oder integriert (nicht nur die Hersteller), trägt Verantwortung. Und sobald KI nicht mehr nur antwortet, sondern als handelnder Agent Aktionen ausführt, steigt das Risiko-Niveau zusätzlich — entsprechend gründlicher muss getestet werden.
Was „Red Teaming" im Gesetz konkret heißt
Der EU AI Act verlangt kein einmaliges Häkchen, sondern einen nachweisbaren Prozess. Auf das Wesentliche heruntergebrochen müssen betroffene Unternehmen Folgendes leisten:
- Testen: Schwachstellen, Missbrauchsrisiken und Fehlverhalten systematisch und angreiferisch prüfen — bevor das System auf den Markt kommt.
- Dokumentieren: Die Tests und Ergebnisse als Teil des Risikomanagements festhalten — als prüfbarer Nachweis.
- Risiken beheben: Gefundene Schwächen mindern, nicht nur auflisten.
- Menschliche Aufsicht: Sicherstellen, dass Menschen das System kontrollieren und eingreifen können.
- Vorfälle melden: Schwerwiegende Vorfälle an die zuständige Stelle berichten.
Die Strafen — warum das Thema in die Chefetage gehört
Der EU AI Act hat Zähne. Wer ein Hochrisiko-System ohne nachgewiesenes, ordentliches Testen in Verkehr bringt, riskiert Bußgelder von bis zu 35 Mio € oder 7 % des weltweiten Jahresumsatzes — je nachdem, welcher Betrag höher ist. Das verschiebt KI-Sicherheit von einer technischen Fußnote zu einem Vorstandsthema mit klarem finanziellem Risiko.
Was Unternehmen jetzt tun sollten
Die Fristverschiebung auf 2027 ist keine Einladung zum Zurücklehnen: Adversariales Testen sauber aufzusetzen, zu dokumentieren und in den Entwicklungszyklus einzubauen, dauert Monate — und für GPAI-Modelle gilt die Pflicht bereits.
- Inventur: Welche KI-Systeme setzen wir ein, und welche fallen in die Hochrisiko-Kategorie?
- Lücken finden: Gibt es für diese Systeme bereits adversariales Testen — und einen Nachweis darüber?
- Prozess statt Einmal-Test: Red Teaming in den Entwicklungs- und Änderungszyklus einbauen.
- Dokumentation aufsetzen: Testumfang, Befunde und Gegenmaßnahmen prüfbar festhalten.
Den allgemeinen Überblick über Fristen und Risikoklassen habe ich im Beitrag „EU AI Act: Was Unternehmen jetzt tun müssen" beschrieben — dieser Artikel vertieft gezielt den Teil Red Teaming.
Mein Fazit
Der EU AI Act macht aus einer freiwilligen Übung eine regulatorische Pflicht. Der Digital Omnibus hat den großen Hochrisiko-Stichtag auf den 2. Dezember 2027 verschoben — für GPAI-Modelle gilt Red Teaming aber schon heute. Die zusätzliche Zeit ist kein Grund zum Zurücklehnen: rechtzeitig prüfen, ob die eigenen KI-Systeme adversarial getestet und dokumentiert sind. Für alle, die KI-Sicherheit ernst nehmen, ist das keine Last, sondern ein klarer Auftrag — und ein Wettbewerbsvorteil für die Frühen.