EU-Regulierung
KI-Verordnung (EU AI Act): was wann gilt und was sie von Produktteams verlangt
Die KI-Verordnung der EU (amtlich „Verordnung über künstliche Intelligenz“, englisch EU AI Act), Verordnung (EU) 2024/1689, ist das risikobasierte Gesetz der EU über künstliche Intelligenz. Sie ist am 1. August 2024 in Kraft getreten und gilt schrittweise; nach einer im Juli 2026 verabschiedeten Änderung gelten die Vorschriften für Hochrisiko-KI-Systeme ab dem 2. Dezember 2027 für die in Anhang III aufgeführten Verwendungen und ab dem 2. August 2028 für KI in Produkten, die unter Anhang I fallen.
Free-Tarif, keine Kreditkarte erforderlich.
Ab wann gilt die KI-Verordnung?
Artikel 113 legt die Daten fest. Die Verordnung wurde am 12. Juli 2024 im Amtsblatt veröffentlicht, ist am 1. August 2024 in Kraft getreten und gilt allgemein ab dem 2. August 2026, einige Teile früher, andere später. Die Verordnung (EU) 2026/1744, die Digital-Omnibus-Verordnung zur KI, in Kraft seit dem 27. Juli 2026, hat die Daten für Hochrisiko-KI-Systeme verschoben und zwei Verbote hinzugefügt.
Nach dem ursprünglichen Text sollten die Hochrisiko-Vorschriften für Anhang III ab dem 2. August 2026 und die Produktvorschriften für Anhang I ab dem 2. August 2027 gelten. Die zusätzliche Zeit ist keine Pause: Die Verbote, die KI-Kompetenz, die Vorschriften für KI-Modelle mit allgemeinem Verwendungszweck und die Transparenzpflichten gelten bereits.
| Datum | Was gilt |
|---|---|
| 1. August 2024 | Inkrafttreten |
| 2. Februar 2025 | Allgemeine Bestimmungen, einschließlich KI-Kompetenz (Artikel 4), und die verbotenen Praktiken (Artikel 5) |
| 2. August 2025 | Pflichten für KI-Modelle mit allgemeinem Verwendungszweck, Governance, notifizierte Stellen und die meisten Sanktionsvorschriften |
| 2. August 2026 | Allgemeiner Geltungsbeginn, einschließlich der Transparenzpflichten in Artikel 50 |
| 2. Dezember 2026 | Neue Verbote für KI-Systeme, die nicht einvernehmlich erstellte intime Bilder oder Darstellungen sexuellen Missbrauchs von Kindern erzeugen; Kennzeichnung nach Artikel 50 Absatz 2 für generative Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden |
| 2. Dezember 2027 | Hochrisiko-KI-Systeme in den in Anhang III aufgeführten Bereichen |
| 2. August 2028 | Hochrisiko-KI-Systeme nach Artikel 6 Absatz 1: Sicherheitsbauteile von Produkten, die unter Anhang I fallen, oder solche Produkte selbst |
Welche Risikoklassen kennt die KI-Verordnung?
Die Europäische Kommission beschreibt vier Stufen. Praktiken mit unannehmbarem Risiko verbietet Artikel 5, zum Beispiel schädliches Social Scoring, das ungezielte Auslesen von Gesichtsbildern für Datenbanken zur Gesichtserkennung und das Ableiten von Emotionen am Arbeitsplatz oder in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen. Hochrisiko-Systeme sind erlaubt, aber reguliert. Systeme mit Transparenzrisiko, etwa Chatbots und Generatoren synthetischer Inhalte, unterliegen Offenlegungs- und Kennzeichnungspflichten. Der Rest birgt ein minimales oder kein Risiko.
Nach Artikel 6 ist ein KI-System hochriskant, wenn es ein Sicherheitsbauteil eines Produkts oder selbst ein Produkt ist, das unter die in Anhang I aufgeführten EU-Rechtsvorschriften fällt, etwa zu Spielzeug, Aufzügen, Funkanlagen oder Medizinprodukten, und einer Konformitätsbewertung durch Dritte bedarf; oder wenn es in einem Bereich nach Anhang III eingesetzt wird, etwa Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, grundlegende Dienste, Strafverfolgung, Migration oder Justiz. Ein System nach Anhang III, das die Bedingungen von Artikel 6 Absatz 3 erfüllt, kann herausfallen, der Anbieter muss diese Bewertung aber dokumentieren.
Was müssen Anbieter von Hochrisiko-KI-Systemen tun?
Ein Anbieter bringt ein KI-System unter eigenem Namen in Verkehr oder nimmt es in Betrieb; ein Betreiber verwendet ein KI-System unter seiner Befugnis im beruflichen Kontext. Anbieter von Hochrisiko-Systemen müssen die unten stehenden Anforderungen erfüllen und nach Artikel 16 ein Qualitätsmanagementsystem betreiben, eine Konformitätsbewertung durchlaufen, eine EU-Konformitätserklärung ausstellen, die CE-Kennzeichnung anbringen und sich bei den meisten Systemen nach Anhang III in der EU-Datenbank registrieren.
Bei Artikel 15 kommen Sicherheitsteams ins Spiel. Hochrisiko-KI-Systeme müssen widerstandsfähig gegen Versuche unbefugter Dritter sein, ihre Verwendung, Ausgaben oder Leistung durch Ausnutzung von Systemschwachstellen zu verändern. Gegebenenfalls müssen die Maßnahmen KI-spezifische Angriffe adressieren: Datenvergiftung (data poisoning), Modellvergiftung (model poisoning), feindliche Beispiele (adversarial examples) oder Modellumgehung, Angriffe auf die Vertraulichkeit und Modellmängel. In der Praxis gehört die Software rund um das Modell zu dieser Angriffsfläche.
- Ein Risikomanagementsystem über den gesamten Lebenszyklus (Artikel 9).
- Daten und Daten-Governance für Trainings-, Validierungs- und Testdaten (Artikel 10).
- Technische Dokumentation (Artikel 11).
- Aufzeichnungspflichten über automatisch erzeugte Protokolle (Artikel 12).
- Transparenz und Bereitstellung von Informationen für die Betreiber (Artikel 13).
- Menschliche Aufsicht (Artikel 14).
- Genauigkeit, Robustheit und Cybersicherheit (Artikel 15).
Wie hängt die KI-Verordnung mit dem Cyber Resilience Act zusammen?
Viele KI-Produkte sind zugleich Produkte mit digitalen Elementen im Sinne der Cyberresilienz-Verordnung (Cyber Resilience Act, CRA), Verordnung (EU) 2024/2847. Nach ihrem Artikel 12 wird bei einem solchen Produkt, das als Hochrisiko-KI-System eingestuft ist, davon ausgegangen, dass es die Cybersicherheitsanforderungen von Artikel 15 der KI-Verordnung erfüllt, wenn es die grundlegenden Anforderungen in Anhang I Teil I des CRA erfüllt, die Verfahren des Herstellers Anhang I Teil II entsprechen und dies in der nach dem CRA ausgestellten EU-Konformitätserklärung nachgewiesen wird. Die Änderung von 2026 hat dieselbe Regel als Artikel 42 Absatz 3 in die KI-Verordnung aufgenommen.
Dann gilt grundsätzlich das Konformitätsbewertungsverfahren der KI-Verordnung, mit Ausnahmen in Artikel 12 Absatz 3 des CRA für bestimmte wichtige und kritische Produkte. Die Zeitpläne unterscheiden sich: Die Meldepflichten des CRA gelten seit dem 11. September 2026 und die meisten übrigen CRA-Pflichten ab dem 11. Dezember 2027, während die Hochrisiko-Vorschriften der KI-Verordnung ab dem 2. Dezember 2027 bzw. dem 2. August 2028 gelten.
Welche Bußgelder sieht die KI-Verordnung vor?
Artikel 99 legt Höchstbeträge für Geldbußen fest, die die Mitgliedstaaten durchsetzen. In jeder Stufe ist die Obergrenze der feste Betrag oder der Anteil am gesamten weltweiten Jahresumsatz des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist. Für KMU, einschließlich Start-up-Unternehmen, gilt der jeweils niedrigere Betrag, und seit der Änderung von 2026 gilt das in der zweiten und dritten Stufe auch für kleine Midcap-Unternehmen.
| Verstoß | Höchstbetrag der Geldbuße |
|---|---|
| Verbotene KI-Praktiken (Artikel 5) | 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes |
| Pflichten von Anbietern, Bevollmächtigten, Einführern, Händlern, Betreibern und notifizierten Stellen sowie die Transparenzpflichten (Artikel 50) | 15 Mio. EUR oder 3 % |
| Falsche, unvollständige oder irreführende Informationen an notifizierte Stellen oder zuständige nationale Behörden | 7,5 Mio. EUR oder 1 % |
Wie sollte sich ein KI-Produktteam vorbereiten?
Beginnen Sie mit einem Verzeichnis der KI-Systeme und KI-Modelle mit allgemeinem Verwendungszweck, die Sie entwickeln, einkaufen oder nutzen, und halten Sie für jedes Ihre Rolle fest (Anbieter, Betreiber, Einführer oder Händler), seine Zweckbestimmung und ob es eine verbotene Praxis, einen Bereich nach Anhang III oder ein Produkt nach Anhang I berührt. Decken Sie ab, was bereits gilt: KI-Kompetenz, die Verbote und Transparenz. Nutzen Sie bei Systemen, die hochriskant sein könnten, die Zeit bis zu den Terminen 2027 und 2028, um die Nachweise aufzubauen, die die Artikel 9 bis 15 verlangen, und beginnen Sie mit dem, was auch dem CRA dient: einem Komponentenverzeichnis, der Behandlung von Schwachstellen und Sicherheitstests.
Heute in KROMSE verfügbar
KROMSE ist heute kein Werkzeug für die KI-Verordnung; es deckt die Softwaresicherheit eines KI-Produkts ab.
- Prüft die Abhängigkeiten Ihres KI-Produkts gegen OSV.dev und markiert Pakete, die in der Datenbank OpenSSF Malicious Packages stehen.
- Quellcodeanalyse für 11 Sprachen und Erkennung von Secrets im Code des gescannten Commits.
- Exportiert für jeden Scan eine SBOM als CycloneDX JSON und als SPDX JSON.
- Eine Ansicht zur CRA-Bereitschaft aus dem letzten Scan und in kostenpflichtigen Tarifen Berichtsentwürfe nach Artikel 14 CRA, die eine Person freigibt und einreicht; KROMSE reicht sie nie ein.
Als Nächstes geplant
Auf der Roadmap, noch nicht verfügbar. Die Termine sind Zielmarken, keine Zusagen; diese Seite wird an dem Tag aktualisiert, an dem eine Funktion live geht.
- Geplant · Q1 2027 (Januar)Modul zur KI-Verordnung (EU AI Act). Ein Modul zur KI-Verordnung der EU wird ein Verzeichnis der KI-Systeme, eine Risikoeinstufung und Dokumentation ergänzen, die eine Person vervollständigt.
- Geplant · Q1 2027Sicherheit von KI-Agenten und -Modellen. KROMSE wird eine KI-Stückliste (AI Bill of Materials) erstellen, prüfen, welche Tools und Berechtigungen Ihre Agenten nutzen können, und unsichere Modelldateien erkennen.
Häufige Fragen
Ab wann gilt die KI-Verordnung?
Sie ist am 1. August 2024 in Kraft getreten. Die Verbote und die KI-Kompetenz gelten seit dem 2. Februar 2025, die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck seit dem 2. August 2025 und die meisten übrigen Vorschriften seit dem 2. August 2026. Nach der Verordnung (EU) 2026/1744 gelten die Hochrisiko-Vorschriften ab dem 2. Dezember 2027 für Verwendungen nach Anhang III und ab dem 2. August 2028 für KI in Produkten nach Anhang I.
Hat der Digital-Omnibus die KI-Verordnung verschoben?
Teilweise. Die Verordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026, hat die Hochrisiko-Pflichten für Systeme nach Anhang III auf den 2. Dezember 2027 und für Produkte nach Anhang I auf den 2. August 2028 verschoben und Verbote hinzugefügt, die ab dem 2. Dezember 2026 gelten. Nicht verschoben wurden der allgemeine Geltungsbeginn am 2. August 2026, die bereits geltenden Verbote und die Vorschriften für KI-Modelle mit allgemeinem Verwendungszweck.
Gilt die KI-Verordnung auch für Unternehmen außerhalb der EU?
Oft ja. Artikel 2 erfasst Anbieter, die KI-Systeme oder KI-Modelle mit allgemeinem Verwendungszweck in der EU in Verkehr bringen, unabhängig von ihrem Sitz, sowie Anbieter und Betreiber außerhalb der EU, wenn die Ausgabe des KI-Systems in der EU verwendet wird. Auch Einführer, Händler und Produkthersteller, die ein KI-System zusammen mit ihrem Produkt in Verkehr bringen, sind erfasst.
Fällt ein KI-Produkt auch unter den Cyber Resilience Act?
Das kann sein. Der CRA erfasst Produkte mit digitalen Elementen, und sein Artikel 12 regelt solche, die zugleich Hochrisiko-KI-Systeme sind: Die Erfüllung der grundlegenden Anforderungen des CRA, nachgewiesen in der EU-Konformitätserklärung, gilt als Erfüllung der Cybersicherheitsanforderungen von Artikel 15 der KI-Verordnung. Ob eines der beiden Gesetze anwendbar ist, hängt vom Produkt ab.
Kann KROMSE mein KI-System konform mit der KI-Verordnung machen?
Nein. KROMSE stuft keine KI-Systeme ein, bescheinigt keine Konformität und entscheidet nicht, ob die KI-Verordnung anwendbar ist. Heute scannt es die Software eines KI-Produkts auf bekannte Schwachstellen, schädliche Pakete und Secrets und exportiert SBOMs. Ein Modul zur KI-Verordnung (EU AI Act) steht auf der Roadmap.