EU AI Act: was heute für Ihr Unternehmen gilt und was warten kann

Zwei Fragen entscheiden, was gilt

Jede Pflicht aus der KI-Verordnung hängt an zwei Dingen: Ihrer Rolle bei einem bestimmten KI-System und daran, wie riskant seine Nutzung ist. Sie beantworten beides für jedes System einzeln, ein Unternehmen kann also mehrere Antworten haben.

Prüfen Sie zuerst, ob es überhaupt ein KI-System ist. Die Verordnung erfasst Software, die ihr Ergebnis aus den Daten ableitet, die sie erhält, etwa ein Modell, das Support-Tickets nach Dringlichkeit sortiert. Eine feste Regel, die ein Mensch geschrieben hat, wie "jedes Ticket, in dem eine Rechnung erwähnt wird, geht an die Buchhaltung", ist normale Software und fällt nicht unter die Verordnung.

Ihre Rolle: Anbieter oder Betreiber

Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen auf den Markt bringt. Hat Ihr Produkt eine KI-Funktion, sind Sie Anbieter dieser Funktion, auch wenn darunter ein Modell von OpenAI oder Mistral läuft.

Betreiber ist, wer ein KI-System bei der Arbeit nutzt. Schreibt Ihr Vertrieb E-Mails mit ChatGPT, ist Ihr Unternehmen Betreiber von ChatGPT.

Die meisten Unternehmen sind beides: Anbieter für ihr eigenes Produkt, Betreiber für die Tools ihrer Mitarbeitenden. Eines kann Ihre Rolle ändern. Wenn Sie Ihren eigenen Namen auf ein Hochrisiko-System setzen, das jemand anderes gebaut hat, oder es wesentlich verändern, übernehmen Sie die Pflichten des Anbieters (Artikel 25 der KI-Verordnung).

Die Risikostufe

Die Verordnung teilt Anwendungen in vier Stufen ein:

• Verboten. Eine kurze Liste von Anwendungen, die gar nicht erlaubt sind, etwa Menschen nach ihrem Sozialverhalten zu bewerten oder die Emotionen von Mitarbeitenden über die Webcam auszulesen.
• Hochrisiko. Anwendungen, bei denen ein Fehler das Leben eines Menschen erheblich beeinflussen kann. Anhang III der Verordnung listet sie auf: Personalauswahl und andere Personalentscheidungen, Kreditwürdigkeitsprüfung, Preisgestaltung bei Lebens- und Krankenversicherungen, Zugang zu Bildung, biometrische Identifizierung, kritische Infrastruktur sowie Anwendungen im öffentlichen Sektor wie Polizeiarbeit, Grenzkontrolle, Justiz und Entscheidungen über öffentliche Leistungen. KI in regulierten Produkten wie Medizinprodukten oder Maschinen gilt ebenfalls als Hochrisiko.
• Begrenztes Risiko (Transparenzpflichten). KI, die mit Menschen spricht (Chatbots), und KI, die Inhalte erzeugt, einschließlich Deepfakes. Die Pflicht ist, das offenzulegen.
• Minimales Risiko (alles andere). Spamfilter, Programmierassistenten, ein Modell, das die nächste Antwort auf ein Support-Ticket vorschlägt. Keine Pflichten außer KI-Kompetenz.

Die Stufe folgt der Nutzung, die Technik spielt keine Rolle. Dasselbe Sprachmodell hat minimales Risiko, wenn es Besprechungsnotizen zusammenfasst, und ist Hochrisiko, wenn es Bewerbungen sortiert.

Was heute schon gilt

Vier Teile der KI-Verordnung gelten bereits. Hier ist jeder einzelne und wen er betrifft.

Keine verbotenen Anwendungen (seit Februar 2025)

Die Liste verbotener Praktiken in Artikel 5 der KI-Verordnung gilt seit dem 2. Februar 2025. Das meiste davon ist weit weg vom Alltag eines normalen Unternehmens, etwa Straftaten anhand eines Personenprofils vorherzusagen oder Gesichtserkennungsdatenbanken aus Fotos aus dem Internet aufzubauen. Zwei Punkte lohnt es sich, mit Ihren eigenen Tools abzugleichen: Emotionserkennung am Arbeitsplatz oder in der Bildung, also KI, die aus Gesicht oder Stimme abzulesen versucht, wie sich jemand fühlt, und Techniken, die Menschen manipulieren oder ihr Alter oder ihre Lage auf schädliche Weise ausnutzen.

Ein HR-Tool, das in Videocalls das Engagement von Mitarbeitenden an ihren Gesichtern ablesen will, ist Emotionserkennung am Arbeitsplatz und damit verboten. Außerhalb von Arbeit und Bildung ist Emotionserkennung erlaubt, aber die betroffenen Personen müssen informiert werden, und ab Dezember 2027 gilt sie als Hochrisiko.

Ab dem 2. Dezember 2026 umfasst die Liste auch KI-Systeme, die sexualisierte Bilder realer Personen ohne deren Einwilligung oder von Kindern erzeugen.

KI-Kompetenz (seit Februar 2025)

Artikel 4 der KI-Verordnung verlangt von Anbietern und Betreibern, die KI-Kompetenz der Menschen zu fördern, die in ihrem Auftrag mit KI arbeiten. Die Änderungen vom Juli 2026 haben die Formulierung abgeschwächt: Sie müssen Maßnahmen ergreifen, die das unterstützen, ein bestimmtes Niveau ist nicht vorgeschrieben.

In der Praxis sollten die Menschen, die bei der Arbeit KI nutzen, wissen, was die Tools gut können, wo sie danebenliegen und was Ihre Regeln zu Unternehmensdaten sagen. Diese Regeln stehen meist in einer KI-Nutzungsrichtlinie, einer Seite, die festlegt, welche KI-Tools Mitarbeitende nutzen dürfen und welche Daten hineindürfen. Eine kurze Schulung auf Basis dieser Richtlinie reicht, um die Anforderung zu erfüllen. Führen Sie eine Teilnehmerliste, damit Sie es zeigen können, falls jemand fragt.

Transparenz (seit August 2026)

Artikel 50 der KI-Verordnung gilt seit dem 2. August 2026, die Änderungen vom Juli haben ihn nicht verschoben. Er hat vier Teile:

• Anbieter: Wenn Menschen mit Ihrer KI interagieren, etwa mit einem Support-Chatbot, sagen Sie ihnen, dass es KI ist, außer das ist offensichtlich.
• Anbieter: Wenn Ihr Produkt Texte, Bilder, Audio oder Video erzeugt, kennzeichnen Sie das Ergebnis maschinenlesbar, etwa über Metadaten oder ein Wasserzeichen, damit Software es als KI-generiert erkennen kann. Für Produkte, die schon vor dem 2. August 2026 auf dem Markt waren, gilt das ab dem 2. Dezember 2026.
• Betreiber: Wenn Sie Deepfakes veröffentlichen, also mit KI erzeugte Bilder, Audios oder Videos realer Personen, Orte oder Ereignisse, die echt wirken, legen Sie offen, dass sie künstlich erzeugt sind. Dasselbe gilt für KI-geschriebene Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Hat ein Mensch den Text geprüft und übernimmt jemand die redaktionelle Verantwortung, ist keine Kennzeichnung nötig.
• Betreiber: Wenn Sie Emotionserkennung oder biometrische Kategorisierung einsetzen, die Menschen anhand von Gesicht oder Stimme in Gruppen wie Alter oder Geschlecht einordnet, informieren Sie die Personen, bei denen Sie sie einsetzen.

Im Juni 2026 hat die Europäische Kommission einen freiwilligen Verhaltenskodex zur Kennzeichnung KI-generierter Inhalte veröffentlicht, der zeigt, wie gute Kennzeichnung aussieht. Ein KI-generiertes Bild trägt zum Beispiel eingebettete Metadaten, die sagen, dass es mit KI erstellt wurde, und ein unsichtbares Wasserzeichen, das Erkennungssoftware lesen kann.

KI-Modelle mit allgemeinem Verwendungszweck (seit August 2025)

Die Regeln für KI-Modelle mit allgemeinem Verwendungszweck, also die großen Modelle hinter Tools wie ChatGPT, gelten seit dem 2. August 2025. Sie betreffen die Unternehmen, die diese Modelle entwickeln und veröffentlichen. Wenn Sie ein Modell über seine API ansprechen (die Schnittstelle, über die Entwickler es aus ihrer eigenen Software aufrufen) oder es in kleinem Umfang mit eigenen Daten weitertrainieren, bleiben diese Pflichten beim Anbieter des Modells.

Was bis 2027 warten kann

Die Hochrisiko-Regeln sind der aufwendige Teil der KI-Verordnung. Sie gelten ab dem 2. Dezember 2027 für die in Anhang III aufgeführten Anwendungen, etwa Personalauswahl, Kreditwürdigkeitsprüfung und Bildung, und ab dem 2. August 2028 für KI in regulierten Produkten. Diese Termine stehen fest.

Wenn Sie ein Hochrisiko-System anbieten, brauchen Sie:

• ein Risikomanagement für das System
• Regeln für die Daten, mit denen Sie es trainieren und testen
• eine technische Dokumentation, also eine schriftliche Beschreibung, wie das System funktioniert, womit es trainiert und wie es getestet wurde
• Protokollierung, also Aufzeichnungen, die das System automatisch über sein Handeln führt
• menschliche Aufsicht, eine Person, die das Ergebnis versteht und es übersteuern oder das System stoppen kann
• ein Qualitätsmanagementsystem nach Artikel 17 der KI-Verordnung, also die schriftlich festgelegten Abläufe, die all das am Laufen halten, wenn sich das System ändert
• eine Konformitätsbewertung vor der Markteinführung, eine dokumentierte Prüfung, bei den meisten Anwendungen durch den Anbieter selbst, dass das System diese Anforderungen erfüllt
• die Registrierung in der EU-Datenbank für Hochrisiko-KI-Systeme

Wenn Sie ein Hochrisiko-System betreiben, etwa ein Tool, das Lebensläufe sichtet, sind Ihre Pflichten geringer:

• es so nutzen, wie es die Anleitung des Anbieters vorsieht
• eine geschulte Person mit der Aufsicht betrauen
• beobachten, wie es arbeitet, und schwerwiegende Vorfälle dem Anbieter und der Behörde melden
• die Protokolle aufbewahren, die es erzeugt
• Ihre Mitarbeitenden informieren, bevor es bei ihnen eingesetzt wird, und die Menschen informieren, über die es mitentscheidet, etwa Bewerberinnen und Bewerber

Betreiber, die KI zur Kreditwürdigkeitsprüfung oder Preisgestaltung bei Lebens- und Krankenversicherungen einsetzen, sowie öffentliche Stellen müssen vor dem Einsatz außerdem die Auswirkungen auf die Grundrechte der Betroffenen bewerten.

Es gibt einen Ausweg. Ein System in einem Bereich aus Anhang III ist kein Hochrisiko-System, wenn es nur eine eng begrenzte Aufgabe erledigt, etwa unstrukturierte Dokumente in strukturierte Daten umzuwandeln, und kein Profil von Menschen erstellt, um ihr Verhalten oder ihre Leistung vorherzusagen. Diese Einschätzung müssen Sie trotzdem dokumentieren und das System registrieren.

Dezember 2027 klingt weit weg. Für einen Anbieter dauern ein Qualitätsmanagementsystem und die technische Dokumentation für jedes System aber viele Monate. Wenn sich im Unternehmen noch niemand darum kümmert, kann eine externe Sicherheitsleitung das übernehmen, bis es jemand tut.

Ein Beispiel aus der Praxis

Nehmen Sie ein Softwareunternehmen mit 60 Mitarbeitenden, das eine HR-Plattform verkauft.

• Sein Produkt hat einen Chatbot, der Fragen von Mitarbeitenden zu Urlaub und Gehalt beantwortet. Das Unternehmen ist Anbieter, die Nutzung hat begrenztes Risiko: Der Chatbot muss sagen, dass er KI ist. Das gilt jetzt.
• Das Produkt entwirft Stellenanzeigen mit einem Sprachmodell. Als Anbieter einer generativen Funktion muss das Unternehmen den Text maschinenlesbar kennzeichnen. Das gilt jetzt für neue Funktionen. Für eine Funktion, die schon vor dem 2. August 2026 auf dem Markt war, gilt es ab dem 2. Dezember 2026.
• Seine Mitarbeitenden nutzen ChatGPT und Copilot. Das Unternehmen ist Betreiber, bei minimalem Risiko. Es braucht also Maßnahmen zur KI-Kompetenz, und eine Nutzungsrichtlinie ist der einfachste Weg dorthin. Das gilt jetzt.
• Es plant eine Funktion, die Bewerbungen sortiert. Das Unternehmen ist dann Anbieter eines Hochrisiko-Systems, mit allen Hochrisiko-Pflichten ab dem 2. Dezember 2027. Die Arbeit sollte jetzt beginnen.

Wenn Sie Ihre eigenen KI-Tools und -Funktionen genauso durchgehen, ist das der erste Schritt, um zu prüfen, wo Sie bei der KI-Verordnung stehen.

Wer das in Deutschland prüft

Seit dem 29. Juli 2026 hat Deutschland ein eigenes Durchführungsgesetz, das KI-MIG (Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz). Es macht die Bundesnetzagentur zur zentralen Marktüberwachungsbehörde für die KI-Verordnung, also zu der Behörde, die KI-Systeme auf dem Markt prüft und Änderungen anordnen kann. Die BaFin bleibt für Banken und Versicherungen zuständig. Die Bundesnetzagentur betreibt außerdem einen KI-Service Desk mit einem kostenlosen Online-Check, der eine erste Einschätzung Ihrer Risikostufe liefert und sich gut eignet, um Ihre eigene Einordnung zu überprüfen. KI-Modelle mit allgemeinem Verwendungszweck beaufsichtigt das KI-Büro der EU.

Wo Sie anfangen

1. Listen Sie auf, wo KI in Ihrem Unternehmen steckt: Funktionen in Ihrem Produkt, KI in Tools, die Sie weiterverkaufen, und Tools, die Ihre Mitarbeitenden nutzen. Eine Tabelle reicht.
2. Notieren Sie für jeden Eintrag Ihre Rolle und die Risikostufe. Landet etwas bei "verboten", hören Sie auf, es zu nutzen.
3. Wenn Ihr Produkt mit Menschen spricht oder Inhalte erzeugt, prüfen Sie jetzt den Chatbot-Hinweis und die Kennzeichnung der Ergebnisse. Für Produkte, die schon vor dem 2. August 2026 auf dem Markt waren, gilt die Kennzeichnung ab dem 2. Dezember 2026.
4. Führen Sie eine Schulung zur KI-Kompetenz auf Basis Ihrer Nutzungsrichtlinie durch und bewahren Sie die Teilnehmerliste auf.
5. Ist ein Eintrag Hochrisiko, beginnen Sie noch in diesem Quartal mit dem Qualitätsmanagementsystem, und geben Sie der KI-Governance eine verantwortliche Person.

Wie geht es weiter?

Manche Unternehmen wollen ihren Kunden zeigen, wie sie KI steuern. Wer ein KI-Managementsystem wirklich braucht erklärt, wann ISO 42001 dabei hilft und wann es Unternehmen verkauft wird, die es nicht brauchen. Und weil der erste Schritt bei all dem eine Liste ist, wo KI steckt, zeigt So bauen Sie ein Asset-Register, das einem Audit standhält, wie Sie eine solche Liste aktuell halten.