EU AI Act konkret: Was Unternehmen jetzt wissen und umsetzen müssen

Kategorien: Künstliche Intelligenz und Datenschutz

Kurzbeschreibung / Excerpt: Der EU AI Act ist kein abstraktes Regulierungsvorhaben mehr – er ist Realität. Ab dem 2. August 2026 greifen weitreichende Pflichten für Unternehmen, die KI einsetzen. Bußgelder bis zu 35 Millionen Euro, persönliche Haftung der Geschäftsführung und neue Anforderungen an Chatbots auf öffentlichen Websites machen schnelles Handeln notwendig. Dieser Artikel erklärt die konkreten Fristen, Risikostufen und Pflichten – und zeigt, wie Unternehmen jetzt vorausschauend handeln können.

Was ist der EU AI Act – und warum betrifft er fast jedes Unternehmen?

Der EU AI Act (Verordnung (EU) 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz. Er trat am 2. August 2024 in Kraft und entfaltet seine volle Wirkung gestaffelt bis 2028. Das Gesetz gilt für jeden, der KI-Systeme in der EU entwickelt, betreibt, importiert oder nutzt – unabhängig davon, ob der Anbieter seinen Sitz innerhalb oder außerhalb der EU hat.

Wer heute einen KI-gestützten Chatbot auf seiner Website betreibt, Mitarbeitende mit KI-Tools arbeiten lässt oder automatisierte Entscheidungen trifft, ist betroffen. Laut einer Umfrage des Ifo-Instituts setzen bereits 54,5 Prozent der deutschen Unternehmen KI-Technologien ein. Diese Unternehmen müssen jetzt handeln.

Das Risikomodell: Vier Stufen, unterschiedliche Pflichten

Der EU AI Act folgt einem risikobasierten Ansatz. Je höher das gesellschaftliche Schadenspotenzial eines KI-Systems, desto strenger die Anforderungen.

Stufe 1: Unannehmbares Risiko – verboten

Diese KI-Anwendungen sind vollständig verboten:

• Social-Scoring durch staatliche Behörden
• Manipulative KI-Systeme, die menschliches Verhalten unterschwellig beeinflussen
• Biometrische Kategorisierung nach politischer Überzeugung, sexueller Orientierung oder religiöser Überzeugung
• Echtzeit-Gesichtserkennung im öffentlichen Raum (mit engen Ausnahmen)
• KI-Systeme, die Schwächen von Personen ausnutzen (Alter, Behinderung)

Stufe 2: Hohes Risiko – strenge Pflichten

Als Hochrisiko-KI gelten Systeme in sensiblen Bereichen wie HR und Recruiting, Kreditvergabe, Bildung und Ausbildung, Medizin und Gesundheit, kritische Infrastruktur, Biometrie, Strafverfolgung und Grenzkontrolle sowie Justizverwaltung.

Für diese Systeme gelten ab August 2026 umfangreiche Pflichten: Risikomanagementsystem nach Art. 9, technische Dokumentation nach Art. 11, Konformitätsbewertung, EU-Datenbankregistrierung und verpflichtende menschliche Aufsicht.

Stufe 3: Begrenztes Risiko – Transparenzpflichten

Hierunter fallen vor allem Chatbots, virtuelle Assistenten und generative KI. Diese Systeme müssen als KI gekennzeichnet sein. Für Unternehmen mit öffentlicher Website ist das die unmittelbar relevanteste Kategorie.

Stufe 4: Minimales Risiko – weitgehend frei

KI-gestützte Spam-Filter oder einfache Empfehlungssysteme unterliegen kaum Einschränkungen.

Der Zeitplan: Wer muss wann was umsetzen?

Wichtig: Die Kompetenzpflicht nach Art. 4 gilt bereits seit Februar 2025. Unternehmen müssen dokumentieren können, dass Mitarbeitende im Umgang mit KI geschult wurden.

Bußgelder und Haftung: Das droht bei Verstößen

Der EU AI Act sieht ein dreistufiges Sanktionssystem vor:

Kategorie 1 – schwerste Verstöße (verbotene KI-Praktiken): Bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes

Kategorie 2 – Hochrisiko-Verstöße und Transparenzpflichtverletzungen: Bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes

Kategorie 3 – fehlerhafte Angaben gegenüber Behörden: Bis zu 7,5 Millionen Euro oder 1 Prozent des weltweiten Jahresumsatzes

Für KMU gelten grundsätzlich niedrigere Höchstbeträge, wobei der jeweils niedrigere Wert (absoluter Betrag oder Prozentsatz) gilt.

Ein Unternehmen gilt als KMU, wenn es nicht mehr als 249 Beschäftigte hat und einen Jahresumsatz von höchstens 50 Millionen € erwirtschaftet oder eine Bilanzsumme von maximal 43 Millionen € aufweist. Grundlage ist die EU-Empfehlung 2003/361/EG.

Achtung Konzernzugehörigkeit: Bei einem Unternehmen, das Teil einer größeren Gruppe ist, müssen je nach Höhe der Beteiligung die Mitarbeiterzahl und der Umsatz bzw. die Bilanzsumme der Gruppe mit berücksichtigt werden. Eine Tochtergesellschaft eines Großkonzerns ist also kein KMU, auch wenn sie selbst klein ist.

Besonders kritisch: Art. 4 des EU AI Act verankert die persönliche Haftung der Geschäftsführung. Kann ein Unternehmen keine ausreichende KI-Kompetenz nachweisen, können Geschäftsführer persönlich in die Haftung genommen werden. In Kombination mit DSGVO und NIS2 können kumulierte Strafen bei schwerwiegenden Verstößen auf bis zu 13 Prozent des globalen Jahresumsatzes anwachsen.

Chatbots und KI-Assistenten auf öffentlichen Websites

Wer auf seiner Unternehmenswebsite, im Kundenportal oder in einer App einen KI-Chatbot betreibt, ist ab dem 2. August 2026 direkt von Art. 50 EU AI Act betroffen. Die Anforderungen sind klar:

Was ist Pflicht:

• Nutzer müssen spätestens beim ersten Kontakt klar und verständlich darüber informiert werden, dass sie mit einem KI-System kommunizieren (dauerhaftes Label im Chat-Header genügt)
• Die Kennzeichnung muss gut sichtbar, barrierefrei und nicht im Footer versteckt sein
• Ein kleiner Hinweis am unteren Rand der Seite reicht ausdrücklich nicht aus

So sieht eine konforme Kennzeichnung aus:

Eine Formulierung zu Beginn des Chats wie „Hallo, ich bin der KI-Assistent von [Unternehmen]. Ich beantworte Ihre Fragen zu [Thema] automatisch." erfüllt die Anforderung. Alternativ ein dauerhaft sichtbarer Label im Chat-Header wie „KI-Assistent".

Ausnahmen gelten nur, wenn aus dem Kontext für einen durchschnittlich informierten Nutzer offensichtlich ist, dass er mit einer KI spricht – etwa bei bekannten Sprachassistenten wie Alexa oder Siri.

Was viele vergessen: Auch KI-generierte Texte, die öffentlich verbreitet werden – zum Beispiel Produktbeschreibungen, automatische Berichte oder Social-Media-Posts – unterliegen Kennzeichnungspflichten, sofern sie täuschend echt wirken und keine redaktionelle Überarbeitung durch einen Menschen stattgefunden hat.

Das Urteil des Landgerichts München I: KI haftet wie ein Redakteur

Ein wegweisendes Urteil vom 28. Mai 2026 (LG München I, Az. 26 O 869/26) zeigt, was auf Unternehmen zukommt, die generative KI öffentlich einsetzen: Das Gericht untersagte Google im Eilverfahren, in seiner KI-Suchfunktion „AI Overviews" unwahre Tatsachenbehauptungen über zwei Münchner Verlage zu verbreiten. Die KI hatte Informationen zu fragwürdigen Geschäftspraktiken anderer Unternehmen fälschlicherweise diesen Verlagen zugeordnet.

Das Gericht stufte Google dabei nicht als mittelbaren Anzeiger, sondern als unmittelbaren Störer ein. Die Begründung: Während herkömmliche Suchergebnisse lediglich Inhalte Dritter mit Titel und Link anzeigen, erzeugt die KI-Funktion eigenständige Fließtexte, die mehrere Quellen zusammenfassen. Aus Sicht des durchschnittlichen Nutzers wirkt das wie eine direkte Information von Google – nicht wie das Durchreichen fremder Inhalte. Der Hinweis „Mit KI erstellt" änderte an dieser Zurechnung nichts.

„Mit KI erstellt" schützt nicht vor Haftung.

Was das für Unternehmen bedeutet: Wer auf seiner Website, in seiner App oder in seinem Kundenportal eine generative KI einsetzt, die eigenständig Texte produziert und diese öffentlich zugänglich macht, trägt für diese Inhalte vollständige äußerungsrechtliche Verantwortung. Die Fehlerhaftigkeit des KI-Prozesses schützt nicht vor Haftung. Das gilt für Chatbot-Antworten genauso wie für automatisch generierte Produktbeschreibungen oder FAQ-Texte.

KI-Agenten: Das unterschätzte Risikopotenzial

KI-Agenten sind KI-Systeme, die nicht nur Fragen beantworten, sondern selbstständig handeln: Sie zerlegen Ziele in Teilaufgaben, interagieren mit anderen Systemen, lesen und schreiben Dateien, senden E-Mails, buchen Termine oder führen Transaktionen aus – mit minimaler menschlicher Überwachung.

Genau hier liegt ein gravierendes Problem, das viele Unternehmen noch unterschätzen.

Warum KI-Agenten besonders problematisch sind:

Erstens ist die Nachvollziehbarkeit eingeschränkt. Handlungsketten autonomer Agenten sind häufig nicht vollständig dokumentierbar. Was hat das System wann entschieden? Auf Basis welcher Daten?

Zweitens entsteht ein Kontrollverlust. Sobald ein Agent eigenständig auf externe Systeme zugreift, können Fehler oder Fehlinformationen kaskadierende Folgen haben, die sich manuell kaum noch stoppen lassen.

Drittens erhöht sich die Angriffsfläche dramatisch. Prompt-Injection-Angriffe – bei denen bösartige Anweisungen in Eingabedaten eingeschleust werden – können Agenten dazu bringen, unerwünschte Aktionen auszuführen. OpenAI reagierte erst im Juni 2026 mit einem speziellen Schutzmodus gegen genau diese Angriffsvektoren.

Viertens ist die Compliance-Prüfung komplex. Der EU AI Act verwendet den Begriff „Agentic AI" nicht explizit, doch autonome Systeme fallen unter die breite KI-Definition in Art. 3 Abs. 1. Je nach Einsatzgebiet – Finanzentscheidungen, Personalmanagement, Kundenkommunikation – können sie als Hochrisiko-Systeme eingestuft werden, mit allen damit verbundenen Dokumentations- und Aufsichtspflichten.

Empfehlung: Setzen Sie KI-Agenten, sofern überhaupt, ausschließlich in klar abgegrenzten, dokumentierten und jederzeit durch Menschen abschaltbaren Szenarien ein. Legen Sie vorab schriftlich fest, welche Aktionen der Agent ausführen darf und welche nicht. Eine lückenlose Protokollierung aller Agenten-Aktionen ist unerlässlich.

Warum lokale KI den EU AI Act erheblich vereinfacht

Viele der Anforderungen des EU AI Act entstehen erst dadurch, dass KI-Systeme externe, cloudbasierte Dienste nutzen und dabei sensible Unternehmensdaten an Dritte übertragen. Eine lokal betriebene KI – das heißt ein KI-Modell, das vollständig auf eigener Hardware oder in einer privaten Infrastruktur innerhalb des Unternehmens läuft – löst viele dieser Probleme strukturell.

Konkrete Vorteile lokaler KI für die Compliance:

Lokale KI-Systeme übertragen keine Daten an externe Anbieter. Das schützt nicht nur Geschäftsgeheimnisse, sondern reduziert den DSGVO-Aufwand erheblich. Verarbeitungsverzeichnisse, Auftragsverarbeitungsverträge mit Cloud-Anbietern und Drittlandtransfers (z. B. in die USA) entfallen.

Die Dokumentationspflichten des EU AI Act – insbesondere für Hochrisiko-Systeme – sind bei lokalen Systemen leichter zu erfüllen, weil Unternehmen die vollständige Kontrolle über Modell, Konfiguration und Trainingsdaten haben.

Das Problem der sogenannten Shadow AI – wenn Mitarbeitende unkontrolliert externe KI-Dienste über private Accounts nutzen – entfällt, wenn das Unternehmen eine leistungsfähige, sichere interne Alternative bereitstellt.

Lokale KI kann durch gezielte Feinabstimmung (Fine-Tuning) auf unternehmensspezifische Anforderungen angepasst werden, ohne dass sensible Daten das Unternehmen verlassen.

Geeignete Modelle für den Unternehmenseinsatz sind heute beispielsweise Mistral, LLaMA, Phi oder Qwen – je nach Anforderung auch auf mittlerer Hardware betreibbar.

Fokussierte KI-Systeme: Weniger ist mehr

Ein weiterer Aspekt, der für Compliance und Sicherheit gleichermaßen entscheidend ist: die Konzentration auf fokussierte KI-Systeme statt auf universelle Alleskönner.

Ein KI-System, das genau eine Aufgabe sehr gut erledigt – zum Beispiel die Analyse eingehender Rechnungen, die Kategorisierung von Supportanfragen oder die Generierung von Produktbeschreibungen aus Datenbankfeldern –, ist wesentlich leichter regulatorisch einzuordnen als ein System, das beliebige Aufgaben ausführt.

Fokussierte Systeme haben klar definierte Ein- und Ausgaben. Sie sind einfacher zu testen und zu validieren. Ihr Risikoprofil ist transparent. Fehler lassen sich besser begrenzen und nachvollziehen. Und die Anforderungen des EU AI Act – insbesondere Risikoklassifizierung, Dokumentation und Konformitätsbewertung – lassen sich für ein fokussiertes System mit deutlich geringerem Aufwand erfüllen.

Empfehlung: Statt eines zentralen KI-Systems, das alles kann und überall eingesetzt wird, lieber mehrere kleine, spezialisierte Systeme mit klarer Aufgabe, definiertem Datenzugriff und dokumentiertem Verwendungszweck.

Tipps und Empfehlungen für Unternehmen

Sofort handeln (bereits seit Februar 2025 Pflicht): Dokumentieren Sie, welche KI-Systeme im Unternehmen genutzt werden – einschließlich KI-Tools, die Mitarbeitende privat oder über externe Accounts nutzen. Starten Sie mit Schulungen und dokumentieren Sie diese nachweislich.

Bis August 2026 umsetzen: Prüfen Sie alle öffentlich zugänglichen Chatbots und KI-Assistenten auf Kennzeichnungspflicht nach Art. 50. Formulieren Sie klare, barrierefreie Hinweise zur KI-Interaktion. Erstellen Sie ein vollständiges KI-Inventar mit Risikoklassifizierung. Lassen Sie Verträge mit KI-Anbietern juristisch prüfen.

Strukturell empfehlenswert: Wechseln Sie wo möglich auf lokale oder private KI-Lösungen, um Datenrisiken und Compliance-Aufwand zu reduzieren. Setzen Sie auf fokussierte, klar begrenzte KI-Anwendungen statt auf unkontrollierte Universalsysteme. Etablieren Sie klare interne Richtlinien zur erlaubten KI-Nutzung, um Shadow AI einzudämmen. Benennen Sie eine verantwortliche Person für KI-Governance im Unternehmen.

Für KI auf öffentlichen Websites: Lassen Sie automatisch generierte öffentliche Inhalte stets von einem Menschen prüfen und freigeben. Nur dann greift die Ausnahme von der Kennzeichnungspflicht. Denken Sie daran: Äußerungsrechtlich gilt – wie das Münchner Urteil zeigt –, dass generative KI-Ausgaben dem Betreiber direkt zugerechnet werden.

Checkliste: EU AI Act – Wo steht Ihr Unternehmen?

Grundlagen

• [ ] KI-Inventar erstellt: Welche KI-Systeme werden intern und extern genutzt?
• [ ] Shadow-AI-Analyse durchgeführt: Welche KI-Tools nutzen Mitarbeitende ohne IT-Freigabe?
• [ ] Risikoklassifizierung aller KI-Systeme vorgenommen (verboten / hochriskant / begrenzt / minimal)
• [ ] KI-Kompetenzschulung aller relevanten Mitarbeitenden dokumentiert (Pflicht seit Feb. 2025)
• [ ] Verantwortliche Person für KI-Governance benannt

Transparenz und Website

• [ ] Alle öffentlichen Chatbots und KI-Assistenten als KI gekennzeichnet
• [ ] Kennzeichnung beim ersten Kontakt sichtbar, nicht im Footer
• [ ] KI-generierte öffentliche Inhalte entweder gekennzeichnet oder redaktionell überprüft
• [ ] Datenschutzerklärung um KI-Hinweise ergänzt

Hochrisiko-Systeme (falls zutreffend)

• [ ] Risikomanagementsystem nach Art. 9 dokumentiert
• [ ] Technische Dokumentation nach Art. 11 erstellt
• [ ] Konformitätsbewertung eingeleitet
• [ ] Registrierung in der EU-KI-Datenbank geprüft
• [ ] Menschliche Aufsicht sichergestellt

Verträge und Governance

• [ ] Verträge mit KI-Anbietern auf AI-Act-Konformität geprüft
• [ ] Auftragsverarbeitungsverträge mit Cloud-KI-Anbietern aktualisiert
• [ ] Interne Nutzungsrichtlinie für KI-Tools erstellt
• [ ] KI-Agenten-Einsatz mit klaren Handlungsgrenzen dokumentiert
• [ ] Protokollierung aller KI-Aktionen mit personenbezogenem Bezug sichergestellt

Zukunftssicher

• [ ] Prüfung lokaler KI-Lösungen als Alternative zu Cloud-Diensten
• [ ] Fokussierte KI-Anwendungen statt universeller Systeme im Einsatz
• [ ] ISO 42001 (KI-Managementsystem) als Rahmenwerk geprüft
• [ ] Regelmäßige interne KI-Audits geplant

Fazit: Jetzt ist der richtige Zeitpunkt

Der EU AI Act ist kein theoretisches Regulierungsprojekt mehr. Die ersten Fristen sind bereits abgelaufen, die nächsten stehen unmittelbar bevor. Unternehmen, die jetzt handeln, sichern sich nicht nur vor Bußgeldern ab – sie schaffen Vertrauen bei Kunden, Partnern und Behörden.

Die gute Nachricht: Wer auf lokale KI, fokussierte Systeme und transparente Governance setzt, erfüllt die Anforderungen nicht nur leichter – er baut gleichzeitig eine nachhaltigere, sicherere und datenschutzkonformere KI-Infrastruktur auf, als es jeder Universal-Cloud-Dienst je ermöglichen kann. Höhere Zuverlässigkeit und bessere Qualität der KI-Ergebnisse gibt es dann noch obendrauf.