EU AI Act konkret: Was Unternehmen jetzt wissen und umsetzen müssen

Kategorien: Künstliche Intelligenz und Datenschutz

Kurzbeschreibung / Excerpt: Der EU AI Act ist kein abstraktes Regulierungsvorhaben mehr – er ist Realität. Ab dem 2. August 2026 greifen weitreichende Pflichten für Unternehmen, die KI einsetzen. Bußgelder bis zu 35 Millionen Euro, persönliche Haftung der Geschäftsführung und neue Anforderungen an Chatbots auf öffentlichen Websites machen schnelles Handeln notwendig. Dieser Artikel erklärt die konkreten Fristen, Risikostufen und Pflichten – und zeigt, wie Unternehmen jetzt vorausschauend handeln können.

Was ist der EU AI Act – und warum betrifft er fast jedes Unternehmen?

Der EU AI Act (Verordnung (EU) 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz. Er trat am 2. August 2024 in Kraft und entfaltet seine volle Wirkung gestaffelt bis 2028. Das Gesetz gilt für jeden, der KI-Systeme in der EU entwickelt, betreibt, importiert oder nutzt – unabhängig davon, ob der Anbieter seinen Sitz innerhalb oder außerhalb der EU hat.

Wer heute einen KI-gestützten Chatbot auf seiner Website betreibt, Mitarbeitende mit KI-Tools arbeiten lässt oder automatisierte Entscheidungen trifft, ist betroffen. Laut einer Umfrage des Ifo-Instituts setzen bereits 54,5 Prozent der deutschen Unternehmen KI-Technologien ein. Diese Unternehmen müssen jetzt handeln.

Das Risikomodell: Vier Stufen, unterschiedliche Pflichten

Der EU AI Act folgt einem risikobasierten Ansatz. Je höher das gesellschaftliche Schadenspotenzial eines KI-Systems, desto strenger die Anforderungen.

Stufe 1: Unannehmbares Risiko – verboten

Diese KI-Anwendungen sind vollständig verboten:

• Social-Scoring durch staatliche Behörden
• Manipulative KI-Systeme, die menschliches Verhalten unterschwellig beeinflussen
• Biometrische Kategorisierung nach politischer Überzeugung, sexueller Orientierung oder religiöser Überzeugung
• Echtzeit-Gesichtserkennung im öffentlichen Raum (mit engen Ausnahmen)
• KI-Systeme, die Schwächen von Personen ausnutzen (Alter, Behinderung)

Stufe 2: Hohes Risiko – strenge Pflichten

Als Hochrisiko-KI gelten Systeme in sensiblen Bereichen wie HR und Recruiting, Kreditvergabe, Bildung und Ausbildung, Medizin und Gesundheit, kritische Infrastruktur, Biometrie, Strafverfolgung und Grenzkontrolle sowie Justizverwaltung.

Für diese Systeme gelten ab August 2026 umfangreiche Pflichten: Risikomanagementsystem nach Art. 9, technische Dokumentation nach Art. 11, Konformitätsbewertung, EU-Datenbankregistrierung und verpflichtende menschliche Aufsicht.

Stufe 3: Begrenztes Risiko – Transparenzpflichten

Hierunter fallen vor allem Chatbots, virtuelle Assistenten und generative KI. Diese Systeme müssen als KI gekennzeichnet sein. Für Unternehmen mit öffentlicher Website ist das die unmittelbar relevanteste Kategorie.

Stufe 4: Minimales Risiko – weitgehend frei

KI-gestützte Spam-Filter oder einfache Empfehlungssysteme unterliegen kaum Einschränkungen.

Der Zeitplan: Wer muss wann was umsetzen?

Wichtig: Die Kompetenzpflicht nach Art. 4 gilt bereits seit Februar 2025. Unternehmen müssen dokumentieren können, dass Mitarbeitende im Umgang mit KI geschult wurden.

Bußgelder und Haftung: Das droht bei Verstößen

Der EU AI Act sieht ein dreistufiges Sanktionssystem vor:

Kategorie 1 – schwerste Verstöße (verbotene KI-Praktiken): Bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes

Kategorie 2 – Hochrisiko-Verstöße und Transparenzpflichtverletzungen: Bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes

Kategorie 3 – fehlerhafte Angaben gegenüber Behörden: Bis zu 7,5 Millionen Euro oder 1 Prozent des weltweiten Jahresumsatzes

Für KMU gelten grundsätzlich niedrigere Höchstbeträge, wobei der jeweils niedrigere Wert (absoluter Betrag oder Prozentsatz) gilt.

Ein Unternehmen gilt als KMU, wenn es nicht mehr als 249 Beschäftigte hat und einen Jahresumsatz von höchstens 50 Millionen € erwirtschaftet oder eine Bilanzsumme von maximal 43 Millionen € aufweist. Grundlage ist die EU-Empfehlung 2003/361/EG.

Achtung Konzernzugehörigkeit: Bei einem Unternehmen, das Teil einer größeren Gruppe ist, müssen je nach Höhe der Beteiligung die Mitarbeiterzahl und der Umsatz bzw. die Bilanzsumme der Gruppe mit berücksichtigt werden. Eine Tochtergesellschaft eines Großkonzerns ist also kein KMU, auch wenn sie selbst klein ist.

Besonders kritisch: Art. 4 des EU AI Act verankert die persönliche Haftung der Geschäftsführung. Kann ein Unternehmen keine ausreichende KI-Kompetenz nachweisen, können Geschäftsführer persönlich in die Haftung genommen werden. In Kombination mit DSGVO und NIS2 können kumulierte Strafen bei schwerwiegenden Verstößen auf bis zu 13 Prozent des globalen Jahresumsatzes anwachsen.

Chatbots und KI-Assistenten auf öffentlichen Websites

Wer auf seiner Unternehmenswebsite, im Kundenportal oder in einer App einen KI-Chatbot betreibt, ist ab dem 2. August 2026 direkt von Art. 50 EU AI Act betroffen. Die Anforderungen sind klar:

Was ist Pflicht:

• Nutzer müssen spätestens beim ersten Kontakt klar und verständlich darüber informiert werden, dass sie mit einem KI-System kommunizieren (dauerhaftes Label im Chat-Header genügt)
• Die Kennzeichnung muss gut sichtbar, barrierefrei und nicht im Footer versteckt sein
• Ein kleiner Hinweis am unteren Rand der Seite reicht ausdrücklich nicht aus

So sieht eine konforme Kennzeichnung aus:

Eine Formulierung zu Beginn des Chats wie „Hallo, ich bin der KI-Assistent von [Unternehmen]. Ich beantworte Ihre Fragen zu [Thema] automatisch." erfüllt die Anforderung. Alternativ ein dauerhaft sichtbarer Label im Chat-Header wie „KI-Assistent".

Ausnahmen gelten nur, wenn aus dem Kontext für einen durchschnittlich informierten Nutzer offensichtlich ist, dass er mit einer KI spricht – etwa bei bekannten Sprachassistenten wie Alexa oder Siri.

Was viele vergessen: Auch KI-generierte Texte, die öffentlich verbreitet werden – zum Beispiel Produktbeschreibungen, automatische Berichte oder Social-Media-Posts – unterliegen Kennzeichnungspflichten, sofern sie täuschend echt wirken und keine redaktionelle Überarbeitung durch einen Menschen stattgefunden hat.

Das Urteil des Landgerichts München I: KI haftet wie ein Redakteur

Ein wegweisendes Urteil vom 28. Mai 2026 (LG München I, Az. 26 O 869/26) zeigt, was auf Unternehmen zukommt, die generative KI öffentlich einsetzen: Das Gericht untersagte Google im Eilverfahren, in seiner KI-Suchfunktion „AI Overviews" unwahre Tatsachenbehauptungen über zwei Münchner Verlage zu verbreiten. Die KI hatte Informationen zu fragwürdigen Geschäftspraktiken anderer Unternehmen fälschlicherweise diesen Verlagen zugeordnet.

Das Gericht stufte Google dabei nicht als mittelbaren Anzeiger, sondern als unmittelbaren Störer ein. Die Begründung: Während herkömmliche Suchergebnisse lediglich Inhalte Dritter mit Titel und Link anzeigen, erzeugt die KI-Funktion eigenständige Fließtexte, die mehrere Quellen zusammenfassen. Aus Sicht des durchschnittlichen Nutzers wirkt das wie eine direkte Information von Google – nicht wie das Durchreichen fremder Inhalte. Der Hinweis „Mit KI erstellt" änderte an dieser Zurechnung nichts.

„Mit KI erstellt" schützt nicht vor Haftung.

Was das für Unternehmen bedeutet: Wer auf seiner Website, in seiner App oder in seinem Kundenportal eine generative KI einsetzt, die eigenständig Texte produziert und diese öffentlich zugänglich macht, trägt für diese Inhalte vollständige äußerungsrechtliche Verantwortung. Die Fehlerhaftigkeit des KI-Prozesses schützt nicht vor Haftung. Das gilt für Chatbot-Antworten genauso wie für automatisch generierte Produktbeschreibungen oder FAQ-Texte.

KI-Agenten: Das unterschätzte Risikopotenzial

KI-Agenten sind KI-Systeme, die nicht nur Fragen beantworten, sondern selbstständig handeln: Sie zerlegen Ziele in Teilaufgaben, interagieren mit anderen Systemen, lesen und schreiben Dateien, senden E-Mails, buchen Termine oder führen Transaktionen aus – mit minimaler menschlicher Überwachung.

Genau hier liegt ein gravierendes Problem, das viele Unternehmen noch unterschätzen.

Warum KI-Agenten besonders problematisch sind:

Erstens ist die Nachvollziehbarkeit eingeschränkt. Handlungsketten autonomer Agenten sind häufig nicht vollständig dokumentierbar. Was hat das System wann entschieden? Auf Basis welcher Daten?

Zweitens entsteht ein Kontrollverlust. Sobald ein Agent eigenständig auf externe Systeme zugreift, können Fehler oder Fehlinformationen kaskadierende Folgen haben, die sich manuell kaum noch stoppen lassen.