KI im Kundenservice & Chatbots: Transparenzpflichten nach Art. 50 EU AI Act

*Hinweis: Dieser Artikel dient der allgemeinen Information und ersetzt keine Rechtsberatung. Für verbindliche Aussagen zur Rechtslage in Ihrem konkreten Fall wenden Sie sich bitte an eine qualifizierte Rechtsanwältin oder einen Rechtsanwalt.*

KI-gestützte Chatbots sind aus dem modernen Kundenservice kaum noch wegzudenken. Sie beantworten Anfragen rund um die Uhr, reduzieren Wartezeiten und entlasten menschliche Teams. Doch seit dem 2. August 2025 gilt in der Europäischen Union eine klare Pflicht: Wer Chatbots und andere KI-Systeme mit Nutzerkontakt einsetzt, muss offenlegen, dass es sich um eine KI handelt. Die Grundlage dafür ist Artikel 50 des EU AI Act.

Was regelt Artikel 50 EU AI Act?

Artikel 50 trägt den Titel „Transparenzpflichten für bestimmte KI-Systeme" und richtet sich an Anbieter und Betreiber, die KI-Systeme einsetzen, die direkt mit Menschen in Kontakt treten. Im Kern legt er fest:

Wer ein KI-System betreibt, das zur Interaktion mit natürlichen Personen bestimmt ist – insbesondere Chatbots im Kundenservice – muss die betroffenen Personen klar, verständlich und rechtzeitig darüber informieren, dass sie mit einer KI kommunizieren.

Darüber hinaus erfasst Art. 50 zwei weitere Kategorien:

Emotionserkennung und Biometrie

Systeme, die Emotionen oder biometrische Merkmale von Personen analysieren (etwa KI-Systeme zur Stimmungsanalyse in Call-Centern), unterliegen ebenfalls einer Informationspflicht: Betroffene müssen vor oder spätestens bei Beginn der Interaktion wissen, dass ein solches System aktiv ist.

KI-generierte und veränderte Inhalte (Deepfakes)

Für synthetisch erzeugte oder manipulierte Audio-, Bild- oder Videoinhalte schreibt Art. 50 eine maschinell lesbare Kennzeichnung vor. Wer solche Inhalte erzeugt oder verbreitet – etwa für Marketing oder Produktvideos –, muss sicherstellen, dass dies erkennbar bleibt.

Warum gilt die Pflicht erst seit August 2025?

Der EU AI Act ist stufenweise in Kraft getreten. Die allgemeinen Bestimmungen – darunter die in Art. 50 geregelten Transparenzpflichten – sind nach einer 12-monatigen Übergangsfrist am 2. August 2025 verbindlich geworden. Unternehmen hatten also ein Jahr Vorlaufzeit. Dieses Fenster ist geschlossen.

Was müssen Betreiber konkret offenlegen?

Die Kernpflicht für Kundenservice-Chatbots ist klar: Nutzerinnen und Nutzer müssen zu Beginn der Interaktion darüber informiert werden, dass sie mit einem KI-System und nicht mit einem Menschen sprechen oder schreiben. Eine versteckte Fußnote in den Nutzungsbedingungen oder ein Hinweis, der erst auf Nachfrage erscheint, genügt nicht.

Praktisch bedeutet das:

Der Einstieg ins Chatfenster sollte einen sichtbaren, unmissverständlichen Hinweis enthalten, zum Beispiel: *„Hallo, ich bin ein KI-Assistent von [Unternehmen]. Wie kann ich Ihnen helfen?"*

Wortlaut und Platzierung obliegen dem Betreiber, solange der Informationscharakter eindeutig ist. Ausnahmen sind eng gefasst: Eine Offenlegungspflicht entfällt nur dann, wenn das KI-System offensichtlich als KI erkennbar ist – was in der Praxis selten der Fall ist, da gut gestaltete Chatbots von menschlicher Kommunikation schwer zu unterscheiden sind.

Art. 50 und Art. 4: Zwei verschiedene Pflichten

Hier entsteht in der Praxis häufig Verwirrung: Art. 50 und Art. 4 des EU AI Act verfolgen unterschiedliche Ziele und richten sich an unterschiedliche Personengruppen.

Art. 4 verpflichtet Unternehmen dazu, eigene Mitarbeiterinnen und Mitarbeiter mit ausreichender KI-Kompetenz auszustatten – also intern für Schulung und Dokumentation zu sorgen. Diese Pflicht gilt seit dem 2. Februar 2025.

Art. 50 hingegen ist eine externe Informationspflicht gegenüber Dritten: Es geht darum, was Sie Ihren Kundinnen und Kunden, Patientinnen oder sonstigen Nutzern mitteilen müssen, die mit Ihren KI-Systemen in Berührung kommen. Beide Pflichten ergänzen sich, aber eine ersetzt die andere nicht.

Wer also seine Mitarbeitenden nach Art. 4 geschult hat, ist damit nicht automatisch nach Art. 50 konform – und umgekehrt.

Was droht bei Verstößen?

Der EU AI Act sieht für Verstöße gegen Transparenzpflichten nach Art. 50 empfindliche Sanktionen vor: bis zu 15 Millionen Euro oder 3 % des globalen Jahresumsatzes, je nachdem, welcher Betrag höher ist. Zuständige Aufsichtsbehörde in Deutschland ist die Bundesnetzagentur.

Wichtig: Bußgelder werden nicht automatisch verhängt. Die Aufsichtsbehörde prüft zunächst, ob ein Verstoß vorliegt, und berücksichtigt dabei auch das Verhalten des Unternehmens. Wer transparent und kooperativ handelt, steht besser da als wer Pflichten schlicht ignoriert.

Zum Zusammenspiel mit dem Datenschutzrecht lesen Sie auch unseren Artikel DSGVO und KI-Tools im Unternehmen, da viele KI-Chatbots personenbezogene Daten verarbeiten und damit zwei Regelwerke gleichzeitig betroffen sind.

Abgrenzung: Was ist nach Art. 5 verboten?

Nicht alle KI-Systeme im Kundenkontakt sind legal einsetzbar. Art. 5 EU AI Act listet Praktiken auf, die vollständig untersagt sind – unabhängig von Transparenzmaßnahmen. Dazu zählt etwa der Einsatz von KI zur unbewussten Beeinflussung von Menschen oder die Ausnutzung von Vulnerabilitäten bestimmter Personengruppen. Wer prüft, ob sein Chatbot-Einsatz erlaubt ist, sollte beide Artikel im Blick haben.

Handlungsempfehlung: So werden Sie Art.-50-konform

Drei Schritte helfen Ihnen, die Anforderungen zeitnah zu erfüllen:

Bestandsaufnahme: Prüfen Sie, welche KI-Systeme in Ihrem Unternehmen direkt mit Nutzerinnen und Nutzern interagieren – Chatbots, automatisierte E-Mail-Systeme, Voice-Assistenten oder Emotionserkennungssysteme im Service.

Kennzeichnung einrichten: Stellen Sie sicher, dass jede KI-Interaktion mit einem sichtbaren, klaren Hinweis startet. Lassen Sie den Wortlaut intern oder juristisch prüfen.

Dokumentation anlegen: Halten Sie fest, welche Systeme wann und wie gekennzeichnet wurden. Das hilft bei behördlichen Anfragen und zeigt Sorgfalt.

Mitarbeiter-Kompetenz nicht vergessen

Transparenz gegenüber Kunden ist die eine Seite. Die andere ist, dass Ihre Mitarbeitenden verstehen, welche KI-Systeme sie bedienen und welche Pflichten dabei gelten. Dafür ist Art. 4 EU AI Act zuständig – die KI-Kompetenz-Schulungspflicht, die seit Februar 2025 gilt und eine dokumentierte Erfolgskontrolle verlangt.

Mehr dazu: KI-Schulung für Mitarbeiter – Anforderungen, Inhalte, Nachweis

Fazit

Art. 50 EU AI Act ist keine Formalie. Er schützt das Vertrauen von Kundinnen und Kunden in digitale Interaktionen und verlangt von Unternehmen ein Mindestmaß an Ehrlichkeit beim KI-Einsatz. Wer Chatbots im Kundenservice betreibt, muss seit August 2025 offen kommunizieren, dass dort eine KI antwortet.

Gleichzeitig erinnert Art. 50 daran, dass KI-Regulierung ein Gesamtpaket ist: Neben der externen Transparenzpflicht bleibt die interne Schulungspflicht nach Art. 4 bestehen.

*Rechtlicher Hinweis: Dieser Artikel bietet eine redaktionelle Einführung in Art. 50 EU AI Act. Er stellt keine Rechtsberatung dar und begründet keine Haftung. Bitte wenden Sie sich an eine Fachkanzlei für die rechtliche Bewertung Ihres konkreten Sachverhalts.*

Ihr Team ist noch nicht nach Art. 4 geschult? Das KI-Kompetenz-Zertifikat von ki-zertifizieren.de – ein privater Kompetenznachweis, kein staatlich akkreditiertes Zertifikat – deckt die Schulungspflicht für Mitarbeitende praxisnah ab: 5–7 Lernmodule, Abschlussprüfung, personalisiertes PDF-Zertifikat mit Verifizierungs-ID. In unter 60 Minuten, für 47 € pro Person.

→ Jetzt KI-Kompetenz-Zertifikat erwerben (47 €)