Verbotene KI-Praktiken nach Art. 5 EU AI Act – was seit Februar 2025 tabu ist

Seit dem 2. Februar 2025 gilt Artikel 5 des EU AI Act vollständig – und er enthält das schärfste Instrument der gesamten Verordnung: ein absolutes Verbot bestimmter KI-Anwendungen. Wer diese Verbote verletzt, riskiert empfindliche Konsequenzen. Die Bußgeldobergrenze für Verstöße gegen Art. 5 beträgt bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes – und ist damit der höchste Bußgeldrahmen des gesamten AI Act. Dieser Bußgeldrahmen ist seit dem 2. August 2025 anwendbar.

*Hinweis: Dieser Artikel stellt keine Rechtsberatung dar. Die nachfolgenden Angaben basieren auf dem Wortlaut der Verordnung (EU) 2024/1689, Artikel 5. Für Ihre konkrete rechtliche Situation empfehlen wir eine Beratung durch eine zugelassene Rechtsanwältin oder einen Rechtsanwalt.*

Warum Art. 5 für Unternehmen so wichtig ist

Die meisten EU-AI-Act-Diskussionen kreisen um die KI-Kompetenz-Pflicht (Art. 4) oder die Hochrisiko-Anforderungen (Anhang III). Art. 5 wird dabei oft übersehen – obwohl er seit Februar 2025 verbindlich gilt und den strengsten Sanktionsrahmen hat.

Wichtig: Der Bußgeldrahmen von 35 Mio € / 7 % gilt ausschließlich für Verstöße gegen die verbotenen Praktiken nach Art. 5 – nicht für Verstöße gegen die KI-Kompetenz-Pflicht nach Art. 4. Das muss klar getrennt bleiben. Wer seiner Belegschaft keine KI-Schulung anbietet, verletzt nicht direkt Art. 5. Wer hingegen ein Social-Scoring-System einsetzt oder Mitarbeiteremotionen per KI überwacht, begibt sich in das Verbotsterritorium mit dem höchsten Haftungsrahmen.

Für eine Übersicht der gesamten Fristenstruktur lesen Sie: Fahrplan EU AI Act – welche Fristen gelten 2025, 2026, 2027?

Die sechs verbotenen KI-Praktiken im Überblick

Art. 5 Abs. 1 der Verordnung listet abschließend auf, welche KI-Systeme verboten sind. Nachfolgend erläutern wir jede Kategorie mit Blick auf den unternehmerischen Alltag.

1. Unterschwellige und täuschende Manipulationstechniken (Art. 5 Abs. 1 lit. a und b)

Was ist verboten: KI-Systeme, die Techniken einsetzen, die jenseits des Bewusstseins einer Person wirken (subliminal), oder die Schwächen, Schutzbedürftigkeit oder besondere Lebensumstände von Personen gezielt ausnutzen, um ihr Verhalten so zu beeinflussen, dass sie Schaden nehmen.

Was das für Unternehmen bedeutet: Wer KI-gestützte Marketing- oder Kommunikationslösungen einsetzt, muss sicherstellen, dass diese keine versteckten Reize setzen, die Nutzer ohne deren Wissen in eine Richtung drängen. Das betrifft insbesondere personalisierte Werbeplattformen, Empfehlungssysteme oder digitale Nutzerführung (Dark Patterns mit KI-Unterstützung).

Grauzone: Normale Personalisierung und algorithmische Empfehlungen sind nicht automatisch verboten – es kommt auf das Merkmal der Unterschwelligkeit und des nachweisbaren Schadens an. Empfehlenswert ist eine interne Prüfung, ob eingesetzte KI-gestützte Systeme bewusst auf die Entscheidungsautonomie der Nutzer einwirken.

2. Social Scoring durch öffentliche und private Stellen (Art. 5 Abs. 1 lit. c)

Was ist verboten: KI-Systeme, die natürliche Personen oder Gruppen über einen Zeitraum anhand ihres sozialen Verhaltens oder persönlicher Merkmale bewerten und dabei zu einer nachteiligen Behandlung führen, die unverhältnismäßig oder in einem anderen Kontext als der ursprünglichen Datenerhebung stattfindet.

Was das für Unternehmen bedeutet: Das betrifft nicht nur staatliche Systeme nach chinesischem Vorbild – auch private Unternehmen dürfen kein KI-System betreiben, das Kunden oder Mitarbeiter über Kontextgrenzen hinweg bewertet und daraus Benachteiligungen ableitet. Beispiel: Ein Scoring-System, das Kreditwürdigkeit mit Social-Media-Verhalten kombiniert und zu Vertragsablehnungen führt.

Klarstellung: Klassische Bonitätsprüfungen nach finanziellen Daten sind nicht Art. 5 – entscheidend ist die kontextfremde Kombination sozialer Verhaltensdaten mit nachteiligen Konsequenzen.

3. Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (Art. 5 Abs. 1 lit. f)

Was ist verboten: Das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen zur Erkennung von Emotionen natürlicher Personen in Bereichen des Arbeitsplatzes und der Bildungseinrichtungen – mit Ausnahme von KI-Systemen, die aus medizinischen oder Sicherheitsgründen eingesetzt werden.

Was das für Unternehmen bedeutet: Kamera-basierte Mitarbeiterüberwachung mit Stimmungserkennung ist verboten. Tools, die aus Mimik, Stimme oder Schreibverhalten Rückschlüsse auf Emotionen von Beschäftigten ziehen (etwa zur Produktivitätsmessung oder für Recruiting-Interviews), fallen unter dieses Verbot.

Ausnahmen: Medizinisch indizierte Emotionserkennung (z. B. im Gesundheitswesen für Patientensicherheit) und sicherheitstechnisch begründete Systeme sind ausgenommen – aber die Anforderungen an diese Ausnahmen sind eng.

Praxisrelevanz: Vor allem im Bereich Remote-Work-Monitoring und KI-gestütztes Bewerber-Screening (Video-Interviews mit Emotionsanalyse) besteht akuter Handlungsbedarf.

4. Biometrische Kategorisierung nach sensiblen Merkmalen (Art. 5 Abs. 1 lit. g)

Was ist verboten: KI-Systeme, die natürliche Personen anhand biometrischer Daten kategorisieren, um daraus Rückschlüsse auf Rasse, politische Meinungen, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugungen, sexuelles Verhalten oder sexuelle Orientierung zu ziehen.

Was das für Unternehmen bedeutet: Das Verbot richtet sich gegen biometrische Systeme, die Gesichts- oder Körperdaten nutzen, um sensitive Kategorien zu inferieren. Wer Gesichtserkennung oder Personenanalyse-KI einsetzt, muss prüfen, ob diese Systeme solche Schlüsse ziehen oder zulassen.

Hinweis: Das Verbot bezieht sich auf die Ableitung und Kategorisierung – das bloße Erkennen einer Person (z. B. zur Zutrittskontrolle) fällt nicht automatisch darunter, kann aber andere Regelungen des AI Act berühren.

5. Ungezieltes Scraping von Gesichtsbildern (Art. 5 Abs. 1 lit. e)

Was ist verboten: Das Erstellen oder Erweitern von Gesichtserkennungsdatenbanken durch ungezieltes Scraping von Gesichtsbildern aus dem Internet oder von CCTV-Aufnahmen.

Was das für Unternehmen bedeutet: Wer eine eigene Bild-Datenbank für Gesichtserkennung aufbaut – z. B. durch automatisches Einlesen öffentlich zugänglicher Fotos aus sozialen Netzwerken oder Überwachungskameras – verletzt dieses Verbot. Das gilt für Unternehmen jeder Größe.

Anmerkung: Auch der Einkauf entsprechender Dienstleistungen von Drittanbietern kann problematisch sein, wenn der Anbieter selbst auf verbotene Weise Daten gesammelt hat.

6. Biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum (Art. 5 Abs. 1 lit. h)

Was ist verboten: Die Nutzung biometrischer Echtzeit-Fernidentifizierungssysteme durch Strafverfolgungsbehörden im öffentlichen Raum – mit sehr engen und klar definierten Ausnahmen (gezielte Suche nach vermissten Personen, Abwehr unmittelbarer Terrorbedrohungen, Strafverfolgung bestimmter schwerer Straftaten mit richterlicher Genehmigung).

Was das für Unternehmen bedeutet: Dieses Verbot richtet sich primär an staatliche Stellen. Für private Unternehmen ist es dennoch relevant: Wer Sicherheitstechnik mit Live-Gesichtserkennung in öffentlich zugänglichen Bereichen betreibt oder solche Systeme anbietet, muss die Abgrenzung kennen und intern dokumentieren.

Was Art. 5 für Ihren KI-Einsatz konkret bedeutet

Drei Schritte, die jedes Unternehmen jetzt unternehmen sollte:

Schritt 1: KI-Inventar erstellen

Welche KI-Systeme setzen Sie ein – intern entwickelt oder zugekauft? Dokumentieren Sie alle Systeme, die Personendaten verarbeiten, Kommunikation analysieren, Mitarbeiter oder Kunden bewerten oder Biometrie verwenden. Eine strukturierte KI-Richtlinie für Ihr Unternehmen ist dabei das richtige Werkzeug.

Schritt 2: Art.-5-Screening

Prüfen Sie jedes System gegen die sechs Verbotskategorien. Besondere Aufmerksamkeit verdienen:

• HR-Tech mit Stimmungs- oder Leistungsanalyse
• Kundenbewertungs- oder Scoring-Systeme
• Marketing-KI mit Personalisierung auf Basis von Verhaltensdaten
• Sicherheits- und Zugangssysteme mit biometrischen Komponenten

Falls Sie sich unsicher sind, welche Systeme von Art. 5 betroffen sein könnten, bietet unser kostenloser KI-Kompetenz-Schnellcheck einen ersten Orientierungsrahmen.

Schritt 3: Verbindung zur KI-Kompetenz-Pflicht (Art. 4)

Artikel 5 und Artikel 4 hängen direkt zusammen: Mitarbeiter, die KI-Systeme einsetzen oder beschaffen, müssen die Verbotsgrenzen kennen. Wer ein KI-Tool kauft oder benutzt, ohne zu wissen, dass es unter ein Art.-5-Verbot fallen könnte, verletzt beide Pflichten.

Deshalb muss die KI-Schulung nach Art. 4 die verbotenen Praktiken abdecken – als fester Bestandteil des Lernprogramms, nicht als Randnotiz. Wer eine strukturierte KI-Schulung für seine Mitarbeiter aufbaut, sollte Art. 5 explizit einschließen.

Mehr zur KI-Kompetenz-Pflicht: EU AI Act Artikel 4 einfach erklärt und Wen betrifft Art. 4 EU AI Act?

Bußgelder: sauber einordnen, nicht überdramatisieren

Die Sanktionen nach dem EU AI Act sind gestaffelt (Art. 99 der Verordnung):

• Verstöße gegen Art. 5 (verbotene Praktiken): bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes (höchster Bußgeldrahmen)
• Verstöße gegen Hochrisiko-Anforderungen (Anhang III): bis zu 15 Mio. € oder 3 %
• Falsche Angaben gegenüber Behörden: bis zu 7,5 Mio. € oder 1,5 %

Dieser Bußgeldrahmen ist seit dem 2. August 2025 anwendbar, nachdem die zuständige Aufsichtsinfrastruktur in Betrieb gegangen ist.

Wichtige Klarstellung: Artikel 4 (KI-Kompetenz-Pflicht) ist im Bußgeldkatalog nicht als eigenständiger Tatbestand aufgeführt. Die 35-Mio.-€-Grenze gilt nicht für fehlende KI-Schulungen, sondern ausschließlich für den Einsatz verbotener KI-Systeme nach Art. 5. Wer trotzdem keine Schulungsnachweise vorweisen kann, riskiert andere Konsequenzen – aber keine direkte Art.-5-Sanktion. Eine detaillierte Einordnung finden Sie in: Wie Sie KI-Kompetenz dokumentieren – Checkliste.

Häufige Fragen zu den verbotenen KI-Praktiken

Gilt Art. 5 auch für KI-Tools, die wir von Drittanbietern kaufen? Ja. Als Betreiber tragen Sie Mitverantwortung dafür, dass die von Ihnen eingesetzten Systeme keine verbotenen Praktiken umsetzen. Vertragsklauseln mit Anbietern und eine eigene Prüfung der eingesetzten Systeme sind ratsam.

Sind normale KI-Personalisierungen (Produktempfehlungen, A/B-Tests) verboten? Nein – nicht per se. Art. 5 zielt auf unterschwellige Manipulation und konkrete Schadenszufügung. Transparente Personalisierung, die Nutzer informiert und nicht hinter ihrem Rücken steuert, ist nicht verboten.

Was ist mit KI-Tools zur Mitarbeiterproduktivitätsmessung? Hier kommt es auf die Methode an. Keystroke-Logging, Zeiterfassung oder Aufgaben-Tracking sind nicht Art. 5. KI-Systeme, die aus Mimik, Stimme oder Schreibrhythmus Rückschlüsse auf die emotionale Lage von Beschäftigten ziehen, fallen unter das Emotionserkennungsverbot (Art. 5 Abs. 1 lit. f).

Müssen wir Art. 5 auch in die KI-Richtlinie des Unternehmens aufnehmen? Unbedingt. Eine vollständige Unternehmens-KI-Richtlinie benennt die verbotenen Kategorien und regelt intern, wie Mitarbeiter mit Art.-5-relevanten Systemen umgehen dürfen.

Fazit: Verbote kennen, KI-Kompetenz aufbauen

Artikel 5 EU AI Act ist seit dem 2. Februar 2025 geltendes Recht. Die sechs verbotenen Praktiken – von Social Scoring über Emotionserkennung bis zu biometrischem Scraping – sind nicht abstrakt. Sie betreffen konkrete HR-Tech, Marketingtools und Sicherheitssysteme, die in deutschen Unternehmen im Einsatz sind.

Wer die Verbote nicht kennt, kann sie nicht vermeiden. Genau deshalb gehört Art. 5 in jede KI-Schulung nach Art. 4 – als praxisnaher Teil, nicht als Anhang. Unternehmen, die ihre KI-Kompetenzpflicht nach Art. 4 dokumentiert erfüllen, stellen damit sicher, dass ihre Mitarbeiter die Grenze zwischen erlaubtem und verbotemem KI-Einsatz ziehen können.

Noch nicht sicher, ob Ihr Unternehmen ausreichend aufgestellt ist?

Der kostenlose KI-Kompetenz-Schnellcheck gibt Ihnen in unter 5 Minuten eine erste Einschätzung – ohne Anmeldung, ohne Verkaufsdruck.

→ Zum kostenlosen Schnellcheck

Wenn Sie die KI-Schulungspflicht nach Art. 4 direkt und dokumentiert erfüllen möchten: Das KI-Kompetenz-Zertifikat nach Art. 4 von ki-zertifizieren.de umfasst 5–7 Lernmodule (inkl. der verbotenen Praktiken nach Art. 5), eine Abschlussprüfung und ein personalisiertes PDF-Zertifikat mit Verifizierungs-ID – in unter 60 Minuten, für 47 € pro Person. Teams verwalten ihre Nachweise zentral über das Firmenportal.

→ Jetzt KI-Kompetenz-Zertifikat erwerben (47 €)