KI-Emotionserkennung in Deutschland: Verbote, DSGVO und KI-Verordnung

Kurzantwort

KI-Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ist nach Art. 5 KI-Verordnung verboten – seit dem 2. Februar 2025 geltendes Recht. Erlaubte Anwendungen (Kundenstimmung, Fahrerermüdung) gelten als Hochrisiko und müssen bis 2. August 2026 compliant sein. Biometrische Emotionsdaten unterliegen Art. 9 DSGVO; im Beschäftigungskontext greift zusätzlich §26 BDSG.

• Art. 5 KI-Verordnung: Emotionserkennung an Arbeitnehmern und Schülern verboten seit 2. Februar 2025.
• Biometrische Emotionsdaten sind besondere Datenkategorien nach Art. 9 DSGVO – berechtigtes Interesse reicht als Rechtsgrundlage nicht aus.
• Erlaubte Anwendungen (Kundenstimmung, Fahrerermüdung) gelten als Hochrisiko-KI. Vollcompliance-Frist: 2. August 2026.
• Betriebsräte haben zwingende Mitbestimmungsrechte nach §87 Abs. 1 Nr. 6 BetrVG bei Emotionsanalysesystemen.

KI-Emotionserkennung in Deutschland ist eine der am stärksten regulierten KI-Kategorien unter dem EU AI Act. Der Einsatz zur Ableitung emotionaler Zustände von Arbeitnehmern und Schülern ist nach Art. 5 der KI-Verordnung (EU) 2024/1689 seit dem 2. Februar 2025 ausnahmslos verboten. Für erlaubte Anwendungen – Kundenstimmungsanalyse, Fahrerermüdungserkennung, klinische Überwachung – gelten umfangreiche Hochrisiko-Compliance-Anforderungen mit verbindlicher Frist zum 2. August 2026. Unternehmen in Deutschland, die Emotionserkennungssysteme einsetzen oder planen, müssen die geltenden Schranken präzise kennen.

Was nach Art. 5 KI-Verordnung verboten ist

Artikel 5 der KI-Verordnung enthält absolute Verbote, die seit dem 2. Februar 2025 in Kraft sind. Für Emotionserkennung sind zwei Verbote unmittelbar relevant.

1. Emotionserkennung am Arbeitsplatz

Der Einsatz von KI-Systemen, die emotionale Zustände von Arbeitnehmern aus Gesichtsausdrücken, Stimmmustern, Körpersprache, Augenbewegungen, physiologischen Signalen oder anderen biometrischen Signalen ableiten, ist verboten. Dieses Verbot gilt für alle Beschäftigungskontexte: Büro, Produktion, Callcenter, Homeoffice und Außendienst.

Das Verbot gilt unabhängig vom Zweck der Analyse. Ob Qualitätssicherung, Stressmonitoring oder Mitarbeiterzufriedenheitsmessung – wenn Arbeitnehmeremotionen analysiert werden, ist die Anwendung verboten.

2. Emotionserkennung in Bildungseinrichtungen

Derselbe Maßstab gilt für Schüler und Studierende. KI-Systeme zur Ableitung emotionaler Zustände in Schulen, Universitäten und anderen Bildungseinrichtungen sind verboten. Automatisierte Aufmerksamkeitsüberwachung im Distanzunterricht oder emotionsbasiertes adaptives Lernen fallen ausdrücklich darunter.

Bußgelder bei verbotenen Praktiken können bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes betragen – je nachdem, welcher Betrag höher ist.

Aktuelle Entwicklungen 2025–2026

Die KI-Verordnung ist kein Zukunftsprojekt. Sie ist geltendes Recht mit laufenden Fristen. Für Unternehmen mit Emotionserkennungssystemen in Deutschland sind folgende Entwicklungen unmittelbar relevant.

Verbote seit 2. Februar 2025 in Kraft

Seit dem 2. Februar 2025 sind die absoluten Verbote aus Art. 5 KI-Verordnung vollständig anwendbar. Unternehmen, die Emotionserkennungssysteme in verbotenen Kontexten noch betreiben, setzen sich ab diesem Datum einem Bußgeldrisiko aus. Eine Übergangsfrist gibt es nicht.

2. August 2025: Hochrisiko-Anforderungen in Kraft

Seit dem 2. August 2025 gelten die vollständigen Hochrisiko-Anforderungen für KI-Systeme nach Anhang III, darunter Systeme im Bereich Beschäftigung und Personalwesen. Anbieter und Betreiber von erlaubten Emotionsanalysesystemen – zum Beispiel im Kundenkontakt – befinden sich im Compliance-Fenster: Konformitätsbewertungen, Risikomanagementsysteme und technische Dokumentation müssen bis zum 2. August 2026 abgeschlossen sein.

Verstärkte Durchsetzung durch Datenschutzbehörden

Deutsche und europäische Datenschutzbehörden haben die Kontrolltätigkeit im Bereich biometrischer KI intensiviert. Der Europäische Datenschutzausschuss (EDSA) hat Leitlinien zu KI-gestützter biometrischer Verarbeitung veröffentlicht. Die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK) hat koordinierte Prüfaktionen zu KI-gestützten biometrischen Systemen angekündigt. Emotionserkennung steht explizit im Fokus.

Marktüberwachung nimmt Form an

Die nationale Marktüberwachungsbehörde – in Deutschland federführend die Bundesnetzagentur für bestimmte KI-Bereiche – baut die Aufsicht über Hochrisiko-KI-Systeme operativ auf. Meldepflichten für schwerwiegende Vorfälle sind jetzt geltendes Recht. Die Frist zum 2. August 2026 ist keine theoretische Grenze mehr.

Ausnahmen: Erlaubte Anwendungen

Emotionserkennung ist nicht in allen Kontexten verboten. Zwei Kategorien haben anerkannte Ausnahmen.

Sicherheitsanwendungen

Systeme zur Erkennung von Fahrerermüdung für Sicherheitszwecke sind zulässig. Der Fokus liegt auf physiologischen Sicherheitssignalen – Reaktionszeit, Aufmerksamkeit, Schläfrigkeit – nicht auf emotionaler Klassifizierung im weiteren Sinne. Ordnungsgemäße Dokumentation und Compliance-Arbeit sind trotzdem erforderlich.

Medizinische und klinische Anwendungen

Klinische Anwendungen zur Patientenüberwachung und -unterstützung haben einen engen Ausnahmebereich. Emotionserkennung im medizinischen Kontext kann zulässig sein, wenn ein therapeutischer oder diagnostischer Zweck vorliegt, der Einsatz verhältnismäßig ist und Datenschutz- sowie Berufsrechtspflichten eingehalten werden.

Diese Ausnahmen sind eng. „Wir denken, es wäre nützlich” oder „wir verbessern die Mitarbeiterbetreuung” sind keine anerkannten Ausnahmetatbestände.

Kundengerichtete Anwendungen und Hochrisiko-Pflichten

Emotionserkennung in der Kundenkommunikation ist nicht verboten – unterliegt aber erheblichen Anforderungen.

Transparenzpflicht ist nicht verhandelbar

Kunden müssen wissen, dass ihre Emotionen analysiert werden. Artikel 50 der KI-Verordnung schreibt dies vor. Eine versteckte Analyse ist auch dann unzulässig, wenn sie technisch möglich wäre.

Hochrisiko-Einordnung für folgenreiche Entscheidungen

Kundengerichtete Emotionserkennungssysteme, die für folgenreiche Entscheidungen genutzt werden – Kreditvergabe, Versicherungsprämien, Zugangskontrolle, Beschwerdebearbeitung – gelten als Hochrisiko-KI und unterliegen den vollständigen Hochrisiko-Anforderungen:

• Dokumentiertes Risikomanagementsystem nach Art. 9 KI-Verordnung
• Hochwertige Trainingsdaten mit Bias-Monitoring über demografische Gruppen
• Ausreichende technische Dokumentation und Protokollierung nach Art. 12
• Operativ verankerte menschliche Aufsicht mit Überstimmungsrecht
• Konformitätsbewertung vor Inbetriebnahme
• Registrierung in der EU-Datenbank für Hochrisiko-KI (für Anbieter)

Die vollständige Compliance-Frist ist der 2. August 2026. Unternehmen ohne laufende Konformitätsbewertung für erlaubte Systeme sind bereits in Verzug.

DSGVO-Anforderungen für biometrische Emotionsdaten

Emotionale Zustände, die aus biometrischen Signalen abgeleitet werden, können besondere Datenkategorien nach Art. 9 DSGVO darstellen. Das gilt insbesondere dann, wenn die Analyse auf Gesichtsmerkmalen, Stimmbiometrie oder physiologischen Signalen beruht. Die Verarbeitung solcher Daten ist grundsätzlich verboten – es sei denn, ein Ausnahmetatbestand nach Art. 9 Abs. 2 greift.

Für die rechtmäßige Verarbeitung biometrischer Emotionsdaten benötigt ein deutsches Unternehmen:

• Eine Rechtsgrundlage nach Art. 6 DSGVO (Einwilligung, Vertrag oder berechtigtes Interesse)
• Zusätzlich einen spezifischen Ausnahmetatbestand nach Art. 9 Abs. 2 – in der Regel die ausdrückliche Einwilligung nach Art. 9 Abs. 2 lit. a

Das berechtigte Interesse allein reicht nicht aus. Der europäische Datenschutzrahmen lässt keine Interessenabwägung als Grundlage für besondere Datenkategorien zu.

Weitere Pflichten:

• Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO – bei biometrischen Verarbeitungen in der Regel obligatorisch
• Bestellung eines Datenschutzbeauftragten (DSB), sofern noch nicht erfolgt
• Eintrag im Verzeichnis der Verarbeitungstätigkeiten nach Art. 30 DSGVO
• Klare Betroffeneninformation nach Art. 13 und 14 DSGVO
• Festgelegte Aufbewahrungsfristen und durchsetzbare Löschverfahren

Arbeitsplatz: Betriebsrat und BetrVG-Besonderheiten

Auch wenn Emotionserkennung am Arbeitsplatz verboten ist – Unternehmen müssen sicherstellen, dass bestehende Systeme keine verbotenen Emotionsanalysefunktionen enthalten, die möglicherweise nicht als solche erkannt wurden.

§ 87 Abs. 1 Nr. 6 BetrVG: Zwingend

Der Betriebsrat hat zwingende Mitbestimmungsrechte bei der Einführung technischer Einrichtungen, die dazu geeignet sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen. KI-Systeme mit Emotionsanalysefunktionen erfüllen dieses Kriterium eindeutig. Eine Einführung ohne Betriebsvereinbarung ist unzulässig – auch wenn nur eine Funktion des Systems betroffen ist.

§ 26 BDSG: Zusätzliche Einschränkungen

Im Beschäftigungskontext regelt § 26 BDSG die Verarbeitung von Beschäftigtendaten strenger als die reine DSGVO. Für biometrische Verarbeitungen schreibt § 26 Abs. 3 BDSG eine ausdrückliche Einwilligung oder eine kollektivrechtliche Vereinbarung vor. Das Verhältnismäßigkeitsprinzip wird streng geprüft.

Audit: Diese Systeme besonders prüfen

• Callcenter-Software mit Stimmungsanalyse
• Videokonferenz-Tools mit Engagement- oder Aufmerksamkeitstracking
• Workforce-Management-Systeme mit Verhaltensmonitoring
• Performance-Management-Plattformen mit Stimmungsauswertung
• Recruiting-Plattformen mit Video-Interview-Analyse

Wenn ein System emotionale Zustände von Arbeitnehmern ableitet – auch als Nebenprodukt einer anderen Funktion –, ist es im Beschäftigungskontext verboten.

Interview-Tools und KI-Bewerbungsverfahren

KI-gestützte Video-Interview-Analyse mit Emotionskomponente ist verboten. Das gilt für Systeme, die Bewerber-Emotionen aus Mimik, Stimmton, Sprechgeschwindigkeit oder anderen biometrischen Signalen ableiten und in die Bewertung einfließen lassen.

Dies ist kein Randfall. Mehrere international genutzte Recruiting-Plattformen haben Emotionsanalyse-Features in ihre Video-Interview-Produkte integriert. Unternehmen, die solche Systeme einsetzen, müssen prüfen, ob diese Features aktiviert sind und welche Daten verarbeitet werden.

Recruiting-KI-Systeme gelten nach Anhang III der KI-Verordnung generell als Hochrisiko – unabhängig von einer Emotionskomponente. Das Allgemeine Gleichbehandlungsgesetz (AGG) verbietet Diskriminierung aufgrund geschützter Merkmale auch durch KI-gestützte Auswahlverfahren.

Compliance-Checkliste für deutsche Unternehmen

Phase 1: Bestandsaufnahme (sofort)

• Alle KI-Systeme mit potenzieller Emotionsanalysefunktion inventarisieren
• Jeden Anwendungsfall als verboten, Hochrisiko oder begrenztes Risiko klassifizieren
• Anbieter von Recruiting-, Callcenter- und Workforce-Management-Plattformen auf Emotionsfeatures befragen
• Bestehende DSGVO-Dokumente auf Vollständigkeit prüfen

Phase 2: Verbotene Systeme abschalten

• Emotionsanalyse in Beschäftigungskontexten sofort deaktivieren oder abschalten
• Nicht offensichtliche Features in Drittanbieter-Software identifizieren und deaktivieren
• Datenlöschung für unzulässig verarbeitete Emotionsdaten einleiten

Phase 3: DSGVO-Compliance für erlaubte Anwendungen

• Art.-6-Rechtsgrundlage und Art.-9-Abs.-2-Ausnahme für jedes verbleibende System dokumentieren
• DSFA für biometrische Verarbeitungen durchführen oder aktualisieren
• Datenschutzbeauftragten einbinden, Verarbeitungsverzeichnis aktualisieren

Phase 4: Hochrisiko-Compliance bis 2. August 2026

• Risikomanagementsystem nach Art. 9 KI-Verordnung einrichten und dokumentieren
• Technische Dokumentation nach Anhang IV erstellen
• Bias-Tests durchführen und dokumentieren
• Konformitätsbewertungsverfahren einleiten
• EU-Datenbankregistrierungsstatus beim Anbieter prüfen oder einfordern

Phase 5: Betriebsrat einbinden

• Betriebsrat über alle Systeme mit Emotionsanalysefunktionen informieren
• Betriebsvereinbarung für erlaubte Systeme aushandeln oder aktualisieren
• Alternative für Beschäftigte bereitstellen, die eine Teilnahme ablehnen

So hilft Compound Law

• Audit bestehender Systeme auf verbotene Emotionsanalysefunktionen
• Compliance-Bewertung und Roadmap für erlaubte Hochrisiko-Anwendungen
• DSGVO-Rahmenwerk für Emotionsdatenverarbeitungen (DSFA, Verarbeitungsverzeichnis)
• Betriebsratsverhandlungen und Betriebsvereinbarungsentwürfe
• Übergangsplanung für Systeme, die eingestellt werden müssen
• Lieferanten-Due-Diligence: Emotionsanalyse-Features in Drittanbieter-Software identifizieren

Unternehmen, die Microsoft Copilot für Mitarbeiterkommunikation oder Azure OpenAI für Kundendienst-Anwendungen einsetzen, sollten ihre Konfigurationen auf Emotionsanalyse-Komponenten prüfen. Verwandte Leitfäden finden Sie zu KI-Mitarbeiterüberwachung, KI-Recruiting-Tools und biometrischer Identifizierung. Einen vollständigen Überblick bietet unser EU AI Act Compliance-Hub.

Diese Seite enthält allgemeine Informationen und ersetzt keine Rechtsberatung zu einem konkreten Einsatzszenario.

Häufig gestellte Fragen

Ist KI-Emotionserkennung am Arbeitsplatz in Deutschland verboten?

Ja, vollständig. Art. 5 der KI-Verordnung verbietet seit dem 2. Februar 2025 den Einsatz von KI zur Ableitung emotionaler Zustände von Arbeitnehmern aus Gesichtsausdrücken, Stimmmustern, Körpersprache oder anderen biometrischen Signalen. Ausnahmen existieren nicht für betriebliche Zwecke – auch nicht für Qualitätssicherung oder Mitarbeiterzufriedenheitsmessung.

Welche Bußgelder drohen bei verbotener Emotionserkennung?

Bei verbotenen Praktiken nach Art. 5 KI-Verordnung drohen Bußgelder von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist. Zusätzlich können DSGVO-Bußgelder nach Art. 83 Abs. 5 DSGVO (bis 4 % des Jahresumsatzes) anfallen. Deutsche Datenschutzbehörden haben biometrische KI-Fälle aktiv verfolgt.

Ist Stimmungsanalyse für Kunden nach dem AI Act erlaubt?

Ja, grundsätzlich. Kundengerichtete Emotionserkennung ist nicht verboten, gilt aber in vielen Kontexten als Hochrisiko-KI. Transparenz ist obligatorisch: Kunden müssen über die Analyse informiert werden. Werden Ergebnisse für folgenreiche Entscheidungen genutzt – zum Beispiel Kreditvergabe oder Versicherungsprämien –, gelten strenge Hochrisiko-Anforderungen mit Konformitätsfrist 2. August 2026.

Benötigt mein Betrieb eine Betriebsvereinbarung für Emotionsanalyse-Tools?

Fast immer ja. Der Betriebsrat hat nach §87 Abs. 1 Nr. 6 BetrVG zwingende Mitbestimmungsrechte bei technischen Einrichtungen, die Verhalten oder Leistung von Arbeitnehmern überwachen können. Emotionsanalysesysteme – auch indirekte wie Stimmungserfassung im Callcenter – erfüllen dieses Kriterium eindeutig. Eine Einführung ohne Betriebsvereinbarung ist unzulässig.

Sind KI-gestützte Interview-Tools zur Kandidatenbewertung verboten?

Ja. KI-Tools, die emotionale Zustände von Bewerbern aus Mimik, Stimme oder Körpersprache ableiten, sind nach Art. 5 KI-Verordnung verboten. Das gilt auch für Video-Interview-Analysetools mit Emotionskomponente. Daneben gelten Recruiting-KI-Systeme nach Anhang III der KI-Verordnung generell als Hochrisiko und unterliegen dem Diskriminierungsverbot nach dem Allgemeinen Gleichbehandlungsgesetz (AGG).

Welche Behörde ist in Deutschland für die KI-Act-Durchsetzung bei Emotionserkennung zuständig?

Die Bundesnetzagentur ist als Marktüberwachungsbehörde für bestimmte KI-Bereiche in Deutschland benannt. Datenschutzrelevante Aspekte – insbesondere biometrische Verarbeitungen – verbleiben bei den Datenschutzbehörden (BfDI und Landesbeauftragte). Die DSK hat koordinierte Prüfaktionen zu KI-gestützten biometrischen Systemen angekündigt, die auch Emotionserkennung einschließen.