„Sentimentanalyse“ steht auf fast jeder Feature-Liste der Gesprächsanalyse. Leitet ein System den Gefühlszustand aus dem Klang der Stimme ab, ist das am Arbeitsplatz verboten: Art. 5 Abs. 1 Buchst. f der EU-KI-Verordnung, in Kraft seit dem 2. Februar 2025. Diese Seite zeigt, wo die Grenze zwischen Stimme und Inhalt verläuft und was das für Qualitätsmanagement im Callcenter heißt. Sachlicher Explainer, keine Rechtsberatung.
Stand 2026 · EU · Regulation 2024/1689, Art. 5 Abs. 1 Buchst. f, Art. 3 Nr. 39
Dieser Beitrag erklärt eine Regel, die Callcenter direkt betrifft: das Verbot der Emotionserkennung am Arbeitsplatz im EU AI Act. Er beschreibt den Verbotstatbestand, die Geltungsdaten und die Grenze zwischen verbotener Stimmauswertung und erlaubter Inhaltsauswertung. Er ersetzt keine Rechtsberatung und keine Prüfung durch Ihre Datenschutzfunktion. Dies ist bewusst eng auf die Emotionserkennung zugeschnitten und geht nicht in die Hochrisiko-Einstufung nach Anhang III.
Entscheidend ist nicht das Label auf dem Feature, sondern woraus das System seine Aussage zieht. Leitet es aus dem Klang der Stimme einen Gefühlszustand ab, ist es Emotionserkennung aus biometrischen Daten. Wertet es aus, was gesagt wurde, ist es gewöhnliche Textverarbeitung.
Diese eine Unterscheidung trägt den ganzen Beitrag. Der Rest erklärt, warum sie so scharf ist, seit wann sie gilt und wie ein QM-Setup auf der erlaubten Seite bleibt. Die englische Tiefenfassung steht unter Is Sentiment Analysis Banned Emotion Recognition at Work? Die zweite Callcenter-Regel aus dem AI Act, die Transparenzpflicht für KI-Anrufe, steht unter KI-Anrufe und die Transparenzpflicht.
Art. 5 listet die verbotenen Praktiken des AI Act. Buchstabe f verbietet, KI-Systeme einzusetzen, die Emotionen einer natürlichen Person im Bereich Arbeitsplatz ableiten, bis auf enge Ausnahmen aus medizinischen oder Sicherheitsgründen (das Standardbeispiel ist die Müdigkeitserkennung zur Fahrsicherheit). Die Trennlinie ist der Arbeitsplatz: Dasselbe System, das in manchen Verbrauchersituationen zulässig wäre, ist verboten, sobald es auf Beschäftigte gerichtet wird.
Anders als die Transparenz- und Hochrisikopflichten, die 2026 und 2027 greifen, gilt dieses Verbot seit dem 2. Februar 2025, Bussgelder sind seit dem 2. August 2025 möglich, im obersten Rahmen bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes. Die Zeitschiene steht im EU AI Act Timeline.
Eine Stimmaufnahme trägt die körperlichen und verhaltensbezogenen Merkmale, die eine Person erkennbar oder charakterisierbar machen. Das stellt die Stimme sowohl unter der DSGVO als auch unter dem AI Act in die biometrische Kategorie. Ein Feature, das auf Tonfall, Tonhöhe und Kadenz hört und daraus „frustriert“ oder einen Stimmungswert ausgibt, leitet eine Emotion aus biometrischen Daten ab. Am Arbeitsplatz ist das die verbotene Praxis, keine Grauzone. Mehr dazu unter Stimme als biometrisches Datum.
Nach Art. 3 Nr. 39 meint Emotionserkennung das Ableiten von Emotionen oder Absichten aus biometrischen Daten wie Stimme oder Mimik. Das Erkennen von Themen, das Extrahieren von Aufgaben oder die Bewertung, ob ein Gespräch sachlich vorankam, aus dem Inhalt des Gesagten, ist keine Ableitung aus biometrischen Daten und liegt außerhalb des Verbots. Die Grenze ist die Eingabe: eine Aussage aus dem Klang der Stimme ist biometrische Emotionserkennung, eine Aussage aus dem Wortlaut ist Textverarbeitung.
Ein ehrlicher Vorbehalt: Nutzt ein System den Wortlaut gezielt, um den Gefühlszustand einer einzelnen Person festzuhalten und in Personalentscheidungen einfließen zu lassen, lesen Aufsichtsbehörden das möglicherweise gegen den Sinn des Verbots. Und es löst in jedem Fall DSGVO-Pflichten und in Deutschland die Mitbestimmung des Betriebsrats aus. Die saubere Position: das Gespräch und den Fall auswerten, nicht die Gefühle der Person.
Die Begründung steht in Erwägungsgrund 44 und ist für einen Rechtstext ungewöhnlich deutlich: Solche Systeme ruhen auf schwacher wissenschaftlicher Grundlage. Emotionsableitung ist wenig zuverlässig, wenig spezifisch und lässt sich schlecht über Menschen und Kulturen hinweg verallgemeinern. Der AI Act verbietet Emotionserkennung am Arbeitsplatz nicht, weil sie zu gut funktioniert, sondern weil sie schlecht funktioniert und trotzdem für Entscheidungen über Menschen genutzt wird.
Ein häufiger Reflex ist die Einwilligung: eine Zeile in den Arbeitsvertrag, die Belegschaft klickt zu, weiter geht es. Das trägt hier nicht. Art.-5-Praktiken sind verboten, nicht bedingt erlaubt, es gibt keinen Einwilligungsweg. Die einzigen Türen hinaus sind die medizinische und die Sicherheitsausnahme, und Coaching ist weder das eine noch das andere. Das deckt sich mit der langjährigen DSGVO-Linie, nach der Einwilligung im Beschäftigungsverhältnis wegen des Machtgefälles selten freiwillig ist.
Bei jedem Anbieter mit „Sentiment“ oder „Emotion“ fragen: Woraus entsteht der Wert? Aus dem Klang der Stimme (Tonfall, Prosodie) oder aus dem Inhalt des Gesagten? Das Label entscheidet nicht, die Eingabe entscheidet.
Ein System, das aus der Stimme der Agenten auf deren Gefühlszustand schließt, ist am Arbeitsplatz eine verbotene Praxis. Weder Einwilligung noch eine Betriebsvereinbarung heilen das. Diese Funktion gehört nicht ins QM-Setup.
Die erlaubte Variante, Auswertung von Themen, Fragen, Einwänden und Zusagen aus dem Wortlaut, braucht trotzdem eine DSGVO-Grundlage, einen Zweck und in Deutschland die Mitbestimmung des Betriebsrats. Wie das QM ohne Emotionserkennung aussieht, steht unter DSGVO-konforme Gesprächsanalyse.
Festhalten, dass keine Emotionsableitung aus biometrischen Daten stattfindet, und worauf sich die Inhaltsauswertung stützt. Das ist zugleich die Antwort, wenn Betriebsrat oder Aufsicht fragt, auf welcher Grundlage im Callcenter bewertet wird.
Numi leitet die Emotionen der Beschäftigten nicht aus dem Klang der Stimme ab. Das Produkt transkribiert Gespräche und wertet den Inhalt aus: Themen, gestellte Fragen, Einwände, getroffene Zusagen und die Signale im tatsächlich Gesagten. Das ist eine bewusste Designentscheidung, keine Lücke, die wir später schließen. Ein Arbeitsplatzwerkzeug auf Basis stimmbasierter Emotionsableitung wäre in der EU eine verbotene Praxis, und darauf bauen wir keine Kernfunktion.
Wenn ein Gespräch bei uns „positiv“ heißt, meinen wir die Substanz des Besprochenen, aus den Worten, nicht ein Urteil darüber, wie angespannt jemand klang. Dieselbe Disziplin hält Kunden auf der richtigen Seite von Art. 5. Was danach mit der Auswertung passiert, steht unter Callcenter QM.
Die sechs Beweise, die jedes QM-Tool liefern sollte: Ihre Scorecard, Beleg pro Note, volle Abdeckung, eine Skala für Menschen und Bots, Auswertung aus dem Inhalt statt aus der Stimme.
Sechs Beweise ansehen → SchwesterseiteWie die erlaubte Inhaltsauswertung abgesichert wird: Rechtsgrundlagen, Aufbewahrung, Pseudonymisierung, Betriebsrat und der QM-Workflow mit Scorecard und Agenten-Ranking.
Zur Auswertung →Ja, wenn ein System aus der Stimme der Beschäftigten auf deren Emotionen schließt. Art. 5 Abs. 1 Buchst. f der EU-KI-Verordnung (Regulation 2024/1689) verbietet KI-Systeme, die Emotionen natürlicher Personen am Arbeitsplatz ableiten, ausgenommen eng begrenzte medizinische oder Sicherheitszwecke. Das Verbot gilt seit dem 2. Februar 2025, Bussgelder sind seit dem 2. August 2025 möglich. Ein Callcenter-Arbeitsplatz fällt unter den Arbeitsplatzbegriff, ein Coaching-Zweck ist keine Ausnahme. Dieser Beitrag ist ein sachlicher Explainer, keine Rechtsberatung.
Die Grenze ist die Eingabe. Leitet ein System aus dem Klang der Stimme, also Tonfall, Tonhöhe und Sprechmelodie, einen Gefühlszustand ab, ist das Emotionserkennung aus biometrischen Daten und am Arbeitsplatz verboten. Wertet ein System dagegen aus, was gesagt wurde, also Themen, Fragen, Einwände und Zusagen, ist das gewöhnliche Textverarbeitung und fällt nicht unter Art. 5 Abs. 1 Buchst. f. Die Inhaltsauswertung braucht weiterhin eine DSGVO-Grundlage und in Deutschland die Mitbestimmung des Betriebsrats.
Nein. Art. 5 nennt verbotene Praktiken, keine bedingt erlaubten. Es gibt also keinen Einwilligungsweg. Die einzigen Ausnahmen sind medizinische oder Sicherheitsgründe, etwa Müdigkeitserkennung zur Fahrsicherheit, und Coaching gehört nicht dazu. Das deckt sich mit der DSGVO-Linie, nach der Einwilligung im Beschäftigungsverhältnis wegen des Abhängigkeitsverhältnisses selten freiwillig und damit selten tragfähig ist.
Das Verbot aus Art. 5 gilt seit dem 2. Februar 2025, als das Kapitel zu verbotenen Praktiken wirksam wurde. Bussgelder für verbotene Praktiken sind seit dem 2. August 2025 möglich, im obersten Rahmen bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes. Das liegt nicht auf der Zeitschiene 2026 oder 2027, die für Transparenz- und Hochrisikopflichten gilt, sondern ist bereits durchsetzbar.
Es kommt darauf an, wie das Sentiment entsteht. Beruht die Bewertung auf dem Klang der Stimme, ist es Emotionserkennung aus biometrischen Daten und am Arbeitsplatz verboten. Beruht sie auf dem Inhalt, also darauf, ob ein Gespräch sachlich positiv verlief, welche Themen und Einwände vorkamen, ist es keine Ableitung aus biometrischen Daten und fällt nicht unter das Verbot. Der Begriff Sentimentanalyse auf einer Feature-Liste sagt noch nichts, entscheidend ist die Eingabe.