Seit dem 2. August 2026 verlangt Artikel 50 des EU AI Act, dass Menschen erfahren, wenn sie mit einem KI-System sprechen. Für KI-Caller am Telefon heißt das: Der Bot muss sich zu erkennen geben. Die Pflicht, das System so zu bauen, trifft den Anbieter; die Verantwortung, dass es auf jedem Call passiert und belegbar ist, trägt der Betreiber. Dieser Beitrag erklärt, wo diese Linie verläuft. Sachlicher Explainer, keine Rechtsberatung.
Stand 2026 · EU · Regulation 2024/1689, Art. 50 Abs. 1, Art. 99 Abs. 4
Dieser Beitrag erklärt eine Regel, die jedes Callcenter mit KI-Callern direkt betrifft: die Transparenzpflicht aus Artikel 50 des EU AI Act. Er beschreibt den Pflichttatbestand, das Geltungsdatum, die Rollen von Anbieter und Betreiber und wie sich die Offenlegung belegen lässt. Er ersetzt keine Rechtsberatung und keine Prüfung durch Ihre Datenschutzfunktion. Er bleibt bewusst eng auf die Transparenzpflicht bei direkter Interaktion zugeschnitten und behandelt nicht die Hochrisiko-Einstufung nach Anhang III.
Ein KI-System, das direkt mit einem Menschen interagiert, muss so gestaltet sein, dass der Mensch erfährt, dass er mit einer KI spricht, es sei denn, das ist ohnehin offensichtlich. Für einen KI-Caller bedeutet das: eine klare Offenlegung zu Beginn des Gesprächs.
Der Rest dieses Beitrags erklärt, seit wann die Regel gilt, wer sie erfüllen muss und wie ein Callcenter nachweist, dass die Offenlegung tatsächlich auf jedem Call erfolgt ist. Verwandt ist das Verbot der Emotionserkennung am Arbeitsplatz, erklärt unter Emotionserkennung und der EU AI Act.
Der AI Act staffelt seine Pflichten nach Risiko. Die verbotenen Praktiken aus Artikel 5 gelten seit Februar 2025. Die Transparenzpflichten aus Artikel 50 sind eine andere, mildere Kategorie und gelten seit dem 2. August 2026. Sie verlangen keine Zulassung und kein Konformitätsverfahren, sondern dass bestimmte KI-Einsätze offengelegt werden, darunter die direkte Interaktion mit Menschen.
Verstöße gegen Artikel 50 fallen unter den Bußgeldrahmen von Artikel 99 Absatz 4: bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Das ist niedriger als die 35 Millionen für verbotene Praktiken, aber eine reale, durchsetzbare Pflicht, kein unverbindlicher Leitfaden.
Artikel 50 Absatz 1 richtet sich an den Anbieter des KI-Systems: Er muss das System so gestalten und entwickeln, dass die Offenlegung überhaupt möglich und vorgesehen ist. Wer eine Voicebot-Plattform baut und verkauft, muss die Funktion zur Offenlegung mitliefern. Das ist die wörtliche Zuordnung der Pflicht.
Wer die KI-Caller-Kampagne tatsächlich fährt, also den Bot konfiguriert, die Skripte festlegt und die Anrufe auslöst, ist Betreiber. Er entscheidet, ob die Offenlegung aktiviert ist, wann sie im Skript steht und ob sie bei jeder Variante ausgespielt wird. Die Verantwortung, dass die Regel im konkreten Anruf eingehalten wird, lässt sich nicht an den Anbieter wegdelegieren.
Hier greift das Rechenschaftsprinzip, das aus der DSGVO vertraut ist und sich mit der Logik des AI Act deckt: Es reicht nicht, regelkonform zu handeln, man muss es auch zeigen können. Für die KI-Offenlegung heißt das, einen Nachweis zu haben, dass sie auf den Calls tatsächlich erfolgt ist, und nicht nur die Annahme, der Bot werde es schon tun. Wer auf Nachfrage von Aufsicht oder Betriebsrat nur auf den Anbieter verweist, hat die eigene Betreiberrolle ausgeblendet.
Die Offenlegung muss die betroffene Person erreichen, und zwar rechtzeitig, also zu Beginn der Interaktion, nicht als Fußnote am Ende. Bei einem Telefonat heißt das eine verständliche Ansage am Gesprächsanfang, dass am anderen Ende ein KI-System spricht.
Es gibt eine Ausnahme: Ist aus Sicht einer angemessen informierten Person offensichtlich, dass es sich um eine KI handelt, muss nichts gesagt werden. Das Problem ist, dass moderne Stimmagenten gerade nicht mehr offensichtlich als Maschine erkennbar sind. Sich auf die Offensichtlichkeit zu verlassen, verlagert das Risiko auf eine Einschätzung, die im Streitfall gegen einen ausgehen kann. Die ausdrückliche Ansage ist der sichere Weg.
Die Frage im Audit lautet nicht „War die Offenlegung konfiguriert?“, sondern „Ist sie auf diesen Calls tatsächlich passiert?“. Ein Konfigurationshaken beantwortet nur das Erste. Den belastbaren Nachweis liefert das Gespräch selbst.
Wird jeder KI-Call im Qualitätsmanagement gegen ein Kriterium bewertet, das prüft, ob sich das System zu Beginn als KI zu erkennen gegeben hat, entsteht ein durchgängiger, überprüfbarer Beleg: Zitat, Zeitstempel, Call für Call. Dieselbe Mechanik, die den Floor bewertet, dokumentiert die Offenlegung als Nebenprodukt. Wie das aussieht, steht unter Ein Bogen für Mensch und Bot.
Numi ist kein KI-Caller und kein Compliance-Tool. Numi bewertet aufgezeichnete Calls gegen Ihre eigene Scorecard, Mensch oder Bot, mit Beleg an jeder Note. Setzen Sie die KI-Offenlegung als ein Kriterium auf den Bogen Ihrer Bot-Calls, wird sie bei jedem bewerteten Call mitgeprüft, mit dem Zitat als Nachweis.
Das ist keine Rechtsberatung und ersetzt keine Prüfung durch Ihre Datenschutzfunktion. Es ist die praktische Seite des Rechenschaftsprinzips: nicht annehmen, dass der Bot offenlegt, sondern es an den Gesprächen sehen. Was Numi sonst noch auf denselben Bogen stellt, steht unter Callcenter QM.
Wie ein Scorecard menschliche Agenten und KI-Caller auf einer Skala bewertet, mit der KI-Offenlegung als einem Prüfpunkt auf dem Bogen des Bots.
Zum Bogen für Mensch und Bot → SchwesterseiteDie andere Callcenter-Regel aus dem AI Act: Emotionsableitung aus der Stimme am Arbeitsplatz ist verboten. Wo die Grenze zwischen Stimme und Inhalt verläuft.
Zum Verbot →Schicken Sie einen Stapel Bot-Calls durch Numi und setzen Sie die Offenlegung als Prüfpunkt auf den Bogen. Sie sehen Call für Call, ob sie erfolgt ist, mit Zitat und Zeitstempel.
Ein Ranking. Ihr Bogen, Ihre Gespräche.
Ja. Artikel 50 Absatz 1 der EU-KI-Verordnung (Regulation 2024/1689) verlangt, dass KI-Systeme, die direkt mit Menschen interagieren, so gestaltet sind, dass die betroffene Person erfährt, dass sie mit einem KI-System spricht, es sei denn, das ist aus den Umständen offensichtlich. Ein KI-Caller am Telefon fällt darunter. Die Pflicht gilt seit dem 2. August 2026. Dieser Beitrag ist ein sachlicher Explainer, keine Rechtsberatung.
Beide, auf unterschiedliche Weise. Die Gestaltungspflicht aus Artikel 50 Absatz 1, das System so zu bauen, dass es sich zu erkennen gibt, trifft formal den Anbieter des KI-Systems. Der Betreiber, der die KI-Caller-Kampagne tatsächlich fährt, konfiguriert und steuert, trägt die operative Verantwortung dafür, dass die Offenlegung auf jedem einzelnen Call wirklich erfolgt, und nach dem Rechenschaftsprinzip der DSGVO muss er das belegen können. Wer nur auf den Anbieter verweist, hat die eigene Rolle als Betreiber ausgeblendet.
Die Transparenzpflichten aus Artikel 50 gelten seit dem 2. August 2026. Verstöße gegen Artikel 50 fallen unter den Bußgeldrahmen von Artikel 99 Absatz 4: bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Das ist ein niedrigerer Rahmen als bei den verbotenen Praktiken aus Artikel 5, aber durchsetzbar.
Der belastbarste Nachweis ist die Aufzeichnung selbst. Wird jeder KI-Call gegen ein Kriterium bewertet, das prüft, ob sich das System zu Beginn als KI zu erkennen gegeben hat, entsteht ein durchgängiger, überprüfbarer Beleg mit Zitat und Zeitstempel. Das deckt sich mit dem Rechenschaftsprinzip: nicht nur regelkonform handeln, sondern das auch zeigen können. Wie das im QM aussieht, steht unter Ein Bogen für Mensch und Bot.
Artikel 50 Absatz 1 nimmt Fälle aus, in denen aus Sicht einer angemessen informierten Person offensichtlich ist, dass es sich um ein KI-System handelt. Bei modernen, natürlich klingenden Stimmagenten ist genau das oft nicht mehr offensichtlich, weshalb die ausdrückliche Offenlegung der sichere Weg ist. Sich auf die Offensichtlichkeit zu verlassen, verlagert das Risiko auf eine Einschätzung, die später strittig sein kann.