KI-Anrufe · EU AI Act Artikel 50

Wenn eine KI anruft, muss sie das sagen.

Seit dem 2. August 2026 verlangt Artikel 50 des EU AI Act, dass Menschen erfahren, wenn sie mit einem KI-System sprechen. Für KI-Caller am Telefon heißt das: Der Bot muss sich zu erkennen geben. Die Pflicht, das System so zu bauen, trifft den Anbieter; die Verantwortung, dass es auf jedem Call passiert und belegbar ist, trägt der Betreiber. Dieser Beitrag erklärt, wo diese Linie verläuft. Sachlicher Explainer, keine Rechtsberatung.

Stand 2026 · EU · Regulation 2024/1689, Art. 50 Abs. 1, Art. 99 Abs. 4

01Worum es hier geht
Explainer statt Rechtsgutachten

Dieser Beitrag erklärt eine Regel, die jedes Callcenter mit KI-Callern direkt betrifft: die Transparenzpflicht aus Artikel 50 des EU AI Act. Er beschreibt den Pflichttatbestand, das Geltungsdatum, die Rollen von Anbieter und Betreiber und wie sich die Offenlegung belegen lässt. Er ersetzt keine Rechtsberatung und keine Prüfung durch Ihre Datenschutzfunktion. Er bleibt bewusst eng auf die Transparenzpflicht bei direkter Interaktion zugeschnitten und behandelt nicht die Hochrisiko-Einstufung nach Anhang III.

Die Regel in einem Satz.

Ein KI-System, das direkt mit einem Menschen interagiert, muss so gestaltet sein, dass der Mensch erfährt, dass er mit einer KI spricht, es sei denn, das ist ohnehin offensichtlich. Für einen KI-Caller bedeutet das: eine klare Offenlegung zu Beginn des Gesprächs.

Der Rest dieses Beitrags erklärt, seit wann die Regel gilt, wer sie erfüllen muss und wie ein Callcenter nachweist, dass die Offenlegung tatsächlich auf jedem Call erfolgt ist. Verwandt ist das Verbot der Emotionserkennung am Arbeitsplatz, erklärt unter Emotionserkennung und der EU AI Act.

Art. 50 Abs. 1 · der Rahmen
·Gilt seit02.08.2026
·Bußgeldrahmen15 Mio. € / 3 %
·Fundstelle BußgeldArt. 99 Abs. 4
–PflichtartTransparenz
02Das Gesetz
Zeitschiene · AI Act
·Verbotene Praktiken, Art. 502.02.2025
·Transparenz, Art. 5002.08.2026
–Rahmen Art. 50 niedriger als Art. 515 vs. 35 Mio.

Transparenz ist eine eigene Stufe.

Der AI Act staffelt seine Pflichten nach Risiko. Die verbotenen Praktiken aus Artikel 5 gelten seit Februar 2025. Die Transparenzpflichten aus Artikel 50 sind eine andere, mildere Kategorie und gelten seit dem 2. August 2026. Sie verlangen keine Zulassung und kein Konformitätsverfahren, sondern dass bestimmte KI-Einsätze offengelegt werden, darunter die direkte Interaktion mit Menschen.

Verstöße gegen Artikel 50 fallen unter den Bußgeldrahmen von Artikel 99 Absatz 4: bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Das ist niedriger als die 35 Millionen für verbotene Praktiken, aber eine reale, durchsetzbare Pflicht, kein unverbindlicher Leitfaden.

03Anbieter oder Betreiber
1

Die Gestaltungspflicht trifft den Anbieter

Artikel 50 Absatz 1 richtet sich an den Anbieter des KI-Systems: Er muss das System so gestalten und entwickeln, dass die Offenlegung überhaupt möglich und vorgesehen ist. Wer eine Voicebot-Plattform baut und verkauft, muss die Funktion zur Offenlegung mitliefern. Das ist die wörtliche Zuordnung der Pflicht.

2

Der Betreiber sorgt dafür, dass es passiert

Wer die KI-Caller-Kampagne tatsächlich fährt, also den Bot konfiguriert, die Skripte festlegt und die Anrufe auslöst, ist Betreiber. Er entscheidet, ob die Offenlegung aktiviert ist, wann sie im Skript steht und ob sie bei jeder Variante ausgespielt wird. Die Verantwortung, dass die Regel im konkreten Anruf eingehalten wird, lässt sich nicht an den Anbieter wegdelegieren.

3

Und er muss es belegen können

Hier greift das Rechenschaftsprinzip, das aus der DSGVO vertraut ist und sich mit der Logik des AI Act deckt: Es reicht nicht, regelkonform zu handeln, man muss es auch zeigen können. Für die KI-Offenlegung heißt das, einen Nachweis zu haben, dass sie auf den Calls tatsächlich erfolgt ist, und nicht nur die Annahme, der Bot werde es schon tun. Wer auf Nachfrage von Aufsicht oder Betriebsrat nur auf den Anbieter verweist, hat die eigene Betreiberrolle ausgeblendet.

04Was Offenlegung heißt

Klar, früh und nicht im Kleingedruckten.

Die Offenlegung muss die betroffene Person erreichen, und zwar rechtzeitig, also zu Beginn der Interaktion, nicht als Fußnote am Ende. Bei einem Telefonat heißt das eine verständliche Ansage am Gesprächsanfang, dass am anderen Ende ein KI-System spricht.

Es gibt eine Ausnahme: Ist aus Sicht einer angemessen informierten Person offensichtlich, dass es sich um eine KI handelt, muss nichts gesagt werden. Das Problem ist, dass moderne Stimmagenten gerade nicht mehr offensichtlich als Maschine erkennbar sind. Sich auf die Offensichtlichkeit zu verlassen, verlagert das Risiko auf eine Einschätzung, die im Streitfall gegen einen ausgehen kann. Die ausdrückliche Ansage ist der sichere Weg.

Zwei Formulierungen, ein Ziel
„Guten Tag, hier spricht der digitale Assistent von Beispiel GmbH, ein KI-System.“00:02
Praxis: früh im Call, in klarer Sprache, kein Fachjargon. Eine Offenlegung, die niemand versteht oder die erst am Ende kommt, erfüllt den Zweck der Regel nicht.
05Wie man es belegt
Prüfpunkt · KI-Offenlegung · Call 2217
„Hier spricht der digitale Assistent, ein KI-System.“00:02
Bewertet: Offenlegung zu Beginn erfüllt. Der Prüfpunkt steht auf demselben Bogen wie die inhaltlichen Kriterien, mit Zitat und Zeitstempel als Nachweis.

Der beste Beleg ist die Aufzeichnung selbst.

Die Frage im Audit lautet nicht „War die Offenlegung konfiguriert?“, sondern „Ist sie auf diesen Calls tatsächlich passiert?“. Ein Konfigurationshaken beantwortet nur das Erste. Den belastbaren Nachweis liefert das Gespräch selbst.

Wird jeder KI-Call im Qualitätsmanagement gegen ein Kriterium bewertet, das prüft, ob sich das System zu Beginn als KI zu erkennen gegeben hat, entsteht ein durchgängiger, überprüfbarer Beleg: Zitat, Zeitstempel, Call für Call. Dieselbe Mechanik, die den Floor bewertet, dokumentiert die Offenlegung als Nebenprodukt. Wie das aussieht, steht unter Ein Bogen für Mensch und Bot.

06Wo Numi hereinkommt

Numi bewertet den Call, nicht nur die Konfiguration.

Numi ist kein KI-Caller und kein Compliance-Tool. Numi bewertet aufgezeichnete Calls gegen Ihre eigene Scorecard, Mensch oder Bot, mit Beleg an jeder Note. Setzen Sie die KI-Offenlegung als ein Kriterium auf den Bogen Ihrer Bot-Calls, wird sie bei jedem bewerteten Call mitgeprüft, mit dem Zitat als Nachweis.

Das ist keine Rechtsberatung und ersetzt keine Prüfung durch Ihre Datenschutzfunktion. Es ist die praktische Seite des Rechenschaftsprinzips: nicht annehmen, dass der Bot offenlegt, sondern es an den Gesprächen sehen. Was Numi sonst noch auf denselben Bogen stellt, steht unter Callcenter QM.

Numi · Rolle in Art. 50
·Numi ist der KI-Callernein
·Numi bewertet die Aufzeichnungja
·Offenlegung als Prüfpunktmöglich
–Rechtsberatungnein
07Weiterlesen

Belegen Sie die KI-Offenlegung an Ihren eigenen Calls.

Schicken Sie einen Stapel Bot-Calls durch Numi und setzen Sie die Offenlegung als Prüfpunkt auf den Bogen. Sie sehen Call für Call, ob sie erfolgt ist, mit Zitat und Zeitstempel.

Pilot starten →

Ein Ranking. Ihr Bogen, Ihre Gespräche.

KI-Anrufe und die Transparenzpflicht, beantwortet

Muss ein KI-Anruf offenlegen, dass er von einer KI geführt wird?

Ja. Artikel 50 Absatz 1 der EU-KI-Verordnung (Regulation 2024/1689) verlangt, dass KI-Systeme, die direkt mit Menschen interagieren, so gestaltet sind, dass die betroffene Person erfährt, dass sie mit einem KI-System spricht, es sei denn, das ist aus den Umständen offensichtlich. Ein KI-Caller am Telefon fällt darunter. Die Pflicht gilt seit dem 2. August 2026. Dieser Beitrag ist ein sachlicher Explainer, keine Rechtsberatung.

Trifft die Pflicht den Bot-Anbieter oder den Betreiber?

Beide, auf unterschiedliche Weise. Die Gestaltungspflicht aus Artikel 50 Absatz 1, das System so zu bauen, dass es sich zu erkennen gibt, trifft formal den Anbieter des KI-Systems. Der Betreiber, der die KI-Caller-Kampagne tatsächlich fährt, konfiguriert und steuert, trägt die operative Verantwortung dafür, dass die Offenlegung auf jedem einzelnen Call wirklich erfolgt, und nach dem Rechenschaftsprinzip der DSGVO muss er das belegen können. Wer nur auf den Anbieter verweist, hat die eigene Rolle als Betreiber ausgeblendet.

Seit wann gilt Artikel 50 und wie hoch sind die Bußgelder?

Die Transparenzpflichten aus Artikel 50 gelten seit dem 2. August 2026. Verstöße gegen Artikel 50 fallen unter den Bußgeldrahmen von Artikel 99 Absatz 4: bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Das ist ein niedrigerer Rahmen als bei den verbotenen Praktiken aus Artikel 5, aber durchsetzbar.

Wie belegt ein Callcenter, dass die KI-Offenlegung erfolgt ist?

Der belastbarste Nachweis ist die Aufzeichnung selbst. Wird jeder KI-Call gegen ein Kriterium bewertet, das prüft, ob sich das System zu Beginn als KI zu erkennen gegeben hat, entsteht ein durchgängiger, überprüfbarer Beleg mit Zitat und Zeitstempel. Das deckt sich mit dem Rechenschaftsprinzip: nicht nur regelkonform handeln, sondern das auch zeigen können. Wie das im QM aussieht, steht unter Ein Bogen für Mensch und Bot.

Gilt die Pflicht auch, wenn der Anruf offensichtlich automatisiert wirkt?

Artikel 50 Absatz 1 nimmt Fälle aus, in denen aus Sicht einer angemessen informierten Person offensichtlich ist, dass es sich um ein KI-System handelt. Bei modernen, natürlich klingenden Stimmagenten ist genau das oft nicht mehr offensichtlich, weshalb die ausdrückliche Offenlegung der sichere Weg ist. Sich auf die Offensichtlichkeit zu verlassen, verlagert das Risiko auf eine Einschätzung, die später strittig sein kann.