Dieser Artikel dient ausschließlich der allgemeinen Information und stellt keine Rechtsberatung dar. Für eine auf Ihre Situation zugeschnittene Einschätzung ziehen Sie bitte eine qualifizierte Anwältin oder einen qualifizierten Anwalt hinzu.
Fällt KI-Gesprächsanalyse im Vertrieb unter den EU AI Act, und welche Risikostufe hat sie? Nach derzeitiger Einschätzung ja, aber nur in einer niedrigen Stufe: Eine KI, die Vertriebsgespräche transkribiert, zusammenfasst und für Coaching auswertet, ist in der Regel ein System mit begrenztem oder minimalem Risiko und kein Hochrisiko-System nach der Verordnung (EU) 2024/1689. Das bedeutet: keine aufwändige Konformitätsbewertung wie bei Hochrisiko-Anwendungen, aber Transparenzpflichten nach Artikel 50, wenn Menschen mit dem System interagieren oder Inhalte KI-generiert sind. Wichtig ist, KI-Regulierung und Datenschutz nicht zu verwechseln: Der EU AI Act und die DSGVO gelten parallel, nicht anstelle voneinander. Dieser Leitfaden ordnet ein, was das für Vertriebs- und Compliance-Verantwortliche konkret heißt.
Was ist der EU AI Act und wen betrifft er?
Der EU AI Act ist die Verordnung (EU) 2024/1689 und die erste umfassende gesetzliche Regelung für Künstliche Intelligenz weltweit. Sie ist im August 2024 in Kraft getreten und wird gestaffelt anwendbar. Ihr Kern ist ein risikobasierter Ansatz: Nicht die Technologie an sich wird reguliert, sondern der konkrete Einsatzzweck eines KI-Systems. Je höher das Risiko für Grundrechte, Sicherheit und Gesundheit, desto strenger die Pflichten.
Für den Vertriebskontext sind zwei Rollen entscheidend. Der Anbieter (Provider) entwickelt oder vertreibt das KI-System, der Betreiber (Deployer) setzt es im eigenen Unternehmen ein. Wenn Ihr Team eine KI-Gesprächsanalyse einkauft und nutzt, sind Sie in der Regel Betreiber. Der Software-Hersteller ist Anbieter. Beide Rollen tragen unterschiedliche Pflichten, wobei die schwersten Lasten bei Hochrisiko-Systemen liegen, die für reine Gesprächsanalyse üblicherweise nicht einschlägig sind.
Verordnung (EU) 2024/1689 (EU AI Act) unterscheidet vier Risikoklassen: unannehmbares Risiko (verbotene Praktiken), hohes Risiko (Anhang III, strenge Auflagen), begrenztes Risiko (Transparenzpflichten nach Art. 50) und minimales Risiko (keine besonderen Pflichten). Die Einordnung richtet sich nach dem Verwendungszweck, nicht nach der eingesetzten Technik.
Welche Risikostufe hat Gesprächsanalyse-Software im Vertrieb?
Für die allermeisten Vertriebsanwendungen lautet die Antwort: begrenztes oder minimales Risiko, kein Hochrisiko. Eine KI, die ein Verkaufsgespräch transkribiert, Einwände erkennt, eine Zusammenfassung erstellt und daraus Coaching-Hinweise ableitet, dient der Qualitätssicherung und Weiterbildung. Diese Zwecke sind nicht in Anhang III der Verordnung als Hochrisiko gelistet.
Die Grenze wird an einer bestimmten Stelle heikel. Anhang III nennt unter anderem KI-Systeme im Beschäftigungskontext als Hochrisiko, etwa Systeme, die für Entscheidungen über Einstellung, Beförderung, Aufgabenverteilung oder Kündigung von Mitarbeitenden eingesetzt werden. Wenn Sie eine Gesprächsanalyse ausschließlich für Coaching und Qualitätsauswertung nutzen, bleiben Sie außerhalb dieser Kategorie. Wenn Sie dieselben Auswertungen jedoch zur automatisierten Leistungsbewertung heranziehen, die über Beförderung oder Entlassung entscheidet, kann der Einsatz in die Hochrisiko-Zone rutschen. Der Unterschied liegt im Zweck, nicht in der Software.
Praktisch heißt das: Trennen Sie sauber zwischen Entwicklung von Menschen und Entscheidung über Menschen. Coaching-Nutzung ist begrenztes Risiko. Automatisierte HR-Entscheidungen auf Basis von KI-Scores sind ein anderes Regelungsfeld und sollten mit Rechtsberatung und Betriebsrat abgestimmt werden.
Transparenzpflichten: muss ich Kunden sagen, dass KI das Gespräch analysiert?
Ja. Artikel 50 des EU AI Act verlangt Transparenz, wenn natürliche Personen direkt mit einem KI-System interagieren oder wenn Inhalte KI-generiert sind, sofern das nicht offensichtlich aus dem Kontext hervorgeht. Für Vertriebsteams bedeutet das: Wer eine KI-gestützte Analyse einsetzt, sollte die Gesprächspartner darüber informieren.
Diese Pflicht steht nicht allein. In Deutschland verlangt Paragraph 201 StGB, dass alle Teilnehmer vor der Aufzeichnung eines nicht öffentlich gesprochenen Wortes informiert werden. Ein heimliches Mitschneiden ist strafbar. Zusätzlich fordert die DSGVO Transparenz über jede Verarbeitung personenbezogener Daten und eine tragfähige Rechtsgrundlage nach Artikel 6. Ein einziger, klarer Hinweis zu Beginn des Gesprächs kann alle drei Ebenen zugleich abdecken.
Wichtig ist, dass der Hinweis vor Beginn der Aufzeichnung kommt und die Widerspruchsmöglichkeit echt ist. Wenn das Gespräch unabhängig davon aufgezeichnet wird, ob die Person widerspricht, ist der Hinweis rechtlich wertlos. Der EU AI Act adressiert die KI-Ebene, Paragraph 201 StGB die Strafrechtsebene und die DSGVO die Datenschutzebene. Erst zusammen ergeben sie einen sauberen Ablauf.
Wie Numi den EU AI Act adressiert
Numi ist eine Sales Call Intelligence-Plattform, also KI-Gesprächsanalyse als datenschutzorientierte europäische Alternative zu Gong oder Chorus. Der Einsatz ist bewusst auf Coaching und Qualitätsauswertung ausgelegt und damit auf die niedrige Risikostufe, nicht auf automatisierte Personalentscheidungen. Konkret sind mehrere Bausteine relevant für die Einordnung nach dem EU AI Act und der DSGVO.
- Kein Hochrisiko-Einsatz: Die Auswertung dient der Entwicklung von Vertriebsgesprächen, nicht der automatisierten Entscheidung über Beschäftigung oder Kündigung. Damit bleibt der Einsatz nach derzeitiger Einschätzung außerhalb von Anhang III.
- Transparenzhinweis beim Bot-Beitritt: Wenn der Meeting-Bot einem Gespräch beitritt, wird das für die Teilnehmer sichtbar. So lässt sich die Transparenzpflicht nach Art. 50 mit dem Hinweis nach Paragraph 201 StGB verbinden.
- Auftragsverarbeitungsvertrag (AVV): Numi stellt einen AVV nach Artikel 28 DSGVO bereit, wie er für jeden Auftragsverarbeiter erforderlich ist, der Gesprächsdaten in Ihrem Auftrag verarbeitet.
- EU-Datenhaltung: Die Datenhaltung erfolgt in Frankfurt und Amsterdam, das Coaching läuft auf EU-gehosteter Infrastruktur. Das reduziert die Komplexität internationaler Datentransfers, ersetzt aber nicht Ihre eigene Prüfung Ihrer Verarbeitungskette.
Mehr zum Zusammenspiel von NIS2, DORA und dem EU AI Act für regulierte Unternehmen finden Sie in unserem Beitrag zu NIS2, DORA und Sovereign AI im Enterprise-Umfeld. Den vollständigen Fahrplan zeigt die EU-AI-Act-Zeitachse für B2B-SaaS. Den Gesamtansatz beschreibt unsere Seite zu Sovereign AI.
Häufige Missverständnisse
Rund um den EU AI Act kursieren zwei Annahmen, die im Vertriebsalltag regelmäßig zu falschen Schlüssen führen.
Ist ein CRM ein KI-System? Nicht automatisch. Der EU AI Act definiert ein KI-System als maschinengestütztes System, das aus Eingaben ableitet, wie es Ausgaben wie Vorhersagen, Empfehlungen oder Entscheidungen erzeugt. Eine klassische Datenbank oder ein CRM ohne lernende Komponente fällt nicht darunter. Erst wenn ein Modul aus Ihren Daten etwas ableitet, etwa eine Abschlussprognose oder eine automatische Lead-Bewertung, kann der EU AI Act greifen.
Ist reines Aufzeichnen betroffen? Das bloße Mitschneiden eines Gesprächs ohne KI-Verarbeitung ist keine KI-Anwendung im Sinne der Verordnung. Es unterliegt aber weiterhin Paragraph 201 StGB und der DSGVO. Sobald jedoch eine Transkription, Zusammenfassung oder Bewertung durch ein KI-System erzeugt wird, kommt der EU AI Act mit seinen Transparenzpflichten hinzu. Die Trennlinie verläuft also nicht bei der Aufnahme, sondern bei der Ableitung.
Praktische Checkliste: Was ihr jetzt tun müsst
Nutzen Sie die folgende Liste, um Ihren Einsatz von KI-Gesprächsanalyse gegen die Kernanforderungen abzugleichen.
- Einsatzzweck dokumentieren: Halten Sie schriftlich fest, dass die KI für Coaching und Qualitätssicherung genutzt wird und nicht für automatisierte Personalentscheidungen.
- Risikoeinstufung festhalten: Ordnen Sie das System nach derzeitiger Einschätzung als begrenztes oder minimales Risiko ein und begründen Sie diese Einordnung anhand des Verwendungszwecks.
- Transparenzhinweis etablieren: Ein klarer Hinweis zu Gesprächsbeginn, dass aufgezeichnet und KI-gestützt ausgewertet wird, jedes Mal und mit echter Widerspruchsmöglichkeit.
- Rechtsgrundlage nach DSGVO klären: Berechtigtes Interesse mit dokumentierter Abwägung oder Einwilligung, abhängig vom Kontext.
- AVV nach Art. 28 abschließen: Mit jedem Auftragsverarbeiter, der Gesprächsdaten verarbeitet.
- Datenhaltung prüfen: Klären Sie, wo Audio, Transkripte und KI-Ausgaben gespeichert und verarbeitet werden.
- Betriebsrat einbeziehen: Wenn Mitarbeitergespräche ausgewertet werden, kann eine Betriebsvereinbarung erforderlich sein, bevor Sie starten.
- Zeitachse im Blick behalten: Transparenzpflichten werden 2026 relevant, die vollständige Anwendung reicht bis 2027. Prüfen Sie regelmäßig, ob sich Ihr Einsatzzweck in Richtung Hochrisiko verschiebt.
Die Kernbotschaft: Reine KI-Gesprächsanalyse im Vertrieb ist nach derzeitiger Einschätzung kein Hochrisiko-Fall. Die eigentliche Arbeit liegt bei Transparenz, sauberer Rechtsgrundlage und einer dokumentierten Abgrenzung zwischen Coaching und automatisierter Entscheidung. Wer diese Grundlagen früh legt, ist auf die volle Anwendung des EU AI Act gut vorbereitet.