DSGVO und KI-Chatbot: Was Unternehmen wissen müssen

Welche personenbezogenen Daten verarbeitet ein KI-Chatbot?

Sobald ein Nutzer mit einem KI-Chatbot interagiert, entstehen Daten. Die offensichtlichsten sind die Inhalte des Gesprächs selbst: Texteingaben, Fragen, Beschwerden, Buchungsdetails. Diese Gesprächsdaten sind in vielen Fällen personenbezogen im Sinne der DSGVO — entweder weil sie direkte Identifikatoren wie Namen oder E-Mail-Adressen enthalten, oder weil sie im Zusammenspiel mit anderen verfügbaren Daten einer Person zuordenbar sind. Auch IP-Adressen, die beim Webchat technisch übertragen werden, gelten als personenbezogene Daten.

Bei Chatbots, die im Rahmen von Kundenkontoprozessen eingesetzt werden, kommen weitere Datenkategorien hinzu: Kundennummern, Bestellhistorien, Zahlungsinformationen (wenn der Chatbot in Checkout-Prozesse integriert ist) oder Gesundheitsdaten (in medizinischen Anwendungen). Diese Sonderkategorien nach Art. 9 DSGVO unterliegen einem erhöhten Schutzniveau und erfordern besondere technische und rechtliche Vorkehrungen.

Das Prinzip der Datenminimierung (Art. 5 Abs. 1 lit. c DSGVO) fordert, nur jene Daten zu verarbeiten, die für den jeweiligen Zweck tatsächlich erforderlich sind. Für einen reinen FAQ-Chatbot ohne Authentifizierung bedeutet das: Gesprächsinhalte sollten nicht dauerhaft gespeichert werden, IP-Adressen sollten anonymisiert werden, und persönliche Angaben sollten nur dann erhoben werden, wenn sie für den Serviceprozess zwingend notwendig sind. Ein sorgfältig konfigurierter Chatbot ist damit datenschutzrechtlich deutlich weniger problematisch als ein schlecht geplanter.

DSGVO-Anforderungen für den Chatbot-Betrieb

Die DSGVO stellt für jeden Verarbeitungsvorgang eine Reihe von Grundanforderungen. Erstens braucht jede Datenverarbeitung eine Rechtsgrundlage nach Art. 6 DSGVO: Entweder eine Einwilligung des Nutzers, die Erforderlichkeit für einen Vertrag, ein berechtigtes Interesse des Unternehmens oder eine andere der im Gesetz genannten Grundlagen. Die Rechtsgrundlage muss vor der Verarbeitung bestimmt und dokumentiert sein — und im Zweifelsfall gegenüber der Datenschutzbehörde begründet werden können.

Zweitens besteht eine umfassende Informationspflicht gegenüber betroffenen Personen. Nutzer müssen wissen, welche Daten zu welchem Zweck verarbeitet werden, wie lange sie gespeichert bleiben, wer Empfänger sein kann und welche Rechte sie haben — darunter das Recht auf Auskunft, Berichtigung, Löschung und Einschränkung der Verarbeitung. Diese Informationen müssen in klarer, verständlicher Sprache zugänglich sein, typischerweise in der Datenschutzerklärung und über einen Hinweis im Chatfenster.

Drittens schreibt die DSGVO das Prinzip "Privacy by Design und by Default" vor (Art. 25). Das bedeutet: Datenschutzfreundliche Konfigurationen sind von Anfang an die Voreinstellung, nicht nachträgliche Ergänzungen. Für KI-Chatbots heißt das in der Praxis: kürzere Speicherfristen als Standard, Anonymisierung von Protokolldaten, restriktive Zugriffsberechtigungen und die Möglichkeit für Nutzer, ihre Daten auf einfachem Weg löschen zu lassen.

Cloud-KI vs. On-Premises: Was bedeutet das für den Datenschutz?

Bei einem Cloud-basierten KI-Chatbot werden Gesprächsdaten und Anfragen an externe Server eines Sprachmodell-Anbieters gesendet, dort verarbeitet und — je nach Konfiguration — möglicherweise für Trainingszwecke genutzt. Für die DSGVO-Bewertung entscheidend ist: In welchem Land befinden sich die Server? Bei US-amerikanischen Anbietern ist die Rechtslage seit dem Schrems-II-Urteil komplex. EU-Anbieter oder solche mit EU-Rechenzentren sind unter europäischem Datenschutzrecht klar bevorzugt. Zusätzlich muss ein Auftragsverarbeitungsvertrag (AVV) abgeschlossen werden.

On-Premises bedeutet, dass die gesamte Infrastruktur — einschließlich des KI-Modells — auf Servern betrieben wird, die das Unternehmen selbst kontrolliert. Mit lokaler KI-Ausführung verlassen keine Gesprächsdaten die eigene Infrastruktur. Damit entfällt die Notwendigkeit eines AVV mit einem Cloud-KI-Anbieter vollständig; die Verarbeitung erfolgt ausschließlich intern. Für Unternehmen in regulierten Branchen — Gesundheitswesen, Rechtsberatung, Finanzdienstleistungen — ist On-Premises oft die einzig vertretbare Option.

Ein Hybrid-Ansatz ist ebenfalls möglich: Die Chatbot-Infrastruktur und Wissensdatenbank laufen EU-seitig auf sicheren Servern, während für bestimmte, weniger sensible Anwendungsfälle ein Cloud-Modell verwendet wird. Zentor App unterstützt beide Betriebsmodi — Cloud via externem KI-Provider sowie vollständig lokal — und lässt Unternehmen selbst entscheiden, welche Architektur zu ihrer Datenschutzstrategie passt. Die Entscheidung sollte idealerweise gemeinsam mit dem Datenschutzbeauftragten und einem Datenschutzanwalt getroffen werden.

Auftragsverarbeitungsvertrag (AVV): Wann nötig und was er regelt

Der Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO ist das zentrale Instrument, um die Verantwortlichkeiten zwischen einem Unternehmen (Auftraggeber) und einem externen Dienstleister (Auftragsverarbeiter), der personenbezogene Daten im Auftrag verarbeitet, rechtlich zu regeln. Beim Betrieb eines KI-Chatbots über eine SaaS-Plattform ist der AVV in der Regel zwingend erforderlich: Der Chatbot-Anbieter verarbeitet Gesprächsdaten auf seinen Servern — das ist klassische Auftragsverarbeitung.

Ein AVV muss schriftlich oder in einem gleichwertigen elektronischen Format abgeschlossen werden und eine Reihe von Mindestinhalten abdecken: den Gegenstand und die Dauer der Verarbeitung, Art und Zweck der Verarbeitung, die Kategorien personenbezogener Daten und der betroffenen Personen sowie die Pflichten und Rechte des Verantwortlichen. Außerdem muss der Auftragsverarbeiter garantieren, geeignete technische und organisatorische Maßnahmen (TOMs) zu implementieren und keine Unterauftragsverarbeiter ohne Genehmigung einzusetzen.

Wichtig: Der AVV muss vor der Inbetriebnahme des Chatbots abgeschlossen sein — nicht nachträglich. Ein fehlendes AVV trotz Auftragsverarbeitung ist eine eigenständige DSGVO-Verletzung, die bußgeldbewehrt ist. Prüfen Sie deshalb bei jedem Chatbot-Anbieter, ob und in welcher Form ein AVV angeboten wird, welche Sub-Auftragsverarbeiter eingesetzt werden (z. B. Cloud-Provider oder externe KI-Provider) und wie damit umgegangen wird. Seriöse Anbieter wie Zentor App stellen standardisierte AVV-Vorlagen bereit und sind bereit, deren Inhalte transparent offenzulegen.

Datenschutzbeauftragter und Chatbot: Was beachten?

Unternehmen, die einen betrieblichen oder externen Datenschutzbeauftragten (DSB) haben, müssen diesen bei der Einführung eines KI-Chatbots einbeziehen. Der DSB hat die Aufgabe, die datenschutzkonforme Implementierung sicherzustellen, Risiken zu bewerten und die Einhaltung der DSGVO zu überwachen. Dabei geht es nicht nur um formale Compliance, sondern um die konkrete technische Konfiguration: Welche Daten werden gespeichert? Wie lange? Wer hat Zugriff? Wie wird mit Auskunftsersuchen von Betroffenen umgegangen?

Eine der wichtigsten Aufgaben des DSB im Chatbot-Kontext ist die Prüfung, ob eine Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO erforderlich ist. Eine DSFA ist dann vorgeschrieben, wenn die Datenverarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen birgt. Das kann bei einem Chatbot der Fall sein, wenn systematisch sensible Daten verarbeitet werden, eine Profilerstellung stattfindet oder das System für Entscheidungen genutzt wird, die erhebliche Auswirkungen auf Betroffene haben.

Auch wenn kein DSB gesetzlich vorgeschrieben ist, empfiehlt sich eine datenschutzrechtliche Prüfung vor dem Go-Live. Gerade bei kleineren Unternehmen, die erstmals einen Chatbot einsetzen, lauern typische Fallstricke: fehlende oder veraltete Datenschutzerklärung, vergessener AVV, zu lange Speicherfristen oder fehlende Löschkonzepte. Eine externe Beratung durch einen Datenschutzexperten zahlt sich hier langfristig aus und schützt vor empfindlichen Bußgeldern, die von Datenschutzbehörden verhängt werden können.

Technische und organisatorische Maßnahmen (TOMs) für Chatbots

Die DSGVO fordert in Art. 32 angemessene technische und organisatorische Maßnahmen (TOMs), um ein dem Risiko angemessenes Schutzniveau zu gewährleisten. Für KI-Chatbots bedeutet das konkret: Alle Datenübertragungen zwischen dem Browser des Nutzers und dem Chatbot-Backend müssen verschlüsselt stattfinden (TLS/HTTPS). Gespeicherte Gesprächsdaten und Wissensdatenbank-Inhalte sollten ebenfalls verschlüsselt abgelegt sein — sowohl in der Datenbank als auch auf den zugehörigen Speichermedien.

Auf der Zugriffsseite schreibt die DSGVO das Prinzip der Datenzugriffsbeschränkung vor: Nur jene Mitarbeiter und Systeme dürfen auf personenbezogene Daten zugreifen, die dies für ihre Arbeit tatsächlich benötigen. Zentor App setzt dieses Prinzip mit einem Role-Based Access Control (RBAC)-System um, das als frei wählbares Modul im Individuell-Paket verfügbar ist: Unterschiedliche Rollen erhalten unterschiedliche Zugriffsrechte, und alle Zugriffe werden im Audit-Trail protokolliert. Das ermöglicht im Zweifelsfall den Nachweis, wer wann auf welche Daten zugegriffen hat.

Organisatorisch gehören zu den TOMs klare interne Prozesse: Wer ist für die Wissensdatenbank verantwortlich? Wie werden Löschanfragen von Betroffenen bearbeitet? Wie wird sichergestellt, dass keine Konversationsdaten länger als notwendig gespeichert werden? Wie reagiert das Unternehmen im Fall eines Datenschutzvorfalls — etwa wenn ein Chatbot unbeabsichtigt personenbezogene Daten eines anderen Nutzers preisgibt? Diese Prozesse müssen schriftlich dokumentiert und regelmäßig überprüft werden.

Zentor App und DSGVO: EU-Hosting und On-Premises als Optionen

Zentor App wurde von Anfang an mit dem Ziel entwickelt, einen DSGVO-konformen Betrieb zu ermöglichen. Die Plattform kann auf EU-Servern gehostet werden — Hosting, Datenbanken und Anwendungslogik unterliegen damit europäischem Datenschutzrecht. Wird optional ein externer KI-Provider eingebunden, erfolgt ein etwaiger Einsatz außerhalb der EU ausschließlich auf Basis von EU-Standardvertragsklauseln (Art. 46 DSGVO) — die rechtlichen Unsicherheiten eines unkontrollierten Drittlandtransfers entfallen damit. Für Unternehmen, die über eine cloudbasierte Lösung nachdenken, ist EU-Hosting die erste und wichtigste Weichenstellung in Richtung DSGVO-Konformität.

Für Unternehmen mit höchsten Datenschutzanforderungen bietet Zentor App die vollständige On-Premises-Installation. In diesem Betriebsmodell läuft die gesamte Plattform — Chatbot-Engine, Wissensdatenbank, Omnichannel-Inbox und alle Verarbeitungskomponenten — auf Infrastruktur, die das Unternehmen selbst kontrolliert. Mit lokaler KI-Ausführung verlassen keine Gesprächsdaten und keine personenbezogenen Informationen die eigene IT-Umgebung. Dieser Ansatz ist besonders geeignet für Krankenhäuser, Anwaltskanzleien, Steuerberatungen und andere Branchen, in denen Datenschutz existenziell ist.

Zentor App stellt Auftragsverarbeitungsverträge (AVV) für den Cloud-Betrieb bereit und dokumentiert die eingesetzten Sub-Auftragsverarbeiter mit Firmenname, Land, Zweck und Übermittlungsgrundlage in Ziffer 13 der Datenschutzerklärung. Die technischen Datenschutzfunktionen — RBAC, Audit-Trail, konfigurierbare Datenspeicherfristen und rollenbasierte Zugriffskontrollen — sind als frei wählbare Module im Individuell-Paket konfigurierbar. So schaffen Sie die technischen Voraussetzungen für DSGVO-konformen Chatbot-Betrieb — die rechtliche Ausgestaltung im konkreten Einzelfall bleibt dabei immer Aufgabe Ihres Datenschutzteams und rechtlicher Berater.

Häufig gestellte Fragen