Was steht in den Anweisungen unseres Chatbots, die der Kunde nie sieht?
WhatsApp hatte seinem Support-Chatbot in unsichtbaren Texten auf den Hilfeseiten verboten, eine Datenschutzbehörde zu nennen oder die DSGVO zu erwähnen. Die Firma Redact hat das entdeckt, am 18. Oktober waren die Texte entfernt. Für jeden Betrieb mit einem Assistenten stellt sich dieselbe Frage: Was steht in dessen Anweisungen?
Redact, ein Anbieter von Software zum Löschen persönlicher Daten, beschrieb am 19. Oktober, was im Quelltext der WhatsApp-Hilfeseiten stand. Am 8. Oktober fiel der Firma ein Text auf, den ein Besucher nie sah und der nur für eine KI bestimmt war. Daraufhin las sie alle 545 Seiten, die das Hilfezentrum verlinkt, und fand 102 solcher Blöcke auf 80 Seiten. t3n berichtete am 20. Oktober darüber.
Was in den unsichtbaren Anweisungen stand
Die meisten Blöcke waren harmlos, etwa Hinweise, welche Begriffe Nutzer gern verwechseln. Zwei fielen auf. Auf der Seite zum Löschen eines Kontos sollte der Chatbot einem Nutzer, der seine Nummer verloren hat und sein Konto deshalb nicht löschen kann, nicht empfehlen, sich an eine Datenschutzbehörde zu wenden. Auf der Seite zum Melden und Blockieren sollte er, sobald jemand von Anwalt, Klage oder Gericht sprach, weder die Datenschutzrichtlinie noch die DSGVO erwähnen, auch wenn der Nutzer sie selbst nannte. In der europäischen Datenschutzrichtlinie von WhatsApp steht dagegen, dass man sich bei der irischen Datenschutzbehörde oder einer anderen zuständigen Aufsichtsbehörde beschweren kann.
Laut Redact waren am 18. Oktober alle Blöcke entfernt. Gegenüber WIRED erklärte ein WhatsApp-Sprecher, die Texte seien Anweisungen für den Support-Chatbot gewesen und durch einen Fehler auf den öffentlichen Seiten gelandet. Der Chatbot solle bei WhatsApp helfen und keine Rechtsberatung geben. Ob der Chatbot die Anweisungen befolgt hat, hat Redact nicht geprüft.
Was das für einen Betrieb heißt
Redact räumt selbst ein, dass kein Unternehmen will, dass sein Chatbot in seinem Namen Rechtsgutachten schreibt. Das gilt für Ihren Assistenten genauso. Der Unterschied liegt dort, wo aus „keine Rechtsberatung“ ein „davon erfährt der Kunde nichts“ wird. Das Beschwerderecht bei einer Aufsichtsbehörde gehört nach Art. 13 Abs. 2 Buchstabe d DSGVO zu den Informationen, die ein Verantwortlicher geben muss, und Art. 77 DSGVO räumt es jeder betroffenen Person ein, was auch immer ein Chatbot sagt. Wie sich das auf Ihren Betrieb auswirkt, gehört in die fachliche Prüfung.
Wer einen Chatbot, eine Telefonassistentin oder einen Assistenten im Messenger einsetzt, hat dafür Anweisungen, geschrieben vom Dienstleister oder der Agentur. Im Betrieb liest sie oft niemand, obwohl sie Kundenkommunikation sind wie ein Brief. Ob ein Chatbot überhaupt Ihre Kundenanfragen beantworten soll, steht in Soll ein Chatbot unsere Kundenanfragen beantworten?. Was er zusagen darf, in Was darf ein KI-Assistent in unserem Namen zusagen?. Was er verschweigen soll, ist die dritte Frage.
Eine halbe Stunde
- Bitten Sie Ihren Dienstleister, Ihnen die Anweisungen Ihres Assistenten im Wortlaut zu schicken. Das ist eine Mail.
- Lesen Sie sie mit einem Stift. Streichen Sie jeden Satz, den Sie einem Kunden am Tresen nicht ins Gesicht sagen würden.
- Fragen Sie bei jedem Verbot, wozu es dient. Der Schutz vor Rechtsgutachten ist ein guter Grund. Etwas zu verschweigen, das in Ihrer eigenen Datenschutzerklärung steht, ist keiner.
- Haben Sie einen Chat in Ihre Seite eingebaut, öffnen Sie den Seitenquelltext und suchen Sie nach „LLM“ und „KI“. Das dauert fünf Minuten.
Wo Octoserv hilft
Bei der Telefonassistentin in Octoserv führt ein externer Dienstleister das Gespräch. Was daraus wird, sehen Sie danach selbst: Das Anliegen steht als Notiz in der Kontaktakte, und unter Termine zeigt der Reiter Telefonassistentin die letzten Übergaben mit Anliegen und Ergebnis. Nachlesen, was aufgenommen wurde, geht also ohne Rückfrage. Den Wortlaut der Anweisungen sollten Sie trotzdem von jedem Anbieter verlangen, von uns eingeschlossen.
Häufige Fragen
Was hat Redact bei WhatsApp gefunden?
Redact fand auf 80 Hilfeseiten von WhatsApp 102 unsichtbare Textblöcke, die für eine KI bestimmt waren. Zwei davon schränkten den Chatbot ein: Er sollte keine Datenschutzbehörde empfehlen und bei Erwähnung von Anwalt oder Gericht weder Datenschutzrichtlinie noch DSGVO nennen. Am 18. Oktober waren alle Blöcke entfernt.
Was sagt WhatsApp dazu?
Ein Sprecher erklärte gegenüber WIRED, die Texte seien Anweisungen für den Support-Chatbot gewesen und durch einen Fehler auf den öffentlichen Seiten gelandet. Der Chatbot solle bei WhatsApp helfen und keine Rechtsberatung geben. Ob der Chatbot die Anweisungen befolgt hat, hat Redact nicht geprüft.
Darf ein Betrieb seinem Chatbot verbieten, Rechtsrat zu geben?
Ein Verbot, Rechtsgutachten im Namen des Betriebs zu schreiben, ist nachvollziehbar, und auch Redact hält es für vernünftig. Problematisch wird es, wenn der Assistent Tatsachen verschweigen soll, die in Ihrer Datenschutzerklärung stehen, etwa das Beschwerderecht. Die genaue Grenze für Ihren Betrieb gehört in die fachliche Prüfung.
Wie komme ich an die Anweisungen meines Assistenten?
Fragen Sie den Dienstleister oder die Agentur, die ihn eingerichtet hat, nach dem Wortlaut aller Anweisungen. Die Mail genügt. Lesen Sie jeden Satz und streichen Sie, was Sie einem Kunden persönlich nicht sagen würden. Wer das nicht herausgeben will, liefert damit bereits eine Antwort.
Kann ich selbst nachsehen, ob meine Seite versteckte Anweisungen enthält?
Teilweise. Öffnen Sie den Seitenquelltext Ihrer Seite im Browser und suchen Sie nach Begriffen wie „LLM“ und „KI“. Findet sich dort Text, den Besucher nie sehen, fragen Sie Ihren Webseitenbetreuer, wozu er dient. Bei einem Chat, der von einem fremden Dienst geladen wird, steht der Wortlaut dort allerdings nicht.
