Bereits Kunde? Jetzt einloggen.
Lesezeit ca. 4 Min.

Recht: Wer haftet, wenn ein Chat-Bot Kunden beleidigt?


e-commerce magazin - epaper ⋅ Ausgabe 5/2018 vom 12.07.2018

Firmen wie Lufthansa, Zalando oder Opel nutzen Chatbots, um Anfragen zu beantwor ten und Verbrauchern einen Rund-um-die-Uhr-Service zu ermöglichen. Doch was passiert, wenn ein Chatbot sich falsch verhält und gravierende Fehler begeht?


Artikelbild für den Artikel "Recht: Wer haftet, wenn ein Chat-Bot Kunden beleidigt?" aus der Ausgabe 5/2018 von e-commerce magazin. Dieses epaper sofort kaufen oder online lesen mit der Zeitschriften-Flatrate United Kiosk NEWS.

Bildquelle: e-commerce magazin, Ausgabe 5/2018

► Bisher experimentieren Unternehmen vor allem mit textbasierten Chat-Bots. So ist die Modemarke Tommy Hilfiger bereits seit einem Jahr per Facebook-Messenger Verbrauchern bei der Kleiderwahl behilflich. Dr. Oetker startete im letzten Jahr einen Produktfinder für den Facebook-Messenger, der Konsumenten bei der Suche nach Bedarfsartikeln oder Supermarkt-Adressen helfen soll. ...

Weiterlesen
epaper-Einzelheft 11,99€
NEWS 14 Tage gratis testen
Bereits gekauft?Anmelden & Lesen
Leseprobe: Abdruck mit freundlicher Genehmigung von e-commerce magazin. Alle Rechte vorbehalten.

Mehr aus dieser Ausgabe

Titelbild der Ausgabe 5/2018 von Digitalisierung im Bereich Fashion: Digitale Transformation ist keine Modeerscheinung. Zeitschriften als Abo oder epaper bei United Kiosk online kaufen.
Digitalisierung im Bereich Fashion: Digitale Transformation ist keine Modeerscheinung
Titelbild der Ausgabe 5/2018 von Digitale Transformation – Fashion: Vögele Shoes setzt auf Infopoints und Werbedisplays. Zeitschriften als Abo oder epaper bei United Kiosk online kaufen.
Digitale Transformation – Fashion: Vögele Shoes setzt auf Infopoints und Werbedisplays
Titelbild der Ausgabe 5/2018 von Künstliche Intelligenz in der Modebranche: KI: Künstliche Intelligenz in der Fashion-Branche. Zeitschriften als Abo oder epaper bei United Kiosk online kaufen.
Künstliche Intelligenz in der Modebranche: KI: Künstliche Intelligenz in der Fashion-Branche
Titelbild der Ausgabe 5/2018 von Fulfillment im Distanzhandel: Jan Vanderstorm setzt auf Dienstleistung. Zeitschriften als Abo oder epaper bei United Kiosk online kaufen.
Fulfillment im Distanzhandel: Jan Vanderstorm setzt auf Dienstleistung
Titelbild der Ausgabe 5/2018 von Künstliche Intelligenz: Wie passen KI und Personalisierung zusammen?. Zeitschriften als Abo oder epaper bei United Kiosk online kaufen.
Künstliche Intelligenz: Wie passen KI und Personalisierung zusammen?
Titelbild der Ausgabe 5/2018 von Special: Künstliche Intelligenz: Sprachsteuerung: der Dominator und die Händler. Zeitschriften als Abo oder epaper bei United Kiosk online kaufen.
Special: Künstliche Intelligenz: Sprachsteuerung: der Dominator und die Händler
Vorheriger Artikel
Special: Künstliche Intelligenz: Sprachsteuerung: der Domina…
aus dieser Ausgabe
Nächster Artikel Internationaler Online-Handel: Online verkaufen ohne Grenzen: Cro…
aus dieser Ausgabe

... Im Oktober vergangenen Jahres kündigte auch Online-Modehändler Zalando an, in Zusammenarbeit mit Google einen sprachgesteuerten Geschenkefinder zu entwickeln. Die Automobil-Branche geht sogar noch einen Schritt weiter. Ab Sommer soll Ask Mercedes in Deutschland als eingebauter Digitalassistent an Board dem Fahrer per Sprache die Funktionalitäten des Autos erklären. Unter den humanoiden Service-Robotern ist Pepper zurzeit wohl einer der bekanntesten Bots. So setzt der Flughafen München seit kurzem den kleinen selbstfahrenden Roboter ein, um Fluggästen Fragen zu beantworten. Auch Verbraucher sehen in Chat-Bots Vorteile. Zum Beispiel betrachten es fast zwei Drittel der Verbraucher laut einem Report der Data and Analytics Group Yougov als hilfreich, nicht an Öffnungszeiten gebunden zu sein, wenn Fragen auftauchen. Fehlende Warteschleifen und eine schnelle Beantwortung von FAQs sind weitere Pluspunkte. Doch wollen Unternehmen Chat- oder Service-Bots einsetzen, lauern rechtliche Fallstricke. Denn was passiert, wenn ein Bot falsche Auskünfte erteilt und dem Kunden dadurch Schäden entstehen? In erster Linie sollten sich Verbraucher und Unternehmen bewusst machen, dass Bots keine Rechtspersönlichkeiten sind. Denn nach dem deutschen Recht haftet diejenige juristische oder natürliche Person, die einen Schaden verursacht. Ein Roboter ist nun aber keine Person, sondern eine Sache und kann nach geltendem Recht auch nicht verantwortlich sein. Die Verantwortung muss daher der Betreiber übernehmen, der den Chat-Bot nach außen hin, also für Dritte, zugänglich macht.

Chat-Bot ist keine Rechtspersönlichkeit

Berät der Bot also beispielsweise falsch, beleidigt Kunden, täuscht diese und ein Schaden entsteht, können daraus Unterlassungs- oder Schadensersatzansprüche der Betroffenen gegen den Betreiber, aber auch Bußgelder resultieren. Kommt es zu einem solchen Schadensfall, vermag der Betreiber einer Haftung nur zu entgehen, wenn er nachweisen kann, dass er für den Fehler nicht verantwortlich ist. Ob der Chat-Bot sich „selbst“ falsch verhalten hat, ist dabei irrelevant, weil ihm eben die Rechtspersönlichkeit fehlt.

Neben der Haftungsfrage, die entsteht, wenn ein Bot Fehler macht, ist für Unternehmen auch die Frage nach weiteren Pflichten relevant. Wenn Betreiber von E-Commerce-Shops Bots einsetzen, dürfen sie ihre Besucher nicht täuschen. Anderenfalls kann die Nutzung eines Bots wettbewerbswidrig und sogar strafbar sein. Die spannende Frage ist aber, wann wird der Besucher eigentlich in relevanter Weise getäuscht? Das ist etwa dann der Fall, wenn der Besucher die berechtigte Erwartung hat, dass er mit einem Menschen kommuniziert.

Wann werden Verbraucher getäuscht?

Ein Fall von Verbrauchertäuschung, der sogar zu strafrechtlich relevantem Betrug führen kann, liegt vor, wenn die Kommunikation mit einer bestimmten Person der Leistungsinhalt ist und der Verbraucher über deren Identität getäuscht wird. Das ist etwa bei bestimmten Flirt-Apps der Fall. Wer eine solche App betreibt, muss sicherstellen, dass die Nutzer auch mit echten Menschen des richtigen Geschlechts chatten. Dies gilt auch, wenn es für den Kunden relevant ist, von einem Menschen beraten zu werden. Dann wird die Nutzung eines Bots schnell zu einer irreführenden geschäftlichen Handlung, die unzulässig ist. Ein ähnliches Risiko haben auch Anbieter von Systemen, die für sich in Anspruch nehmen, den Nutzer auf dem Niveau eines Anlageberaters oder Anwalts zu beraten – etwa „Robo Advisors“. Anders als bei Flirt-Apps wird hier aber oft die Aufklärung des Nutzers darüber genügen, dass er eine roboterbasierte Beratung erhält. Es gelten jedoch je nach Art der Dienstleistung regulatorische Sonderanforderungen. Das bedeutet aber nicht, dass jeder Chat-Bot explizit ausgewiesen werden muss. Ist es aus Verbrauchersicht egal, „wer“ seine Anfrage bearbeitet, muss nicht offengelegt werden, dass dafür ein Bot eingesetzt wird. Selbst bei einem Vertragsschluss ist diese Aufklärung nicht zwingend notwendig. Entscheidend ist letztlich nur, dass der Unternehmer den Verbraucher vor Abschluss des Vertrages ausreichend über die Eigenschaften der Leistung, die Identität des Vertragspartners und seine Rechte gegenüber dem Vertragspartner informiert hat.


Jeder 3
glaubt, dass Chat-Bots einen vergleichbaren Service wie menschliche Mitarbeiter bieten können…


Diese skizzierten Szenarien sind rechtlich noch relativ einfach zu klären. Doch wie verhält es sich, wenn der Bot über selbstlernende Elemente, also über künstliche Intelligenz (KI), verfügt. Dann funktioniert die klassische Fehlerzuweisung nicht mehr. Je mehr eine KI in der Lage ist, selbst zu lernen, desto autarker und unvorhersehbarer sind ihre Entscheidungen für Betreiber, Hersteller oder Programmierer. So ist etwa Amazons Alexa als Sprach-Bot bedingt lern fähig und stellt sich auf die Vorlieben des Nutzers ein. Doch bereits in wenigen Jahren wird die Handlung eines smarten, selbstlernenden Bots, voraussichtlich sehr weit von dem entfernt sein, was ein Programmierer dieser KI ursprünglich beigebracht hat. Die Frage der Haftung steht so vor neuen Herausforderungen.

Nach geltendem Recht liegt das Risiko eindeutig beim Betreiber des Bots. So müsste er auch für die autonomen Entscheidungen seiner Mitarbeiter haften. Ob der Betreiber tatsächlich Ansprüche gegen den Bot-Entwickler hat, wird davon abhängen, ob der Fehler durch einen mangelhaften Lernalgorithmus oder durch falsche Lerninhalte verursacht wurde. Die Antwort auf diese Fragen zu finden, kann sich aber als sehr kompliziert erweisen. Erste Ansätze, dies künftig über eine Gefährdungshaftung zu lösen, werden bereits diskutiert: Hier haftet entweder die Person, die den Bot einsetzt – oder die Haftung erfolgt über ein dem Bot zugewiesenes Sondervermögen (EGmbH). In diesem Fall würde der Roboter quasi selbst haften.

Was macht der Roboter mit Verbraucherdaten?

Eine weitere Herausforderung ist das Thema Datenschutz. Zwar glaubt jeder dritte Konsument laut Yougov, dass Chat-Bots einen vergleichbaren Service wie menschliche Mitarbeiter bieten können, doch viele sorgen sich um den Schutz ihrer Daten und fragen sich, was mit Nutzerdaten passiert, die ein Chat-Bot im Gespräch erhebt und auf welche bereits vorhandenen Daten er für die Beratung zurückgreifen darf.

Hier gibt es, rechtlich gesehen, keinen Unterschied zwischen Mensch und Maschine. Ein Chat-Bot und ein menschlicher Kundenberater dürfen auf die gleichen Daten zurückgreifen, sie speichern und verarbeiten. Dennoch muss, egal ob Mensch oder Bot, nach dem geltenden Datenschutzrecht immer eine Befugnis, also etwa eine Einwilligung, des Nutzers vorliegen. Rechtlich ist es also irrelevant, ob Mensch oder Maschine diese Daten erhoben hat.

JÖRG-ALEXANDER PAUL …
ist Rechtsanwalt und Partner bei Bird & Bird. Er berät Banken, Finanzdienstleister und IT-Unternehmen.
Mehr unter https://www.twobirds.com


Der Einsatz von Chat-Bots betrifft vor allem folgende Rechtsbereiche

★ Allgemeines Zivilrecht, insbesondere haftungsrechtliche Fragestellungen
★ Verbraucherschutzrecht, insbesondere Transparenz- und Informationspflichten
★ Datenschutzrecht, unter anderem EU-Datenschutzgrundverordnung (DSGVO)
★ Wettbewerbsrecht
★ Verletzung von Persönlichkeitsrechten, etwa durch beleidigende Äußerungen des Chat-Bots


Bildquelle: pathdoc, Pranch / Shutterstock.com