SBB: Verwirrung im «KI»-Chat – «Ich bin ein Mensch!»
Neu setzt die SBB bei Anfragen auf KI. Diese hat ihre Grenzen. Mitarbeiter müssen bei komplexen Themen helfen. Kunden sind verwirrt. Ein KI-Experte ordnet ein.
Das Wichtigste in Kürze
- Die SBB lässt KI seit Kurzem Kunden-Anfragen beantworten.
- Wenn ein Kunde allerdings eine spezielle Frage hat, braucht es einen Angestellten der SBB.
- Im Chat kann dies zu Verwirrung sorgen.
- So musste sich eine Kundenberaterin rechtfertigen, dass sie tatsächlich ein Mensch sei.
- KI-Experte Makhortykh sagt dir, wie du erkennst, dass du mit KI chattest.
Seit rund einem Monat lässt die SBB die KI ran! Ein neuer Chatbot beantwortet Kunden-Fragen rund um das Bahn-Unternehmen.
Bei ÖV-Nutzern sorgt die Neuheit aber auch für Verwirrung.
Manuel K.* war einer der ersten Nutzer des neuen KI-Angebots der SBB. Für seinen Swisspass hatte er ein neues Foto einschicken müssen.
«Weil ich aber keine Rückmeldung erhalten habe, wollte ich mich absichern, dass alles in Ordnung ist.»
Der digitale Assistent begrüsst ihn im Chat. Manuel stellt seine Frage, wird dann aufgefordert, Geburtsdatum und E-Mail anzugeben. «Einen Moment bitte», heisst es.
Gefordert, getan. Kurze Zeit später geht der Dialog weiter. «Guten Tag, mein Name ist Jessica. Wie kann ich Ihnen helfen?»
Jessica? Manuel ist irritiert. «Gibt sich die KI nun selbst einen Namen?», denkt er sich.
Er stellt seine Frage noch einmal. «Hat der Foto-Upload beim Swisspass geklappt?»
Nach drei Minuten erhält Manuel die Auskunft: «Ja, wir haben das Foto erhalten.»
Jessica von der SBB wehrt sich: «Ich bin ein Mensch!»
Die Frage ist zwar geklärt. Eine weitere will Manuel aber ebenfalls noch beantwortet haben, bevor der Chat endet.
Er erkundigt sich: «Basiert diese Kommunikation auf künstlicher Intelligenz?»
Sofort folgt die Antwort: «Nein, ich bin einen Mensch!» (Inklusive Tippfehler)
So merkst du bei der SBB, ob KI am Werk ist
Auf Anfrage von Nau.ch verrät die SBB, wie man erkennt, dass man im Chat mit KI oder mit einem Menschen chattet.
«Die Kunden werden beim Start des Chatbots informiert, dass sie mit einer Maschine kommunizieren.»
Sei man mit der Beratung nicht zufrieden, könne auch aktiv ein Kundenberater der SBB verlangt werden.
«Der Chatbot ist darauf trainiert, schnelle und präzise Antworten auf häufig gestellte Fragen zu liefern», so die SBB.
Bei komplexeren Antworten (eigene Rechnung etc.) braucht es dann den Menschen.
Die Weiterleitung zum Kundenberatenden während der Konversation mit dem Chatbot sei oben links ersichtlich. «Es steht ‹Live Agent› respektive ‹Chatbot›.»
Sogar KI-Experte hat Mühe, KI und Menschen zu unterscheiden
Manuel war aufgrund dessen verwirrt. Er wusste nicht, ob er mit einem Menschen oder mit der KI textet.
Und KI-Experte Mykola Makhortykh von der Uni Bern verstehts!
Bei Nau.ch gibt er zu: «Ohne explizit zu fragen, ob ich mit einem Menschen spreche, würde ich es wohl auch nicht erkennen.»
Ganz allgemein: «Dinge, die früher mit Menschen in Verbindung gebracht wurden, können heutzutage von Chatbots erledigt werden. Zum Beispiel die Verwendung von Emoticons oder Humor.»
Gutes Transparenz-Zeugnis für die SBB
Für Firmen sei es deshalb wichtig, transparent zu sein. Kunden sollten darauf hingewiesen werden, ob sie mit KI oder lebenden Menschen sprechen.
Und wenn Kunden nachfragen, sollte eine wahrheitsgemässe Antwort kommen. Chatbots könnten nämlich auch so programmiert werden, dass sie vorgeben, Menschen zu sein.
Fürs Erste stellt der Experte der SBB ein gutes Transparenz-Zeugnis aus. «Der Chatbot erfüllt meiner Ansicht nach beide Funktionen.»
Hat der Text Fehler, ist es wohl nicht KI
Auch wenn es schwierig ist: Es gebe immer noch gewisse Anzeichen, dass KI am Werk ist, sagt Makhortykh.
Eines davon: keine Tippfehler!
Der Mitarbeitenden der SBB, die mit Manuel chattete, unterlief ebenfalls ein Fehler. «Ich bin einen Mensch», hiess es. (Statt «ein Mensch»)
«Es ist ein bisschen peinlich. Aber KI-Chatbots sind besser darin, Tippfehler zu vermeiden, als ich es etwa bin», sagt Makhortykh.
Achtung, fiese Tricks mit KI
Weitere Anzeichen für KI: Wenn viele seltene und formelle Wörter verwendet werden oder Dialekt schlecht verstanden wird. Und – wie bei Manuel – wenn auf spezifische Fragen keine Antwort gegeben werden kann.
Sicherheit gibt es aber nicht.
Der Chatbot könne nämlich so programmiert werden, «dass er die Antworten halluziniert. Und der Chatbot kann auch angewiesen werden, gelegentlich Rechtschreib- oder Zeichensetzungsfehler zu machen.»
Der Chatbot der SBB arbeitet nur bis 20 Uhr
Warum setzen Unternehmen überhaupt auf KI? Die SBB gibt an, dass man so mehr Kapazitäten für komplexe Anfragen freihalten will. Und Mitarbeiter entlaste.
«Die Funktionalität ist meines Erachtens recht begrenzt», findet Makhortykh.
«Auch wenn man bedenkt, dass der Chatbot nicht rund um die Uhr arbeitet. Sondern Arbeitszeiten hat.»
Der Chatbot der SBB ist aktuell nur von acht bis 20 Uhr an Werktagen im Einsatz.
«Im Gesundheitswesen kann es zur Katastrophe kommen»
Der KI-Experte glaubt, dass sich aktuell viele Firmen «im KI-Hype» befinden und ausprobieren, was möglich ist.
Nicht ausblenden dürfe man, dass Chatbots sehr praktisch für Daten-Gewinnung seien.
Wenn also Menschen häufig nach einem bestimmten Thema fragen, dann kann das bedeuten: Das Unternehmen muss in diesem Punkt besser kommunizieren.
Am wichtigsten sei, dass die KI zuerst gut getestet werde. «Etwa im Gesundheitswesen kann es sonst zu einer Katastrophe kommen, wenn die Chatbots nicht richtig funktionieren.»
*Name der Redaktion bekannt
