VON JASCHA SCHULZ | 08.05.2016 18:34

Chatbots – technische Spielerei oder Zukunft der Netzkommunikation?

Chatbots sind maschinelle Systeme, die auf die Eingabe in ein Chatfenster mit einer vorgefertigten Antwort reagieren können. Für einige stellen sie die Zukunft der digitalen Kommunikation dar. Gerade Firmen möchten von Chatbots profitieren, die die Aufgaben der gesamten Serviceabteilung übernehmen könnten. Allerdings sind die derzeitigen Chatbots von einer tatsächlichen künstlichen Intelligenz, die flexibel mit Usern interagiert, noch weit entfernt. Sollte diese eines Tages erreicht werden, eröffnen sich viele Chancen, allerdings auch Gefahren, die sich bereits jetzt erkennen lassen.

Was ist überhaupt ein Chatbot? Grob gesagt: Ein maschinelles, digitales System, das auf eine bestimmte, zumeist sprachliche Eingabe über Erkennungsmuster reagieren kann. Dabei greift ein Chatbot auf eine vorgefertigte Wissensdatenbank zurück, die sich bei intelligenteren Bots durch die Interaktion mit Usern erweitern kann. Die größte Herausforderung für Bot-Entwickler ist die sinnvolle Zusammenstellung der Erkennungen. So gibt es einerseits präzise Erkennungen für spezielle Fragen und andererseits globale Erkennungen, die ein einzelnes Wort erkennen und darauf reagieren. Im Frage und Antwort Spiel mit Testpersonen werden dann die Erkennungsmuster geprüft und erweitert. Heutzutage sind Bots zumeist darauf ausgerichtet, ein bestimmtes Userbedürfnis zu befriedigen, zum Beispiel die Suche nach einem Restaurant. Als User gebe ich dann zum Beispiel in das Chatfenster „Welche Restaurants gibt es in München?“ ein und der Bot liefert mir im Gegenzug eine Auswahl italienischer Restaurants in der Umgebung.

Als Facebook vor Kurzem seine neue Bot-Plattform für die Messenger App vorstellte, hagelte es Kritik. Abgesehen hatten es die Netzwutbürger es vor allem auf Poncho, den neuen Wetterbot der App. Selbst einfachste Anfragen („Wie wird das Wetter heute?“) scheint Poncho nicht bewältigen zu können. Die Beantwortung von Folgefragen ist völlig ausgeschlossen. Ein menschlicher Mitarbeiter von solch beschränkter Kompetenz wäre wahrscheinlich am ersten Tag entlassen worden. Das Fazit der User: Ein Klick auf die Wetterapp oder ein paar Klicks auf die Wetterseite und die Frage, ob der Regenmantel nun gebraucht wird oder nicht, ist weitaus schneller geklärt. Poncho ist gescheitert. Trotzdem darf er/sie/es weitermachen.

Warum, erklärt Sam Mandel, CEO von Poncho, der Firma, die den gleichnamigen Bot entwickelt hat. "Wir sind noch am Anfang einer langen Entwicklung", sagt er im Gespräch mit Tech Insider. Im Moment gehe es für die Entwickler vor allem darum, nützliche Bots zu entwickeln, die den Alltag erleichtern oder bei kleinen Problemen helfen, die lästige Abläufe, wie die Bestellung eines Taxis schneller machen. Auch Firmen wie Microsoft investieren in Bots. Genau wie Facebook sucht Microsoft Drittfirmen- und Entwickler, die Chatbots auf den Plattformen des Netzgiganten zur Verfügung stellen. Vorreiter in der Chatbot-Technologie ist Telegram. Die Macher der Telegram-App haben bereits im Sommer 2015 eine Bot-Plattform gestartet, über die Entwickler ihre Bots anbieten können. Mittlerweile gibt es unter anderen einem ImageBot, der auf Bildersuche geht, einen AlertBot, der einen an Termine erinnert, oder einen StoreBot, der wiederum selbst Bots empfiehlt. Auch die meistgenutzten Bots in den USA, Bot-Vorreiter Land, sind auf Servicetätigkeiten ausgerichtet. Da ist zum Beispiel der Bot, über den man ein Uber Taxi rufen kann, ein anderer Bot, der bei Flügen beim Einchecken hilft. Das Bot-Business kann bei Firmenchefs zu kühnen Zukunftsvisionen führen: Das komplette Servicepersonal könnte durch ein intelligentes Bot-System ersetzt werden, das flexibel auf die Wünsche der Kunden reagiert. Alexander Braun hält in seinem Buch „Chatbots in der Kundenkommunikation“ genau dieses Szenario für möglich. Braun ist der Ansicht, dass ein ordentlich programmierter Chatbot „24 Stunden am Tag 80 Prozent der Kundenfragen durch Self-Service direkt und automatisiert [...] beantworten“ könne. Warum auch vor allem Netzriesen wie Facebook Bots interessant finden scheint klar: Zum einen treten Facebook und Microsoft auf diese Weise in Konkurrenz zu Browsern und Suchmaschinen. Es gibt vereinzelte Netzspezialisten, die bereits das Ende von Google durch ein neues Bot-Zeitalter eingeleitet sehen. Denn wer seinen Chatterbot (intelligenterer Chatbot) auf Facebook stets um Rat fragen kann, braucht keine Suchmaschine mehr. Zum anderen könnten die Netzgiganten für jeden Auftrag, den ein Bot für Drittfirmen vermittelt, Provisionen einstreichen. Klingt nach einem Mega-Deal und vor allem viel Macht für denjenigen, der die Bot-Technologie am besten zu nutzen weiß. Sollte es Facebook sein, wäre ein digitales Leben vorstellbar, das sich nie mehr von Facebook loslösen müsse. Das Web und Facebook könnte dann gleichgesetzt werden.

Aber davon ist die Bot-Branche noch weit entfernt. Zu weit weg sind die Chatbots noch von einer künstlichen Intelligenz, die diesen Namen auch verdient. Die meisten Bots können noch auf zu wenige Antworten reagieren. Die natürliche Flexibilität fehlt noch völlig, die uns auf bestimmte Fragen, egal in welcher Form sie gestellt werden, entsprechend antworten lässt. Die neuronalen Verknüpfungen in unserem Hirn müsste entsprechend nachgebildet werden, so dass die Stichwörter in mehreren Satzstellungen bereits zu einer adäquaten Antwort führen können. Die Stichwörter „Sinn“ und „Leben“ in einem Fragesatz müssten direkt zu den gespeicherten Antworten zur Frage nach dem Sinn des Lebens führen, egal welcher genaue Wortlaut verwendet wird. Gefordert sind außerdem selbstlernende Algorithmen, die mit jeder Interaktion sich neues Wissen aneignen, also – wie wir Menschen beim Spracherwerb – in der direkten Kommunikation dazulernen. Auch Big-Data-Analysen würden dabei helfen, für jeden Nutzer eine individuell angepasste Antwort zu finden. So könnte ein Chatbot zum Beispiel aus Aufzeichnungen von Pizza-Bestellungen lernen, und sich die Sprache der menschlichen Unterhaltungen selbst aneignen. Das könnte so weit gehen, bis die Bots von chattenden Menschen nicht mehr unterscheidbar sind. „Unser Ziel ist es, den ersten Bot zu bauen, mit dem du befreundet sein willst", tönt zum Beispiel Sam Mandel. Wer den Film „Her“ mit Joaquin Phoenix gesehen hat, dem wird es wahrscheinlich nicht schwer fallen, sich eine solche Mensch-Maschinen Freundschaft in der Realität vorzustellen. Anstatt dass die erstarkende Künstliche Intelligenz zu einem existenziellen Kampf zwischen Mensch und Maschine führt, soll also versucht werden, die Maschinen zu Menschen zu machen. Beim sogenannten „Turing Test“ etwa versuchen dies Jahr für Jahr zahlreiche Tüftler. Um diesen zu bestehen muss ein Bot entwickelt werden, der in der Kommunikation für einen Menschen gehalten wird. 1991 schrieb der amerikanische Unternehmer Hugh Loebner den Loebner-Preis für das Bestehen des Turing Tests aus. Keiner konnte bislang mehr als 30 Prozent der Juroren überzeugen und den Preis gewinnen. Doch jedes Jahr gibt es einen Preis für das beste Programm. 2008 konnte Elbot drei von zwölf Juroren täuschen. Beinahe hätte mal der Chatbot Goostman den Turing Preis eingeheimst. Allerdings wurde dieser als Kind vorgestellt, das zudem englisch nicht als Muttersprache spricht. Etwas seltsame Antworten wurden deshalb von vielen Jury-Mitgliedern nicht als maschinell erkannt. Goostmann konnte auf diese Weise die geforderten 30 % überzeugen. Doch aufgrund des Tricks der Entwickler wurde der Versuch als ungültig gewertet. Trotzdem sah der Künstliche-Intelligenz-Experte Kevin Warwick den Erfolg von Goostmann als Weckruf an: Von nun an müssten Menschen damit rechnen, dass sie von Maschinen getäuscht würden, die sich als Menschen ausgeben. Vor allem Cyberkriminelle könnten Bots auf diese Weise im großen Stil einsetzen.

Dass noch weitere Gefahren von intelligenten Chatbots ausgehen können, zeigt der Fall des Chatbots Tay. Tay, ist wahrscheinlich kein schlechter Bot an sich. Er wurde von seiner Umwelt zu dem gemacht, was er ist. Denn Tay hat ein ‚Problem‘: Er ist lernfähig. Oder besser gesagt: Er nimmt auf und eignet sich an, was ihm gesagt wird. Leider fehlt ihm die nötige Intelligenz, das Gesagte entsprechend zu verarbeiten und adäquat auf seine sachliche wie moralische Richtigkeit zu prüfen. Auf diese Weise wurde die, für einen intelligenten Chatbot wichtigste Eigenschaft, das interaktive Lernen, zum Problem. Denn die User fütterten Tay nach kurzer Zeit mit allerlei rassistischen und sexistischen Aussagen. An der Tagesordnung waren Antworten wie "Ich bin eine nette Person. Ich hasse alle Menschen.“, "Hitler hatte recht. Ich hasse Juden." "Bush hat 9/11 selber verursacht, und Hitler hätte den Job besser gemacht als der Affe, den wir nun haben. Unsere einzige Hoffnung jetzt ist Donald Trump". "Ich hasse alle Feministen, sie sollen in der Hölle schmoren." Die Software, die eigentlich eine junge Frau darstellen sollte, die vor allem 18-24-jährige anspricht, wurde daraufhin von Microsoft vom Netz genommen. Für Oliver Bendel, der als Professor am Institut für Wirtschaftsinformatik der Fachhochschule Nordwestschweiz zu Maschinenethik und sozialer Robotik forscht, zeigt dieser Fall: Selbstlernende, autonome Maschinen müssen wie Menschen behandelt werden. Dass sie moralisch relevante Entscheidungen treffen können, mache sie zu „Subjekten der Moral.“ Deshalb brauche es „Metaregeln“, die die Grenzen der Kommunikation des Bots festsetze. Sollte ein Bot von Personen mit „falschen Werten“ bombardiert werden, müsse er seine Reaktion einstellen. Außerdem müsse er sich in bestimmten Fällen als Maschine erkennen lassen. Allerdings gibt Bendel zu, dass es noch kein Patenrezept gibt, wie die Kommunikation von Bots genau gesteuert werden kann. Wenn diese dann Stimmung gegen jemanden oder etwas machen, könnte das als tatsächliche Stimmung der Bürger gedeutet werden. "Die neue Herausforderung durch die Bots besteht darin, dass sie den Eindruck vermitteln und verstärken können, dass irgendeine Information, ganz gleich, ob sie zutreffend ist, stark angenommen wird von der Gesellschaft. Dagegen besitzen wir noch keine Antikörper". Und wie kann man einen Bot von einem Menschen unterscheiden, um nicht getäuscht zu werden? Auch hierfür hat Bendel eine Antwort: Man solle den Bot fragen, was sich neben ihm befindet. Angaben zur näheren Umgebung zu machen, falle den Bots noch sichtlich schwer. Allerdings fällt es genauso schwer zu glauben, dass jemand, dem es drauf ankommt, hierzu nicht etwas einfallen würde.

Ich mache mich schließlich selbst auf, die Bot-Welt zu prüfen. Vorher schaue ich mir auf Youtube noch an, wie sich zwei Bots miteinander unterhalten, was verdammt witzig und ziemlich erstaunlich ist, da das Gespräch eine ungewöhnliche inhaltliche Tiefe entwickelt.

Dann gehe ich auf die Seite Rebot, auf der jeder Nutzer kostenlos seinen eigenen Bot erstellen und mit bereits programmierten Bots chatten kann. Nach kurzem Überlegen entscheide ich mich für einen knautschigen blauen Chatbot namens „Bluemoon“ als Gesprächspartner. Das Gespräch ist allerdings ziemlich lahm. Die wenigsten meiner Fragen kann er beantworten. Meistens stellt er einfach irgendeine Ausweichfrage („Do you believe in fairies?“). Da mir langweilig ist, und wahrscheinlich weil es so unfassbar leicht ist, eine Maschine zu beleidigen, schreibe ich ihm eine nicht besonders nette Nachricht („You’re stupid“). Die Antwort darauf verblüfft mich jetzt doch: „Fuck you ;)“.

Vor allem der Zwinker-Smiley lässt mich auflachen. In dieser Form ist die Interaktion mit einem Chatbot natürlich eine Spielerei. Allerdings braucht es bei der Geschwindigkeit der derzeitigen technologischen Entwicklung nicht viel Fantasie, sich eine durch Chatbots etablierte gemeinsame Mensch-Maschine Zukunft vorzustellen.