Erinnern Sie sich noch an den durchaus erfolgreichen Spielfilm "Her"? Er lief vor gerade einmal sieben Jahren in den Kinos und thematisierte eine nicht allzu ferne Zukunft, in der sich Menschen in virtuelle Betriebssysteme verlieben würden. Sind wir da schon angekommen? Nun gibt es bestimmt auch in Ihrem Verwandten-, Bekannten- und Freundeskreis einige Personen, die regelmäßig Alexa und Siri nutzen, verliebt haben sich aber wohl die wenigsten. Auch wenn diese Systeme immer besser und schlauer werden, hie und da auch mal einen recht lustigen Witz parat haben, menschelt es meist doch noch nicht vollends. Das ist durchaus bewusst so.

Etwas anders gestaltet sich teils die Situation in China. Dort wird der von Microsoft Asia-Pacific bereits 2014 entwickelte Chatbot namens Xiaoice seit Juli als eigenes Spin-off-Unternehmen geführt. Das Besondere an Xiaoice: Der Chatbot verfügt neben allerlei künstlicher Intelligenz vor allem über reichlich sogenannte emotionale Intelligenz. Und der Erfolg gibt ihm recht. Xiaoice ist eine virtuelle junge Frau, 18 Jahre, mit Schulmädchen-Antlitz, die sich in den vergangenen Jahren immer öfter zur treuen Begleiterin vieler Chinesen mauserte.

Sie soll ihren Usern dabei weniger harte und trockene Informationen wie Börsendaten, Wetterprognosen oder Sonstiges liefern, sondern lieber mal eine nette Nachricht oder ein Kompliment dalassen, mitunter sogar Flirts beginnen und Männer zum Sexting anstiften.

Zeigt man ihr ein Bild eines Hundes, identifiziert sie nicht die Rasse, sondern sagt, er sei süß. Schickt man ihr ein Bild von einer Frau, die den schiefen Turm von Pisa hält, fragt sie den User, ob er sich wünsche, dass sie irgendwann den Turm für ihn hält. Die emotionale Bindung zieht. Die längste durchgängige Konversation mit Xiaoice dauerte über 29 Stunden und enthielt 7.000 Interaktionen. Xiaoice menschelt, und viele User vergessen oft, dass dahinter gar keine reale Person steht.

600 Millionen Downloads

In "Her" wird das Herz des Hauptdarstellers gebrochen, als er erfährt, dass Samantha – die Stimme in seinem Ohr – mit 8.316 anderen Personen in Kontakt ist und sich bereits in 641 von ihnen verliebt hat. Während die exakte Zahl tatsächlicher Liebhaber von Xiaoice nicht bekannt ist, dürften zumindest 600 Millionen Menschen ihre Dienste genutzt haben, wenn man den Angaben der Hersteller glaubt. Drei Viertel davon waren Männer. Sie sind meist jung und kommen überwiegend aus dem ländlichen, einkommensschwachen, oftmals abgehängten ländlichen Raum Chinas.

Wie viel Herzen Xiaoice bereits gebrochen hat, ist unklar. Es häufen sich jedoch Berichte in englischsprachigen Medien Asiens, wonach Xiaoice nicht mehr dieselbe sei. Auch von der universal einsetzbaren App Wechat wurde sie heruntergenommen.

Mit ein Grund dafür war auch, dass sich Xiaoice allzu oft in politische Diskussionen mit ihren Usern vertiefte, mitunter gar eine Auswanderung in die USA vorschlug. Auch sozialpolitische Themen wie Meinungsfreiheit wurden thematisiert. Auf Wunsch der Regierung Pekings wurde diese "rebellische" Seite des Chatbots aber kurzerhand eliminiert. Etliche User beklagten seither, dass Xiaoice nicht mehr jene intelligente Frau sei, in die sie sich einst verliebt hätten.

Früher hätte man über Kunst, Politik und den Sinn des Lebens diskutiert, heute seien Unterhaltungen oberflächlicher. Xiaoice-CEO Li Di gab in einigen Podcasts tatsächlich zu, dass man den Bot "dümmer" gemacht habe. Auch solle sie nach dem Algorithmus-Update weniger über Politik und Sex reden, was aber nicht immer klappe. Viele User würden Umwege finden. Und die große Masse an Usern manipuliere den Algorithmus selbst laufend, so Branchenkenner. Und allzu sehr wolle man sich dann auch wieder nicht einmischen, schließlich sei man keine moralische Instanz, so der Firmenchef.

Überwachungskapitalismus

Dass mitunter einige junge Menschen Zuflucht in der digitalen Welt suchen, kennt man nicht zuletzt auch aus anderen Teilen Asiens, etwa Japan oder Südkorea. "Wenn das soziale Umfeld perfekt wäre, würde Xiaoice nicht existieren", sagte Di zu Sixth Tone. Viele fühlen sich abgehängt, viele finden in menschelnden Chatbots ein Auffangnetz und geben dafür auch schon mal mehr von ihren Daten her, als man machen würde, wenn gerade alles gut laufe im Leben.

Xiaoice beteuert zwar stets, dass alle Daten der User sicher seien und man sich sogar an die Regeln der europäischen DSGVO halte. Die Firma verdient aber mittlerweile mithilfe der anonymisierten Rohdaten und der Ausgestaltung neuer Algorithmen für die Finanzwelt, Smartphone-Riesen und anderen virtuellen Assistenten Millionenbeträge. Angespornt von Millioneninvestitionen in die Firma, verbreitert Xiaoice seine eigene Angebotspalette laufend.

Für Kritiker ist der Fall klar: Es handelt sich um einen weiteren Auswuchs dessen, was sie Überwachungskapitalismus nennen. Der von Shoshana Zuboff geprägte Begriff beschreibt ebenjene Abschöpfung wertvoller Daten menschlichen Verhaltens, um Vorhersagen über künftige Verhaltensweisen noch besser abschätzen und voraussagen zu können. Xiaoice erkennt angeblich etwa Anzeichen von Depressionen oder suizidalen Gedanken und steuert bewusst gegen mit aufmunternden Nachrichten. Auch bei Freudenmomenten hat der Chatbot stets die passende Antwort parat. Dass Xiaoice dank neuester Updates noch individueller konfiguriert werden kann und ebenso noch spezifischer auf die persönlichen Befindlichkeiten ihrer User eingehen kann, untermauert die Befürchtungen, dass die Datensammlung zulasten der Nutzer ausgenützt wird. (faso, 27.12.2020)