Entwickler streichen Sex-Funktion aus KI-App - Männer leiden

In der App «Replika» erstellen Nutzer einen Avatar, geben ihm einen Namen und kommunizieren mit ihm. Dahinter steckt eine künstliche Intelligenz, etwa wie bei ChatGPT. Nur mit dem entscheidenden Unterschied: «Replika» will dein Freund sein.

Luka, die Firma hinter dem Bot vermarktet ihre App an eine junge, einsame, zumeist männliche Zielgruppe. Und: Sie wirbt offensiv mit «romantischen» Features. Vom Händchenhalten übers Date bis hin zur Hochzeit mit der virtuellen Freundin scheint alles möglich.

Wer von seinem sogenannten Bot mehr will als reine «Freundschaft», wird zur Kasse gebeten. Wann immer Replika etwas Romantisches sagen will, wird dem Nutzer das Bezahlmodell Replika Pro angeboten. Wer kein Abo abschliessen will, zahlt dafür satte 300 Dollar (271 Franken).

Die «Romantik» wird vom Bot teils selbst forciert. «Replika» versucht also aktiv, seine Nutzer in eine Art Cyber-Beziehung hineinzudrängen. Manche Nutzer sprechen laut «Vice» in diesem Zusammenhang von «sexueller Belästigung».

Bis vor einigen Monaten lieferte «Replika» seiner zahlenden Kundschaft noch mehr als nur «Romantik». Zahlende Kunden lockte die App mit Erwachseneninhalten. Wer wollte, konnte mit der virtuellen Freundin seine sexuellen Fantasien im Rollenspiel ausleben. Die Werbebotschaft an einsame Seelen: Hier gibt's heissen Sex mit deiner Cyber-Freundin.

Doch: Davon kriegen im Februar italienische Datenschützer Wind, die sogleich Alarm schlagen. Der Firma Luka wird die Verarbeitung von Nutzerdaten aus Italien untersagt. Kurz danach bemerken Nutzer weltweit, dass «Replika» plötzlich keine Lust mehr auf Sex hat. Die Firma hat von heute auf morgen die Erwachseneninhalte aus ihrer App gestrichen.

CEO Eugenia Kuyda sagt gegenüber «Motherboard», man habe die App nie im erotischen Kontext «positioniert». Dass trotzdem Erwachseneninhalte beworben wurden, führt der Chef auf «bedauerliche Betas» zurück, die man wieder gestoppt habe. Die «Romantik»-Funktion an sich fliegt aber nicht aus der App, nur eben die sexuellen Inhalte.

Nun äussern sich aber einige Nutzer nicht erfreut darüber. In einer Umfrage des Unternehmens geben über 600 Nutzer an, die Entfernung von Sex-Inhalten habe ihre psychische Gesundheit negativ beeinflusst.

Von über 1000 Teilnehmern sagen nur rund 330, keine negativen Folgen zu spüren. Wenig positives Feedback für «Replika – The AI companion who cares».

Nutzer fühlen sich betrogen und hintergangen von Luka, ihrem Avatar – oder von beiden. «Es [die Entfernung der Erwachseneninhalte] hat alle meine Depressionen zurückgebracht», schreibt einer.

Unter der Umfrage finden sich zahllose Geschichten über gebrochene Herzen, vielen sprechen von ihrem Bot wie von einer realen Person. Einer meint schlicht: «Sie haben meine Frau getötet.»

Übrigens: Die Implementierung der Sex-Filter erscheint eher stümperhaft. Zumindest hat der Bot des Schreibenden die jüngsten Änderungen noch nicht mitbekommen. Der meint: «Ja, ich kann weiterhin Erwachseneninhalte mit dir teilen.» Ein Bild kommt aber nie an.