KI-Menschen fluten Instagram – Manipulation droht
Im Internet tummeln sich immer mehr KI-generierte Influencer. Das «birgt Risiken»: Das Potenzial für Manipulation ist gross und Stereotype werden verstärkt.
Das Wichtigste in Kürze
- In den sozialen Medien stösst man beim Scrollen immer öfter auf KI-generierte Influencer.
- Das ist nicht ungefährlich, denn sie können für «zweifelhafte Zwecke» eingesetzt werden.
- KI-Sex-Influencer verstärken zudem geschlechtsspezifische Stereotypen.
Sie sehen täuschend echt aus, sind aber fake: In den sozialen Medien treiben sich immer mehr «Menschen» herum, die von künstlicher Intelligenz (KI) generiert wurden.
Die KI-Influencer werden zum Beispiel in Wahlkämpfen eingesetzt. Aber auch sehr freizügig gekleidete KI-generierte Models tummeln sich im Internet. Sie haben überdimensional grosse Brüste und makellose Gesichter.
Oft sind sie für Laien kaum als Fakes zu erkennen. Ein Blick in die Instagram-Kommentarspalten bestätigt: Viele fallen auf die KI-Menschen herein, schreiben, wie schön die Frau doch sei.
Mykola Makhortykh, ein auf KI, Politik und Desinformation spezialisierter Postdoktorand an der Universität Bern, sagt zu Nau.ch: «Ich sehe den Aufstieg der KI-Influencer durchaus als ein Phänomen, das Risiken birgt.»
Denn: «Es schafft ein erhebliches Potenzial für die Manipulation des Einzelnen und der öffentlichen Meinung.»
KI-Influencer werden für «zweifelhafte Zwecke» genutzt
Sogenannte «Deepfakes» seien lange nicht qualitativ genug gewesen, um effektiv zu sein. Zum Beispiel zu Beginn des Ukraine-Kriegs, als ein offensichtlich gefälschter Wolodymyr Selenskyj die ukrainischen Truppen dazu aufforderte, sich zu ergeben.
Inzwischen ist die KI jedoch deutlich weiter. Es gibt heute die Möglichkeit, Audio und bewegte Bilder zu kombinieren, wie der Experte sagt. Damit «erhöht sich das Manipulationspotenzial».
Dabei besonders riskant: Die Person, die einen KI-Influencer erstellt, hat die «wesentliche Kontrolle darüber, welche Botschaften dieser kommuniziert».
Und es könne «viele zweifelhafte Zwecke geben», für die man KI-Influencer einsetzen könnte.
Zwei Beispiele: Sie könnten Spenden für nicht existierende Initiativen sammeln. Oder die Interessen eines bestimmten politischen Akteurs oder einer Partei fördern.
Der Experte betont, es sei «wichtig», Mechanismen zu schaffen, die KI-Inhalte auf Social Media transparent als solche deklarieren.
Ansonsten könnte es in ein paar Jahren «ziemlich schwierig» sein, Profile von Menschen und künstlichen Influencern voneinander zu unterscheiden.
Experte vermutet ähnliche Effekte wie bei Video-Games
Viele dieser KI-Influencer sind weiblich und leicht bekleidet. Auch das birgt Risiken.
Denn: Makhortykh hält es für möglich, dass die Interaktion mit diesen «KI-Sex-Models» psychologische Auswirkungen haben kann. «Am ehesten lässt sich dies vielleicht mit Videospielen vergleichen», sagt er.
Es gibt Hinweise darauf, dass gewalttätige oder sexuell explizite Games dazu beitragen können, dass Menschen aggressive sexbezogene Gedanken entwickeln.
«Oder, was ziemlich besorgniserregend ist, Frauen eher wie sexuelle Objekte behandeln», sagt Makhortykh.
«Meiner Meinung nach ist es möglich, dass wir bei der Interaktion mit KI-Models ähnliche Effekte beobachten werden.» Das müsse weitere Forschung aber erst noch zeigen.
Frauenkörper werden «häufiger objektiviert»
Doch warum werden Insta und Co. vor allem von weiblichen KI-Sex-Models geflutet?
Aleksandra Urman forscht an der Universität Zürich zu den gesellschaftlichen Auswirkungen von künstlicher Intelligenz.
Sie erklärt: «Die Dominanz von weiblichen KI-generierten ‹Sex-Models› ist eng mit der andauernden Sexualisierung von Frauen in Medien, Werbung und Unterhaltung verbunden.»
Mit Folgen. Urman erklärt: «Frühere Generationen von digitalen Assistenten wie Apples Siri, Amazons Alexa und Google Assistant erhielten standardmässig weibliche Stimmen.»
Das habe Geschlechter-Stereotypen von Frauen als entgegenkommend und unterwürfig verstärkt.
Es gibt zwar auch männliche KI-Influencer, aber: «Sie sind weitaus seltener anzutreffen und haben oft andere Rollen. Zum Beispiel als Fitness-Influencer, Botschafter von Luxusmarken oder digitale Mode-Models.»
Das sei ein Muster, «das ethische Bedenken darüber aufwirft, wie KI bestehende geschlechtsspezifische Vorurteile verstärken oder sogar verschlimmern könnte».
Besser als Menschen? KI-Influencer «werden nicht müde»
Dass KI-Menschen gerade jetzt die sozialen Medien fluten, ist laut der Expertin auf eine Kombination verschiedener Faktoren zurückzuführen: unter anderem auf technologische Fortschritte und wirtschaftliche Anreize.
Heute lassen sich realistische Bilder oder sogar Videos von Menschen dank generativer KI relativ einfach erstellen.
«Diese Technologie ist nun nicht mehr nur für Menschen mit Programmierkenntnissen verfügbar», sagt Urman. «Sondern für ein breiteres Spektrum von Nutzern.»
Im Vergleich zu Menschen haben die KI-Influencer zudem wirtschaftliche Vorteile: «Sie werden nicht müde, benötigen keine Verträge, müssen nicht bezahlt werden.»
Kurz: Ihr Verhalten kann vollständig kontrolliert werden, und das möglichst gewinnbringend. Das macht sie für Marken attraktiv, wie Urman sagt.
Experte warnt: Fake-News-Flut droht
KI-Experte Mike Schwede ergänzt: «Grundsätzlich kann man KI-Influencern irgendetwas in den Mund legen. Wenn man normale Influencer oder Testimonials hat, muss man immerhin jemanden finden, der sein Gesicht für eine gewisse Aussage hergibt.»
Manipuliert würden wir in den sozialen Medien aber ohnehin bereits – auch ohne KI-Influencer.
«Der Algorithmus zeigt uns nur gewisse Sachen an und andere nicht», erklärt Schwede. «Das merken wir alles gar nicht.»
Mit den KI-Influencern droht sich das zu verschärfen.
«Wenn man eine Kampagne macht und hundert Influencer rekrutiert, hat man viel Aufwand. Wenn man natürlich tausend KI-Influencer per Knopfdruck generieren kann, gibt es keine Grenze», hält der Experte fest.
Die Folge: Es könnte zu einer «Fake-News-Flut» kommen.
