Indien-Wahl als riesiges «Testlabor» für Künstliche Intelligenz
Die in Indien zu Ende gehende Wahl ist nicht nur die grösste der Welt. Sie ist auch ein Lehrbeispiel für den Einsatz Künstlicher Intelligenz in der Politik.
Harikrishnan Vasanthakumar ist seit vier Jahren tot. In einem Video aber lobt er seinen Sohn mit quicklebendigem Eifer. Sollte dieser aus der Parlamentswahl in Indien siegreich hervorgehen, werde er gute Arbeit leisten, versichert der frühere Politiker dem Wahlvolk. Möglich machte seine virtuelle Wiedergeburt beim Wahlkampfauftritt für seinen Sohn der Einsatz Künstlicher Intelligenz (KI). Bei der grössten Wahl der Welt – Indien ist das bevölkerungsreichste Land der Erde – konnte man sich der Fülle an KI-generierten Inhalten wie dem von Vasanthakumar kaum entziehen. Alle grossen Parteien nutzten in den vergangenen Wochen KI eifrig für ihre Wahlkampagnen. Auch Premierminister Narendra Modi. Für ihn dürfte sich der KI-Einsatz auszahlen: In Umfragen deutet alles auf eine dritte Amtszeit hin. An diesem Samstag schliessen die letzten Wahllokale. Das Ergebnis wird am 4. Juni bekanntgegeben.
Wahlkampfwerbung als Deepfake
Indien sei ein riesiges Testlabor für den Einsatz Künstlicher Intelligenz in der Politik und könnte damit Wegweiser auch für andere Staaten sein, sagt Katja Muñoz, die bei der Deutschen Gesellschaft für Auswärtige Politik in Berlin zu KI bei Wahlen forscht. Die Technologie habe zwar ein grosses Manipulationspotenzial. Sie sehe aber auch positive Aspekte: «Es ist nicht verwerflich, wenn man mit KI mehr Leute erreichen möchte oder mithilfe von KI in verschiedenen Sprachen spricht», sagt die Expertin. So wie der omnipräsente Modi es in Indien tat. Im Rahmen eines regelrechten Personenkults um ihn sprach er dank KI zum Wahlvolk in gleich mehreren Sprachen – die er gar nicht spricht. Ob das nun gut ist oder nicht, darüber redet in der grössten Demokratie der Welt kaum jemand.
«Es ist aber verwerflich, wenn KI nicht gekennzeichnet ist», findet Expertin Muñoz. Genau das war während des wochenlangen Wahlkampfs in Indien bisweilen der Fall gewesen. Da waren etwa Bollywood-Schauspielerstars in KI-generierten Aufnahmen zu sehen und zu hören, wie sie Kritik an dem Regierungschef üben. Und das, ohne dass die Gezeigten davon wussten. In einem anderen viral gegangenen KI-Video erklärt Oppositionsführer Rahul Gandhi, dass er von seinem Amt zurücktreten werde, weil Modi korrupte Leute wie ihn ins Gefängnis schicke. Fact-Checker fanden später heraus, dass das Video ein Fake ist. Erstellt mit KI. Experten sprechen von Deepfakes: realistisch wirkende Medieninhalte, die durch Techniken der KI abgeändert, erzeugt oder verfälscht worden sind.
Reichweite dank Künstlicher Intelligenz
Ein Fachmann für solche Deepfakes ist der Inder Divyendra Singh Jadoun. Die grossen Parteien hätten im Wahlkampf dank KI mehr Reichweite erzielt, sagt der Chef der Firma Polymath Synthetic Media Solutions, die wie andere Unternehmen synthetische Inhalte als Serviceleistung anbietet, der Deutschen Presse-Agentur in Neu-Delhi. Schliesslich waren insgesamt knapp eine Milliarde Wahlberechtigte aufgerufen, über die Besetzung des Unterhauses abzustimmen.
Da wird Reichweite zum Konkurrenzfaktor. Start-ups wie das von Divyendra Singh Jadoun liessen ihre Kunden vor der Kamera eine Botschaft aufsagen, woraufhin ein Computer ihre Gesichtsbewegungen und Stimmen analysierte. Damit wurden dann KI-Videos erstellt, in denen Kandidaten ihre Wahlhelfer vermeintlich persönlich anreden. Die Namen der Empfänger samt ihrer Handynummern stammen dabei aus einer Datenbank. Die so personalisierten KI-Videos wurden über WhatsApp direkt aufs Handy der Helfer gesendet.
Auf diese Weise will die Beratungsfirma Rajneethi Political Management für 28 Kandidaten insgesamt knapp sechs Millionen personalisierte Videobotschaften an Wähler verschickt haben, wie ihr Technik-Chef Vinay Despande sagt. Sein Unternehmen erstellte auch QR-Codes, die Interessierte mit dem Handy scannen konnten – worauf auf dem Bildschirm ein Avatar eines Politikers in ihrer persönlichen Umgebung erschien. «Je nachdem, wo der Code gescannt wird, hält er dann eine andere Rede», sagt Despande. In einer Region mit vielen jungen Menschen sprach der Kandidat dann beispielsweise über die Schaffung von Jobs.
Politiker-Chatbots halluzinieren
Immer wieder stossen solche KI-Unternehmen aber auch an ihre technischen Grenzen – etwa bei interaktiven Chatbot-Anrufen mit der Stimme von Kandidaten: So konnten potenzielle Wähler quasi das direkte Gespräch suchen. «Wir trainieren das Sprachmodell mit Informationen zum Wahlprogramm, aber gelegentlich halluziniert es», berichtet Divyendra Singh Jadoun. «Es sagt etwa, ein Politiker setze sich für Frauen ein, obwohl er das gar nicht tut.» Seine Firma habe sich dabei eigene ethische Standards gesetzt, sagt er.
So erstelle er nur «positive» Fakes – persönliche Videos, Politiker-Hologramme, die mit Wählern für Fotos posieren, oder Propaganda-Lieder über die Politiker und ihre Erfolge. Anfragen, Pornos von politischen Gegnern zu erstellen, habe er abgelehnt. Allerdings bedürfe es heute keiner Technikkenntnisse mehr, um mit Software Deepfakes zu erstellen, warnt der Unternehmer. Selbst die Regierung von Premier Modi warnte im Frühjahr noch vor KI bei der Wahl – obwohl sie die Technologie später im Wahlkampf selbst einsetzte. Grund für die Warnung der Regierung im Vorfeld war, dass das KI-Tool des US-Technologieriesen Google namens Gemini die Aussage anzeigte, der 73-jährige Regierungschef sei ein Faschist.
Dennoch investierten Parteien im Wahlkampf in Online-Trolle und Content-Produzenten, um in den sozialen Netzwerken ihre Gegner schlecht darzustellen und sie in Kommentarspalten zu diffamieren. Modis hindunationalistische Partei soll Berichten zufolge das grösste Budget dafür gehabt haben. Für den Einsatz von KI benötige es zum Schutz und zur Förderung der Demokratie neue Gesetze, sagt Sven Nyholm, Professor für Ethik der Künstlichen Intelligenz an der Ludwig-Maximilians-Universität München.
Derweil geht die Entwicklung weiter. Politische Kommunikation werde in Indien nie mehr so sein wie vor der Einführung von KI, meint Vinay Despande. Die Firma Polymath Synthetic Media Solutions versucht derweil vor der US-Präsidentenwahl im November ihre Dienste dort den Demokraten und Republikanern anzupreisen.
