«Fake Klitschko» führte Videokonferenz mit Berlins Bürgermeisterin
Berlins Bürgermeisterin Franziska Giffey wurde von einem «Fake Klitschko» getäuscht. Sie hatte eigentlich mit dem Bürgermeister Kiews einen Videocall geplant.
Das Wichtigste in Kürze
- Berlins Bürgermeisterin Giffey erwartete Vitali Klitschko bei einer Videokonferenz.
- Giffey ist am Freitag anscheinend Opfer einer Täuschung geworden.
- Dabei handelte es sich um eine gezielte Manipulation, einen Deep Fake.
Franziska Giffey (SPD), Berlins Regierende Bürgermeisterin, war überzeugt, in einer Videokonferenz mit Kiews Bürgermeister Klitschko zu sein. Sie hatte es aber mit einem sogenannten Deep Fake zu tun. Vielleicht hätte Giffey beim ersten Anblick des Fake Klitschko misstrauisch werden sollen. Ihr Gesprächspartner und Fake Klitschko erschien nämlich mitten im Sommer mit dicker Jacke und Pullover zur vereinbarten Videokonferenz.
Es dauerte einige Zeit, bis Giffey und ihr Team wegen der merkwürdigen Fragen des vermeintlichen Bürgermeisters von Kiew misstrauisch wurden. «Es gab keine Anhaltspunkte dafür, dass die Videokonferenz nicht mit einer echten Person geführt wird. Allem Anschein nach handelt es sich um Deep Fake», erklärte die Senatskanzlei auf Twitter.
Was ist ein sogenannter Deep Fake?
Damit wird ein Medieninhalt bezeichnet, der mit Techniken künstlicher Intelligenz (KI) manipuliert wurde. Dabei kann es sich beispielsweise um ein vermeintlich authentisches Video oder eine Audio-Aufnahme handeln.
Der Begriff «Deep Fake» ist von den Worten «Deep Learning» und «Fake» (Fälschung) abgeleitet. Deep Learning ist ein Verfahren in der künstlichen Intelligenz, bei dem das System durch eine intensive Beobachtung lernt. Dabei werden Lippenbewegungen, Mimik und Körperhaltung analysiert. Beobachtet wird auch, zum Beispiel, wie sich eine Person bewegt oder wie sie spricht.
Wie kam der Fake Klitschko in die Videokonferenz?
Für die Auftritte des Fake Klitschko bei Giffey und anderen europäischen Bürgermeistern wurde mit einem echten Klitschko-Interview gearbeitet. Davon gehe man zumindest mit hoher Wahrscheinlichkeit aus. Das Videomaterial soll aus den Interviews mit dem ukrainischen Journalisten Dmytro Hordon genommen worden sein. Dabei wurden in Echtzeit die Lippenbewegungen aus dem Video mit den Aussagen desjenigen zusammengeführt, der tatsächlich mit Giffey gesprochen hat.
Seit wann gibt es Deep-Fake-Systeme?
Als Meilenstein in der Entwicklung von Systemen, die für solche Videomanipulationen geeignet sind, gilt ein Experiment der University of Washington. 2017 stellten Forscher der Universität Algorithmen vor, die beliebige Audioclips in ein realistisches, lippensynchrones Video der Person umzuwandeln konnten. So legten Wissenschaftler dem ehemaligen US-Präsidenten Barack Obama heikle Aussagen zu Themen wie Terrorismus oder Massenarbeitslosigkeit virtuell in den Mund.
Haben die Forscher damit nicht eine Monster-Technologie geschaffen?
Die Wissenschaftler wollten eigentlich ein System entwickeln, um die Bildqualität bei Videokonferenzen zu verbessern. Das Streaming von Audio über das Internet benötigt weit weniger Bandbreite als Videos. So wollte man den Ton nutzen, um daraus ein Video in viel besserer Qualität zu produzieren. Die Wissenschaftler diskutierten damals aber schon die Gefahr, dass diese Technologie missbraucht werden kann.
Braucht man für Deep Fakes einen Supercomputer?
In den App-Stores gibt es etliche Anwendungen, die eigentlich dazu dienen sollen, Selfies zu optimieren oder Porträts zu retuschieren. Doch diese Apps ermöglichen es auch, in Videos die Gesichter auszutauschen.
Andere Programm wandeln Fotos in animierte Videos um. Bei der Bildqualität stossen diese Apps jedoch schnell an Grenzen. Für ausgeklügelte Deep-Fake-Attacken auf Politiker benötigt man derzeit noch leistungsfähige Rechner.
Setzen Kriminelle Deep-Fake-Technik ein?
Ja. Zum einen kann die Technik für böswillige Fake-Videos missbraucht werden, mit denen sich die Täter strafbar machen. Dazu gehören gefälschte Sex-Videos, bei denen das Gesicht des Opfers in Pornos eingebaut wird.
Deep Fakes werden aber auch beispielsweise von Kriminellen verwendet, um betrügerische Geldüberweisungen zu veranlassen. Beim Chef-Betrug erhält beispielsweise ein Buchhalter einer Firma eine manipulierte Sprachnotiz seiner Chefin. Darin ordnete sie eine Überweisung auf ein bestimmtes Bankkonto an. Der Absender ist wie die Audioaufnahme gefälscht.
Die Technik der Videomanipulation wird aber auch von Strafverfolgungsbehörden verwendet. Die niederländische Polizei hat so einen Teenager fast 20 Jahre nach dessen Tod in einem Video digital zum Leben erweckt. Daraufhin erhielt sie Dutzende Hinweise.
Wer steht hinter dem Fake Klitschko?
Der Gesprächsverlauf legt die Vermutung nahe, dass dahinter pro-russische Kräfte stecken. Allerdings kann eine Zuordnung derzeit nicht zweifelsfrei vorgenommen werden, auch weil die wahren Täter oft Spuren hinterlassen. Diese sollen jedoch bewusst in die falsche Richtung zeigen. Denkbar ist auch, dass eine politische Spassguerilla Giffey und ihre Amtskollegen in Wien, Budapest und Madrid in Misskredit bringen will.
Wie kann man Deep Fakes erkennen?
Das wird immer schwerer fallen. Die Algorithmen der künstlichen Intelligenz und die verwendeten Hardware-Systeme werden künftig in der Lage sein, gefälschtes Videomaterial zu produzieren. Diese sieht absolut authentisch aus. Man wird also seinen Augen und Ohren allein nicht mehr unbedingt vertrauen können.
Um so wichtiger ist es, mit Logik und gesundem Menschenverstand aufsehenerregende Videoclips in Frage zu stellen. Bei einer völlig überraschenden Entwicklung oder weitreichenden Aussage, sollten sich Nutzerinnen und Nutzer stets fragen: Wie wahrscheinlich ist es, dass sie auf diese Weise verbreitet wird? Manchmal kann auch künstliche Intelligenz bei der Entdeckung von Fake-KI helfen: So kann man auf der Website deepware.ai Videos oder Links zu Videos hochladen, um eine Einschätzung zu erhalten, ob es sich dabei um Deep Fakes handelt.
