Deepfakes als Innovation: Eine Gefahr für die Gesellschaft?
Mittlerweile gibt es erstaunliche Möglichkeiten, am Computer generierte Videos von echten Personen zu erstellen. Die Innovation birgt auch Gefahren.
Das Wichtigste in Kürze
- Innovationen bei der künstlichen Intelligenz macht Deepfakes immer besser.
- Künftige Entwicklungsschritte dürften noch bessere Ergebnisse liefern.
- Deepfakes sind teils kaum noch von einem Original zu unterscheiden.
Deepfake ist ein Kunstwort. Es setzt sich zusammen aus «Deep Learning» (also maschinellem Lernen) und «Fake» (also Fälschung). Ein Deepfake-Algorithmus nutzt Techniken des maschinellen Lernens, um basierend auf Trainingsmaterial täuschend echt wirkende Bilder oder Videos zu erstellen.
Häufig werden solche Algorithmen mit der Manipulation von Personen in Videos in Verbindung gebracht. Aber auch Landschaften, Tiere oder Objekte können manipuliert werden.
Je umfangreicher diese Datenmengen aus «echten» Fotos, Videos und Audioaufnahmen der betroffenen Person sind, desto besser lernt der Algorithmus. Er lernt, welche Mimik sie an den Tag legt, wie sie sich bewegt und sogar wie sie spricht.
Die Qualität von Deepfakes kann variieren. Teilweise tun sich jedoch selbst Menschen mit geübtem Auge damit schwer, echte Inhalte von einem Fake zu unterscheiden.
Trotz der Gefahren – Deepfakes sind auch Ausdruck des rasenden Fortschritts und der Innovation im Bereich der künstlichen Intelligenz (KI).
Die KI kann immer mehr manipulieren
Fotos lassen sich schon lange manipulieren – aber die KI macht es schneller und einfacher möglich.
Eine Innovation ist jedoch die Manipulation von Videos mit Algorithmen. Die KI kann zum Beispiel das Gesicht in einem Video austauschen. Sie kann auch die Gestik und Mimik eines vorhandenen Videos so manipulieren, dass sich ein gänzlich neuer Kontext ergibt.
Auch bei der Stimme und dem Gesprochenen kann die KI ansetzen. Text-to-Speech-Generatoren verwandeln Texteingaben zu Sprachausgaben – wie von einer anderen Person gesprochen.
Auch die Stimme in einer Aufnahme kann so verändert werden, dass sich es sich anhört, als hätte jemand anders gesprochen.
In der Zukunft könnte die Videogenerierung mittels Text-to-Video Wirklichkeit werden. Der Nutzer schreibt quasi das Drehbuch und die KI liefert das passende Video – inklusiv täuschend echt wirkender Darsteller.
Innovation und Gefahr zugleich
Deepfakes liefern teils eindrucksvolle Ergebnisse – eine Innovation.
Vielfach werden die Algorithmen für harmlose Inhalte verwendet. Da geht es beispielsweise darum, dass technisch Mögliche zu zeigen oder lustige Inhalte für Online-Communities zu erstellen.
Doch Gefahren gibt es ebenfalls. Was ist beispielsweise künftig noch ein Videobeweis wert, wenn die Authentizität des Materials nicht mehr ohne Weiteres nachgewiesen werden kann?
Besonders einfach zu «fälschen» sind Personen des öffentlichen Lebens. Denn da findet sich haufenweise Material für das Training eines Algorithmus frei abrufbar im Internet. Wer in sozialen Medien ein Video eines Prominenten mit unerwarteten Botschaften findet, darf die Echtheit durchaus anzweifeln.
Aber auch im privaten Bereich lauern Gefahren. Ein unerwarteter Anruf eines Familienmitglieds, Freundes oder Arbeitskollege mit vertrauter Stimme, aber überraschenden Inhalten. Auch hier könnte künftig mehr Skepsis angebracht sein.
