Zum Hauptinhalt springen

Vorsicht: DeepfakeBastien Girods Meinungsumschwung: «SUV sind grossartig»

Erkennen Sie gefälschte Videos? Wir haben Deepfakes von Schweizer Politikern produziert. Machen Sie sich Ihr eigenes Urteil dazu.

Ein Videoschwindel: Hätten Sie es gemerkt?
Video: Nicolas Fäs und Adrian Panholzer

Der Videobeweis galt bis anhin als unumstösslich. Doch die Technologie des Deepfakes bringt diesen nun ins Wanken. 10’000 Bilder, ein Gratisprogramm und eine leistungsfähige Grafikkarte reichen für einen Videoschwindel. Mit der IT-Sicherheitsfirma Scip haben wir die zwei prominenten Politiker Bastien Girod und Regierungsrätin und Ex-Nationalrätin Natalie Rickli ausgewählt, um einen Deepfake zu erstellen. Dieses Experiment zeigt, wie weit die Technologie wirklich ist.

Mit einem Deepfake kann ein Gesicht in einem Video durch ein anderes Gesicht täuschend echt ersetzt werden. Dabei werden den Protagonisten Aussagen in den Mund gelegt, die sie nie gesagt haben. Oder sie werden bei fragwürdigen Handlungen gezeigt, die so nie stattgefunden haben. Deepfake-Revenge-Porn ist ein abscheuliches Beispiel für Deepfakes. Dort wird das Gesicht eines Pornodarstellers mit dem eines Ex-Partners vertauscht. So wird der Anschein vermittelt, dass diese Person in einem Pornofilm mitspielt. Die Technologie erlangte dadurch eine unrühmliche Popularität.

Deepfake als Waffe

Was aber, wenn Deepfakes gezielt dazu genutzt werden, Konflikte zwischen Nationen zu schüren? Ein US-General, der einen Koran verbrennt, oder ein Staatspräsident, der einem anderen Land den Krieg erklärt? Wie gross die Tragweite einer digitalen Fälschung sein kann, zeigte der Moderator Jan Böhmermann bereits im Jahr 2015. Der deutsche Satiriker löste mit einer vermeintlichen Videomanipulation im Zusammenhang mit dem griechischen Politiker Giannis Varoufakis eine Welle der Empörung aus. Böhmermann demonstrierte damit, wie leicht Manipulation im digitalen Zeitalter ist, wie unzuverlässig Videobeweise und wie anfällig Demokratien auf solche Videomanipulationen sind.

Kleine Geste, grosse Wirkung: Giannis Varoufakis während seines umstrittenen Auftritts.
Kleine Geste, grosse Wirkung: Giannis Varoufakis während seines umstrittenen Auftritts.
Foto: Screenshot Youtube

Demokratien brauchen ein Grundverständnis dafür, was faktisch richtig und was falsch ist. Fehlt es, fehlt das Fundament für die Debattenkultur. «Ich habe die Hoffnung, dass sich eine Nation nicht einfach durch ein Video manipulieren lässt», erläutert Andrea Hauser, die als Beraterin für IT-Sicherheit tätig ist. Völlig ausschliessen könne man eine Eskalation durch Deepfakes natürlich nicht. Panikmache sei wegen dieser Technologie aber fehl am Platz, es gebe schon lange die Möglichkeit, Bilder und Videos mit Bearbeitungsprogrammen zu manipulieren.

Bald nicht mehr erkennbar?

Jedoch warnt Andrea Hauser davor, dass man Deepfakes von echten Videos schon bald nicht mehr unterscheiden kann. Der führende Deepfake-Experte Hao Li glaubt, dass dies spätestens in zwei bis drei Jahren der Fall sein wird. Politisch führen die Warnungen von Experten zu ersten Reaktionen: Im US-Bundesstaat Texas sind Deepfakes seit Herbst 2019 per Gesetz gänzlich verboten. In Kalifornien ist das Verbreiten von gefälschten Videos zumindest im Vorfeld von Wahlen illegal.

Eine generelle Regulierung existiert aktuell nicht. Die Entwickler der Software mahnen wohl, dass diese Technologie nur für ethische Zwecke eingesetzt werden darf, dies wird in der Praxis jedoch selten umgesetzt. In der Schweiz gibt es zudem keine spezifischen gesetzlichen Barrieren für die Erstellung eines Deepfakes. Das Schweizer Gesetz sei noch nicht im 21. Jahrhundert angekommen, sagt Andrea Hauser. Sie fordert eine gesetzliche Anpassung, bei der man global denkt und nicht noch weiter hinter den neuesten Entwicklungen herhinkt.

«Jeder kann einen Deepfake erstellen»

Dazu kommt, dass die Anwendung nicht anspruchsvoll ist. Videos zu manipulieren oder falsche Aussagen vorzutäuschen, ist laut Andrea Hauser nicht sehr schwierig. Die benötigte Software ist im Internet für alle offen zugänglich und gratis. In einem Forum wird Schritt für Schritt erklärt, wie man einen Deepfake produziert. Für die Herstellung eines Deepfakes sind demnach keine spezifischen IT-Kenntnisse notwendig. «Alles, was man braucht, ist eine Grafikkarte im Wert von 2000 Franken, Zeit und das entsprechende Videomaterial – das ist schon beängstigend», erläutert Andrea Hauser.

IT-Sicherheits-Expertin Andrea Hauser erklärt, wie man einen Deepfake erstellt.
Video: Nicolas Fäs und Adrian Panholzer

Wie man Deepfakes erkennt

Klar ist: Deepfakes lassen sich nicht verhindern. Sobald Bilder oder Videos einer Person im Internet auffindbar sind, können daraus Deepfakes erstellt werden. Laut Andrea Hauser wird es zunehmend schwieriger, einen Deepfake zu erkennen. Denn das Programm wird stetig weiterentwickelt. Anfangs konnte ein Deepfake durch das fehlende Blinzeln entlarvt werden. Nun ist dieses Problem aus der Welt geschafft. Aktuell gibt es Auffälligkeiten im Mundbereich und bei den Brillen, was beim Deepfake von Bastien Girod exemplarisch zu sehen ist.

Ein weiterer Schwachpunkt ist die Stimme. Diese überzeugend nachzuahmen, ist sehr schwierig. Bis heute existiert auch keine Software, die die Stimme eins zu eins kopieren kann. Ein Patentrezept für ein gutes Deepfake-Video existiert noch nicht. Dies ist beim Versuch mit Natalie Rickli zu sehen.

Misslungen: Der Deepfake von Natalie Rickli überzeugt nicht.
Video: Nicolas Fäs und Adrian Panholzer

Ob jeder Medienkonsument die Zeit für eine intensive Überprüfung der Medieninhalte aufbringen kann, ist fraglich. Andrea Hauser verweist deshalb auf die Überprüfung der Quellen: «Die Glaubwürdigkeit liegt bei der Person, die das Video publiziert. Es braucht immer ein gesundes Misstrauen gegenüber Videos, bei denen der Ursprung nicht klar ist.»