Schrift:
Ansicht Home:
Netzwelt

Manipuliertes Instagram-Video

Deepfake-Zuckerberg erklärt sich zum Weltherrscher

Auf Instagram spricht Facebook-Gründer Mark Zuckerberg scheinbar über "die gestohlenen Daten von Milliarden Menschen". Der Deepfake ist leicht zu erkennen, muss aber vielleicht trotzdem gelöscht werden.

Instagram

"Ein Mann, mit totaler Kontrolle": Deepfake-Video, das Mark Zuckerberg zeigt

Von
Mittwoch, 12.06.2019   14:04 Uhr

Darf ein sogenanntes Deepfake-Video, in dem Facebook-Gründer Mark Zuckerberg scheinbar über die Weltherrschaft sinniert, auf Instagram stehen bleiben? Bisher darf es das, obwohl Nutzer der App durchaus auf die Täuschung hereinfallen könnten.

Die beiden Künstler Bill Posters und Daniel Howe haben den kurzen Clip zusammen mit der israelischen Firma Canny AI produziert. Es handelt sich um einen Ausschnitt aus einem Zuckerberg-Video von 2017, in dem er über Russlands versuchte Einflussnahme auf die US-Wahlen sprach. Doch auf Instagram sagt Zuckerberg stattdessen etwas rätselhaft: "Stellt euch das mal kurz vor: Ein Mann, mit totaler Kontrolle über die gestohlenen Daten von Milliarden Menschen, alle ihre Geheimnisse, ihr Leben, ihre Zukunft - ich schulde das alles Spectre. Spectre hat mir gezeigt, dass derjenige, der die Daten kontrolliert, auch die Zukunft kontrolliert".

Sieh dir diesen Beitrag auf Instagram an

Mark Zuckerberg reveals the truth about Facebook and who really owns the future... see more @sheffdocfest VDR technology by @cannyai #spectreknows #privacy #democracy #surveillancecapitalism #dataism #deepfake

Ein Beitrag geteilt von Bill Posters (@bill_posters_uk) am

Die Lippenbewegungen passen dazu, Mimik und Gestik wirken echt. Am unteren Bildschirmrand ist ein Schriftzug des Fernsehsenders CBS zu sehen, der dem Video den Anschein eines offiziellen Facebook-Statements gibt. Nur die Stimme ist erkennbar nicht die von Zuckerberg. Doch wer dessen echte Stimme nicht kennt oder das Video ohne Ton ansieht, könnte es für echt halten.

Deepfakes zwischen Kunst und Desinformation

Weitere Videos, die in den vergangenen Tagen über den Instagram-Account von Bill Posters verbreitet werden, zeigen US-Präsident Donald Trump und Kim Kardashian.

Erstellt wurden sie mithilfe von maschinellem Lernen: Ein Algorithmus wurde zwölf bis 24 Stunden lang mit 20- bis 45-sekündigen Videos der Prominenten trainiert, wie die Canny-Gründer im Gespräch mit "Vice" sagten. Die Stimmen sind die von Schauspielern und klingen ganz anders als die Originale. Die Videos bewerben eine Kunstinstallation namens Spectre, die Posters und Howe diese Woche in einer Ausstellung im englischen Sheffield gezeigt haben.

Spätestens, wenn man mehrere der Videos gesehen hat, sollte man den künstlerischen Ansatz erkennen. Zwar gelten Deepfakes als potenzielles Desinformationswerkzeug, vor dem zum Beispiel die EU-Kommission schon im Vorfeld der Europawahl gewarnt hatte. Doch finstere Absichten muss man den beiden Künstlern und Canny wahrlich nicht unterstellen. Erstens gäbe es technisch raffiniertere Methoden, ein Video samt Ton zu fälschen: Vor einigen Tagen etwa haben Forscher des Max-Planck-Instituts für Informatik in Saarbrücken, Stanford und Princeton zusammen mit Adobe eine Technik vorgestellt, die das textbasierte Editieren von Videos mitsamt passender Mimik und Stimme ermöglicht. Damit könnte man einer Person in einem Video einzelne Wörter unterschieben, die sie nie gesagt hat.

Facebook hatte zuletzt ein manipuliertes Pelosi-Video nicht gelöscht

Zweitens ist auch die inhaltliche Ebene wichtig. Ein Deepfake wäre glaubwürdiger, wenn die Person im Clip etwas sagen würde, das nur leicht von dem abweicht, was sie normalerweise sagt - ein scheinbar verräterisches Wort, ein Versprecher oder auch ein Detail im Hintergrund würden authentischer wirken als plumpes Weltherrschaftsgehabe.

Foto: MANDEL NGAN / AFP

Trotzdem ist die Angelegenheit für Facebook ein Testfall. Das Unternehmen hatte kürzlich entschieden, ein verlangsamtes Video der Sprecherin des US-Repräsentantenhauses Nancy Pelosi, in dem sie durch die Verfälschung betrunken wirkt, nicht zu löschen. Stattdessen schränkte Facebook die Sichtbarkeit des Videos in den Newsfeeds der Nutzer ein und fügte den Hinweis von Faktenprüfern hinzu, dass es sich um ein manipuliertes Video handelt.

Auf die Frage von kanadischen Abgeordneten, ob Facebook mit einem entsprechenden Zuckerberg-Video genauso umgehen würde, versprach ein Unternehmenssprecher genau das. Aus diesem Grund könnte Facebook das Canny-Zuckerberg-Video kaum von Instagram entfernen, ohne sich zu blamieren. Allerdings ist bisher auch kein offizieller Hinweis zu sehen, dass es sich um eine Fälschung handelt. Die Gefahr, dass unaufmerksame Nutzer ohne Deepfake-Erfahrungen darauf hereinfallen, ist zumindest nicht auszuschließen.

Außerdem verlangt CBS nun die Löschung des Clips - wegen der Markenrechtsverletzung durch die Verwendung des Senderlogos im Schriftzug am Bildschirmrand. Deshalb ist tatsächlich nicht abzusehen, wie lange der gefälschte Zuckerberg noch auf Instagram über seine Weltherrschaft sprechen darf.

insgesamt 7 Beiträge
Hitchslap 12.06.2019
1. Interessante Kunst
Leider steckt in der gefälschten Aussage deutlich mehr Wahrheit als manchen lieb sein könnte... Allerdings würden Facebook und co das natürlich niemals öffentlich zugeben.
Leider steckt in der gefälschten Aussage deutlich mehr Wahrheit als manchen lieb sein könnte... Allerdings würden Facebook und co das natürlich niemals öffentlich zugeben.
Bellagio 12.06.2019
2. Ein Glück nur
das in Deutschland ungekennzeichnete Social Media Bots und Deepfake Videos verboten sind. Wäre echt ganz schön doof wenn das einfach jeder mit allem machen könnte....oh wait...
das in Deutschland ungekennzeichnete Social Media Bots und Deepfake Videos verboten sind. Wäre echt ganz schön doof wenn das einfach jeder mit allem machen könnte....oh wait...
jacobi 12.06.2019
3. blöd nur ..,
dass alle auf Facebook sind oder mit Google suchen. Einschließlich Spiegel und die Öffentlich/Rechtlichen. Besonders bei den Letztgenannten empfinde ich es als Skandal. Dafür und für die Werbung Zwangsabgaben zu leisten ist [...]
dass alle auf Facebook sind oder mit Google suchen. Einschließlich Spiegel und die Öffentlich/Rechtlichen. Besonders bei den Letztgenannten empfinde ich es als Skandal. Dafür und für die Werbung Zwangsabgaben zu leisten ist schon grenzwertig.
juergenhesse 12.06.2019
4. Na dann man zu.
Da bin ich doch heilfroh, dass ich dem facebook nie auf dem Leim gegangen bin. Als 40zig jaehriger Internet Veteran hat mich facebook nie interresiert. Ohmie's Kinder Bilder oder Rezepte anzusehen ist doch stingweilig. Alle [...]
Da bin ich doch heilfroh, dass ich dem facebook nie auf dem Leim gegangen bin. Als 40zig jaehriger Internet Veteran hat mich facebook nie interresiert. Ohmie's Kinder Bilder oder Rezepte anzusehen ist doch stingweilig. Alle produzieren sich im besten Licht. Fake news gibt es doch besser auf dem Internet. Fuer mich, reine Zeitverschwaending und da habe ich nicht mehr zu viele Jahre uebrig.
quacochicherichi 12.06.2019
5. Beängstigend
Habe vor kurzem das Deep Fake Video von Bill Harder gesehen, der zu Arnold Schwarzenegger mutiert. Es ist erschreckend was mittlerweile möglich ist.
Habe vor kurzem das Deep Fake Video von Bill Harder gesehen, der zu Arnold Schwarzenegger mutiert. Es ist erschreckend was mittlerweile möglich ist.

Verwandte Artikel

Mehr im Internet

Verwandte Themen

Die zehn größten Börsengänge der Welt

Rang Firma Jahr Volumen in Mrd Dollar Land
1. General Motors 2010 23,1* USA
2. AgBank 2010 22,1 China
3. AIA (Versiche- rer) 2010 22,0 Hongkong
4. ICBC (Bank) 2006 21,97 China
5. Visa (Kredit- karten) 2008 19,65 USA
6. NTT Mobile 1998 18,05 Japan
7. Enel (Energie) 1999 16,59 Italien
8. Facebook 2012 16,01** USA
9. NTT (Telekom) 1986 13,75 Japan
10. Deutsche Telekom 1996 12,49 Deutschland

* Bei Addition der Stamm- und Vorzugsaktien; ** Bei Verkaufspreis am oberen Ende der Spanne; Quelle Reuters

Artikel

© SPIEGEL ONLINE 2019
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung
TOP