Schrift:
Ansicht Home:
Netzwelt

Fake-Fotos

Adobe-Software soll Foto-Manipulationen erkennen

Der Photoshop-Konzern arbeitet an Software, die Veränderungen an Fotos sichtbar machen und das Originalbild wiederherstellen soll. Ob das Programm wirklich erhältlich sein wird, ist allerdings unklar.

Adobe / YouTube

Eine künstliche Intelligenz analysiert Bilddateien und macht Manipulationen Pixel für Pixel sixchtbar

Von
Samstag, 09.11.2019   00:02 Uhr

Nein, der Pilot hat seinen Selfie-Stick nicht aus einem fliegenden Flugzeug gehalten und sich dabei selbst fotografiert. Es ist auch niemals ein Hai auf einer Autobahn nach Houston in Texas geschwommen. Und die blaue Mondmelone ist ebenfalls nur ein Bildbearbeitungsprodukt. Doch die Bilder sind so gut manipuliert, dass man sie als durchschnittlicher Nutzer kaum als Fakes erkennen kann.

Ausgerechnet die Bildmanipulationsexperten von Adobe tüfteln gerade an einer Software, die derart veränderte Fotos mit Hilfe künstlicher Intelligenz (KI) erkennen soll. Auf einer Konferenz in Los Angeles haben Entwickler der US-Firma gezeigt, wie das "About Face" genannte Projekt künftig die Detektivarbeit bei Bildmontagen übernehmen soll.

KI-Forscher Richard Zhang zeigte anhand von Porträtfotos, wie die Software selbst minimale Schönheitskorrekturen erkennen kann. Per Schieberegler blendete er zudem eine Art Wärmebild ein, das aufzeigt, in welchen Bereichen das Foto manipuliert worden war. Die Software ist nach einer solchen Analyse sogar in der Lage, die Manipulationen rückgängig zu machen, also das Ursprungsbild wiederherzustellen.

Zhang zufolge wurde die KI darauf trainiert, zu erkennen, ob Pixel aus dem Original weggefallen sind, also ein Bildbereich gestaucht worden ist - etwa wenn ein Gesicht schlanker gemacht wird. Außerdem soll die Software beispielsweise eine per Mausklick vergrößerte Stirn erkennen, da Pixel für diesen Prozess künstlich hinzugefügt werden müssen. Beide Verfahren können Spuren hinterlassen, die für das bloße Auge unsichtbar seien, sagte Zhang bei seinem Vortrag. Die im Rahmen des Projekts About Face trainierte KI könne diese Änderungen jedoch identifizieren und kenntlich machen.

Ob und wann die Software verfügbar sein wird, ist allerdings unklar. Auf Anfrage des teilte ein Adobe-Sprecher am Freitag mit: "Welches dieser Tools am Ende den Weg in Adobes Produkte findet, kann zu diesem Zeitpunkt nicht seriös beantwortet werden." Die vorgestellten Projekte befinden sich noch im Entwicklungsprozess. Aus Kreisen des Unternehmens heißt es jedoch, dass man bei "About Face" davon ausgehe, die Software in den kommenden Jahren kommerziell anbieten zu können.

Fälschungen mit KI werden immer besser

Adobe setzt in seinen Software-Programmen bereits jetzt künstliche Intelligenz ein. Die KI soll Anwendern beispielsweise helfen, wenn sie auf einem Foto feine Strukturen, also beispielsweise Haare freistellen oder Bilder mit ähnlichen Motiven verschlagworten wollen. In Zukunft soll die Technologie auch helfen, fehlende Personen automatisch in Gruppenfotos einzufügen und "Ähs" aus Audiodateien zu tilgen.

Der Haken an solchen Automatik-Programmen: Die Fälschungen werden immer besser und die Gefahr des Missbrauchs wächst. Wenn Deepfake-Videos von Politikern auftauchen, Stimmen dafür ganz einfach imitiert werden können und Texte von KI-Software fast so gut geschrieben werden wie von einem Menschen, dann werden auch Werkzeuge immer wichtiger, die solche Fälschungen aufdecken können.

Mehr zum Thema KI

insgesamt 9 Beiträge
dasfred 09.11.2019
1. Der Horror für Influenzer
All die viele Zeit und Mühe umsonst, wenn jeder sofort die Speckröllchen, Cellulite und Tränensäcke wieder herstellen kann. Auch die Trolle müssen sich dann mehr Mühe geben, im ihre Fakenews zu illustrieren. Ich glaube, [...]
All die viele Zeit und Mühe umsonst, wenn jeder sofort die Speckröllchen, Cellulite und Tränensäcke wieder herstellen kann. Auch die Trolle müssen sich dann mehr Mühe geben, im ihre Fakenews zu illustrieren. Ich glaube, Adobe kann mehr verdienen, wenn sie gegen Gebühr dieses Tool nicht rausbringen.
frenchie3 09.11.2019
2. Die ersten Käufer
sollten seriöse Zeitschriften sein. Aber kann die KI auch Fälschungen in einem vom gefälschten Foto abfotogeaphierten Bild erkennen? Ich denke nein und damit ist sie genauso leicht auszutricksen wie die Gesichtserkennung [...]
sollten seriöse Zeitschriften sein. Aber kann die KI auch Fälschungen in einem vom gefälschten Foto abfotogeaphierten Bild erkennen? Ich denke nein und damit ist sie genauso leicht auszutricksen wie die Gesichtserkennung mittels vorgehaltenem Bild
Cugel 09.11.2019
3. Kindergarten
Eine KI fälscht das Foto, die andere entlarvt die Fälschung.... irgendwann tun sie sich zusammen und sagen sich, was soll der ganze Kindergarten, haben die keine anderen Sorgen? Und machen fortan ihr eigenes Ding. Und wir gucken [...]
Eine KI fälscht das Foto, die andere entlarvt die Fälschung.... irgendwann tun sie sich zusammen und sagen sich, was soll der ganze Kindergarten, haben die keine anderen Sorgen? Und machen fortan ihr eigenes Ding. Und wir gucken dumm aus der Wäsche.
charly05061945 09.11.2019
4. Adobe
Und wenn ich das manipulierte Foto ausdrucke, aus einer gewissen Entfernung fotografiere und wieder ins Netz stelle - wie will Adobe dann Manipulationen erkennen?
Und wenn ich das manipulierte Foto ausdrucke, aus einer gewissen Entfernung fotografiere und wieder ins Netz stelle - wie will Adobe dann Manipulationen erkennen?
floydpink 09.11.2019
5. Das...
...kommt darauf an, ob noch immer minimale Kontrast, Farb, oder Helligkeitsunterschiede zu erkennen sind. Ferner spielen sogenannte Blockartefakte eine Rolle. Siehe "digitale Bildforensik". Das gibt's schon lange, [...]
Zitat von charly05061945Und wenn ich das manipulierte Foto ausdrucke, aus einer gewissen Entfernung fotografiere und wieder ins Netz stelle - wie will Adobe dann Manipulationen erkennen?
...kommt darauf an, ob noch immer minimale Kontrast, Farb, oder Helligkeitsunterschiede zu erkennen sind. Ferner spielen sogenannte Blockartefakte eine Rolle. Siehe "digitale Bildforensik". Das gibt's schon lange, nur ohne "KI".

Verwandte Themen

Verwandte Artikel

Artikel

© SPIEGEL ONLINE 2019
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung
TOP