Fake-Bilder anhand von Frequenzanalysen erkennen

In den Frequenzbereich transformierte Personenbilder: Die linke obere Ecke repräsentiert niederfrequente Bildbereiche, die rechte untere Ecke hochfrequente Bereiche. Links ist die Transformation eines realen Personenfotos zu sehen, der Frequenzbereich ist gleichmäßig verteilt. Die Transformation des computergenerierten Fotos (rechts) enthält eine charakteristische Gitterstruktur im hochfrequenten Bereich – ein typisches Artefakt. © RUB, Lehrstuhl für Systemsicherheit

Über das Verfahren berichtete das Team am 15. Juli 2020 auf der International Conference on Machine Learning (ICML), einer der führenden Konferenzen im Bereich des maschinellen Lernens. Ihren Code stellen die Forscherinnen und Forscher unter https://github.com/RUB-SysSec/GANDCTAnalysis frei zur Verfügung, damit andere Gruppen die Ergebnisse reproduzieren können.

Zusammenspiel zweier Algorithmen führt zu neuen Bildern

Deep-Fake-Bilder – eine Wortzusammensetzung aus den Begriffen „Deep Learning“ für maschinelles Lernen und „Fake“ – werden mithilfe von Computermodellen erzeugt, sogenannten Generative Adversarial Networks, kurz GANs. Darin arbeiten zwei Algorithmen zusammen:

Der erste Algorithmus erstellt basierend auf gewissen Inputdaten zufällige Bilder. Der zweite Algorithmus testet, ob es sich bei dem Bild um eine Fälschung handelt oder nicht. Enttarnt er das Bild als Fake, gibt er dem ersten Algorithmus das Kommando, das Bild zu überarbeiten – so oft, bis er es nicht mehr als Fälschung erkennt.

Diese Technik hat in den vergangenen Jahren dazu beigetragen, dass Deep-Fake-Bilder immer authentischer geworden sind. Auf der Website www.whichfaceisreal.com können User selbst testen, ob sie Fake-Motive von Originalfotos unterscheiden können. „Gerade in Zeiten von Fake News kann es ein Problem sein, wenn Nutzerinnen und Nutzer computergenierte Motive und Originale nicht auseinanderhalten können“, sagt Prof. Dr. Thorsten Holz vom Lehrstuhl für Systemsicherheit.

Für ihre Analyse nutzten die Bochumer Wissenschaftlerinnen und Wissenschaftler die Datensätze, die auch der oben genannten Seite „Which face is real“ zugrunde liegen. In dem interdisziplinären Projekt kooperierten Joel Frank, Thorsten Eisenhofer und Thorsten Holz vom Lehrstuhl für Systemsicherheit mit Prof. Dr. Asja Fischer vom Lehrstuhl für Maschinelles Lernen sowie Lea Schönherr und Prof. Dr. Dorothea Kolossa von der Arbeitsgruppe für Kognitive Signalverarbeitung.

Frequenzanalyse offenbart typische Artefakte

Bisher wurden Deep-Fake-Bilder mit aufwendigen statistischen Verfahren untersucht. Die Bochumer Gruppe wählte einen anderen Ansatz, indem sie die Bilder mit der Diskreten Kosinustransformation in den Frequenzbereich umwandelte. Dabei wird das generierte Bild als Summe vieler verschiedener Kosinus-Funktionen ausgedrückt. Natürliche Bilder bestehen größtenteils aus niederfrequenten Funktionen.

Die Analyse zeigte, dass von GANs generierte Bilder verschiedene Arten von Artefakten im hochfrequenten Bereich aufweisen. So wird in der Frequenzdarstellung von gefälschten Bildern beispielsweise eine typische Gitterstruktur sichtbar.

„Unsere Experimente haben ergeben, dass diese Artefakte nicht nur bei GANs auftreten, sondern dass es sich um ein strukturelles Problem aller Deep-Learning-Algorithmen handelt“, erklärt Joel Frank.

„Wir gehen davon aus, dass man anhand der in unserer Studie beschriebenen Artefakte immer erkennt, ob es sich um ein Deep-Fake-Bild handelt, das mit maschinellem Lernen erstellt wurde“, ergänzt Frank. „Die Frequenzanalyse ist somit ein effektiver Weg, computergenerierte Bilder automatisiert zu erkennen.“

Vollständige Bildzeile zur Frequenzdarstellungs-Grafik siehe: https://news.rub.de/wissenschaft/2020-07-16-informationstechnik-fake-bilder-anha…

Joel Frank
Lehrstuhl für Systemsicherheit
Fakultät für Elektrotechnik und Informationstechnik
Ruhr-Universität Bochum
Tel.: +49 234 32 27814 (Sekretariat)
E-Mail: joel.frank@rub.de

Joel Frank, Thorsten Eisenhofer, Lea Schönherr, Asja Fischer, Dorothea Kolossa, Thorsten Holz: Leveraging frequency analysis for deep fake image recognition, International Conference on Machine Learning (ICML), Virtuelle Konferenz, 2020, Online-Veröffentlichung

Media Contact

Dr. Julia Weiler idw - Informationsdienst Wissenschaft

Alle Nachrichten aus der Kategorie: Informationstechnologie

Neuerungen und Entwicklungen auf den Gebieten der Informations- und Datenverarbeitung sowie der dafür benötigten Hardware finden Sie hier zusammengefasst.

Unter anderem erhalten Sie Informationen aus den Teilbereichen: IT-Dienstleistungen, IT-Architektur, IT-Management und Telekommunikation.

Zurück zur Startseite

Kommentare (0)

Schreib Kommentar

Neueste Beiträge

Mit UV-C-Strahlung wirksam gegen das Coronavirus vorgehen

PTB untersuchte den Raumluftreiniger von Braunschweiger Entwicklern: Für den untersuchten Prototyp lässt sich abschätzen, dass durch das Gerät geführte Viren zerstört und somit die Virenlast in der Raumluft prinzipiell deutlich…

Azoren-Plateau entstand durch Vulkanismus und tektonische Dehnung

Der submarine Terceira-Graben geht auf tektonische und vulkanische Aktivitäten zurück und ähnelt damit kontinentalen Grabensystemen. Dies zeigen Lavaproben vom Meeresboden, die 2016 bei der Expedition M128 mit dem Forschungsschiff Meteor…

Schmerzmittel für Pflanzen

Forschende am IST Austria behandeln Pflanzen mit Schmerzmitteln und gewinnen so neue Erkenntnisse über das Pflanzenwachstum. Neue Studie in Cell Reports veröffentlicht. Jahrhundertelang haben Menschen Weidenrinde zur Behandlung von Kopfschmerzen…

By continuing to use the site, you agree to the use of cookies. more information

The cookie settings on this website are set to "allow cookies" to give you the best browsing experience possible. If you continue to use this website without changing your cookie settings or you click "Accept" below then you are consenting to this.

Close