Deep Fake: Wie sich künstlich erzeugte Bilder verraten
Menschen haben oft keine Chance, künstlich erzeugte Bilder, Audios oder Videos von echten zu unterscheiden. Deswegen arbeiten Forschende an einer automatisierten Erkennung.
Künstliche Intelligenzen können auf Basis einer Texteingabe in kürzester Zeit ein Bild erzeugen, das wie ein Foto aussieht und für menschliche Augen davon nicht zu unterscheiden ist. Das ist faszinierend – zieht aber prinzipiell jedes Bild in Zweifel. Jonas Ricker hat sich in seiner Doktorarbeit an der Fakultät für Informatik der Ruhr-Universität Bochum auf die technische Erkennung gefakter Bilder spezialisiert. Er sucht Möglichkeiten, künstlich erzeugte von echten Fotos und Videos zu unterscheiden. Über seine Arbeit berichtet er in Rubin, dem Wissenschaftsmagazin der Ruhr-Universität Bochum.
Schritt für Schritt zum Rauschen und zurück
Das sogenannte Diffusion Model zur Bilderzeugung ist durch die Anwendung „Stable diffusion“ zurzeit sehr populär: „Das grundlegende Prinzip klingt zunächst verwunderlich“, so Ricker: „Ein echtes Bild wird Schritt für Schritt zerstört, indem zufälliges Rauschen hinzugefügt wird – daher der Name. Nach einigen hundert Schritten sind keine Bildinformationen mehr vorhanden, das Bild ist vollständig verrauscht. Das Ziel des Modells ist nun, diesen Prozess umzukehren, um das ursprüngliche Bild zu rekonstruieren – was ein schwieriges Problem darstellt.“ Der Schlüssel liegt darin, das Bild nicht direkt vorherzusagen, sondern wie beim Verrauschen Schritt für Schritt vorzugehen. Mit einer ausreichend großen Anzahl an Trainingsdaten kann das Modell lernen, ein verrauschtes Bild ein kleines bisschen weniger verrauscht zu machen. Durch die wiederholte Anwendung lassen sich dann aus zufälligem Rauschen komplett neue Bilder erzeugen.
Fake-Profile in Social Media enttarnen
„Das Diffusion Model ist schon jetzt sehr gut in der Erzeugung täuschend echter Bilder und wird sich künftig noch verbessern“, ist Jonas Ricker sicher. Das macht es noch schwieriger, echte Bilder von so erzeugten zu unterscheiden. Er testet aktuell verschiedene Ansätze, die es erlauben, durch das Modell erzeugte Bilder von echten Fotos zu unterscheiden. Wichtig ist die Unterscheidung echter und gefälschter Bilder nicht nur, um Fake News zu enttarnen, die zum Beispiel als Video daherkommen, sondern auch, um Fake-Profile in Social Media dingfest zu machen. Sie werden in großem Stil eingesetzt, um zum Beispiel die öffentliche Meinung politisch zu beeinflussen. „Im Exzellenzcluster CASA geht es genau darum: großskalige Angreifer wie Staaten oder Geheimdienste zu enttarnen, die über die Mittel verfügen, mittels Deep Fakes Propaganda zu machen“, so Jonas Ricker.
Ausführlicher Beitrag im Wissenschaftsmagazin Rubin
Einen ausführlichen Beitrag zum Thema finden Sie in der Sonderausgabe des Wissenschaftsmagazins Rubin zum Thema IT-Sicherheit: https://news.rub.de/wissenschaft/2023-03-08-deepfake-wie-sich-kuenstlich-erzeugt…. Für redaktionelle Zwecke dürfen die Texte auf der Webseite unter Angabe der Quelle „Rubin – Ruhr-Universität Bochum“ sowie Bilder aus dem Downloadbereich unter An-gabe des Copyrights und Beachtung der Nutzungsbedingungen honorarfrei verwendet werden.
Rubin kann als Printmagazin oder als Newsletter kostenlos abonniert werden: https://news.rub.de/rubin.
Wissenschaftliche Ansprechpartner:
Jonas Ricker
Fakultät für Informatik
Ruhr-Universität Bochum
Tel.: +49 234 32 23486
E-Mail: jonas.ricker@ruhr-uni-bochum.de
Media Contact
Alle Nachrichten aus der Kategorie: Informationstechnologie
Neuerungen und Entwicklungen auf den Gebieten der Informations- und Datenverarbeitung sowie der dafür benötigten Hardware finden Sie hier zusammengefasst.
Unter anderem erhalten Sie Informationen aus den Teilbereichen: IT-Dienstleistungen, IT-Architektur, IT-Management und Telekommunikation.
Neueste Beiträge
Neue Sensorkonzepte dank integrierter Lichtwellenleiter aus Glas
Auf hoher See und in der Hochleistungs-Elektronik. In Glas integrierte Lichtleiter haben das Potenzial, die Messqualität von Sensoren für Forschung und Industrie deutlich zu verbessern. Im Projekt „3DGlassGuard“ arbeitet ein…
Regenerative Kraftstoffe: Baukasten für die Verkehrswende
Vor etwa zehn Jahren wurde an der Hochschule Coburg der Diesel-Kraftstoff R33 entwickelt – der Name steht für einen Anteil von 33 Prozent erneuerbarer Komponenten. Dieses Potenzial wurde nun mit…
‚Starke‘ Filter – Neuartige Technologie für bessere Displays und optische Sensorik
Studie zeigt, wie ein quantenmechanisches Prinzip der starken Kopplung bislang unerreichte Möglichkeiten zur Konstruktion optischer Filter eröffnet: Sogenannte „Polaritonfilter“ eröffnen revolutionäre Wege in der Bildgebung. Publikation in „Nature Communications“. Einem…