Kampf gegen digitale Täuschung
Jury wählt FZI-Projekt zur Deepfake-Erkennung bei SPRIND Innovationswettbewerb aus
Forschungsschwerpunkte: Applied Artificial Intelligence, Digital Democracy and Participation
12 Teams erhalten im ersten Schritt bis zu 350.000 Euro für die Entwicklung von Lösungen zur effektiven Erkennung von Deepfake-Fotos, darunter das FZI-Team mit der Einreichung „MuDDi: Multi-modal Deepfake Detection“.
Im 21. Jahrhundert wird die Integrität digitaler Medien und Informationen zunehmend durch sogenannte Deepfakes bedroht – hochrealistische, KI-generierte synthetische Inhalte. Diese Technologie birgt erhebliche Risiken für Desinformation, Betrug und Manipulation der öffentlichen Meinung. Um dieser Herausforderung zu begegnen, führt die Bundesagentur für Sprunginnovationen SPRIND im Auftrag des Bundesministeriums für Digitales und Verkehr (BMDV) den Innovationswettbewerb SPRIND Funke „Deepfake Detection and Prevention“ durch.
Multi-modal Deepfake Detection
Eines von 12 ausgezeichneten Teams beim Innovationswettbewerb ist das FZI-Team MuDDi, kurz für „Multi-modal Deepfake Detection“. Der Ansatz des FZI-Teams um Dr. Jonas Fegert, Dr. Steffen Thoma, Prof. Dr. Achim Rettinger und Prof. Dr. Wilhelm Stork: Um dem Zustrom synthetischer Daten entgegenzuwirken, wird im Projekt MuDDi ein umfassender Ansatz zur Erkennung von Deepfakes in verschiedenen Medientypen entwickelt – also sowohl für Videos, als auch für Bilder sowie Audio.
Ziel ist eine umfassende Wahrscheinlichkeitsbewertung für die Erkennung von Deepfakes über mehrere Medientypen hinweg. So legt das Projekt beispielsweise bei der Bildanalyse den Schwerpunkt auf High-Level-Merkmale wie geometrische Muster und Farbverteilungen, die durch Verfahren zur Erkennung von Wasserzeichen ergänzt werden.
Projektleiter Dr. Jonas Fegert: „Das ist einer unserer Beiträge für eine widerstandsfähigere Demokratie und ein neuartiger Ansatz aus unserer Forschung am FZI zu Applied Artificial Intelligence und Digital Democracy and Participation.“
Neue Erkenntnisse und Methoden im Bereich der KI und des maschinellen Lernens für bessere Deepfake-Erkennung
Wissenschaftliche Fortschritte der letzten Jahre haben neue Erkenntnisse und Methoden im Bereich der künstlichen Intelligenz und des maschinellen Lernens hervorgebracht. Diese können genutzt werden, um leistungsfähigere Systeme zur Deepfake-Erkennung und -Prävention zu entwickeln. Obwohl bereits verschiedene Ansätze zur Bekämpfung von Deepfakes demonstriert wurden, beschränken sich diese bisher oft auf Nischenanwendungen oder spezifische Arten von Deepfakes. Ziel muss es jedoch sein, umfassende und skalierbare Lösungen zu entwickeln, die das Vertrauen in unsere Medien und unsere Kommunikation sicherstellen können.
Auf dem Weg zu einem effektiven Schutz vor Deepfakes gilt es eine Reihe von Herausforderungen zu bewältigen. So ist die Erkennung von Deepfakes derzeit oft nicht zuverlässig genug, da die Technologien zur Erstellung synthetischer Inhalte sich schnell weiterentwickeln. Bestehende Erkennungsmethoden haben Schwierigkeiten mit der Generalisierbarkeit und sind oft nur für bestimmte Arten von Deepfakes effektiv. Präventionsmaßnahmen sind bisher begrenzt und lassen sich nicht nahtlos in bestehende digitale Infrastrukturen integrieren.
„Der SPRIND Funke Deepfake Detection and Prevention hat die Entwicklung von Lösungen zur effektiven Erkennung von Deepfake-Fotos beziehungsweise Prävention durch die Unmanipulierbarkeit von Original-Fotos zum Ziel. Zu entwickelnde Lösungen sollen dabei die gesamte Wertschöpfungskette der digitalen Medienverarbeitung berücksichtigen – von der präventiven Authentifizierung und Sicherung von Originalinhalten über die Echtzeitanalyse und Erkennung von manipulierten oder synthetisch erstellten Medien, bis hin zur nahtlosen Integration in bestehende digitale Infrastrukturen und Plattformen“, erklärt Dr. Jano Costard, Challenge Officer der SPRIND.
Über den SPRIND Innovationswettbewerb
Eine Fachjury hat aus fast 50 Bewerbungen nun insgesamt 12 Teams ausgewählt, die für die kommenden sieben Monate jeweils bis zu 350.000 Euro erhalten. Die Teams stammen aus Forschungseinrichtungen, Hochschulen und Start-ups aus Frankreich, Deutschland und Slowenien.
Im Mai 2025 präsentieren die Teams erneut vor der Jury. Diese wird dann bis zu 10 Teams auswählen, die dann zusätzlich bis zu 375.000 Euro pro Team bekommen für die Weiterentwicklung ihrer Lösung bis zum Abschluss des Innovationswettbewerbes im November 2025.
Weitere Informationen und Beschreibungen der teilnehmenden Teams finden Interessierte unter https://www.sprind.org/de/challenges/funke-deepfake
Über das FZI
Das FZI Forschungszentrum Informatik mit Hauptsitz in Karlsruhe und Außenstelle in Berlin ist eine gemeinnützige Einrichtung für Informatik-Anwendungsforschung und Technologietransfer. Sie bringt die neuesten wissenschaftlichen Erkenntnisse der Informationstechnologie in Unternehmen und öffentliche Einrichtungen und qualifiziert für eine akademische und wirtschaftliche Karriere oder den Sprung in die Selbstständigkeit. Betreut von Professorinnen und Professoren verschiedener Fakultäten entwickeln die Forschungsgruppen am FZI interdisziplinär für ihre Auftraggeber Konzepte, Software-, Hardware- und Systemlösungen und setzen die gefundenen Lösungen prototypisch um. Mit dem FZI House of Living Labs steht eine einzigartige Forschungsumgebung für die Anwendungsforschung bereit. Das FZI ist Innovationspartner des Karlsruher Instituts für Technologie (KIT) und strategischer Partner der Gesellschaft für Informatik (GI).
Weitere Links: