Kampf gegen digitale Täuschung

Wissenschaftliche Fortschritte der letzten Jahre haben neue Erkenntnisse und Methoden im Bereich der künstlichen Intelligenz und des maschinellen Lernens hervorgebracht. Diese können genutzt werden, um leistungsfähigere Systeme zur Deepfake-Erkennung und -Prävention zu entwickeln. Obwohl bereits verschiedene Ansätze zur Bekämpfung von Deepfakes demonstriert wurden, beschränken sich diese bisher oft auf Nischenanwendungen oder spezifische Arten von Deepfakes. Ziel muss es jedoch sein, umfassende und skalierbare Lösungen zu entwickeln, die das Vertrauen in unsere Medien und unsere Kommunikation sicherstellen können.

Auf dem Weg zu einem effektiven Schutz vor Deepfakes gilt es eine Reihe von Herausforderungen zu bewältigen. So ist die Erkennung von Deepfakes derzeit oft nicht zuverlässig genug, da die Technologien zur Erstellung synthetischer Inhalte sich schnell weiterentwickeln. Bestehende Erkennungsmethoden haben Schwierigkeiten mit der Generalisierbarkeit und sind oft nur für bestimmte Arten von Deepfakes effektiv. Präventionsmaßnahmen sind bisher begrenzt und lassen sich nicht nahtlos in bestehende digitale Infrastrukturen integrieren.

„Der SPRIND Funke Deepfake Detection and Prevention hat die Entwicklung von Lösungen zur effektiven Erkennung von Deepfake-Fotos beziehungsweise Prävention durch die Unmanipulierbarkeit von Original-Fotos zum Ziel. Zu entwickelnde Lösungen sollen dabei die gesamte Wertschöpfungskette der digitalen Medienverarbeitung berücksichtigen – von der präventiven Authentifizierung und Sicherung von Originalinhalten über die Echtzeitanalyse und Erkennung von manipulierten oder synthetisch erstellten Medien, bis hin zur nahtlosen Integration in bestehende digitale Infrastrukturen und Plattformen“, erklärt Dr. Jano Costard, Challenge Officer der SPRIND.