Forschungsprojekt FAKE-ID

FAKE-ID Videoanalyse mit Hilfe künstlicher Intelligenz zur Detektion von falschen und manipulierten Identitäten

Projektleitung: Prof. Dr. Hartmut Aden und Prof.in Dr. Sabrina Schönrock

Bei Deepfakes handelt es sich um Bild- und Videofälschungen, die mittels Künstlicher Intelligenz (KI) hergestellt werden. Sie werden vor allem zur Verbreitung (politischer) Desinformationen, aber auch zur Manipulation digitaler Identitätsnachweise genutzt. 

Das Projekt FAKE-ID erarbeitet Kriterien, wie manipulierte Bilder und Videodatenströmen identifiziert und klassifiziert werden können. Auf deren Grundlage soll später ein Detektionsprogramm entwickelt werden, das mit Hilfe von KI die (mutmaßliche) Authentizität digitaler Bilder und Videos bzw. deren Fälschung abschätzen kann. Das FÖPS-Teilvorhaben beschäftigt sich mit den rechtlichen, ethischen und gesellschaftlichen Anforderungen an die Entwicklung und den polizeilichen Einsatz eines solchen Detektionsprogramms. Im Sinne einer partizipativen Forschung sucht das FÖPS dabei auch den Dialog mit Nicht-Regierungs-Organisationen (NGOs), die sich mit den Gefahren des KI-Einsatzes im Sicherheitskontext auseinandersetzen. (Mehr zum Projekt in unserer ausführlichen Projektbeschreibung)

Deepfake | Themen

Beteiligte Partner*innen:  

Assoziierte Partnerschaften: 

Förderung: BMBF im Rahmen des Themenfeldes „Künstliche Intelligenz in der zivilen Sicherheitsforschung“  
Projektlaufzeit: 1. Mai 2021 bis 31. Oktober 2024.