Forschungsprojekt FAKE-ID

Abgeschlossenes Projekt: FAKE-ID Videoanalyse mit Hilfe künstlicher Intelligenz zur Detektion von falschen und manipulierten Identitäten (2021-2024)

Projektleitung: Prof. Dr. Hartmut Aden und Prof.in Dr. Sabrina Schönrock

Bei Deepfakes handelt es sich um Bild- und Videofälschungen, die mittels Künstlicher Intelligenz (KI) hergestellt werden. Sie werden vor allem zur Verbreitung (politischer) Desinformationen, aber auch zur Manipulation digitaler Identitätsnachweise genutzt. 

Das Projekt FAKE-ID erarbeitete Kriterien, wie manipulierte Bilder und Videodatenströmen identifiziert und klassifiziert werden können. Auf deren Grundlage wurde ein Detektionsprogramm entwickelt, das mit Hilfe von KI die (mutmaßliche) Authentizität digitaler Bilder und Videos bzw. deren Fälschung abschätzen kann. Das FÖPS-Teilvorhaben beschäftigte sich mit den rechtlichen, ethischen und gesellschaftlichen Anforderungen an die Entwicklung und den polizeilichen Einsatz eines solchen Detektionsprogramms. Im Sinne einer partizipativen Forschung suchte das FÖPS dabei auch den Dialog mit Nicht-Regierungs-Organisationen (NGOs), die sich mit den Gefahren des KI-Einsatzes im Sicherheitskontext auseinandersetzen. (Mehr zum Projekt in unserer ausführlichen Projektbeschreibung)

Deepfake | Themen

Beteiligte Partner*innen:  

Assoziierte Partnerschaften: 

Förderung: BMBF im Rahmen des Themenfeldes „Künstliche Intelligenz in der zivilen Sicherheitsforschung“ 
Projektlaufzeit: 1. Mai 2021 bis 31. Oktober 2024.