FAKE-ID: Projektbeschreibung

Bei Deepfakes handelt es sich um Bild- und Videofälschungen, die mittels Künstlicher Intelligenz (KI) hergestellt werden. Sie werden vor allem zur Verbreitung (politischer) Desinformationen, aber auch zur Manipulation digitaler Identitätsnachweise benutzt. Mit der Ausweitung digitaler Identifizierungsverfahren geraten Privatpersonen zunehmend in den Fokus Deepfake-basierter Betrugsszenarien.

Das Projekt FAKE-ID erarbeitete Kriterien, anhand derer manipulierte Bilder und Videodatenströmen identifiziert und klassifiziert werden können. Damit schaffte es die Grundlagen für die Entwicklung eines Detektionsprogramms, das seinerseits mit Hilfe von KI die (mutmaßliche) Authentizität digitaler Bilder und Videos bzw. deren Fälschung abschätzen kann. 

Das FÖPS-Teilvorhaben beschäftigte sich mit den rechtlichen, ethischen und gesellschaftlichen Anforderungen an die Entwicklung und den polizeilichen Einsatz eines KI-basierten Detektionsprogramms. Dabei ging es u.a. um ethische Fragen bei der Nutzung von Trainingsdaten, die für die Entwicklung des Systems notwendig sind; um die Transparenz, Rückverfolgbarkeit und Verantwortlichkeiten von Entscheidungen, die mit Hilfe einer „schwachen KI“ getroffen werden; um rechtliche und ethische Voraussetzungen für die Verwertbarkeit der Detektionsergebnisse in Gerichtsverfahren; sowie um den Schutz vor ausschließlich automatisierten Entscheidungen, wie ihn Art. 22 der EU-DSVGO vorsieht. Das FÖPS arbeitete dazu eng mit staatlichen und privaten Institutionen der Informationstechnologie zusammen, um den KI-gestützten Detektor von Grund auf nach den Prinzipien von Privacy by Design and by Default datenschutzkonform zu entwerfen. Im Sinne einer partizipativen Forschung suchte das FÖPS dabei auch den Dialog mit Nicht-Regierungs-Organisationen (NGOs), die sich mit den Gefahren des KI-Einsatzes im Sicherheitskontext auseinandersetzen.

Projektpartner*innen

Bundesdruckerei GmbH (Konsortialführung)

Otto-von-Guericke-Universität Magdeburg

Fraunhofer Heinrich Hertz Institut (HHI)

BioID GmbH (BIOID)

Assoziierte Partnerschaften: Zentralstelle für Informationstechnik im Sicherheitsbereich (ZITiS), Landeskriminalämter von Berlin und Sachsen-Anhalt, Deutsche Post DHL Group (DP), Cybersec Verbund Sachsen-Anhalt sowie Fachhochschule für Verwaltung und Dienstleistung (FHVD)

Förderung: BMBF im Rahmen des Themenfeldes „Künstliche Intelligenz in der zivilen Sicherheitsforschung“ 
Projektlaufzeit: 1. Mai 2021 bis 31. Oktober 2024.