FAKE-ID: Strafverfolgung & Gerichte

Deepfakes können für eine Vielzahl von Straftaten genutzt werden. Etwa zur Identitätstäuschung, zur Verletzung der Persönlichkeitsrechte von Personen im Internet (z. B. der sogenannte Deepfake revenge porn), zur Verbreitung von Hass im Netz oder zum Betrugszwecken. Deshalb muss sich auch die Polizei und Staatsanwaltschaft mit diesem Thema befassen, da sie für die Strafverfolgung regelmäßig digitale Bild- und Videoaufnahmen prüfen und auswerten müssen. Die Detektion von Deepfakes sowie deren Sicherstellung als potenzielles Beweismittel bringt dabei neue Herausforderungen mit sich: Die zunehmende Menge digitaler Beweismittel sowie deren vielfältigen Manipulationsmöglichkeiten stellt neue Anforderungen an die technischen Verfahren der Gewinnung, Sicherung und Speicherung sowie Verarbeitung und Auswertung digitaler Beweismittel. Für die Strafverfolgungsbehörden kommt es u.a. darauf an, wie sie Deepfakes zuverlässig und nachvollziehbar erkennen, einen hohen Beweiswert des Materials erhalten und die Ergebnisse ihrer Ermittlungen inklusive des detektierten digitalen Materials gesetzkonform ins Verfahren einbringen können. Dies gilt auch für Online-Inhalte, die als synthetische Medien gelten und gemäß Artikel 50 Absatz 2 der KI-Verordnung auch als solche gekennzeichnet werden müssen, um technisch darauf hinzuweisen, dass sie durch KI erzeugt oder verzerrt wurden, da Deepfakes eine Untergruppe der synthetischen Medien darstellen.

Das Projekt FAKE-ID hat zur Unterstützung dieser Arbeit einen KI-basierten Deepfake-Detektor gebaut, mit dessen Hilfe die Authentizität vorgelegter Bild- und Videodaten eingeschätzt werden kann.