VIKING: Vertrauenswürdige Künstliche Intelligenz für polizeiliche Anwendungen

FÖPS-Teilvorhaben an der HWR Berlin: Rechtliche Anforderungen an vertrauenswürdige künstliche Intelligenz für polizeiliche Anwendungen

Künstliche Intelligenz (KI) und deren vielfältige Nutzungsmöglichkeiten dringen immer weiter in das gesellschaftliche Leben vor. KI-Anwendungen werfen dabei zahlreiche, zumeist komplexe Rechtsfragen auf. Der Einsatz von KI-basierten-Anwendungen im Rahmen polizeilicher Anwendungen und der Strafverfolgung stellt dabei eine besondere Herausforderung dar. Diesem Untersuchungsgegenstand widmet sich das Forschungsprojekt VIKING.

Bestehende Regelungsstrukturen wie das Strafverfahrens- und Datenschutzrecht bieten zwar Anknüpfungspunkte. Zusätzlich sind aber auch neue Regelungsansätze erforderlich und teils bereits im Entstehen. Hierfür setzt der im April 2021 vorgelegte Verordnungsentwurf zur Regulierung künstlicher Intelligenz der Europäischen Kommission (COM(2021) 206 final) Maßstäbe. Die rechtswissenschaftliche Forschung konzentriert sich bisher auf einzelne polizeiliche KI-Anwendungsfelder, insbesondere bei der Gesichts-, Sprecher- und Objekterkennung sowie der Textauswertung. Im VIKING-Projekt werden die KI-spezifischen Fragestellungen im Hinblick auf die rechtliche Bewertung polizeilicher KI-Anwendungen und deren Grenzen mit dem bereits etablierten und vertiefter erforschten Rechtsrahmen des Datenschutz-, Polizei- und Strafverfahrensrechts zusammengeführt. Dies gilt etwa für die Transparenzanforderungen, die 2016 auch im EU-Datenschutzrecht verankert wurden. VIKING leistet damit einen Beitrag zur interdisziplinären Konkretisierung und zur (technischen) Implementierung hoher rechtlicher Anforderungen für die polizeiliche Datenauswertung mit KI-Anwendungen.

Das vom Forschungsinstitut für Öffentliche und Private Sicherheit (FÖPS Berlin) der Hochschule für Wirtschaft und Recht Berlin betreute VIKING-Teilvorhaben Rechtliche Anforderungen an vertrauenswürdige künstliche Intelligenz für polizeiliche Anwendungen ist ein zentrales Element des im VIKING-Projekt verfolgten integrierten, interdisziplinären Ansatzes. Das Teilvorhaben erarbeitet die rechtlichen Elemente eines Anforderungskatalogs, der konkret operationalisierbare ethische und rechtliche Voraussetzungen und Grenzen für die Entwicklung und den Einsatz von KI-Verfahren in polizeilichen Anwendungen darlegt. Das rechtswissenschaftliche Teilvorhaben ist daher mit den ethischen und technischen Teilvorhaben eng verknüpft. Die rechtlich-ethischen Anforderungen fließen in die Technikgestaltung ein, um die Einhaltung dieser Anforderungen möglichst unabhängig von den späteren Anwenderinnen und Anwendern zu machen.

Dem VIKING-Konsortium gehören neben der HWR Berlin die IDEMIA Identity & Security Germany AG (Konsortialführer), die Universität Konstanz (UKON), die Universität Tübingen (IZEW), die Universität der Bundeswehr München (FI CODE), das Deutsche Institut für Normung (DIN), das Fraunhofer Institut für digitale Medientechnologie (IDMT), die Zentrale Stelle für Informationstechnik im Sicherheitsbereich (ZITiS), das Landeskriminalamt Nordrhein-Westfalen (LKA NRW) und das Polizeipräsidium München (PPM) an. Assoziierte Partnerschaften bestehen mit dem Bundeskriminalamt (BKA), dem Landeskriminalamt Baden-Württemberg (LKA BW) und dem Bundesamt für Sicherheit in der Informationstechnik (BSI).

Das Gesamtvorhaben wird vom BMBF im Rahmen des Themenfelds „Künstliche Intelligenz in der zivilen Sicherheitsforschung“ gefördert. Das rechtliche Teilprojekt wird von Prof. Dr. Hartmut Aden und Prof.in Dr. Sabrina Schönrock geleitet und von Steven Kleemann, Milan Tahraoui und Anna Louban bearbeitet.

Projektlaufzeit: Januar 2022 – Dezember 2024

Keywords: Vertrauenswürdige Künstliche Intelligenz, Nachvollziehbarkeit, Angriffsfestigkeit, Debiasing, Transparenz, (Grund-)Rechtskonformität, ethische Bewertung, Standardisierung