FAKE-ID: Ethik & Recht

Wie bei der Regulierung von KI im Allgemeinen wurde auch die Regulierung von Deepfakes zunächst aus einer ethischen und nicht aus einer rechtlichen Perspektive angegangen. Es wäre jedoch falsch, rechtliche und ethische Regelungen voneinander zu trennen, da sich die beiden Regulierungsperspektiven gegenseitig ergänzen. Die Grenze zwischen rechtlichen und ethischen Regelwerken kann verschwimmen, wie die UNESCO-Empfehlung zur KI-Ethik (SHS/BIO/REC AIETHICS/2021) zeigt, die im November 2021 von allen 193 UNESCO-Mitgliedstaaten angenommen wurde. Trotz des Titels des Dokuments sind die darin enthaltenen Grundsätze nicht nur ethischer, sondern auch rechtlicher Natur, wenn auch ohne verbindliche Rechtskraft.

Auf europäischer Ebene wird derzeit eine Verordnung zur Regelung von KI erarbeitet. Der Entwurf der KI-Verordnung enthält auch Regelungen zu Deepfakes. Bei der Ausarbeitung ihres Vorschlags für eine KI-Verordnung stützte sich die Europäische Kommission auf die von einer hochrangigen Expertengruppe im April 2019 veröffentlichten KI-Ethikleitlinien, die nach ihrer endgültigen Verabschiedung und ihrem Inkrafttreten sofort für alle EU-Mitgliedstaaten verbindlich sein werden.

Im Hinblick auf Deepfakes wird Artikel 52 Absatz 3 des Entwurfs der KI-Verordnung die wichtigste Bestimmung sein. Danach müssen alle online verbreiteten Deepfakes als solche gekennzeichnet werden, es sei denn, sie werden von Strafverfolgungsbehörden zu legalen Zwecken verwendet oder dienen der Ausübung von Freiheiten und Rechten unter Wahrung der Rechte und Freiheiten Dritter.

Unabhängig davon, ob man eine rechtliche oder ethische Perspektive einnimmt, haben sich gemeinsame, allgemeine Grundsätze für die KI-Regulierung herauskristallisiert, die auch für Deepfakes gelten, insbesondere Transparenz, Erklärbarkeit und Rückverfolgbarkeit während der gesamten Entwicklung und Anwendung. Diese Grundsätze bleiben jedoch relativ abstrakt und bedürfen im Einzelfall weiterer Klärung, insbesondere im Hinblick auf bestehende Risiken. So stellt die Regulierung von Deepfakes nicht die gleichen Herausforderungen dar wie die Regulierung von KI-gestützten Gesichtserkennungs-Tools, obwohl sich die beiden Technologien in einigen Fällen überschneiden.

Der Entwurf der KI-Verordnung basiert auf dem Wissen, dass Deepfakes auch im Zusammenhang mit legitimen Anwendungsfällen Risiken bergen. Dazu gehören Betrug, nicht einvernehmliche Pornografie, Desinformation und falsche Beweise. Der Vorschlag der Europäischen Kommission für eine KI-Verordnung verfolgt einen risikobasierten Ansatz und teilt KI-Systeme in vier Gruppen ein: verboten, risikoreich, risikoarm und minimal oder risikofrei. Deepfakes fallen in eine Kategorie mit mittlerem Risiko sui generis und unterliegen der Transparenzpflicht. Wenn Polizeibehörden jedoch Deepfakes zu Strafverfolgungszwecken einsetzen oder Deepfakes erstellen, fallen sie in die Kategorie mit hohem Risiko.

Aktuelle Beiträge

…