FAKE-ID: Gesellschaft & Wissenschaft

Bei Deepfakes handelt es sich um manipulierte oder neu generierte digitale Medieninhalte, die mit Hilfe von Künstlicher Intelligenz (KI) erzeugt wurden. Früher ein Nischenprodukt der IT-Szene, wurden sie in den letzten Jahren für visuelle Effekte großer Filmproduktionen eingesetzt und finden heute Anwendung in vielen Bereichen von Wissenschaft und Politik. Ihre Herstellung basiert auf dem Einsatz komplexer technischer Methoden des Deep Learning. Ihre Wirkung beruht darauf, dass sie von Rezipient*innen regelmäßig als ‚echte‘ Ereignisse wahrgenommen werden, obwohl es sich bei den Bildern, Videos oder Tonaufnahmen um gefälschte (fake) Inhalte handelt.

Dabei sind heute vielfältige Formen der Manipulation oder Fälschung von Informationen durch Deepfakes möglich: dargestellte Akteur*innen können ausgetauscht, Ereignisse an andere Orte übertragen oder der zeitliche Ablauf von Geschehnissen verändert werden. Auch komplett fiktive Handlungen frei erfundener Akteur*innen können mittels KI erzeugt und in Form von Deepfakes glaubwürdig präsentiert werden.

Zugleich lassen sich Deepfakes heute ohne Programmierkenntnisse und mit wenigen Ressourcen (etwa mit Hilfe von Apps) in hoher technischer Qualität erzeugen. Vor diesem Hintergrund werfen Deepfakes zahlreiche Fragen über ‚Realität‘ und ‚Wahrheit‘ sowie die gesellschaftlichen Chancen und Risiken dieser Technologie auf.