Deepfake

Ein Deepfake ist ein mit KI erzeugtes oder verändertes Bild, Video oder Tondokument, das echte Personen, Orte oder Ereignisse so nachbildet, dass es für echt gehalten werden kann. Typisch sind Videos, in denen eine reale Person Dinge sagt oder tut, die nie passiert sind. Der Begriff setzt sich aus „Deep Learning“ und „Fake“ zusammen.

Wie entstehen Deepfakes?

Früher brauchte man für einen Deepfake viel Bildmaterial einer Person und ein eigens trainiertes Modell, das ein Gesicht auf ein anderes überträgt (Face Swap). Heute reichen oft ein einzelnes Foto und eine kurze Sprachaufnahme. KI-Avatar-Tools erzeugen daraus eine sprechende Person, Voice Cloning liefert die passende Stimme, und Lip-Sync passt die Mundbewegungen an.

Dieselbe Technik steckt in legitimen Anwendungen, etwa wenn du einen KI-Avatar von dir selbst erstellst oder ein eigenes Video in andere Sprachen übersetzen lässt. Zum Deepfake im problematischen Sinn wird ein Inhalt, wenn er täuscht oder ohne Einwilligung der dargestellten Person entsteht.

Was sagt das Recht zu Deepfakes?

Die EU-KI-Verordnung definiert Deepfakes in Artikel 3 Nr. 60 als KI-erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die echten Personen, Gegenständen, Orten oder Ereignissen ähneln und fälschlich als echt erscheinen würden. Nach Artikel 50 müssen Betreiber, die solche Inhalte beruflich einsetzen, offenlegen, dass sie künstlich erzeugt oder verändert wurden. Für erkennbar künstlerische, satirische oder fiktionale Werke gelten eingeschränkte Pflichten.

Unabhängig davon schützt in Deutschland das Persönlichkeitsrecht Bild und Stimme einer Person. Bildnisse dürfen nach § 22 Kunsturhebergesetz grundsätzlich nur mit Einwilligung verbreitet werden. Je nach Inhalt kommen Beleidigung, Betrug oder Verletzungen des höchstpersönlichen Lebensbereichs hinzu.

Worauf du achten solltest

Verwende nur dein eigenes Gesicht und deine eigene Stimme oder die von Personen, die schriftlich zugestimmt haben. Kennzeichne realistische KI-Videos von Menschen deutlich, auch wenn sie harmlos gemeint sind. Viele Plattformen wie YouTube, TikTok und Instagram verlangen eine Kennzeichnung realistischer KI-Inhalte in ihren Richtlinien.

Mehr dazu im Ratgeber KI-Videos und Recht.