KI-Detektor

Ein KI-Detektor ist ein Werkzeug, das einschätzen soll, ob ein Video, Bild, Ton oder Text von einer künstlichen Intelligenz erzeugt oder verändert wurde. Für Videos gibt es zwei Ansätze: Die einen suchen nach eingebetteten Markierungen wie Wasserzeichen oder Herkunftsdaten, die anderen analysieren das Material selbst auf typische Merkmale von KI-Videos.

Wie funktionieren KI-Detektoren?

Der erste Ansatz prüft Markierungen, die der Hersteller beim Erzeugen eingebaut hat. Google versieht Inhalte seiner Modelle mit dem unsichtbaren Wasserzeichen SynthID. Laut Google-Hilfe kannst du in der Gemini-App ein Video hochladen und prüfen lassen, ob es dieses Wasserzeichen enthält. Der offene Standard C2PA speichert Herkunftsangaben als signierte Metadaten in der Datei. Solche Prüfungen sind recht verlässlich, erkennen aber nur Inhalte, die tatsächlich markiert wurden.

Der zweite Ansatz arbeitet ohne Markierung. Ein Klassifikator sucht nach Auffälligkeiten wie unnatürlichen Bewegungen, Fehlern an Händen und Zähnen, flackernden Details oder statistischen Mustern im Bild. Diese Detektoren geben meist eine Wahrscheinlichkeit aus, keine sichere Antwort.

Wofür werden KI-Detektoren genutzt?

Redaktionen, Plattformen und Faktenprüfer setzen sie ein, um Deepfakes und manipulierte Videos zu erkennen. Unternehmen prüfen damit eingereichtes Material, etwa Bewerbungsvideos oder Nutzerbeiträge. Die EU-KI-Verordnung verlangt in Art. 50, dass Anbieter KI-Inhalte maschinenlesbar und erkennbar markieren. Das macht Detektoren, die solche Markierungen auslesen, wichtiger.

Worauf du achten solltest

Verlass dich nie allein auf ein einzelnes Ergebnis. Metadaten gehen beim erneuten Hochladen, Zuschneiden oder Abfilmen oft verloren, und merkmalsbasierte Detektoren halten auch echte Videos manchmal für KI. Prüfe zusätzlich Quelle, Zusammenhang und ob es weitere Aufnahmen desselben Ereignisses gibt.

Wenn du selbst KI-Videos veröffentlichst, kennzeichne sie, statt darauf zu setzen, dass niemand es merkt. Welche Pflichten dafür gelten, erklärt der Ratgeber Rechtliches bei KI-Videos.