KI-Deepfakes sind mehr als ein Reputationsrisiko: Was sollten Unternehmen nach dem AI Act dokumentieren?

Aktualisiert: 3. September 2026 · Kategorie: KI, Datensicherheit und Datenschutzverletzungen

KI-Deepfakes sind mehr als ein Reputationsrisiko: Was sollten Unternehmen nach dem AI Act dokumentieren?

Artikel 50 des AI Act sieht Transparenz- und Offenlegungspflichten für KI-generierte oder manipulierte Bilder, Ton- und Videoaufnahmen vor, die Deepfakes darstellen. Die Dokumentation der Herstellungsweise, des verwendeten Tools, der menschlichen Kontrolle und der Veröffentlichungsfreigabe ist keine eigenständige, in Artikel 50 gesondert geregelte Aufzeichnungspflicht; sie stärkt vielmehr Compliance, Governance und bei Bedarf die Nachweisfähigkeit des Unternehmens.

Inhaltsverzeichnis

Kurzantwort
Warum spielt das eine Rolle?
Was sollten Unternehmen tun?
Wie sollte dies gemessen werden?
Quellen
Häufig gestellte Fragen

Kurzantwort

Warum ist das wichtig?

Deepfake-Risiken betreffen nicht nur Falschnachrichten oder Reputationsangriffe. Erstellt eine Marke für ihre eigene Werbung das Bild, die Stimme oder das Verhalten einer realen Person mithilfe von KI, können sowohl die Transparenzregeln nach Artikel 50 des AI Act als auch der beim Verbraucher erzeugte Eindruck relevant werden.

Die rechtliche Offenlegung nach Artikel 50 ist von internen Nachweisunterlagen zu unterscheiden. Aufzeichnungen über Modell, Herstellungszeitpunkt, menschliche Kontrolle und Freigabe sind gute Governance-Praxis. Sie dürfen jedoch nicht insgesamt als gesonderte, ausdrücklich von Artikel 50 vorgeschriebene „Evidence-Pack-Pflicht“ dargestellt werden.

Was sollten Unternehmen tun? 7 Kontrollen vor der Veröffentlichung eines Deepfakes

Prüfen Sie, ob der Inhalt eine reale Person oder ein reales Ereignis künstlich darstellt.
Trennen Sie die Verantwortlichkeiten von Anbieter und Betreiber je nach Anwendungsszenario.
Prüfen Sie die erforderliche Fähigkeit zur maschinenlesbaren Kennzeichnung.
Dokumentieren Sie, ob eine Offenlegung durch den Betreiber erforderlich ist und wie sie sichtbar umgesetzt wird.
Prüfen Sie gesondert die Einwilligungen für Bild, Stimme und Persönlichkeitsrechte der realen Person.
Erwecken Sie nicht den irreführenden Eindruck, die Person habe das Produkt tatsächlich ausprobiert oder empfohlen.
Bewahren Sie die finale Datei, die Offenlegungsentscheidung und die menschliche Freigabe im Versionsnachweis auf.

Vorgeschlagenes Messmodell für B10

Kontrolle	KPI
Deepfake-Klassifizierung	Klassifizierungsabdeckung
Kennzeichnung durch den Anbieter	Erfolgsquote bei Tests der maschinenlesbaren Kennzeichnung
Offenlegung durch den Betreiber	Vollständigkeit der Offenlegung
Persönlichkeitsrechte	Abdeckung durch Einwilligungs- oder Lizenznachweise
Menschliche Kontrolle	Abdeckung durch menschliche Prüfung
Fassung	Rückverfolgbarkeit der veröffentlichten Dateien

Verfolgen Sie statt der bloßen Deepfake-Anzahl als KPI, bei wie vielen relevanten Deepfakes Offenlegung, Rechteprüfung und Nachweis der finalen Version gemeinsam vorliegen.

Sachverständigenbewertung

Für die Deepfake-Governance ist nicht allein entscheidend, ob Inhalte mit KI erzeugt wurden, sondern welche Realität sie nachahmen und worüber sie Nutzer täuschen könnten. Eine völlig fiktive virtuelle Figur und die digitale Kopie einer realen Führungskraft oder eines Kunden bergen unterschiedliche Risiken.

Wie lassen sich Deepfake-Risikostufen unterscheiden?

Der Lebenszyklus einer Deepfake-Datei geht über die Herstellung hinaus. Die Identität der dargestellten realen Person, der imitierte Kontext, das Ausmaß der Ton- oder Bildmanipulation und der durch die Werbung erzeugte Realitätseindruck sind eigene Risikosignale. Eine Unternehmensmitteilung mit der synthetischen Stimme einer Führungskraft erfordert beispielsweise andere Kontrollen als ein völlig fiktiver Avatar, der Produkteigenschaften erklärt.

Bei Inhalten, die wie ein Erfahrungsbericht oder eine Empfehlung wirken, ist die Aussage ebenso wichtig wie die Herstellungstechnik. Der Eindruck, eine reale Person habe eine nie geäußerte Empfehlung ausgesprochen, lässt sich nicht allein mit „Mit KI erstellt“ ausräumen. Offenlegung, Rechteinhaberschaft und mögliche Irreführung durch die Werbung sind getrennt zu prüfen.

Endgültige Datei-Rückverfolgbarkeit

Erstellt das Produktionsteam viele Varianten, genügt der Projektordner allein nicht. Es muss nachvollziehbar sein, welche Datei wann, auf welcher Plattform und mit welcher Offenlegung veröffentlicht wurde. Werden Hash der finalen Datei, Werbemittel-ID, Veröffentlichungs-URL und Freigabenachweis im selben Vorgang gespeichert, lassen sich später veränderte oder versehentlich wiederverwendete Varianten schneller erkennen.

Deepfake-Vorfallplan nach der Veröffentlichung

Wird ein Deepfake missbräuchlich oder ohne Erlaubnis wiederverwendet, reicht das Entfernen des Werbemittels möglicherweise nicht aus. Prüfen Sie die Verbreitung derselben Datei auf anderen Social-Media-Konten, in Werbebibliotheken und auf Drittkanälen. Hash und Veröffentlichungsnachweise des freigegebenen Originals helfen, eigene Inhalte von nachträglich veränderten Kopien zu unterscheiden.

Die Governance synthetischer Medien endet daher nicht mit der Freigabe vor der Produktion. Ein eigenes Vorfallverfahren kann Entfernung, Missbrauchserkennung, Benachrichtigung der Rechteinhaber und Verhinderung erneuter Nutzung regeln. Bei Darstellungen hoher Führungskräfte oder bekannter Personen mindert dies auch Reputations- und Betrugsrisiken.

Digitale Risiko- und Compliance-Analyse

B10 kann Deepfake- und synthetische Mediennutzung mit getrennten Risikowerten für Klassifizierung, Offenlegung, Rechteinhaberschaft und Nachweise der veröffentlichten Version bewerten.

Verwandte Inhalte

Offizielle und primäre Quellen

Die Quellen wurden mit Stand vom 3. September 2026 geprüft. Bei konkreten Rechtsfällen sind zusätzlich der aktuelle Text und fachlicher Rat zu berücksichtigen.

Häufig gestellte Fragen Warum ist das jetzt wichtig?

Was sollten Unternehmen zuerst überprüfen?

Erfassen Sie die aktuelle Praxis und die Daten- beziehungsweise Arbeitsabläufe.

Reicht eine einmalige Kontrolle?

Nein. Interne Herstellungs- und Freigabenachweise sind eine gute Governance- und Nachweispraxis. Sie sind nicht insgesamt als eigenständige, unter diesem Namen in Artikel 50 geregelte Aufzeichnungspflicht zu verstehen.

Was kann B10 beitragen?

B10 kann ein Inventar synthetischer Medien, Deepfake-Klassifizierung, Offenlegungskontrollen und Werbemittel-Versionierung in einem Nachweisprozess zusammenführen.