Künstliche Intelligenz (KI) macht es heute möglich, in wenigen Minuten professionelle Fotos und Videos zu erzeugen – inklusive täuschend echt wirkender Avatare und Stimmen. 🎬 Was für Marketing und Kommunikation neue Gestaltungsspielräume eröffnet, wirft zugleich komplexe rechtliche Fragen auf: von möglichen Deepfakes über Persönlichkeitsrechtsverletzungen bis hin zu Transparenz- und Kennzeichnungspflichten.
Im Beitrag beleuchten wir, was unter KI-generierten Videos zu verstehen ist, welche rechtlichen Fragen der Fall Collien Ulmen-Fernandes aufwirft und worauf Videoanbieter und Unternehmen beim Einsatz von KI-Tools jetzt besonders achten sollten.
🎥 Was sind KI-generierte Videos?
KI‑generierte Videos sind Videoinhalte, die mithilfe künstlicher Intelligenz automatisch erstellt oder bearbeitet werden. Texteingaben, Bilder oder kurze Clips werden dabei von einem KI‑System in realistische Videos umgewandelt – ohne klassische Filmproduktion, teure Ausrüstung oder Schauspieler.
Bekannte Tools wie Sora, HeyGen, Adobe Firefly oder Canva ermöglichen die schnelle Erstellung von Social-Media-Clips, Marketingvideos oder „Talking-Head“-Avataren.
Diese Technologie kann fotorealistische Szenen erzeugen und Menschen täuschend echt erscheinen lassen.Für Laien ist dann oft nicht mehr erkennbar, ob ein Video „echt“ oder KI-generiert ist. Mit dieser technischen Leistungsfähigkeit gehen erhebliche Risiken einher.
Besonders problematisch sind:
– Deepfakes, also täuschend echt wirkende Manipulation von Bild- und Videomaterial,
– Desinformationen, die sich rasant verbreiten und schwer als solche entlarven lassen.
Missbrauch von Bild und Stimme – insbesondere bei nicht einvernehmlichen oder entwürdigenden Darstellungen.
Ziel ist es, rechtliche Risiken zu minimieren, technisch-organisatorische Maßnahmen (TOMs) im Sinne der DSGVO zu stärken und eine sichere, ethische Anwendung von KI sicherzustellen. Die Maßnahmen zur Sicherstellung der KI-Kompetenz sollten dabei auf die technischen Kenntnisse, die Erfahrung und den konkreten Einsatzkontext der Mitarbeitenden abgestimmt sein.
Unternehmen sollten diese Pflicht ernst nehmen und die getroffenen Maßnahmen dokumentieren, um ihre Compliance nachweisen zu können.
⚖️ Der Fall Collien Ulmen-Fernandes
Die Risiken sind nicht nur theoretischer Natur. Der Fall von Collien Ulmen-Fernandes hat deutlich gemacht, welche gesellschaftliche Sprengkraft KI‑Videos haben können. Collien Ulmen-Fernandes wurde ohne ihre Einwilligung mithilfe von KI nackt in einem Deepfake-Video dargestellt und ist rechtlich dagegen vorgegangen.
Damit stellen sich unter anderem folgende Fragen:
– Wo genau liegt das rechtliche Problem in diesem Fall – „nur“ in der Täuschung des Publikums oder vor allem im Eingriff in Persönlichkeitsrechte?
– Wer trägt die Verantwortung – die Anbieter, die KI-gestützte Videofunktionen bereitstellen, oder die Nutzer, die die Tools missbräuchlich verwenden?
– Ist das Problem primär der KI-Technik zuzurechnen oder dem Nutzungsverhalten und den rechtlichen sowie gesellschaftlichen Rahmenbedingungen?
Zentrale rechtliche Problemfelder sind insbesondere:
– Verletzung des allgemeinen Persönlichkeitsrechts, insbesondere des Rechts am eigenen Bild und der Intimsphäre,
– mögliche strafrechtliche Relevanz, z.B. § 201a StGB (Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen),
– zivilrechtliche Unterlassungs- und Schadensersatzansprüche.
Aus Datenschutzsicht liegt zusätzlich eine unbefugte Verarbeitung personenbezogener Daten vor – die Abbildung einer identifizierbaren Person in einem hochsensiblen Kontext ohne Rechtsgrundlage oder Einwilligung.
Wesentlich ist: Eine Kennzeichnung als „KI-generiert“ würde die Rechtsverletzung nicht beseitigen. Die unbefugte Nutzung der Identität bzw. des Bildnisses an sich bleibt rechtswidrig.
Der europäische KI-Rechtsrahmen (AI Act) und medienrechtliche Diskussionen greifen das Thema Deepfakes ausdrücklich auf. Vorgesehen ist unter anderem, dass künstlich erzeugte oder manipulierte Inhalte als solche kenntlich gemacht werden müssen.
Diese Kennzeichnungspflicht betrifft jedoch vor allem die Transparenz gegenüber dem Publikum. Sie ändert nichts daran, dass die unbefugte Nutzung von Bildnis, Identität oder Intimsphäre einer Person bereits nach geltendem Zivil- und Strafrecht unzulässig sein kann.
Eine Kennzeichnung als „KI-generiert“ kann damit zwar das Risiko der Irreführung verringern, heilt aber keine Eingriffe in Persönlichkeitsrechte und ersetzt insbesondere nicht die erforderliche Einwilligung der betroffenen Person.
📌 Rechtlicher Rahmen: Welche Regeln gelten für KI‑Videos?
Für KI‑Videos gibt es bislang kein „Spezialgesetz“, das alle Fragen abschließend regelt. Sie bewegen sich in einem Zusammenspiel verschiedener Rechtsgebiete:
– Datenschutzrecht (insb. DSGVO)
Sobald KI‑Videos identifizierbare Personen betreffen – etwa durch Bild, Stimme oder Kontext – liegt eine Verarbeitung personenbezogener Daten vor. Es gelten die Grundsätze der DSGVO: Rechtsgrundlage, Transparenz, Datenminimierung, Sicherheit, Betroffenenrechte.
– Persönlichkeitsrecht und Strafrecht
Deepfakes und andere KI‑Videos können das allgemeine Persönlichkeitsrecht verletzen, insbesondere das Recht am eigenen Bild und die Intimsphäre. In gravierenden Fällen kommen strafrechtliche Normen wie § 201a StGB (Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen) in Betracht.
– Zivilrecht (Unterlassung, Löschung, Schadensersatz)
Rechtswidrige KI‑Videos können Ansprüche auf Unterlassung und Beseitigung sowie auf Geldentschädigung auslösen – etwa bei entwürdigenden oder sexualisierten Darstellungen realer Personen.
– Digital Services Act (DSA)
Plattformbetreiber müssen Verfahren zum Umgang mit illegalen Inhalten, Meldesysteme und Transparenzanforderungen einhalten. Der DSA verschärft diese Pflichten insbesondere für große Plattformen und betrifft damit auch den Umgang mit KI‑basierten Inhalten und Deepfakes.
– KI‑Recht (EU‑AI Act)
Der AI Act ist inzwischen beschlossen und gilt. Für KI‑Videos besonders relevant sind Transparenzpflichten: künstlich erzeugte oder manipulierte Inhalte – insbesondere Deepfakes – müssen als solche kenntlich gemacht werden, ebenso Interaktionen mit KI‑Systemen.
Spannungsverhältnis: Transparenz vs. Zulässigkeit
Die Kennzeichnungspflicht ist aber von der Frage zu trennen, ob ein Inhalt überhaupt zulässig ist. Der Fall Collien Ulmen-Fernandes zeigt: Sexualisierte Deepfakes realer Personen greifen tief in den Kernbereich des Persönlichkeitsrechts ein. Eine Kennzeichnung als „KI‑generiert“ könnte zwar die Zuschauer informieren, würde die Rechtsverletzung (Nutzung des Bildnisses ohne Einwilligung, intime Darstellung) aber nicht heilen. Ob ein KI‑Video zulässig ist, bestimmen weiterhin Persönlichkeits‑, Straf- und Datenschutzrecht – Kennzeichnung hin oder her.
Damit steht fest: KI‑Videos unterliegen bereits heute einem dichten Rechtsrahmen, der durch den AI Act weiter konkretisiert wird – insbesondere was Transparenz, Kennzeichnung und Verantwortlichkeiten entlang der KI‑Wertschöpfungskette betrifft.
🧩 KI‑Videotool-Anbieter, Plattformbetreiber und Unternehmen: Was ist zu beachten?
Beim Einsatz von KI‑Videos treffen im Kern drei Akteure aufeinander – mit jeweils eigenen Pflichten:
– Unternehmen, die KI‑Videos für eigene Zwecke nutzen.
– KI‑Videotool‑Anbieter: Unternehmen, die KI‑Systeme bereitstellen, mit denen Videos erzeugt oder bearbeitet werden (z.B. Text‑zu‑Video, Avatare, Deepfake‑Funktionen).
– Video‑/Plattformbetreiber: Dienste, auf denen Videos – einschließlich KI‑Videos – hochgeladen, gespeichert und verbreitet werden.
Unternehmen, die KI-Videos einsetzen
Unternehmen, die KI‑Videos für Marketing, interne Kommunikation oder Plattformangebote nutzen, sind in aller Regel Verantwortliche im Sinne der DSGVO: Sie entscheiden, welche Daten in die KI gegeben werden, wofür das Video eingesetzt wird und wo es veröffentlicht wird.
Sie müssen insbesondere:
– eine tragfähige Rechtsgrundlage für die Verarbeitung personenbezogener Daten sicherstellen (z.B. Bild, Stimme) (häufig: Einwilligung, Vertrag oder berechtigtes Interesse),
– Betroffene über die Nutzung von KI‑Videos informieren und deren Rechte (Auskunft, Löschung, Widerspruch) ermöglichen,
– bei risikoreichen Szenarien (z.B. sensible Themen, große Reichweite) eine Datenschutz‑Folgenabschätzung prüfen.
Im Hinblick auf den bereits geltenden AI Act sind sie verpflichtet, transparent offenzulegen, an welchen Stellen KI eingesetzt wird und wann Inhalte künstlich erzeugt oder verändert wurden – insbesondere im Zusammenhang mit Deepfakes.
KI‑Videotool‑Anbieter
KI‑Videotool‑Anbieter stellen die generative Technologie bereit (oft als SaaS). Aus DSGVO‑Sicht sind sie:
– typischerweise Auftragsverarbeiter, soweit sie Daten nur im Auftrag des Unternehmens verarbeiten und keine eigenen Zwecke verfolgen,
– eigene Verantwortliche, soweit sie Daten z.B. zur Verbesserung ihrer Modelle oder zu anderen eigenen Zwecken nutzen.
Das bedeutet: Sie brauchen klare vertragliche Regelungen (Art.‑28‑Vertrag) und müssen offenlegen, ob Input‑ und Output‑Daten für eigene Zwecke verwendet werden. Nach dem AI Act treffen sie zusätzlich Pflichten zur Transparenz und technischen Ausgestaltung – etwa, Systeme so zu bauen, dass Deepfakes gekennzeichnet werden können.
Plattformbetreiber
Plattformen, auf denen (KI‑)Videos hochgeladen und verbreitet werden, sind in der Regel eigene Verantwortliche nach der DSGVO. Sie bestimmen das Plattformkonzept, Empfehlungsalgorithmen und Community‑Regeln und verarbeiten dabei selbst umfangreich personenbezogene Daten.
Sie müssen einerseits DSGVO‑Pflichten erfüllen (insbesondere für Profiling, Tracking und Kontenverwaltung), andererseits die Vorgaben des Digital Services Act (DSA) umsetzen – etwa wirksame Meldesysteme und Takedown‑Prozesse für rechtswidrige Inhalte. Mit Blick auf KI‑Videos bedeutet das auch: Deepfake‑Inhalte erkennen, Meldungen ernst nehmen und bei Verstößen zeitnah reagieren; zugleich die Transparenzanforderungen des AI Act (z.B. Kennzeichnung künstlich erzeugter Inhalte) in ihre Systeme integrieren.
Plattformbetreiber laufen Gefahr, als Mitstörer zu haften, wenn sie nach einem konkreten Hinweis auf rechtswidrige Inhalte nicht unverzüglich reagieren.
Konsequenz für die Praxis, für Datenschutz und Compliance bedeutet das:
– KI‑Videotool‑Anbieter müssen ihre Systeme so gestalten, dass Transparenz- und Datenschutzanforderungen erfüllbar sind.
– Videoanbieter/Plattformbetreiber müssen Prozesse zur Erkennung, Kennzeichnung und Entfernung problematischer KI‑Videos implementieren.
– Unternehmen als Anwender müssen ihre KI‑Videoprojekte datenschutzkonform und vertraglich sauber aufsetzen – insbesondere beim Einsatz realer Personen und sensibler Kontexte.
Wenn Sie KI‑Videos bereits einsetzen oder den Einsatz planen, sollten Sie jetzt prüfen, ob Ihre Prozesse mit Datenschutz-, Medien- und KI‑Recht im Einklang stehen. Krüger Rechtsanwaltsgesellschaft mbH unterstützt Sie dabei,
– KI‑Videoprojekte rechtssicher zu gestalten und
– interne Richtlinien und Einwilligungskonzepte zu entwickeln.
Melden Sie sich gerne bei uns, wenn Sie Ihre KI‑Strategie aus Datenschutz- und Compliance‑Perspektive überprüfen oder weiterentwickeln möchten.
kanzlei@legal-krueger.de | https://legal-krueger.de/