Kennzeichnung von KI-Inhalten nach Art. 50 KI-VO: Was Unternehmen seit August 2026 beachten müssen

KI-Systeme erzeugen Texte, Bilder, Stimmen und Videos, die sich häufig kaum noch von menschlich erstellten oder authentischen Inhalten unterscheiden lassen. Die KI-Verordnung reagiert darauf mit abgestuften Transparenzanforderungen. Sie sollen gewährleisten, dass Menschen erkennen können, wann sie mit einem KI-System kommunizieren oder mit künstlich erzeugten beziehungsweise manipulierten Inhalten konfrontiert werden.
Art. 50 der Verordnung (EU) 2024/1689, nachfolgend KI-VO, unterscheidet dabei mehrere Fallgruppen. Welche Pflicht im Einzelfall gilt, hängt insbesondere davon ab, ob ein Unternehmen als Anbieter oder Betreiber eines KI-Systems handelt, welche Art von Inhalt betroffen ist und in welchem Zusammenhang dieser verwendet oder veröffentlicht wird.
Die Transparenzpflichten nach Art. 50 KI-VO gelten grundsätzlich seit dem 2. August 2026.

Worüber müssen wir uns also Gedanken machen:

• Anbieter und Betreiber richtig unterscheiden
• Transparenzpflichten bei interaktiven KI-Systemen
• Maschinenlesbare Kennzeichnung synthetischer Inhalte
• Information über Emotionserkennung und biometrische Kategorisierung
• Offenlegung von Deepfakes
• Kennzeichnung KI-generierter Texte von öffentlichem Interesse
• Anforderungen an Form, Zeitpunkt und Barrierefreiheit
• Verhältnis zur DSGVO und zu weiteren Rechtsvorschriften
• Praktische Umsetzung im Unternehmen

Anbieter oder Betreiber: Welche Rolle nimmt das Unternehmen ein?
Die rechtliche Prüfung beginnt mit der Bestimmung der eigenen Rolle.
Nach Art. 3 Nr. 3 KI-VO ist Anbieter, wer ein KI-System oder ein KI-Modell entwickelt beziehungsweise entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt. Unerheblich ist dabei grundsätzlich, ob das System entgeltlich oder kostenlos angeboten wird.
Betreiber ist nach Art. 3 Nr. 4 KI-VO dagegen eine natürliche oder juristische Person, Behörde oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet. Bei Unternehmen muss die Nutzung im Rahmen einer beruflichen Tätigkeit erfolgen. Eine private, nicht berufliche Verwendung fällt grundsätzlich nicht unter den Betreiberbegriff.
Ein Unternehmen kann zugleich beide Rollen innehaben. Das ist beispielsweise möglich, wenn es ein eigenes KI-System entwickelt und dieses nicht nur intern einsetzt, sondern auch Kunden unter seiner Marke zur Verfügung stellt.
Nicht jede automatisierte Software ist allerdings ein KI-System. Maßgeblich ist die Definition in Art. 3 Nr. 1 KI-VO. Erfasst werden maschinengestützte Systeme, die für einen Betrieb mit unterschiedlichem Grad an Autonomie konzipiert sind und aus den erhaltenen Eingaben ableiten, wie sie bestimmte Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen. Herkömmliche Software, die ausschließlich nach fest programmierten Regeln arbeitet, erfüllt diese Voraussetzungen nicht ohne Weiteres.

Interaktive KI-Systeme müssen sich als solche zu erkennen geben
Art. 50 Abs. 1 KI-VO richtet sich an Anbieter von KI-Systemen, die für die unmittelbare Interaktion mit natürlichen Personen vorgesehen sind. Typische Anwendungsfälle sind Chatbots, virtuelle Assistenten oder sprachgesteuerte Dialogsysteme.
Die Verpflichtung greift, wenn vier Voraussetzungen zusammentreffen:

• Es handelt sich um ein KI-System.
• Das System ist zur Interaktion bestimmt.
• Die Kommunikation erfolgt unmittelbar mit dem System.
• Die Interaktion richtet sich an natürliche Personen.

Der Anbieter muss das System so konzipieren, dass die betroffene Person darüber informiert wird, dass sie mit einem KI-System kommuniziert. Die Information muss grundsätzlich spätestens bei der ersten Interaktion erfolgen.
Eine zusätzliche Unterrichtung ist entbehrlich, wenn der KI-Charakter für eine angemessen informierte, aufmerksame und verständige Person aufgrund der Umstände und des Nutzungskontexts offensichtlich ist. Unternehmen sollten sich jedoch nicht vorschnell auf diese Ausnahme verlassen. Insbesondere ein menschenähnliches Erscheinungsbild, natürliche Sprache oder eine realistisch wirkende Stimme können dazu führen, dass die maschinelle Herkunft gerade nicht hinreichend erkennbar ist.
Eine geeignete Information kann beispielsweise lauten:
„Sie kommunizieren mit einem KI-gestützten Assistenzsystem.“
Die Pflicht verfolgt das Ziel, Täuschungen zu vermeiden und eine unangemessen starke Abhängigkeit von maschinell erzeugten Antworten zu verhindern. Nutzer sollen die Herkunft der Kommunikation erkennen und ihre Entscheidungen entsprechend einordnen können.

Synthetische Inhalte benötigen eine maschinenlesbare Kennzeichnung
Art. 50 Abs. 2 KI-VO verpflichtet Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen. Die Ausgaben müssen in einem maschinenlesbaren Format markiert und als künstlich erzeugt oder manipuliert erkennbar sein.
Diese Verpflichtung betrifft die technische Ebene des KI-Systems. In Betracht kommen unter anderem:

• Metadaten und digitale Herkunftsnachweise,
• kryptografisch abgesicherte Signaturen,
• digitale Wasserzeichen,
• Fingerprinting-Verfahren,
• standardisierte Content-Credentials.

Die eingesetzte Lösung muss nach Maßgabe des Art. 50 Abs. 2 KI-VO so wirksam, interoperabel, robust und zuverlässig sein, wie dies technisch möglich ist. Dabei sind die Besonderheiten der jeweiligen Inhaltsart, die Implementierungskosten und der allgemein anerkannte Stand der Technik zu berücksichtigen.
Die Kennzeichnungspflicht kann auch hybride Inhalte erfassen, in denen menschlich erstellte Bestandteile mit einer relevanten KI-generierten oder KI-manipulierten Komponente verbunden werden. Eine inhaltlich erhebliche Umformulierung eines Textes, ein Gesichtsaustausch oder das nachträgliche Einfügen realistisch wirkender Personen in ein Bild gehen regelmäßig über eine bloß unterstützende Bearbeitung hinaus.
Nicht erfasst werden grundsätzlich Systeme, die lediglich unterstützende Standardbearbeitungen vornehmen oder die vom Betreiber bereitgestellten Eingabedaten beziehungsweise deren Bedeutung nicht wesentlich verändern. Hierzu können beispielsweise einfache Rechtschreibkorrekturen, technische Formatierungen oder herkömmliche Bildoptimierungen gehören. Entscheidend ist stets, ob das KI-System einen inhaltlich relevanten synthetischen Beitrag erzeugt.
Für bestimmte bereits vor dem 2. August 2026 in Verkehr gebrachte KI-Systeme sieht die aktuelle Übergangsregelung hinsichtlich der technischen Markierung nach Art. 50 Abs. 2 KI-VO eine begrenzte Frist bis zum 2. Dezember 2026 vor. Diese Sonderregelung betrifft nicht pauschal sämtliche Transparenzpflichten des Art. 50 KI-VO.

Emotionserkennung und biometrische Kategorisierung
Art. 50 Abs. 3 KI-VO enthält eine eigenständige Informationspflicht für Betreiber von Emotionserkennungssystemen und Systemen zur biometrischen Kategorisierung.
Natürliche Personen, die einem solchen System ausgesetzt werden, müssen über dessen Betrieb informiert werden. Die Verpflichtung gilt sowohl bei einer Verarbeitung in Echtzeit als auch bei einer nachträglichen Auswertung.
Daneben sind die Anforderungen der DSGVO zu beachten, soweit personenbezogene Daten verarbeitet werden. Je nach Anwendung können insbesondere biometrische Daten oder andere besonders geschützte Daten im Sinne des Art. 9 DSGVO betroffen sein. Die Information nach der KI-VO ersetzt weder die Ermittlung einer datenschutzrechtlichen Rechtsgrundlage noch die Informationspflichten nach Art. 13 oder 14 DSGVO.
Zu beachten ist außerdem, dass bestimmte Verfahren der Emotionserkennung nach Art. 5 KI-VO vollständig verboten sein können. Eine transparente Information allein macht eine unzulässige Anwendung daher nicht rechtmäßig.

Wann muss ein Deepfake offengelegt werden?
Betreiber eines KI-Systems müssen nach Art. 50 Abs. 4 KI-VO offenlegen, wenn sie künstlich erzeugte oder manipulierte Bild-, Audio- oder Videoinhalte verwenden, die als Deepfake einzuordnen sind.
Ein Deepfake liegt nach Art. 3 Nr. 60 KI-VO vor, wenn der Inhalt

• durch ein KI-System erzeugt oder manipuliert wurde,
• bestehenden oder plausibel existierenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und
• einem Menschen fälschlicherweise als authentisch oder wahrheitsgemäß erscheinen könnte.

Ob eine Täuschungseignung besteht, ist nach dem gesamten Wahrnehmungskontext zu beurteilen. Dabei können insbesondere die Ähnlichkeit mit dem dargestellten Vorbild, die inhaltliche Aussage, die Art der Veröffentlichung und die Erwartungen des angesprochenen Publikums eine Rolle spielen.
Kennzeichnungspflichtig können beispielsweise sein:

• ein Video, in dem eine real existierende Politikerin scheinbar eine tatsächlich nie gehaltene Rede hält,
• eine Audioaufnahme mit der künstlich nachgebildeten Stimme eines bekannten Moderators,
• eine manipulierte Fotografie, in die reale Personen nachträglich eingefügt wurden,
• ein synthetischer Avatar eines Unternehmensleiters, der wie eine authentische Videoaufnahme wirkt,
• eine realistisch wirkende Produktdarstellung, die über Aussehen oder Eigenschaften des tatsächlichen Produkts täuschen kann.

Fotorealismus ist ein wesentliches Indiz, aber keine zwingende Voraussetzung. Auch ein nicht vollständig fotorealistischer Inhalt kann als Deepfake gelten, wenn er im konkreten Kontext für authentisch gehalten werden könnte.
Die Offenlegung muss für Menschen wahrnehmbar sein. Ein ausschließlich in den Metadaten hinterlegter technischer Hinweis genügt für die Betreiberpflicht grundsätzlich nicht. Abhängig vom Medium kommt eine sichtbare Texteinblendung, ein Symbol oder ein akustischer Hinweis in Betracht.
Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke gilt eine erleichterte Regelung. Die Offenlegung darf so erfolgen, dass die Darstellung oder der Genuss des Werks nicht unangemessen beeinträchtigt wird. Die Ausnahme hebt die Transparenzpflicht jedoch nicht vollständig auf.

Welche KI-generierten Texte müssen gekennzeichnet werden?
Die Kennzeichnungspflicht für Texte ist enger gefasst als die Regelung für Deepfakes. Art. 50 Abs. 4 KI-VO erfasst nicht jeden Text, der mithilfe eines KI-Systems entstanden ist.
Eine Offenlegung ist grundsätzlich erforderlich, wenn der Text

• durch ein KI-System erzeugt oder inhaltlich manipuliert wurde,
• veröffentlicht wird,
• der Information der Öffentlichkeit dient und
• eine Angelegenheit von öffentlichem Interesse betrifft.

Als Angelegenheiten von öffentlichem Interesse kommen nach den Leitlinien der Europäischen Kommission unter anderem folgende Themenbereiche in Betracht:

• Politik und demokratische Willensbildung,
• öffentliche Verwaltung und öffentliche Dienstleistungen,
• Justiz und Strafverfolgung,
• Grund- und Menschenrechte,
• öffentliche Sicherheit,
• öffentliche Gesundheit,
• Umwelt- und Verbraucherschutz,
• wirtschaftliche, finanzielle, wissenschaftliche oder kulturelle Entwicklungen, die Gegenstand einer öffentlichen Debatte sein können.

Interne Unternehmenskommunikation oder rein private Texte werden damit regelmäßig nicht erfasst. Auch bei Werbung, Produktbeschreibungen oder allgemeinen Marketingtexten ist eine Kennzeichnung nach Art. 50 Abs. 4 KI-VO nicht automatisch vorgeschrieben. Unabhängig davon können jedoch das Wettbewerbsrecht, das Verbraucherrecht, das Urheberrecht oder branchenspezifische Vorschriften zusätzliche Transparenzanforderungen begründen.

Ausnahme bei qualifizierter menschlicher Kontrolle
Eine Kennzeichnung ist nicht erforderlich, wenn der KI-generierte oder KI-manipulierte Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.
Die Ausnahme setzt mehr als eine oberflächliche Durchsicht voraus. Eine bloße Rechtschreibprüfung, Formatkontrolle oder automatische Freigabe reicht nicht aus. Erforderlich ist vielmehr eine inhaltliche Prüfung durch eine fachlich geeignete Person. Diese muss insbesondere die Aussagen, Tatsachengrundlagen und verwendeten Quellen bewerten und die Möglichkeit haben, den Text zu ändern, zurückzuweisen oder vollständig neu zu verfassen.
Die Übernahme redaktioneller Verantwortung bedeutet, dass eine natürliche oder juristische Person letztlich rechtlich für die Veröffentlichung des geprüften Inhalts einsteht.
Für Unternehmen folgt daraus, dass eine menschliche Schlusskontrolle zwar eine Kennzeichnung entbehrlich machen kann, der Prüfprozess aber nachvollziehbar organisiert und dokumentiert werden sollte.

Wie muss die Kennzeichnung gestaltet werden?
Nach Art. 50 Abs. 5 KI-VO müssen die vorgeschriebenen Informationen klar und eindeutig erkennbar sein. Sie sind spätestens bei der ersten Interaktion oder bei der ersten Konfrontation mit dem betreffenden Inhalt bereitzustellen.
Die Kennzeichnung sollte daher

• gut wahrnehmbar,
• sprachlich verständlich,
• eindeutig dem jeweiligen Inhalt zugeordnet,
• von anderen Informationen unterscheidbar und
• barrierefrei zugänglich sein.

Bei visuellen Inhalten kommen beispielsweise sichtbare Hinweise oder die von der Europäischen Kommission bereitgestellten EU-Symbole in Betracht. Bei Audioinhalten kann ein gesprochener Hinweis erforderlich sein. Für digitale Angebote sollten Alternativtexte oder geeignete ARIA-Kennzeichnungen vorgesehen werden.
Die von der Europäischen Kommission veröffentlichten Symbole sind freiwillig verwendbar. Ihre Verwendung begründet allein noch keinen Nachweis vollständiger Rechtskonformität. Verantwortliche müssen weiterhin prüfen, ob die konkrete Gestaltung, Platzierung und Dauer der Anzeige den gesetzlichen Anforderungen entspricht.
Besonders schutzbedürftige Personengruppen sind bei der Ausgestaltung zu berücksichtigen. Richtet sich ein Angebot beispielsweise an Kinder oder Personen mit kognitiven Einschränkungen, muss der Hinweis entsprechend einfach und verständlich formuliert werden.
Geeignete Formulierungen können lauten:
„Dieser Inhalt wurde vollständig durch ein KI-System erzeugt.“
„Diese Abbildung wurde mithilfe eines KI-Systems verändert.“
„Die dargestellte Stimme wurde künstlich erzeugt.“
„Dieser Text wurde durch ein KI-System erstellt und nicht redaktionell geprüft.“

Verhältnis zur DSGVO und zu anderen Rechtsgebieten
Die Transparenzpflichten der KI-VO bestehen neben den Anforderungen anderer Rechtsvorschriften.
Werden durch ein KI-System personenbezogene Daten verarbeitet, bleiben insbesondere die Grundsätze des Art. 5 DSGVO, das Erfordernis einer Rechtsgrundlage und die Informationspflichten nach Art. 13 und 14 DSGVO anwendbar. Die Kennzeichnung eines KI-Inhalts ersetzt diese Anforderungen nicht.
Darüber hinaus können je nach Einsatzgebiet weitere Rechtsgebiete relevant werden, beispielsweise:

• das Gesetz gegen den unlauteren Wettbewerb,
• das Urheber- und Persönlichkeitsrecht,
• das Markenrecht,
• das Medienrecht,
• das Verbraucherrecht,
• arbeitsrechtliche Vorschriften,
• besondere berufsrechtliche Regelungen.

Ein als KI-generiert gekennzeichneter Inhalt kann deshalb weiterhin rechtswidrig sein, etwa wenn er Persönlichkeitsrechte verletzt, irreführende Werbeaussagen enthält oder ohne ausreichende Rechtsgrundlage personenbezogene Daten verarbeitet.

Praktische Umsetzung im Unternehmen
Unternehmen sollten die Anforderungen des Art. 50 KI-VO nicht auf einen einzelnen Hinweis unter einem Text oder Bild reduzieren. Erforderlich ist vielmehr ein geregelter Compliance-Prozess.
Hierzu gehören insbesondere:
1. KI-Systeme erfassen:
Sämtliche eingesetzten KI-Anwendungen und ihre Verwendungszwecke sollten in einem zentralen Verzeichnis dokumentiert werden.
2. Rollen bestimmen:
Für jede Anwendung ist festzustellen, ob das Unternehmen als Anbieter, Betreiber oder in beiden Funktionen handelt.
3. Inhalte klassifizieren:
Es sollte unterschieden werden zwischen interaktiven Systemen, synthetischen Medien, Deepfakes, Emotionserkennung, biometrischer Kategorisierung und KI-Texten von öffentlichem Interesse.
4. Ausnahmen dokumentieren:
Wird auf eine Ausnahme zurückgegriffen, sollte begründet festgehalten werden, weshalb deren Voraussetzungen erfüllt sind.
5. Redaktionelle Kontrolle organisieren:
Für externe Veröffentlichungen sind verantwortliche Personen, Freigaberechte und fachliche Prüfkriterien festzulegen.
6. Kennzeichnung technisch absichern:
Maschinenlesbare Markierungen und für Menschen erkennbare Hinweise müssen während der Veröffentlichung, Weitergabe und möglichst auch beim Herunterladen erhalten bleiben.
7. Beschäftigte schulen:
Mitarbeiter müssen erkennen können, wann ein Inhalt kennzeichnungspflichtig ist und welche internen Freigabeverfahren gelten.
8. Wirksamkeit kontrollieren:
Die Kennzeichnungslösung sollte regelmäßig auf Verständlichkeit, technische Beständigkeit, Barrierefreiheit und Übereinstimmung mit dem Stand der Technik überprüft werden.
9. Nachweise aufbewahren:
Freigaben, redaktionelle Prüfungen, technische Implementierungen und Verantwortlichkeiten sollten revisionssicher dokumentiert werden.

Bei weiteren Fragen sehr gerne und testen sie auch unser passendes Modul dazu:
Siehe KIMS unter https://mgmsys.de/produkte

Fazit
Art. 50 KI-VO begründet kein einheitliches Kennzeichnungsgebot für sämtliche KI-Inhalte. Die Verordnung unterscheidet vielmehr zwischen technischen Pflichten der Anbieter und Offenlegungs- beziehungsweise Informationspflichten der Betreiber.
Während Anbieter synthetische Ausgaben grundsätzlich maschinenlesbar markieren müssen, betrifft die sichtbare Kennzeichnung durch Betreiber vor allem Deepfakes und nicht qualifiziert überprüfte KI-Texte zu Angelegenheiten von öffentlichem Interesse. Hinzu kommen besondere Informationspflichten bei interaktiven KI-Systemen sowie bei Emotionserkennung und biometrischer Kategorisierung.
Für Unternehmen ist deshalb eine differenzierte Einzelfallprüfung erforderlich. Entscheidend sind die eigene Rolle, die Funktion des Systems, die Art des Inhalts, sein Veröffentlichungszweck und eine mögliche menschliche oder redaktionelle Kontrolle. Klare Zuständigkeiten, dokumentierte Freigabeverfahren und technisch belastbare Kennzeichnungslösungen bilden die Grundlage für eine nachvollziehbare Umsetzung.