EU AI Act: Welche KI-Inhalte Unternehmen kennzeichnen müssen

Seit dem 2. August 2026 gelten zentrale Transparenzpflichten des europäischen AI Act. Unternehmen müssen damit in bestimmten Situationen offenlegen, dass Menschen mit einem KI-System interagieren oder mit künstlich erzeugten beziehungsweise manipulierten Inhalten konfrontiert werden. Die Europäische Kommission hat kurz vor dem Anwendungsbeginn umfangreiche Leitlinien veröffentlicht, die Artikel 50 des AI Act konkretisieren.

Die praktische Umsetzung ist allerdings differenzierter, als die häufig verwendete Aussage „KI-Inhalte müssen künftig gekennzeichnet werden“ vermuten lässt. Der AI Act unterscheidet zwischen Anbietern und Betreibern von KI-Systemen, zwischen technischen und sichtbaren Kennzeichnungen sowie zwischen Text, Bild, Audio und Video. Bei Texten spielt zusätzlich eine entscheidende Rolle, ob eine inhaltliche menschliche Kontrolle stattgefunden hat.

Gerade für Unternehmen, die generative KI bereits für Marketing, Kundenkommunikation, Social Media, interne Kommunikation oder redaktionelle Inhalte einsetzen, lohnt deshalb ein genauer Blick auf die neuen Regeln.

Zwei unterschiedliche Ebenen der Transparenz

Artikel 50 unterscheidet zunächst zwischen Anbietern und Betreibern eines KI-Systems. Diese Rollen sind für die Frage entscheidend, wer welche Transparenzpflicht erfüllen muss.

Ein Anbieter entwickelt ein KI-System beziehungsweise lässt es entwickeln und bringt es unter eigenem Namen auf den Markt. Ein Unternehmen, das beispielsweise ein kommerzielles generatives KI-System für die Erstellung eigener Inhalte nutzt, ist dagegen typischerweise Betreiber beziehungsweise „Deployer“.

Für Anbieter generativer KI-Systeme gilt grundsätzlich eine technische Kennzeichnungspflicht. Systeme, die synthetische Texte, Bilder, Audio- oder Videoinhalte erzeugen oder manipulieren, müssen ihre Ausgaben so kennzeichnen, dass die künstliche Herkunft maschinenlesbar und technisch erkennbar ist. Dabei geht es beispielsweise um Metadaten, Provenance-Informationen oder vergleichbare technische Verfahren.

Für Unternehmen, die solche Systeme einsetzen, stellt sich dagegen eine andere Frage: Muss der Mensch, der den fertigen Inhalt sieht, ausdrücklich darauf hingewiesen werden, dass KI eingesetzt wurde?

Hier lautet die Antwort: nur in bestimmten Fällen.

Nicht jedes KI-generierte Bild benötigt einen sichtbaren Hinweis

Besonders deutlich wird die Differenz bei Bildern. Der Anbieter eines generativen Bildsystems muss grundsätzlich technische Voraussetzungen schaffen, damit künstlich erzeugte Inhalte erkannt werden können. Daraus folgt jedoch nicht automatisch, dass jedes Unternehmen unter jedes KI-generierte Bild sichtbar „KI-generiert“ schreiben muss.

Eine ausdrückliche Offenlegungspflicht für den Betreiber besteht insbesondere bei sogenannten Deepfakes. Der AI Act definiert damit KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die existierenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlicherweise authentisch oder wahr erscheinen können.

Ein fotorealistisches Video, in dem der Vorstand eines Unternehmens scheinbar eine Aussage trifft, die tatsächlich vollständig durch KI erzeugt wurde, wäre ein naheliegendes Beispiel. Gleiches kann für eine künstlich erzeugte Aufnahme eines realen Ereignisses oder eines existierenden Ortes gelten, wenn Betrachter davon ausgehen könnten, eine echte Aufnahme zu sehen.

Anders kann die Situation bei eindeutig illustrativen oder abstrakten Darstellungen sein. Ein stilisiertes Headerbild zu einem Blogbeitrag, eine offensichtlich künstliche Illustration einer Serverlandschaft oder eine nicht realitätsbezogene Visualisierung erfüllt nicht automatisch die Definition eines Deepfakes. Entscheidend sind Ähnlichkeit, Bezug zu etwas Existierendem und die Möglichkeit, dass der Inhalt fälschlicherweise für authentisch gehalten wird.

Auch für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke sieht der AI Act Erleichterungen vor. Besteht eine Offenlegungspflicht, soll sie so umgesetzt werden, dass der Charakter und die Nutzung des Werkes nicht unnötig beeinträchtigt werden.

Bei KI-generierten Texten ist die menschliche Kontrolle entscheidend

Für Unternehmen besonders relevant ist die Regelung zu Texten. Eine generelle Pflicht, jeden mit ChatGPT, Claude oder Gemini erstellten Text mit einem KI-Hinweis zu versehen, enthält der AI Act nicht.

Die Offenlegungspflicht betrifft KI-generierte oder KI-manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Die Leitlinien der Kommission fassen diesen Begriff weit. Dazu können unter anderem politische und wirtschaftliche Entwicklungen, öffentliche Gesundheit, Verbraucherschutz, Wissenschaft, Umwelt, öffentliche Sicherheit oder gesellschaftlich relevante Themen gehören.

Entscheidend ist allerdings eine wichtige Ausnahme: Hat ein Mensch den Inhalt substanziell geprüft oder redaktionell kontrolliert und übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung, entfällt diese Kennzeichnungspflicht.

Eine bloße Rechtschreibprüfung reicht dafür nicht aus. Nach den Leitlinien muss sich die menschliche Kontrolle mit dem Inhalt selbst beschäftigen. Dazu gehören beispielsweise die Überprüfung von Fakten und Quellen, die fachliche Bewertung von Aussagen sowie die Möglichkeit, Inhalte auf sachlicher Grundlage zu verändern oder vollständig abzulehnen.

Für redaktionelle Prozesse entsteht damit ein wichtiger Unterschied. Wer einen KI-generierten Text weitgehend automatisiert veröffentlicht, kann bei Themen von öffentlichem Interesse kennzeichnungspflichtig sein. Wer KI dagegen zur Recherche oder zur Erstellung eines Entwurfs verwendet, den Beitrag anschließend fachlich prüft, Quellen kontrolliert, inhaltlich bearbeitet und die Verantwortung für die Veröffentlichung übernimmt, fällt unter die entsprechende Ausnahme des Artikel 50 Absatz 4.

KI-Unterstützung allein macht einen redaktionellen Text damit nicht automatisch kennzeichnungspflichtig.

Für Chatbots muss grundsätzlich erkennbar sein, dass sie keine Menschen sind

Eine weitere Transparenzpflicht betrifft Systeme, die unmittelbar mit Menschen interagieren. Anbieter müssen solche Anwendungen grundsätzlich so gestalten, dass Nutzer darüber informiert werden, dass sie mit einem KI-System kommunizieren.

Das betrifft beispielsweise Kundenservice-Chatbots, digitale Assistenten oder dialogorientierte KI-Anwendungen. Eine zusätzliche Information ist allerdings nicht erforderlich, wenn für einen durchschnittlich informierten und aufmerksamen Menschen aufgrund der konkreten Situation ohnehin offensichtlich ist, dass er mit einem KI-System interagiert.

Für Unternehmen bedeutet dies, dass die Benutzeroberfläche eines Chatbots überprüft werden sollte. Wird beispielsweise durch Bezeichnung und Gestaltung eindeutig kommuniziert, dass es sich um einen KI-Assistenten handelt, kann die Transparenz bereits ausreichend hergestellt sein. Wird dagegen bewusst der Eindruck erzeugt, eine menschliche Mitarbeiterin oder ein menschlicher Mitarbeiter antworte, entsteht ein regulatorisches Risiko.

Die Information muss spätestens bei der ersten Interaktion erfolgen und klar wahrnehmbar sein. Zusätzlich sind bestehende Anforderungen an Barrierefreiheit zu berücksichtigen.

Auch Emotionserkennung und biometrische Kategorisierung sind betroffen

Artikel 50 enthält darüber hinaus Transparenzpflichten für Emotionserkennungs- und biometrische Kategorisierungssysteme. Unternehmen, die solche Systeme einsetzen, müssen betroffene Personen grundsätzlich darüber informieren, dass entsprechende Technologien verwendet werden.

Relevant kann dies beispielsweise bei Systemen sein, die anhand von Stimme, Gesichtsausdruck oder anderen biometrischen Merkmalen emotionale Zustände ableiten sollen. Dabei ist zu beachten, dass der AI Act bestimmte Anwendungen solcher Systeme unabhängig von der Transparenzpflicht bereits verbietet oder zusätzlichen Anforderungen unterwirft.

Die Transparenzinformation ersetzt deshalb keine Prüfung, ob der konkrete Anwendungsfall überhaupt zulässig ist. Sie ist lediglich eine zusätzliche Verpflichtung für Systeme, deren Nutzung rechtlich erlaubt ist.

Die sichtbare und die technische Kennzeichnung sind nicht dasselbe

Ein häufiger Fehler wäre es, beide Ebenen miteinander gleichzusetzen. Die maschinenlesbare Kennzeichnung durch den Anbieter erfüllt nicht automatisch eine sichtbare Offenlegungspflicht des Unternehmens.

Bei einem Deepfake muss ein Nutzer die Information grundsätzlich wahrnehmen können, ohne zunächst Metadaten auszulesen oder ein spezielles Prüfwerkzeug einzusetzen. Die Offenlegung soll spätestens beim ersten Kontakt mit dem Inhalt klar und unterscheidbar erfolgen.

Die Europäische Kommission hat hierfür eigene Symbole entwickelt, die Unternehmen freiwillig verwenden können. Der Einsatz dieser Icons ist jedoch nicht verpflichtend. Ebenso wenig bedeutet die bloße Verwendung eines EU-Symbols automatisch, dass alle Anforderungen erfüllt sind.

Für die praktische Umsetzung empfiehlt die Kommission unter anderem eine gut wahrnehmbare Platzierung, verständliche Sprache und eine Gestaltung, die auch Anforderungen der digitalen Barrierefreiheit berücksichtigt. Werden Inhalte heruntergeladen oder weiterverbreitet, sollte die Kennzeichnung nach Möglichkeit erhalten bleiben.

Unternehmen sollten deshalb nicht lediglich ein neues Label in ihrem Content-Management-System anlegen. Erforderlich ist vielmehr eine Regel, welche Inhalte überhaupt kennzeichnungspflichtig sind und wie die Kennzeichnung über verschiedene Ausgabekanäle erhalten bleibt.

Der freiwillige Code of Practice bietet einen Umsetzungsrahmen

Neben den gesetzlichen Anforderungen hat die Europäische Kommission einen Code of Practice für die Transparenz KI-generierter Inhalte veröffentlicht. Rund 190 Organisationen hatten den Kodex bis Ende Juli unterzeichnet, darunter zahlreiche große Anbieter generativer KI.

Die Teilnahme ist freiwillig. Ein Unternehmen verstößt daher nicht gegen den AI Act, nur weil es den Kodex nicht unterzeichnet.

Für Unterzeichner hat er dennoch regulatorische Bedeutung. Die Europäische Kommission und das AI Board haben den Kodex als geeigneten Ansatz anerkannt, um die Einhaltung bestimmter Transparenzpflichten nachzuweisen. Unternehmen, die nicht teilnehmen, müssen stattdessen durch eigene Maßnahmen darlegen können, wie sie die gesetzlichen Anforderungen erfüllen.

Der Kodex kann deshalb auch für Nicht-Unterzeichner als Orientierung dienen. Er beschreibt konkrete Verfahren für maschinenlesbare Markierungen, Erkennungsmöglichkeiten und sichtbare Offenlegungen und bietet damit einen Referenzpunkt für die Gestaltung eigener Governance-Prozesse.

Eine Übergangsfrist gilt nur für einen Teil der Anforderungen

Mit dem Ende Juli 2026 in Kraft getretenen AI Omnibus wurde für einen begrenzten Bereich eine zusätzliche Übergangsfrist geschaffen. Anbieter generativer KI-Systeme, die bereits vor dem 2. August 2026 auf dem europäischen Markt angeboten oder in Betrieb genommen wurden, müssen die technischen Kennzeichnungs- und Erkennungspflichten aus Artikel 50 Absatz 2 spätestens bis zum 2. Dezember 2026 umsetzen.

Diese Übergangsregel sollte nicht mit einer generellen Verschiebung der Transparenzpflichten verwechselt werden. Für neu bereitgestellte Systeme sowie für die Offenlegungspflichten von Unternehmen beim Einsatz von Deepfakes oder bestimmten KI-generierten Texten gelten die Anforderungen bereits seit dem 2. August.

Auch bereits zuvor veröffentlichte Inhalte müssen grundsätzlich nicht rückwirkend gekennzeichnet werden. Die Kommission empfiehlt eine freiwillige nachträgliche Kennzeichnung jedoch dort, wo dies sinnvoll und möglich ist.

Was Unternehmen jetzt konkret prüfen sollten

Für die praktische Umsetzung ist zunächst ein Überblick über die eingesetzten generativen KI-Anwendungen notwendig. Dabei sollte nicht nur erfasst werden, welches Modell verwendet wird, sondern auch welche Inhalte damit entstehen und wo diese veröffentlicht werden.

Bei jedem Anwendungsfall sollten anschließend vier Fragen beantwortet werden:

1. Interagieren externe oder interne Personen unmittelbar mit einem KI-System?
2. Werden Bild-, Audio- oder Videoinhalte erzeugt, die als authentische Darstellung realer Personen, Orte, Gegenstände oder Ereignisse verstanden werden könnten?
3. Werden KI-generierte Texte zu Themen von öffentlichem Interesse veröffentlicht?
4. Falls ja: Findet vor der Veröffentlichung eine dokumentierbare fachliche oder redaktionelle Kontrolle statt und ist die Verantwortung für den Inhalt eindeutig zugeordnet?

Gerade der letzte Punkt kann für Unternehmen wichtiger sein als ein pauschaler KI-Hinweis. Die regulatorische Anforderung schafft einen zusätzlichen Grund, redaktionelle Verantwortlichkeiten und Freigabeprozesse eindeutig zu definieren.

Für Marketing- und Kommunikationsabteilungen bedeutet dies beispielsweise, dass vollständig automatisierte Content-Pipelines anders bewertet werden müssen als Prozesse, bei denen KI lediglich einen Entwurf liefert. Auch bei Social-Media-Beiträgen, Presseinformationen, Blogartikeln und automatisierten Nachrichtenzusammenfassungen ist deshalb nicht allein der verwendete Generator entscheidend, sondern der gesamte Veröffentlichungsprozess.

Verstöße können erhebliche Folgen haben

Die Transparenzpflichten sind keine freiwillige Empfehlung. Seit dem 2. August werden die entsprechenden Bestimmungen des AI Act durch die zuständigen Marktüberwachungsbehörden sowie in bestimmten Fällen durch das europäische AI Office durchgesetzt.

Bei Verstößen gegen entsprechende Pflichten können Bußgelder von bis zu 15 Millionen Euro beziehungsweise bei Unternehmen von bis zu drei Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vorgesehen sein. Bei kleinen und mittleren Unternehmen sowie Small Mid-Caps ist die Verhältnismäßigkeit zu berücksichtigen.

Die Höhe möglicher Sanktionen sollte dennoch nicht der einzige Grund für eine strukturierte Umsetzung sein. Fehlende Transparenz kann auch Vertrauen beschädigen – insbesondere dann, wenn Kunden erst nachträglich erfahren, dass vermeintlich authentische Kommunikation, Bilder oder Stimmen synthetisch erzeugt wurden.