INOVANET EU AI Act: Wann KI-Inhalte gekennzeichnet werden müssen

KI-generierte Texte, Bilder, Videos und Stimmen gehören inzwischen zum Alltag vieler Unternehmen. Sie werden für Webseiten, Social Media, Newsletter, Präsentationen oder Marketingmaterial eingesetzt.

Seit dem 2. August 2026 gelten mit Artikel 50 des EU AI Acts neue Transparenzpflichten. Das bedeutet allerdings nicht, dass ab sofort jeder Inhalt, bei dem KI beteiligt war, sichtbar mit „KI-generiert“ gekennzeichnet werden muss. Entscheidend sind unter anderem die Art des Inhalts, sein Verwendungszweck und die Frage, ob eine menschliche beziehungsweise redaktionelle Prüfung stattgefunden hat.

Dieser Beitrag gibt einen allgemeinen Überblick und ersetzt keine rechtliche Beratung für den Einzelfall.

Technische Kennzeichnung und sichtbarer Hinweis

Der EU AI Act unterscheidet zwischen Pflichten für Anbieter von KI-Systemen und Pflichten für diejenigen, die KI-Inhalte einsetzen und veröffentlichen.

Anbieter generativer KI-Systeme müssen grundsätzlich dafür sorgen, dass künstlich erzeugte oder manipulierte Text-, Bild-, Audio- oder Videoinhalte maschinenlesbar gekennzeichnet und als solche erkennbar sind. Ausnahmen bestehen unter anderem für rein unterstützende Standardbearbeitungen, die den Ausgangsinhalt oder dessen Bedeutung nicht wesentlich verändern.

Das ist jedoch nicht dasselbe wie ein sichtbarer Hinweis für den Nutzer.

Unternehmen müssen also nicht automatisch unter jeden mit KI erstellten Text schreiben: „Dieser Inhalt wurde mit KI erstellt.“

KI-generierte Texte

Bei Texten ist die Regelung relativ klar eingegrenzt.

Eine Offenlegungspflicht besteht insbesondere bei KI-generierten oder manipulierten Texten, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Gleichzeitig enthält der AI Act eine wichtige Ausnahme: Wurde der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen und übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung, greift diese Offenlegungspflicht nach Artikel 50 Absatz 4 nicht.

Für Unternehmen bedeutet das: Ein von einer KI erzeugter Entwurf, der anschließend fachlich geprüft, überarbeitet und verantwortlich veröffentlicht wird, ist anders einzuordnen als ein automatisiert erzeugter und ungeprüft veröffentlichter Text.

Unternehmens- und Marketingtexte

Eine Produktbeschreibung, eine Leistungsseite oder ein klassischer Werbetext informiert nicht automatisch über eine Angelegenheit von öffentlichem Interesse.

Deshalb führt allein der Einsatz von ChatGPT, Claude oder einem anderen KI-System bei solchen Inhalten nicht automatisch zu einer sichtbaren Kennzeichnungspflicht nach Artikel 50. Entscheidend bleibt der konkrete Anwendungsfall.

Andere Vorschriften, beispielsweise aus Wettbewerbs-, Datenschutz-, Urheber- oder Verbraucherrecht, können unabhängig davon weiterhin relevant sein. Der AI Act ersetzt diese Regelungen nicht.

Bilder, Videos, Stimmen und Deepfakes

Bei Bild-, Audio- und Videoinhalten spielt vor allem der Begriff Deepfake eine wichtige Rolle.

Gemeint sind künstlich erzeugte oder manipulierte Inhalte, die realen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen deutlich ähneln und für Betrachter fälschlicherweise authentisch wirken können. In solchen Fällen muss offengelegt werden, dass der Inhalt künstlich erzeugt oder manipuliert wurde.

Bei offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werken gelten erleichterte Anforderungen. Die Kennzeichnung soll dort so erfolgen, dass sie die Darstellung oder Nutzung des Werkes nicht unnötig beeinträchtigt.

Ein offensichtlich künstliches Illustrationsbild ist daher nicht automatisch genauso zu behandeln wie ein fotorealistisches Bild einer realen Person, das wie eine echte Aufnahme wirkt.

Ähnliches gilt für Stimmen: Wird die Stimme einer realen Person so künstlich erzeugt, dass sie wie eine authentische Aufnahme wirkt, sollte die Deepfake-Regelung berücksichtigt werden.

KI-Chatbots müssen erkennbar sein

Artikel 50 betrifft nicht nur erzeugte Inhalte.

Bei KI-Systemen, die direkt mit Menschen interagieren, müssen Nutzer grundsätzlich darüber informiert werden, dass sie mit einem KI-System kommunizieren – sofern dies aufgrund des Kontexts nicht ohnehin offensichtlich ist.

Für Unternehmen kann das beispielsweise bei Support-Chatbots oder digitalen KI-Assistenten relevant sein.

Ein Besucher sollte also nicht davon ausgehen, mit einem Menschen zu schreiben, wenn tatsächlich ein KI-System antwortet.

Menschliche Prüfung bleibt entscheidend

Für Unternehmen ist deshalb weniger die pauschale Frage wichtig:

„Wurde KI verwendet?“

Entscheidender ist, wie stark die KI den veröffentlichten Inhalt geprägt hat und wer anschließend die Verantwortung dafür übernimmt.

Bei Texten sollte deshalb ein sauberer redaktioneller Prozess selbstverständlich sein. Auch bei der allgemeinen Nutzung von KI im Unternehmen spielen klare Zuständigkeiten und ausreichende KI-Kompetenz im Sinne des AI Acts eine wichtige Rolle.

Das verbessert nicht nur die Qualität. Bei bestimmten Texten zu Themen von öffentlichem Interesse kann die menschliche Prüfung zusammen mit der redaktionellen Verantwortung auch für die Anwendung der Transparenzpflicht entscheidend sein.

Typische Fälle aus dem Unternehmensalltag

Eine grobe Orientierung kann im Alltag helfen:

KI korrigiert Rechtschreibung oder Formulierungen: Eine solche unterstützende Bearbeitung führt nicht automatisch zu einer sichtbaren Kennzeichnung.
KI erstellt eine Produkt- oder Leistungsbeschreibung: Allein dadurch entsteht nicht automatisch eine Kennzeichnungspflicht nach Artikel 50.
KI erstellt einen veröffentlichten Text zu einem Thema von öffentlichem Interesse: Hier muss genauer geprüft werden. Menschliche Kontrolle und redaktionelle Verantwortung sind besonders relevant.
KI erzeugt ein offensichtlich künstliches Illustrationsbild: Das ist nicht automatisch ein Deepfake.
KI erzeugt eine fotorealistische Darstellung einer realen Person oder eines realen Ereignisses: Eine Offenlegung kann erforderlich sein.
Ein KI-Chatbot kommuniziert mit Kunden: Nutzer müssen grundsätzlich erkennen können, dass sie mit einem KI-System interagieren.

Klare Prozesse statt pauschaler KI-Labels

Der EU AI Act verlangt kein allgemeines „KI-generiert“-Label für jeden Text, jedes Bild oder jedes Marketingmotiv.

Besonders relevant sind vor allem Deepfakes, bestimmte KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse und direkte Interaktionen mit KI-Systemen.

Für Unternehmen empfiehlt sich deshalb ein einfacher interner Ablauf. Wer KI regelmäßig für Inhalte oder andere Aufgaben einsetzt, sollte klare Regeln für den Einsatz von KI in Unternehmensprozessen festlegen.

Bestehende Inhalte und Übergang

Die Transparenzpflichten aus Artikel 50 gelten seit dem 2. August 2026.

Unternehmen sollten deshalb vor allem neue Workflows und Veröffentlichungsprozesse darauf ausrichten. Statt jeden KI-Inhalt pauschal zu kennzeichnen, sollte zunächst geprüft werden, um welche Art von Inhalt es sich handelt und welche Rolle KI bei seiner Erstellung gespielt hat.

EU AI Act: Wann KI-Inhalte gekennzeichnet werden müssen

Hinweis