EU AI Act: Kennzeichnungspflichten für KI-Inhalte

Künstliche Intelligenz gehört mittlerweile zum Arbeitsalltag vieler Unternehmen. Blogartikel werden mit ChatGPT vorbereitet, Bilder mit Midjourney oder DALL·E erstellt und Videos mithilfe von KI bearbeitet. Was vor wenigen Jahren noch Zukunftsmusik war, ist heute für viele Betriebe selbstverständlich.

Mit dem EU AI Act gelten seit dem 2. August 2026 nun weitere Vorschriften, die den Umgang mit Künstlicher Intelligenz transparenter machen sollen. Im Mittelpunkt stehen dabei vor allem Kennzeichnungs- und Transparenzpflichten. Ziel der Europäischen Union ist es, dass Nutzer erkennen können, wann sie mit einer KI interagieren oder wann Inhalte ganz oder teilweise künstlich erzeugt wurden.

Doch bedeutet das jetzt, dass Unternehmen jedes mit ChatGPT erstellte Bild, jeden KI-Text und jedes bearbeitete Video mit einem großen „KI-generiert“-Hinweis versehen müssen?

Was hat sich mit dem EU AI Act seit dem 2. August 2026 geändert?

Der EU AI Act wird schrittweise umgesetzt. Während bereits seit Februar 2025 bestimmte verbotene KI-Anwendungen untersagt sind und Unternehmen ihre Mitarbeitenden im Umgang mit KI schulen müssen, gelten seit Anfang August 2026 weitere Transparenzvorgaben. Diese betreffen insbesondere Anbieter und Nutzer bestimmter KI-Systeme sowie Inhalte, die geeignet sind, Menschen über ihren Ursprung zu täuschen.

Seit dem 2. August 2026 gilt nun auch Artikel 50 des EU AI Acts. Dieser enthält verschiedene Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme. Dazu gehören unter anderem Vorgaben für KI-Systeme, die direkt mit Menschen interagieren, maschinenlesbare Kennzeichnungen synthetischer Inhalte durch die Anbieter sowie Offenlegungspflichten für bestimmte Deepfakes und KI-generierte Texte.

Im Kern verfolgt der Gesetzgeber ein einfaches Ziel: Menschen sollen erkennen können, wann sie mit einer künstlichen Intelligenz kommunizieren oder wann echt wirkende Inhalte künstlich erzeugt oder bearbeitet wurden.

Müssen jetzt alle KI-generierten Inhalte gekennzeichnet werden?

Die kurze Antwort lautet:

Nein – nicht jeder Inhalt, bei dessen Erstellung KI eingesetzt wurde, muss automatisch als „KI-generiert“ gekennzeichnet werden.

Zunächst ist wichtig zu unterscheiden, wer die KI nutzt. Die Transparenzpflichten des EU AI Acts richten sich grundsätzlich an Unternehmen, Behörden sowie Selbstständige und andere Personen, die KI im beruflichen oder geschäftlichen Umfeld einsetzen. Wer KI ausschließlich privat und ohne wirtschaftlichen Hintergrund nutzt – beispielsweise um ein Bild für den eigenen Familienchat oder ein Video für private Zwecke zu erstellen – fällt grundsätzlich nicht unter diese Regelungen.

Auch im geschäftlichen Bereich gilt nicht pauschal eine Kennzeichnungspflicht für jeden mit KI erstellten Inhalt. Der AI Act unterscheidet zwischen verschiedenen Anwendungsfällen. Besonders relevant sind die Transparenzpflichten bei:

• KI-Systemen, mit denen Nutzer direkt interagieren (z. B. Chatbots oder KI-Telefonassistenten),
• realistisch wirkenden KI-generierten Bildern, Audio- oder Videoinhalten (Deepfakes),
• sowie bestimmten KI-generierten Inhalten mit öffentlichem Informationscharakter.

Wird ein Text hingegen mithilfe einer KI erstellt, anschließend aber von einem Menschen inhaltlich geprüft, überarbeitet und unter eigener redaktioneller Verantwortung veröffentlicht, greifen nicht automatisch dieselben Kennzeichnungspflichten wie bei vollständig automatisiert veröffentlichten Inhalten. Entscheidend ist also nicht allein, ob KI eingesetzt wurde, sondern wie sie eingesetzt wurde und welche Verantwortung der Mensch anschließend übernimmt.

Was bedeutet der AI Act konkret für Unternehmen?

Der AI Act schreibt keine einheitliche Formulierung wie „Mit ChatGPT erstellt“ vor. Stattdessen definiert Artikel 50 verschiedene Transparenzpflichten – je nachdem, welche Art von KI eingesetzt wird. Für die meisten Unternehmen sind insbesondere drei Fälle relevant.

Kennzeichnung von KI-Chatbots und KI-Assistenten

Unternehmen müssen Nutzer darüber informieren, wenn diese mit einem KI-System interagieren. Das betrifft beispielsweise Chatbots auf Websites, KI-gestützte Supportsysteme oder Telefonassistenten. Die Information muss spätestens zu Beginn der Interaktion erfolgen, sofern für den Nutzer nicht ohnehin offensichtlich ist, dass er mit einer KI kommuniziert.

Ein einfacher Hinweis wie: „Sie kommunizieren mit einem KI-gestützten Assistenten.“ ist in vielen Fällen bereits ausreichend.

Kennzeichnung von KI-generierten Bildern, Audio- und Videoinhalten

Wer als Unternehmen täuschend echte KI-generierte oder KI-manipulierte Bilder, Videos oder Audiodateien veröffentlicht, muss diese entsprechend kenntlich machen. Ziel ist es, Deepfakes oder realistisch wirkende synthetische Inhalte für Nutzer erkennbar zu machen.

Bei offensichtlich künstlerischen, kreativen, satirischen oder fiktiven Werken gelten erleichterte Anforderungen: Die Offenlegung muss dort in geeigneter Weise erfolgen, ohne die Darstellung oder den Genuss des Werkes unnötig zu beeinträchtigen.

Zusätzlich müssen KI-Systeme – soweit technisch möglich – ihre erzeugten Inhalte maschinenlesbar kennzeichnen. Viele KI-Anbieter setzen dies bereits um, sodass Plattformen wie Facebook oder Instagram Bilder automatisch mit Hinweisen wie „AI info“ oder „Made with AI“ kennzeichnen können. Da diese automatische Erkennung nicht immer zuverlässig funktioniert, solltest du dennoch prüfen, ob eine zusätzliche Kennzeichnung sinnvoll oder erforderlich ist.

Wie die Kennzeichnung von KI-generierten oder mit KI-Tools bearbeiteten Inhalten konkret in der Praxis umgesetzt werden kann, erfährst du im nächsten Abschnitt.

Kennzeichnung bestimmter KI-generierter Texte

Eine Kennzeichnungspflicht für Texte besteht nicht generell. Sie betrifft insbesondere KI-generierte oder KI-manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren – beispielsweise journalistische Inhalte oder vergleichbare Informationsangebote. Wurden diese Inhalte jedoch vor der Veröffentlichung redaktionell geprüft und übernimmt eine natürliche oder juristische Person die Verantwortung für den Inhalt, greift diese spezielle Offenlegungspflicht nicht.

Es muss also nicht jeder Text mit dem Hinweis „Mit ChatGPT erstellt“ versehen werden. KI als Werkzeug für Recherche, Gliederung oder einen ersten Entwurf zu verwenden, ist entsprechend etwas anderes als ungeprüft automatisch erzeugte Texte zu veröffentlichen.

Überprüfung eigener Prozesse

Auch wenn viele kleine Unternehmen nicht unmittelbar von den komplexeren Regelungen des AI Acts betroffen sind, lohnt sich jetzt ein genauer Blick auf die eigenen Prozesse.

Unternehmen sollten sich insbesondere folgende Fragen stellen:

• Welche KI-Systeme werden im Unternehmen eingesetzt?
• Werden Kunden darüber informiert, wenn sie mit einer KI kommunizieren?
• Gibt es interne Richtlinien für den verantwortungsvollen Einsatz von KI?
• Werden KI-generierte Inhalte vor der Veröffentlichung redaktionell geprüft?
• Können Mitarbeitende den verantwortungsvollen Umgang mit KI nachweisen?

Gerade die letzte Frage gewinnt zunehmend an Bedeutung. Bereits seit Februar 2025 verpflichtet der AI Act Unternehmen dazu, für eine angemessene KI-Kompetenz (AI Literacy) der Personen zu sorgen, die KI-Systeme einsetzen. Wer KI produktiv nutzt, sollte daher nicht nur wissen, wie die Tools funktionieren, sondern auch ihre Grenzen, Risiken und rechtlichen Anforderungen kennen.

Müssen ältere KI-Inhalte nachträglich gekennzeichnet werden?

Auch hierzu hat die Europäische Kommission inzwischen eine klare Aussage getroffen: Inhalte, die vor dem 2. August 2026 erstellt wurden, müssen nicht rückwirkend gekennzeichnet werden.

Unternehmen müssen also nicht sämtliche alten Social-Media-Posts, Bilder oder Videos durchsuchen und nachträglich mit KI-Hinweisen versehen. Die Kommission begrüßt eine freiwillige nachträgliche Kennzeichnung allerdings ausdrücklich, sofern diese möglich ist.

Wie kann ich KI-Inhalte in der Praxis kennzeichnen?

Die Europäische Kommission stellt inzwischen offizielle EU-Icons zur Kennzeichnung von KI-generierten beziehungsweise KI-manipulierten Inhalten bereit.

Es gibt drei Varianten:

AI – allgemeines Symbol, wenn KI an der Erstellung beteiligt war oder eine ergänzende Beschreibung verwendet wird.

AI Generated – für vollständig durch KI generierte Inhalte ohne von Menschen erstellte Elemente beziehungsweise menschliche redaktionelle Kontrolle abseits des Prompts.

AI Modified – wenn bestehende, von Menschen erstellte Inhalte mithilfe von KI teilweise verändert wurden.

Die Icons stehen in Schwarz, Weiß sowie jeweils mit 50 Prozent Transparenz als PNG- und SVG-Dateien zur Verfügung. Die Europäische Kommission hat die Symbole außerdem mit Nutzern getestet und festgestellt, dass ihre Verständlichkeit steigt, wenn das Symbol zusätzlich von einer kurzen Textbeschreibung begleitet wird.

Wichtig: Die Verwendung dieser offiziellen EU-Icons ist freiwillig. Eine bestehende Kennzeichnungs- beziehungsweise Offenlegungspflicht nach Artikel 50 ist dagegen verbindlich. Umgekehrt bedeutet die bloße Verwendung eines Icons nicht automatisch, dass sämtliche Anforderungen des AI Acts erfüllt sind.

Die offiziellen Icons, Downloads und Hinweise der Europäischen Kommission findest du hier:

EU-Icons zur Kennzeichnung von KI-generierten Inhalten

Wo sollte das KI-Icon platziert werden?

Auch hierfür gibt die Europäische Kommission inzwischen konkrete Orientierung. Eine feste Pixelgröße oder eine bestimmte Ecke des Bildes wird nicht vorgeschrieben. Entscheidend ist vielmehr, dass das Symbol spätestens beim ersten Kontakt mit dem Inhalt deutlich wahrnehmbar und unterscheidbar ist.

Es sollte an einer Stelle platziert werden, an der es nicht von anderen Elementen überlagert wird. Soweit keine gleichwertige Alternative wie ein entsprechendes Interface-Overlay zur Verfügung steht, soll das Icon grundsätzlich direkt in den betreffenden Inhalt eingebettet werden. Außerdem soll es auch beim Teilen oder Herunterladen sichtbar bleiben.

Für einen Instagram-Beitrag kann es daher beispielsweise sinnvoll sein, das passende AI Generated- oder AI Modified-Icon gut sichtbar am Rand des Bildes einzubinden und gegebenenfalls zusätzlich in der Caption kurz auf die KI-Erstellung hinzuweisen. Eine zu kleine, kaum erkennbare oder bewusst versteckte Kennzeichnung widerspricht dagegen dem Transparenzgedanken.

Auch plattforminterne Kennzeichnungen können ergänzend genutzt werden. Verlasse dich bei einer eigenen Offenlegungspflicht jedoch nicht ausschließlich darauf, dass Instagram, Facebook oder eine andere Plattform den KI-Ursprung automatisch erkennt.

Die offiziellen EU-Symbole sind übrigens nicht auf kennzeichnungspflichtige Fälle beschränkt. Sie können auch freiwillig eingesetzt werden, wenn du deinen Nutzern transparent zeigen möchtest, dass ein Inhalt vollständig oder teilweise mithilfe von KI entstanden ist.

Fazit: KI-Kennzeichnung nach dem EU AI Act sinnvoll nutzen mit klaren Regeln

Der EU AI Act schafft seit dem 2. August 2026 neue Transparenzanforderungen, allerdings bedeutet das nicht, dass ab sofort jedes mit KI erzeugte Bild, jeder ChatGPT-Text und jedes bearbeitete Video mit einem KI-Hinweis versehen werden muss.

Rein private, nicht berufliche Tätigkeiten fallen grundsätzlich nicht unter die Betreiberpflichten. Unternehmen müssen wiederum genau betrachten, welche Art von KI sie einsetzen und welche Inhalte damit erzeugt werden. Besonders relevant sind Deepfakes, bestimmte KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse und KI-Systeme, die unmittelbar mit Menschen interagieren.

Grob lässt sich für die Unternehmenspraxis sagen: Realistisch wirkende KI-generierte oder KI-manipulierte Bilder, Videos und Audiodateien, die unter die Deepfake-Definition fallen, müssen transparent als künstlich erzeugt beziehungsweise manipuliert offengelegt werden. Dafür können beispielsweise die neuen offiziellen EU-Icons AI Generated oder AI Modified genutzt werden. Bei anderen KI-Bildern kann eine freiwillige Kennzeichnung ebenfalls sinnvoll sein und für zusätzliche Transparenz sorgen.

Bei Chatbots und KI-Telefonassistenten sollte von Beginn an für den Nutzer erkennbar sein, dass er mit einem KI-System kommuniziert, sofern dies nicht ohnehin offensichtlich ist. Bei Texten kommt es dagegen stärker auf Inhalt, Einsatzzweck und die tatsächliche menschliche beziehungsweise redaktionelle Kontrolle an.

Wer bereits vor dem 2. August 2026 KI-Inhalte veröffentlicht hat, muss nicht in Panik sein gesamtes Archiv überarbeiten: Eine rückwirkende Kennzeichnung alter Inhalte verlangt die Europäische Kommission nicht.

Damit bleibt KI auch unter dem AI Act ein sehr gut einsetzbares Werkzeug. Unternehmen sollten sie jedoch bewusst einsetzen, ihre Prozesse überprüfen und dort transparent kennzeichnen, wo es erforderlich oder für die Nutzer sinnvoll ist.

 

—

Bildquelle(n): Gambar Luthfil / Canva