EU AI Act: Kennzeichnungspflichten für KI-Inhalte

Künstliche Intelligenz gehört mittlerweile zum Arbeitsalltag vieler Unternehmen. Blogartikel werden mit ChatGPT vorbereitet, Bilder mit Midjourney oder DALL·E erstellt und Videos mithilfe von KI bearbeitet. Was vor wenigen Jahren noch Zukunftsmusik war, ist heute für viele Betriebe selbstverständlich.

Mit dem EU AI Act gelten seit dem 2. August 2026 nun weitere Vorschriften, die den Umgang mit Künstlicher Intelligenz transparenter machen sollen. Im Mittelpunkt stehen dabei vor allem Kennzeichnungs- und Transparenzpflichten. Ziel der Europäischen Union ist es, dass Nutzer erkennen können, wann sie mit einer KI interagieren oder wann Inhalte ganz oder teilweise künstlich erzeugt wurden.

Was hat sich seit dem 2. August 2026 geändert?

Der EU AI Act wird schrittweise umgesetzt. Während bereits seit Februar 2025 bestimmte verbotene KI-Anwendungen untersagt sind und Unternehmen ihre Mitarbeitenden im Umgang mit KI schulen müssen, gelten seit Anfang August 2026 weitere Transparenzvorgaben. Diese betreffen insbesondere Anbieter und Nutzer bestimmter KI-Systeme sowie Inhalte, die geeignet sind, Menschen über ihren Ursprung zu täuschen.

Im Kern verfolgt der Gesetzgeber ein einfaches Ziel: Menschen sollen erkennen können, wann sie mit einer künstlichen Intelligenz kommunizieren oder wann echt wirkende Inhalte künstlich erzeugt oder bearbeitet wurden.

Dadurch soll unter anderem das Vertrauen in digitale Inhalte gestärkt und der Missbrauch von KI – beispielsweise durch Deepfakes oder täuschend echte Medien – eingedämmt werden.

Müssen jetzt alle KI-generierten Inhalte gekennzeichnet werden?

Die kurze Antwort lautet:

Nein – nicht jeder Inhalt, bei dessen Erstellung KI eingesetzt wurde, muss automatisch als „KI-generiert“ gekennzeichnet werden.

Zunächst ist wichtig zu unterscheiden, wer die KI nutzt. Die Transparenzpflichten des EU AI Acts richten sich grundsätzlich an Unternehmen, Behörden sowie Selbstständige und andere Personen, die KI im beruflichen oder geschäftlichen Umfeld einsetzen. Wer KI ausschließlich privat und ohne wirtschaftlichen Hintergrund nutzt – beispielsweise um ein Bild für den eigenen Familienchat oder ein Video für private Zwecke zu erstellen – fällt grundsätzlich nicht unter diese Regelungen.

Auch im geschäftlichen Bereich gilt nicht pauschal eine Kennzeichnungspflicht für jeden mit KI erstellten Inhalt. Der AI Act unterscheidet zwischen verschiedenen Anwendungsfällen. Besonders relevant sind die Transparenzpflichten bei:

• KI-Systemen, mit denen Nutzer direkt interagieren (z. B. Chatbots oder KI-Telefonassistenten),
• realistisch wirkenden KI-generierten Bildern, Audio- oder Videoinhalten (Deepfakes),
• sowie bestimmten KI-generierten Inhalten mit öffentlichem Informationscharakter.

Wird ein Text hingegen mithilfe einer KI erstellt, anschließend aber von einem Menschen fachlich geprüft, überarbeitet und unter eigener redaktioneller Verantwortung veröffentlicht, greifen nicht automatisch dieselben Kennzeichnungspflichten wie bei vollständig automatisiert veröffentlichten Inhalten. Entscheidend ist also nicht allein, ob KI eingesetzt wurde, sondern wie sie eingesetzt wurde und welche Verantwortung der Mensch anschließend übernimmt.

Was bedeutet der AI Act konkret für Unternehmen?

Der AI Act schreibt keine einheitliche Formulierung wie „Mit ChatGPT erstellt“ vor. Stattdessen definiert Artikel 50 verschiedene Transparenzpflichten – je nachdem, welche Art von KI eingesetzt wird. Für die meisten Unternehmen sind insbesondere drei Fälle relevant.

1. Kennzeichnung von KI-Chatbots und KI-Assistenten

Unternehmen müssen Nutzer darüber informieren, wenn diese mit einem KI-System interagieren. Das betrifft beispielsweise Chatbots auf Websites, KI-gestützte Supportsysteme oder Telefonassistenten. Die Information muss spätestens zu Beginn der Interaktion erfolgen, sofern für den Nutzer nicht ohnehin offensichtlich ist, dass er mit einer KI kommuniziert.

Ein einfacher Hinweis wie: „Sie kommunizieren mit einem KI-gestützten Assistenten.“ ist in vielen Fällen bereits ausreichend.

2. Kennzeichnung von KI-generierten Bildern, Audio- und Videoinhalten

Wer als Unternehmen täuschend echte KI-generierte oder KI-manipulierte Bilder, Videos oder Audiodateien veröffentlicht, muss diese entsprechend kenntlich machen. Ziel ist es, Deepfakes oder realistisch wirkende synthetische Inhalte für Nutzer erkennbar zu machen.

Zusätzlich müssen KI-Systeme – soweit technisch möglich – ihre erzeugten Inhalte maschinenlesbar kennzeichnen. Viele KI-Anbieter setzen dies bereits um, sodass Plattformen wie Facebook oder Instagram Bilder automatisch mit Hinweisen wie „AI info“ oder „Made with AI“ kennzeichnen können. Da diese automatische Erkennung nicht immer zuverlässig funktioniert, solltest du dennoch prüfen, ob eine zusätzliche Kennzeichnung sinnvoll oder erforderlich ist.

Wie die Kennzeichnung von KI-generierten oder mit KI-Tools bearbeiteten Inhalten konkret in der Praxis umgesetzt werden kann, erfährst du im nächsten Abschnitt.

3. Kennzeichnung bestimmter KI-generierter Texte

Eine Kennzeichnungspflicht für Texte besteht nicht generell. Sie betrifft insbesondere KI-generierte oder KI-manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren – beispielsweise journalistische Inhalte oder vergleichbare Informationsangebote. Wurden diese Inhalte jedoch vor der Veröffentlichung redaktionell geprüft und übernimmt eine natürliche oder juristische Person die Verantwortung für den Inhalt, greift diese spezielle Offenlegungspflicht nicht.

4. Überprüfung eigener Prozesse

Auch wenn viele kleine Unternehmen nicht unmittelbar von den komplexeren Regelungen des AI Acts betroffen sind, lohnt sich jetzt ein genauer Blick auf die eigenen Prozesse.

Unternehmen sollten sich insbesondere folgende Fragen stellen:

• Welche KI-Systeme werden im Unternehmen eingesetzt?
• Werden Kunden darüber informiert, wenn sie mit einer KI kommunizieren?
• Gibt es interne Richtlinien für den verantwortungsvollen Einsatz von KI?
• Werden KI-generierte Inhalte vor der Veröffentlichung redaktionell geprüft?
• Können Mitarbeitende den verantwortungsvollen Umgang mit KI nachweisen?

Gerade die letzte Frage gewinnt zunehmend an Bedeutung. Bereits seit Februar 2025 verpflichtet der AI Act Unternehmen dazu, für eine angemessene KI-Kompetenz (AI Literacy) der Personen zu sorgen, die KI-Systeme einsetzen. Wer KI produktiv nutzt, sollte daher nicht nur wissen, wie die Tools funktionieren, sondern auch ihre Grenzen, Risiken und rechtlichen Anforderungen kennen.

Wie sollte die KI-Kennzeichnung in der Praxis aussehen?

Eine gesetzlich vorgeschriebene Formulierung oder ein offizielles Symbol gibt es derzeit nicht. Entscheidend ist, dass Nutzer klar erkennen können, dass Inhalte mit Hilfe von Künstlicher Intelligenz erzeugt oder verändert wurden. Die Kennzeichnung sollte gut sichtbar, verständlich und unmittelbar mit dem Inhalt verbunden sein.

In der Praxis haben sich bereits verschiedene Möglichkeiten etabliert:

Variante 1: Hinweis direkt am Bild oder Video (empfohlen)
Ein kleiner Hinweis im Bild oder am unteren Bildrand schafft die größte Transparenz. Beispielsweise:

• KI-generiert
• Mit KI erstellt
• Teilweise mit KI erstellt
• KI-unterstützt bearbeitet

Gerade wenn Bilder oder Videos später heruntergeladen oder ohne Beschreibung weiterverbreitet werden, bleibt die Kennzeichnung erhalten.

Variante 2: Hinweis in der Bildbeschreibung oder im Social-Media-Beitrag
Auch ein gut sichtbarer Hinweis in der Caption oder direkt oberhalb bzw. unterhalb des Bildes kann sinnvoll sein, insbesondere bei Blogartikeln oder Social-Media-Beiträgen. Voraussetzung ist allerdings, dass der Hinweis nicht zwischen zahlreichen Hashtags oder am Ende eines langen Textes „versteckt“ wird, sondern leicht wahrnehmbar ist.

Variante 3: Plattforminterne Kennzeichnung nutzen
Viele Plattformen bieten inzwischen eigene Funktionen zur Kennzeichnung von KI-Inhalten an. Facebook und Instagram kennzeichnen beispielsweise bereits automatisch erkannte KI-Bilder oder bieten entsprechende Hinweise an. Werden solche Funktionen angeboten, sollten Unternehmen diese zusätzlich nutzen. Sie ersetzen jedoch nicht automatisch die eigene Transparenzpflicht in jedem Einzelfall.

Ich würde Unternehmen sogar empfehlen, intern drei einfache Kennzeichnungen zu verwenden. Das ist zwar keine gesetzliche Vorgabe, aber für Mitarbeiter, Kunden und Leser leicht verständlich:

🟢 Mit KI erstellt
→ Der Inhalt wurde vollständig durch KI erzeugt.

🟡 Teilweise mit KI erstellt
→ Die KI hat Inhalte erzeugt oder bearbeitet, ein Mensch hat diese jedoch ergänzt, verändert oder redaktionell überarbeitet.

🔵 Mit Unterstützung von KI erstellt
→ KI wurde lediglich als Hilfsmittel genutzt, beispielsweise für Ideen, Korrekturen oder Formulierungsvorschläge.

Diese drei Kategorien lassen sich nahezu auf alle Anwendungsfälle übertragen und schaffen genau die Transparenz, die der AI Act erreichen möchte, ohne Nutzer mit juristischen Formulierungen zu überfordern. Ich glaube sogar, dass sich genau diese drei Formulierungen in den nächsten Jahren als De-facto-Standard etablieren werden. Sie sind leicht verständlich und passen zu den unterschiedlichen Graden der KI-Nutzung.

Fazit: KI sinnvoll nutzen mit klaren Regeln

Der EU AI Act markiert einen wichtigen Schritt auf dem Weg zu einem verantwortungsvollen Umgang mit Künstlicher Intelligenz. Seit dem 2. August 2026 gelten zusätzliche Transparenzpflichten, die Unternehmen nicht ignorieren sollten.

Für Privatpersonen ergeben sich bei rein persönlicher Nutzung grundsätzlich keine entsprechenden Verpflichtungen. Unternehmen und andere gewerblich tätige Personen sollten sich hingegen frühzeitig mit den neuen Transparenzvorgaben vertraut machen. Für die meisten kleinen und mittleren Unternehmen bedeutet das jedoch nicht, dass jede Nutzung von ChatGPT oder anderen KI-Tools sofort gekennzeichnet werden muss. Vielmehr kommt es auf den konkreten Einsatzzweck an und darauf, ob Inhalte automatisiert veröffentlicht oder redaktionell verantwortet werden.

Grob lässt sich sagen: Werden in Unternehmen täuschend echte KI-generierte oder KI-manipulierte Bilder, Videos oder Audiodateien veröffentlicht, sollten diese entsprechend als künstlich erzeugt oder bearbeitet kenntlich gemacht werden. Chatbots, KI-Assistenten oder KI-Telefonanlagen sollten Nutzer bereits zu Beginn der Kommunikation darauf hinweisen, dass sie mit einem KI-System interagieren. Bei Texten kommt es dagegen stärker auf den jeweiligen Einsatzzweck an. Insbesondere redaktionell verantwortete und menschlich überprüfte Inhalte unterliegen nicht automatisch einer Kennzeichnungspflicht.

 

—

Bildquelle(n): Gambar Luthfil / Canva