KI-Texte kennzeichnen: Wann Art. 50 EU AI Act eine Offenlegung verlangt

Wer ist betroffen?

Zwei Rollen sind zu unterscheiden. Anbieter von KI-Systemen, die synthetische Texte erzeugen, trifft die Pflicht aus Abs. 2: Die Outputs müssen in maschinenlesbarem Format als künstlich erzeugt oder manipuliert gekennzeichnet sein. Betreiber — also etwa ein Unternehmen, das KI-Texte veröffentlicht — trifft die Offenlegungspflicht aus Abs. 4, wenn der Text die Öffentlichkeit über Angelegenheiten öffentlichen Interesses informiert. Typische Beispiele dafür: Nachrichtenartikel, Beiträge zu Gesundheit, Politik oder Sicherheit.

Was genau ist Pflicht?

Fällt Ihr Text unter Abs. 4, müssen Sie offenlegen, dass er künstlich erzeugt oder manipuliert wurde. Der Hinweis muss klar und erkennbar sein und spätestens bei der ersten Exposition — also beim Lesen — wahrnehmbar sein, außerdem barrierefrei.

Die wichtigste Weiche ist die Ausnahme der redaktionellen Verantwortung: Hat ein Mensch den KI-Entwurf redaktionell geprüft und trägt eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung, entfällt die Offenlegungspflicht nach Abs. 4. Ein klassischer Redaktionsprozess — KI liefert den Entwurf, ein Redakteur prüft, korrigiert und verantwortet den Text — führt also aus der Kennzeichnungspflicht heraus.

Was reicht NICHT?

• Ein pauschaler Hinweis im Impressum („Wir setzen KI ein"). Die Offenlegung muss dem konkreten Inhalt zugeordnet und bei der Exposition erkennbar sein.
• „Kurz überflogen" als redaktionelle Kontrolle. Die Ausnahme setzt echte menschliche Prüfung und übernommene redaktionelle Verantwortung voraus — nicht bloßes Durchwinken. Wo genau die Grenze verläuft, ist noch nicht abschließend geklärt; im Zweifel dokumentieren Sie Ihren Prüfprozess.
• Ein Hinweis erst am Ende eines langen Artikels, den viele Leser nie erreichen.

Konkretes Umsetzungsbeispiel

Ein Unternehmensblog veröffentlicht automatisch generierte Marktberichte ohne redaktionelle Einzelprüfung. Da die Beiträge die Öffentlichkeit informieren, wird jedem Beitrag ein deutlich sichtbarer Hinweis vorangestellt:

Wird derselbe Blog auf einen Prozess mit menschlicher Endredaktion umgestellt und benennt das Unternehmen die verantwortliche Person, greift die Ausnahme — der Hinweis ist dann nach Abs. 4 nicht mehr verpflichtend. Freiwillig transparent zu bleiben, schadet trotzdem nicht.

Entscheidungshilfe: Muss dieser Text gekennzeichnet werden?

Drei Fragen führen in den meisten Fällen zur Antwort:

• Wurde der Text (ganz oder teilweise) von KI erzeugt? Nein → keine Pflicht aus Art. 50 Abs. 4.
• Informiert die Veröffentlichung die Öffentlichkeit über Angelegenheiten öffentlichen Interesses? Nein (z. B. Werbetext, Produktbeschreibung, interner Vermerk) → Abs. 4 greift nicht.
• Gab es menschliche redaktionelle Kontrolle, und trägt eine Person oder Organisation die redaktionelle Verantwortung? Ja → Ausnahme greift, keine Offenlegungspflicht. Nein → Offenlegung erforderlich.

Dokumentieren Sie das Ergebnis dieser Prüfung je Veröffentlichungsformat einmal sauber — dann müssen Sie nicht bei jedem einzelnen Beitrag neu entscheiden, solange sich der Prozess nicht ändert.

Häufige Fehler

• Alle KI-Texte über einen Kamm scheren: Interne Notizen, Werbetexte oder Produktbeschreibungen ohne Bezug zu Angelegenheiten öffentlichen Interesses fallen nicht unter Abs. 4 — dort entsteht unnötige Kennzeichnungspanik.
• Umgekehrt: Newsartige Inhalte automatisiert publizieren und auf die Ausnahme vertrauen, obwohl niemand tatsächlich redaktionell prüft.
• Die redaktionelle Verantwortung bleibt anonym — die Ausnahme setzt voraus, dass eine Person oder Organisation die Verantwortung trägt.
• Der Chatbot auf der eigenen Website wird vergessen: Für ihn gilt zusätzlich die Interaktions-Transparenzpflicht, siehe Chatbot kennzeichnen.

Sanktionen

Verstöße können nach Art. 99 Abs. 4 EU AI Act Bußgelder von bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes nach sich ziehen — mehr dazu im Ratgeber Bußgelder nach Art. 50.