Chatbot kennzeichnen: Was Art. 50 EU AI Act verlangt

Wer ist betroffen?

Art. 50 Abs. 1 richtet sich an Anbieter von KI-Systemen, die für die direkte Interaktion mit natürlichen Personen bestimmt sind. Typische Fälle: der Support-Chatbot auf der Unternehmenswebsite, ein Voicebot in der Telefon-Hotline, ein KI-Assistent in einer App. Ob das System selbst entwickelt oder auf einem großen Sprachmodell aufgebaut wurde, spielt für die Transparenzpflicht keine Rolle — entscheidend ist, dass Menschen mit dem System kommunizieren.

Was genau ist Pflicht?

Die betroffenen Personen müssen erfahren, dass sie es mit einer KI zu tun haben. Für die Form gilt: Der Hinweis muss klar und erkennbar sein, spätestens bei der ersten Interaktion erfolgen und barrierefrei zugänglich sein. In der Praxis heißt das: Der Nutzer sieht den Hinweis, bevor oder während er die erste Nachricht schreibt — nicht irgendwann danach.

Eine einzige Ausnahme sieht die Vorschrift vor: Der Hinweis ist entbehrlich, wenn es für eine informierte, aufmerksame Person aus den Umständen offensichtlich ist, dass sie mit einer KI interagiert. Darauf sollten Sie sich im Zweifel nicht verlassen — ein kurzer Hinweis kostet nichts und beseitigt jede Unsicherheit.

Was reicht NICHT?

• Ein Satz im Impressum oder in den AGB. Der Hinweis muss bei der Interaktion selbst erkennbar sein, nicht auf einer anderen Seite versteckt.
• Ein Hinweis erst nach mehreren Nachrichten — „spätestens bei der ersten Interaktion" ist wörtlich zu nehmen.
• Grauer Kleinstdruck oder ein mehrdeutiger Name wie „Ihr digitaler Berater Max". Ein menschlich klingender Name ohne KI-Hinweis kann sogar den gegenteiligen Eindruck erwecken.
• Nur ein Icon ohne Text, das Nutzer nicht eindeutig als KI-Kennzeichnung verstehen.

Konkretes Umsetzungsbeispiel

Platzieren Sie den Hinweis direkt im Chat-Fenster: als erste Nachricht des Bots und zusätzlich dauerhaft sichtbar im Kopfbereich des Widgets. Ein bewährter Mustertext:

Für einen Voicebot gilt dasselbe Prinzip in gesprochener Form: Eine kurze Ansage zu Gesprächsbeginn („Sie sprechen mit einem KI-gestützten Sprachassistenten") erfüllt die Anforderung, spätestens bei der ersten Interaktion zu informieren.

Wer trägt die Pflicht beim eingekauften Chat-Widget?

Viele Unternehmen betreiben keinen selbst entwickelten Bot, sondern binden ein fertiges Chat-Widget eines Drittanbieters ein. Verlassen Sie sich in dieser Konstellation nicht blind darauf, dass der Tool-Hersteller die Kennzeichnung erledigt: Prüfen Sie, ob das eingebundene Widget den KI-Hinweis in Ihrer konkreten Konfiguration tatsächlich anzeigt — auf Deutsch, auf allen Geräten und vor der ersten Nachricht. Fehlt der Hinweis, ergänzen Sie ihn selbst, etwa als Begrüßungsnachricht oder als Textzeile im Widget-Kopf. Klären Sie die Verantwortlichkeit im Zweifel vertraglich mit dem Anbieter.

Checkliste zur Umsetzung

• Hinweis ist sichtbar, bevor der Nutzer die erste Nachricht schreibt.
• Hinweis erscheint auf Desktop und mobil, in jeder Sitzung.
• Formulierung nennt „KI" bzw. „Künstliche Intelligenz" ausdrücklich.
• Ein Weg zu einem menschlichen Ansprechpartner ist genannt (empfohlen).
• Hinweis ist als Text hinterlegt und damit auch für Screenreader lesbar.

Häufige Fehler

• Der Hinweis wird nur auf der Desktop-Ansicht angezeigt, im mobilen Widget aber abgeschnitten oder ausgeblendet.
• Der Hinweis verschwindet nach der ersten Sitzung — neue Besucher oder zurückkehrende Nutzer sehen ihn nicht mehr.
• Der Chatbot gibt sich auf Nachfrage („Bist du ein Mensch?") ausweichend oder behauptet, ein Mensch zu sein. Das untergräbt den Zweck der Transparenzpflicht.
• Barrierefreiheit wird vergessen: Der Hinweis sollte auch für Screenreader zugänglich sein, nicht nur als Bild eingebunden.

Was droht bei Verstößen?

Verstöße gegen die Transparenzpflichten können nach Art. 99 Abs. 4 EU AI Act mit Bußgeldern von bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden. Details dazu im Ratgeber Bußgelder nach Art. 50 AI Act. Wenn Ihr Chatbot auch Texte für die Veröffentlichung erzeugt, lesen Sie ergänzend KI-Texte kennzeichnen.