KI-Hinweis
Ratgeber

Emotionserkennung: Diese Hinweispflicht gilt nach Art. 50 Abs. 3 EU AI Act

Stand: August 2026 · Lesezeit: 4 Minuten

Kurzantwort: Wer als Betreiber ein KI-System zur Emotionserkennung oder zur biometrischen Kategorisierung einsetzt, muss nach Art. 50 Abs. 3 EU AI Act die betroffenen Personen über den Betrieb des Systems informieren. Der Hinweis muss klar und erkennbar sein, spätestens bei der ersten Exposition erfolgen und barrierefrei zugänglich sein. Die Pflicht gilt seit dem 2. August 2026.

Wer ist betroffen?

Adressat ist der Betreiber — das Unternehmen oder die Organisation, die das System einsetzt, nicht der Hersteller. Praktische Beispiele: eine Software, die im Kundenservice die Stimmung des Anrufers aus der Stimme analysiert; ein Tool, das Gesichtsausdrücke von Besuchern auswertet; ein System, das Personen anhand biometrischer Daten bestimmten Kategorien zuordnet.

Was genau ist Pflicht?

Die betroffenen Personen müssen informiert werden, dass ein solches System auf sie angewendet wird. Für die Form gelten die allgemeinen Anforderungen des Art. 50: Der Hinweis muss klar und erkennbar sein, spätestens bei der ersten Interaktion bzw. Exposition erfolgen und barrierefrei sein. Konkret: Wer einen Support-Anruf mit Stimmungsanalyse startet, muss es zu Beginn des Gesprächs erfahren — nicht hinterher.

Achtung: Die Transparenzpflicht aus Art. 50 Abs. 3 ist nur eine Ebene. Ob der Einsatz von Emotionserkennung oder biometrischer Kategorisierung in Ihrem konkreten Fall überhaupt zulässig ist, richtet sich nach weiteren Vorschriften und ist hier nicht behandelt — prüfen Sie vor dem Einsatz die Zulässigkeit insgesamt.

Was reicht NICHT?

  • Ein Absatz tief in der Datenschutzerklärung, den die betroffene Person bei der Exposition nicht wahrnimmt.
  • Information erst nach der Analyse — „spätestens bei der ersten Exposition" bedeutet: bevor bzw. sobald das System auf die Person angewendet wird.
  • Vage Formulierungen wie „wir nutzen moderne Analysetechnologien", aus denen niemand auf Emotionserkennung schließen kann.
  • Ein Aushang nur am Haupteingang, wenn die Erfassung auch Personen trifft, die dort nie vorbeikommen.

Konkretes Umsetzungsbeispiel

Ein Unternehmen setzt in der Telefon-Hotline eine KI ein, die die Stimmung der Anrufer erkennt, um Gespräche besser zu priorisieren. Umsetzung: eine klare Ansage zu Gesprächsbeginn, ergänzt um eine Erläuterung auf der Website.

Mustertext für die Ansage / den Hinweis 
Hinweis: In diesem Gespräch setzen wir ein KI-System zur Emotionserkennung ein, das Stimmungsmerkmale Ihrer Stimme analysiert. Weitere Informationen finden Sie unter [Link/Kontaktweg].

Checkliste zur Umsetzung

  • Alle Einsatzorte des Systems sind erfasst — auch Analysefunktionen, die in eingekaufter Software mitlaufen.
  • Alle betroffenen Personengruppen sind identifiziert (Kunden, Anrufer, Besucher, Mitarbeiter).
  • Der Hinweis erfolgt dort, wo die Exposition stattfindet: Ansage am Telefon, Hinweis am Bildschirm, gut sichtbare Information vor Ort.
  • Die Formulierung benennt konkret, was analysiert wird (z. B. Stimmungsmerkmale der Stimme), nicht nur „KI-Einsatz" allgemein.
  • Ein Verweis auf weiterführende Informationen (Link oder Kontaktweg) ist enthalten.

Bewährt hat sich ein zweistufiges Modell: eine kurze, sofort wahrnehmbare Information am Ort der Exposition plus eine ausführlichere Erläuterung auf einer verlinkten Seite. So bleibt der erste Hinweis knapp und verständlich, ohne dass Informationen fehlen.

Häufige Fehler

  • Die Funktion ist als Nebenfeature einer eingekauften Software aktiv, ohne dass das Unternehmen es selbst weiß — prüfen Sie Ihre Tools auf solche Analysefunktionen.
  • Nur Kunden werden informiert, die eigenen Mitarbeiter im selben Prozess aber nicht — betroffen sind alle Personen, auf die das System angewendet wird.
  • Der Hinweis existiert nur schriftlich auf der Website, obwohl die Exposition am Telefon stattfindet.
  • Barrierefreiheit wird übersehen — der Hinweis sollte in wahrnehmbarer Form für alle Betroffenen verfügbar sein.

Sanktionen

Verstöße gegen die Transparenzpflichten können nach Art. 99 Abs. 4 EU AI Act mit Bußgeldern bis 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden — mehr im Ratgeber Bußgelder nach Art. 50. Interagiert Ihr System zusätzlich direkt mit Menschen (z. B. als Voicebot), gilt daneben die Pflicht aus Chatbot kennzeichnen.

Hinweistext erstellen

Der kostenlose Generator erstellt in wenigen Schritten einen Informationstext für betroffene Personen — er unterstützt Sie bei der Umsetzung von Art. 50.

Zum Generator