Transparenzpflichten für Chatbots und KI-Inhalte

Artikel 50 ist das Transparenzkapitel der KI-Verordnung der EU (Verordnung (EU) 2024/1689). Er gilt seit dem 2. August 2026 — der digitale Omnibus zur KI hat ihn nicht verschoben (der breite Aufschub der Hochrisiko-Pflichten auf Dezember 2027 erstreckt sich nicht auf Art. 50). Die einzige Erleichterung: Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen und bereits vor dem 2. August 2026 in Verkehr gebracht waren, haben bis zum 2. Dezember 2026 Zeit, die Pflicht zur maschinenlesbaren Kennzeichnung nach Art. 50 Abs. 2 zu erfüllen. Systeme, die am oder nach dem 2. August 2026 erstmals in Verkehr gebracht werden, müssen synthetische Inhalte ab diesem Datum kennzeichnen — das Dezember-Fenster ist eine Bestandsschutzregel für bereits laufende Systeme, kein pauschaler Aufschub. Art. 50 bindet Anbieter und Betreiber bestimmter KI-Systeme mit „begrenztem Risiko“ — vor allem Chatbots, Deepfakes und andere Systeme, bei denen Nutzer womöglich nicht erkennen, dass KI beteiligt ist. (Verordnung (EU) 2026/1744, der digitale Omnibus zur KI, ist seit dem 27. Juli 2026 in Kraft.) Dieser Ratgeber ist die praktische Auslegung: wann ein Hinweis nötig ist, wie er aussehen muss und was „in klarer und eindeutiger Weise“ bedeutet.

Die vier Transparenzpflichten nach Artikel 50

Art. 50 enthält vier unterschiedliche Pflichten:

1. Chatbots und KI-Systeme, die mit natürlichen Personen interagieren (Art. 50 Abs. 1)

Anbieter müssen KI-Systeme, die mit natürlichen Personen interagieren, so konzipieren, dass die Nutzer informiert werden, dass sie mit einer KI interagieren. Die Ausnahme: wenn dies „aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich“ ist — also wenn kein normaler Mensch den Chatbot für einen Menschen halten könnte.

Die Ausnahme ist enger, als sie aussieht. Heißt Ihr Chatbot „Sarah“ und antwortet er in gut redigiertem Deutsch, gehen die meisten Nutzer davon aus, dass sie mit einem Menschen sprechen. Fügen Sie den Hinweis hinzu.

2. Erzeugung synthetischer Inhalte (Art. 50 Abs. 2)

Anbieter von KI-Systemen, einschließlich KI-Systemen mit allgemeinem Verwendungszweck, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen die Ausgaben in einem maschinenlesbaren Format kennzeichnen, sodass sie als künstlich erzeugt erkennbar sind. Die Umsetzung bleibt dem Anbieter überlassen — Wasserzeichen, Metadaten, C2PA oder andere technische Signale —, aber die Pflicht ist real.

Das erfasst die meisten generativen KI-Tools, die in der EU genutzt werden (Bildgeneratoren, Sprachsynthese, Text-to-Speech, Copiloten).

3. Emotionserkennung oder biometrische Kategorisierung (Art. 50 Abs. 3)

Betreiber eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung müssen die betroffenen natürlichen Personen über den Betrieb des Systems informieren. Das gilt auch dann, wenn die Verwendung nach Art. 5 nicht verboten ist.

(Hinweis: Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ist nach Art. 5 verboten; diese Transparenzpflicht gilt daher vor allem in den verbleibenden zulässigen Kontexten — Einzelhandel, Marktforschung mit Einwilligung usw.)

4. Deepfakes und KI-generierte Inhalte von öffentlichem Interesse (Art. 50 Abs. 4)

Betreiber von KI-Systemen, die Deepfakes erzeugen — also durch KI erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt erscheinen würden —, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.

Eine enge Ausnahme gilt, wenn der Inhalt Teil eines „offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms“ ist — aber an Ihnen liegt es, zu zeigen, dass das Werk unter die Ausnahme fällt.

Betreiber von KI-Systemen, die Text erzeugen oder manipulieren, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen ebenfalls offenlegen, dass KI beteiligt war — es sei denn, der Text wurde von einem Menschen überprüft oder unterlag der redaktionellen Kontrolle einer Person, die die redaktionelle Verantwortung trägt.

Was „in klarer und eindeutiger Weise“ bedeutet

Art. 50 Abs. 5 verlangt, dass die Informationen den betreffenden natürlichen Personen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt werden. Sie müssen den geltenden Barrierefreiheitsanforderungen entsprechen.

In der Praxis dürften Aufsichtsbehörden Folgendes als angemessen ansehen:

• Ein sichtbares Label oder Badge neben dem Chat-Eingabefeld („Sie sprechen mit einer KI“)
• Eine dauerhafte Fußzeile unter KI-generierten Artikeln („Dieser Inhalt wurde von KI erstellt und von der Redaktion geprüft“)
• Sichtbare Metadaten oder ein Wasserzeichen auf KI-generierten Bildern
• Ein klarer Name wie „KI-Assistent“ in der Kopfzeile des Chats (sofern er nicht vorgibt, ein Mensch zu sein)

Wahrscheinlich nicht angemessen:

• Eine Zeile, versteckt in der Datenschutzerklärung
• Ein Hinweis, für den man auf eine separate Seite klicken muss
• Ein Label, das nur im Cookie-Banner erscheint
• Eine Fußnote in 8-Punkt-Schrift am Seitenende

Die Messlatte ist „für einen verständigen Betrachter klar erkennbar“, nicht „technisch irgendwo auf der Seite vorhanden“.

Zusammenspiel mit der DSGVO

Für Systeme, die personenbezogene Daten verarbeiten, verlangt Art. 13 Abs. 2 Buchst. f DSGVO bereits, betroffene Personen über „das Bestehen einer automatisierten Entscheidungsfindung einschließlich Profiling … und — zumindest in diesen Fällen — aussagekräftige Informationen über die involvierte Logik“ zu informieren.

Art. 50 der KI-Verordnung kommt hinzu:

• Der Hinweis nach Art. 13 DSGVO kann in Ihrer Datenschutzerklärung stehen
• Der Hinweis nach Art. 50 der KI-Verordnung muss an der Stelle der Interaktion erfolgen

Das sind unterschiedliche Orte — die Datenschutzerklärung für die Einzelheiten nach der DSGVO, der Hinweis im Produkt dafür, dass nach der KI-Verordnung KI beteiligt ist. Bauen Sie beides.

Hinweise für einzelne Einsatzbereiche

Chatbots im Kundensupport: Hinweis erforderlich. Gute Praxis ist ein festes Label in der Kopfzeile des Chats (kein Pop-up, das sich wegklicken lässt). Im B2B-Geschäft schützt Sie der Hinweis, selbst wenn die KI für Ihren Kunden „offensichtlich“ ist, gegenüber den Personen, die das System später nutzen (den Beschäftigten Ihres Kunden).

Von KI erstellte Marketingtexte: Art. 50 Abs. 4 gilt, wenn der Inhalt „veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren“. Gewöhnliches Produktmarketing ist meist nicht von „öffentlichem Interesse“. Redaktionelle Inhalte sind es. Ein Hinweis also dort, wo der Inhalt redaktionell ist.

KI-Sprachagenten: Art. 50 Abs. 1 und 2 gelten beide. Sagen Sie der anrufenden Person, dass sie mit einer KI spricht; kennzeichnen Sie die Audiodatei mit maschinenlesbaren Merkmalen.

KI-generierte Bilder in redaktioneller Verwendung: Die Deepfake-Regel des Art. 50 Abs. 4 gilt, wenn das Bild realen Personen oder Ereignissen ähnelt. Im Nachrichtenkontext ist der Hinweis nicht verhandelbar.

Deepfake-Erkennung durch Wettbewerber: Die maschinenlesbare Kennzeichnung nach Art. 50 Abs. 2 soll erkennbar sein. Versuchen Sie nicht, Ihr eigenes Wasserzeichen zu umgehen; Wettbewerber und Aufsichtsbehörden werden es prüfen.

Durchsetzung und Sanktionen

Verstöße gegen Art. 50 fallen nach Art. 99 in die zweite Bußgeldstufe: bis zu 15 Mio. € oder 3 % des weltweiten Umsatzes für die meisten Unternehmen, für KMU niedriger gedeckelt. Die Durchsetzung baut sich seit dem Geltungsbeginn erst auf; das Tempo hängt von den nationalen Behörden, den Leitlinien der Kommission und den Prioritäten der Marktüberwachung ab.

Was Sie in diesem Quartal tun sollten

Wenn Sie eines der folgenden Systeme betreiben, setzen Sie die Gestaltung des Hinweises jetzt um:

• Einen Chatbot mit Kundenkontakt — fügen Sie das sichtbare KI-Badge hinzu
• Einen Copiloten oder ein generatives Schreibtool — fügen Sie die Kennzeichnung als KI-generiert hinzu
• Einen Sprachassistenten — stellen Sie sowohl den Hinweis im Gespräch als auch die maschinenlesbare Kennzeichnung des Audios sicher
• Einen Bild- oder Videogenerator, der Deepfakes erzeugen kann — Kennzeichnung ist Pflicht, der Hinweis bei der Veröffentlichung ebenfalls

Art. 50 gilt seit dem 2. August 2026. Ist Ihr Hinweis noch nicht live, liefern Sie ihn jetzt aus und lassen Sie die Technik danach iterieren.