Müssen KI-generierte Texte gekennzeichnet werden?

Die Angebotsmail, der Entwurf für den Newsletter, die Stellenanzeige, der Beitrag für die Website: In vielen Unternehmen entstehen solche Texte inzwischen mit Unterstützung von ChatGPT, Copilot oder einem anderen KI-Werkzeug. Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 der EU-KI-Verordnung. Daraus ergibt sich eine Frage, die in Schulungen regelmäßig gestellt wird: Muss jetzt unter jedem dieser Texte stehen, dass eine KI beteiligt war? Die kurze Antwort lautet nein. Die genauere Antwort hängt davon ab, was für ein Inhalt entsteht und was mit ihm geschieht.

Was Artikel 50 regelt

Artikel 50 unterscheidet zwischen zwei Rollen. Anbieter sind die Unternehmen, die ein KI-System entwickeln und auf den Markt bringen. Betreiber sind diejenigen, die ein KI-System in eigener Verantwortung beruflich verwenden. Ein Unternehmen, dessen Beschäftigte mit einem gekauften KI-Werkzeug arbeiten, ist in aller Regel Betreiber.

Für Anbieter gelten zwei Pflichten. Systeme, die direkt mit Menschen interagieren, etwa Chatbots, müssen so gestaltet sein, dass die Menschen erfahren, dass sie mit einer KI sprechen, außer das ist ohnehin offensichtlich. Und Systeme, die Texte, Bilder, Ton oder Videos erzeugen, müssen ihre Ergebnisse maschinenlesbar als künstlich erzeugt kennzeichnen. Für Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, gilt diese zweite Pflicht ab dem 2. Dezember 2026. Beides ist Sache der Hersteller, nicht der Unternehmen, die die Werkzeuge nutzen.

Für Betreiber sind zwei Fälle wichtig: Deepfakes und bestimmte veröffentlichte Texte.

Texte: Es kommt auf Veröffentlichung und Zweck an

Die Offenlegungspflicht für Texte ist eng gefasst. Sie betrifft Texte, die mit einem KI-System erzeugt oder verändert und dann veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. In diesen Fällen muss offengelegt werden, dass der Text künstlich erzeugt oder verändert wurde.

Daraus folgt für den Arbeitsalltag: Eine Angebotsmail an einen Kunden, ein internes Protokoll, eine Zusammenfassung für die Geschäftsführung oder eine Antwort an einen Lieferanten werden nicht veröffentlicht, um die Öffentlichkeit zu informieren. Für sie sieht Artikel 50 keine Kennzeichnung vor. Anders kann es bei Texten aussehen, die sich an die Allgemeinheit richten und ein Thema von öffentlichem Belang behandeln, etwa Pressemitteilungen, Fachbeiträge oder Informationen auf der Website zu gesellschaftlichen oder politischen Fragen.

Auch dann gibt es eine wichtige Ausnahme. Die Pflicht entfällt, wenn der KI-erzeugte Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Bilder, Ton und Video: Deepfakes offenlegen

Strenger ist die Regel für Deepfakes. Artikel 3 Nummer 60 der KI-Verordnung definiert einen Deepfake als einen durch KI erzeugten oder veränderten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. Wer als Betreiber einen solchen Inhalt erzeugt, muss offenlegen, dass er künstlich erzeugt oder verändert wurde. Eine Ausnahme für menschliche Prüfung gibt es hier nicht.

Für künstlerische, kreative, satirische oder fiktionale Werke reicht ein Hinweis in einer Form, die das Werk nicht beeinträchtigt. Für Unternehmen heißt das im Alltag: Ein fotorealistisches KI-Bild, das wie eine echte Aufnahme aus dem eigenen Betrieb wirkt, oder eine KI-erzeugte Stimme, die wie eine reale Person klingt, gehört gekennzeichnet. Eine klar erkennbare Grafik oder Illustration, die niemand für ein Foto hält, ist in der Regel kein Deepfake.

Wann und wie der Hinweis erscheinen muss

Artikel 50 Absatz 5 legt fest, dass die Information spätestens bei der ersten Interaktion oder beim ersten Kontakt mit dem Inhalt klar und eindeutig bereitgestellt wird. Sie muss außerdem den geltenden Anforderungen an die Barrierefreiheit entsprechen. Ein Hinweis, der erst am Ende einer langen Seite in kleiner Schrift steht, erfüllt diesen Gedanken kaum. Besser ist ein kurzer Satz direkt am Inhalt, etwa unter dem Bild oder am Anfang des Textes.

Die Europäische Kommission hat am 10. Juni 2026 einen Praxisleitfaden zur Markierung und Kennzeichnung KI-erzeugter Inhalte veröffentlicht. Er ist freiwillig, richtet sich an Anbieter und Betreiber und enthält unter anderem einheitliche EU-Symbole für die Kennzeichnung. Wer eine einheitliche Form für das eigene Haus sucht, findet dort eine Orientierung.

Artikel 50 Absatz 6 stellt zudem klar, dass andere Transparenzpflichten aus dem Unionsrecht oder dem nationalen Recht unberührt bleiben. Die KI-Verordnung ist also nicht die einzige Stelle, an der sich die Frage nach einem Hinweis stellen kann.

Was das für Ihr Team bedeutet

Die Kennzeichnung ist selten ein großer Aufwand. Schwieriger ist, dass im Alltag jemand erkennen muss, wann sie nötig ist. Hilfreich sind drei einfache Festlegungen:

• Wer prüft und gibt frei? Für Texte, die nach außen gehen, sollte feststehen, wer sie vor der Veröffentlichung liest und verantwortet. Das ist zugleich die Voraussetzung für die Ausnahme bei geprüften Texten.
• Welche Bilder und Tonaufnahmen werden mit KI erzeugt? Fotorealistische Motive und künstliche Stimmen bekommen grundsätzlich einen Hinweis.
• Wie sieht der Hinweis aus? Ein einheitlicher kurzer Satz oder ein Symbol, das alle verwenden, verhindert, dass jede Abteilung eine eigene Lösung erfindet.

Diese Punkte gehören in die internen Regeln zum Umgang mit KI und in die Schulung. Welche Inhalte eine solche Schulung sonst abdecken sollte, steht im Beitrag KI-Schulung für Mitarbeiter: Welche Inhalte gehören hinein? Wer Texte mit KI erstellt, sollte außerdem wissen, welche Informationen gar nicht erst in das Werkzeug gehören. Dazu mehr im Beitrag Welche Daten dürfen Mitarbeiter in ChatGPT eingeben? Und wenn Sie die Festlegungen schriftlich festhalten, sind sie zugleich Teil Ihrer Dokumentation zur KI-Kompetenz, wie im Beitrag KI-Kompetenz nachweisen: Was gehört in die Dokumentation? beschrieben.

Häufige Fragen

Dieser Beitrag ordnet ein und gibt den Stand vom 28. Oktober 2026 wieder. Er ersetzt keine rechtliche Beratung im Einzelfall.