EU-Kennzeichnungspflicht für KI-Inhalte: Was Artikel 50 des AI Act für Unternehmen bedeutet
Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 des EU AI Act. Was Unternehmen über KI-generierte Inhalte, Deepfakes und redaktionelle Kontrolle wissen sollten.
Texte und Bilder mit Hilfe von KI erstellt.
Nicht jeder KI-Inhalt muss gekennzeichnet werden
Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 der europäischen KI-Verordnung, besser bekannt als AI Act. Für Unternehmen, die KI-generierte Texte, Bilder, Audio- oder Videoinhalte einsetzen, entsteht damit erstmals ein verbindlicher europäischer Rahmen für die Kennzeichnung bestimmter Inhalte.
Gerade im Marketing und in der Content-Produktion sorgt die Regelung für Unsicherheit. Häufig ist zu lesen, ab sofort müsse jeder Text und jedes Bild gekennzeichnet werden, an dessen Entstehung eine KI beteiligt war. So pauschal ist das nicht.
Ob eine Offenlegung erforderlich ist, hängt davon ab, welche Art von Inhalt vorliegt, wie er eingesetzt wird und welche Rolle das Unternehmen dabei einnimmt. Bei Texten kann außerdem entscheidend sein, ob vor der Veröffentlichung eine echte menschliche Prüfung stattgefunden hat und jemand die redaktionelle Verantwortung übernimmt.
Was Artikel 50 regelt
Artikel 50 soll Menschen dabei helfen, KI-Systeme und bestimmte künstlich erzeugte oder manipulierte Inhalte zu erkennen. Es geht vor allem darum, Täuschung zu vermeiden und nachvollziehbar zu machen, wann KI an einer Interaktion oder einem Inhalt beteiligt ist.
Dabei unterscheidet der AI Act zwischen zwei Rollen:
- Anbieter entwickeln ein KI-System oder bringen es unter eigenem Namen auf den Markt.
- Betreiber setzen ein KI-System in eigener Verantwortung ein, beispielsweise zur Erstellung oder Veröffentlichung von Inhalten.
Für beide Rollen gelten unterschiedliche Pflichten.
Anbieter bestimmter generativer KI-Systeme müssen dafür sorgen, dass deren Ausgaben technisch als künstlich erzeugt oder manipuliert erkannt werden können. Vorgesehen sind maschinenlesbare Markierungen, die wirksam, interoperabel, robust und zuverlässig sein sollen, soweit dies technisch machbar ist.
Betreiber müssen dagegen in bestimmten Fällen gegenüber den betroffenen Menschen offenlegen, dass ein Inhalt mithilfe von KI erzeugt oder manipuliert wurde.
Der bloße Einsatz eines Sprachmodells oder Bildgenerators führt daher nicht automatisch zu einer sichtbaren Kennzeichnungspflicht für das veröffentlichende Unternehmen.
In welchen Fällen Transparenzpflichten gelten
Artikel 50 erfasst mehrere Situationen, die in der Praxis sauber voneinander getrennt werden sollten.
Direkte Interaktion mit einem KI-System
Menschen müssen grundsätzlich darüber informiert werden, wenn sie direkt mit einem KI-System kommunizieren. Ein typisches Beispiel ist ein Chatbot im Kundenservice.
Eine zusätzliche Information ist nicht erforderlich, wenn für eine durchschnittlich informierte und aufmerksame Person ohnehin offensichtlich ist, dass sie mit einem KI-System interagiert.
Synthetisch erzeugte Inhalte
Anbieter von KI-Systemen, die Texte, Bilder, Audio- oder Videoinhalte erzeugen oder verändern, müssen ihre Systeme grundsätzlich so gestalten, dass die Ausgaben maschinenlesbar markiert und als künstlich erzeugt oder manipuliert erkennbar sind.
Diese technische Pflicht richtet sich in erster Linie an die Anbieter der Systeme. Sie ist nicht mit der sichtbaren Kennzeichnung durch ein Unternehmen gleichzusetzen, das die Inhalte später veröffentlicht.
Eine Ausnahme kann unter anderem gelten, wenn das System lediglich unterstützende Standardbearbeitungen ausführt oder die vom Betreiber bereitgestellten Eingaben beziehungsweise deren Aussage nicht wesentlich verändert.
Deepfakes
Wer ein KI-System einsetzt, um einen Deepfake zu erzeugen oder zu bearbeiten, muss offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde.
Als Deepfakes gelten Bild-, Audio- oder Videoinhalte, die realen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlicherweise als authentisch oder wahr wahrgenommen werden könnten.
Bei offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werken entfällt die Transparenzpflicht nicht vollständig. Die Offenlegung darf hier allerdings so erfolgen, dass sie die Darstellung oder den Genuss des Werks nicht unangemessen beeinträchtigt.
Texte zu Themen von öffentlichem Interesse
Eine weitere Offenlegungspflicht betrifft KI-generierte oder KI-manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Dazu können beispielsweise politische, gesellschaftliche oder journalistisch relevante Themen gehören. Nicht jeder Marketingtext und nicht jede Produktbeschreibung fällt automatisch in diese Kategorie.
Für solche Texte gibt es eine wichtige Ausnahme: Eine Kennzeichnung ist nicht erforderlich, wenn der Inhalt einem Prozess menschlicher Prüfung oder redaktioneller Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.
Warum menschliche Kontrolle so wichtig ist
Für Content- und Marketingteams ist die Ausnahme für redaktionell geprüfte Texte besonders relevant. Unternehmen können KI weiterhin als Werkzeug für Recherche, Strukturierung oder Formulierung einsetzen. Entscheidend ist, dass die menschliche Kontrolle mehr ist als ein flüchtiger Blick auf den fertigen Text.
Ein belastbarer redaktioneller Prozess sollte beispielsweise klären:
- Wer prüft Tatsachenbehauptungen und Quellen?
- Wer kontrolliert Sprache, Tonalität und mögliche Fehlinterpretationen?
- Wer entscheidet über die Veröffentlichung?
- Wer übernimmt die redaktionelle Verantwortung?
- Wie wird die Prüfung intern dokumentiert?
Eine solche Freigabe verbessert nicht nur die rechtliche Einordnung. Sie reduziert auch sachliche Fehler, unklare Aussagen und den typischen, oft austauschbaren Klang automatisch erzeugter Texte.
Bei rein unterstützenden Funktionen wie Rechtschreibkorrekturen oder üblichen Bearbeitungsschritten kann die Einordnung anders ausfallen. Trotzdem sollte nicht pauschal davon ausgegangen werden, dass jede Übersetzung oder stilistische Überarbeitung automatisch außerhalb der Regelung liegt. Maßgeblich bleiben die konkrete Funktion des Systems und das Ausmaß der inhaltlichen Veränderung.
Eine bessere Faustregel für die Praxis
Für Marketing- und Contentteams reicht die Frage „Ist der Inhalt fotorealistisch?“ nicht aus. Sinnvoller sind drei aufeinanderfolgende Fragen:
- Was für ein Inhalt liegt vor? Handelt es sich um Text, Bild, Audio, Video oder eine direkte Interaktion mit einem KI-System?
- Welche Wirkung hat der Inhalt? Könnte ein Bild, eine Audioaufnahme oder ein Video fälschlicherweise für authentisch gehalten werden und damit als Deepfake gelten?
- Wie wurde der Inhalt geprüft? Informiert ein KI-generierter Text über ein Thema von öffentlichem Interesse, und gab es vor der Veröffentlichung eine dokumentierte menschliche Kontrolle mit klarer redaktioneller Verantwortung?
Diese Fragen ersetzen keine juristische Prüfung. Sie helfen aber dabei, Inhalte frühzeitig den richtigen Fallgruppen zuzuordnen.
Wie die Kennzeichnung aussehen sollte
Artikel 50 schreibt kein einziges verbindliches Logo für alle Anwendungsfälle vor. Eine Offenlegung muss jedoch klar und unterscheidbar erfolgen. Sie muss spätestens dann wahrnehmbar sein, wenn eine Person erstmals mit dem betreffenden Inhalt oder KI-System in Kontakt kommt. Außerdem sind die geltenden Anforderungen an Barrierefreiheit zu berücksichtigen.
Für die praktische Umsetzung kommen zwei Ansätze infrage:
- Maschinenlesbare Markierungen, beispielsweise Metadaten, Herkunftsnachweise oder digitale Wasserzeichen.
- Sichtbare Hinweise, beispielsweise ein verständlicher Text oder ein Symbol direkt am Inhalt.
Die Europäische Kommission stellt inzwischen eigene EU-Symbole für KI-generierte Inhalte zur Verfügung. Diese Icons können freiwillig verwendet werden. Ihre Nutzung allein garantiert allerdings noch keine Rechtskonformität. Entscheidend bleibt, ob die konkrete Offenlegung die Anforderungen von Artikel 50 erfüllt.
Die Kommission empfiehlt unter anderem, das Symbol bereits beim ersten Kontakt mit dem Inhalt gut sichtbar zu platzieren und mit einer verständlichen Formulierung zu verbinden. Auch Alternativtexte oder geeignete ARIA-Beschriftungen sollten berücksichtigt werden.
Der freiwillige Verhaltenskodex
Ergänzend zu Artikel 50 hat die Europäische Kommission im Juni 2026 einen Verhaltenskodex zur Transparenz KI-generierter Inhalte veröffentlicht.
Der Kodex beschreibt praktische Maßnahmen für Anbieter und Betreiber. Dazu gehören technische Markierungen, sichtbare Kennzeichnungen und Empfehlungen zur Platzierung der EU-Icons. Die Teilnahme ist freiwillig. Die gesetzlichen Pflichten aus Artikel 50 sind es nicht.
Unternehmen können den Kodex nutzen, um ihre Umsetzung nachvollziehbar zu strukturieren. Er ersetzt jedoch weder den AI Act noch eine rechtliche Bewertung des jeweiligen Anwendungsfalls.
Welche Sanktionen drohen können
Verstöße gegen die Transparenzpflichten können mit erheblichen Geldbußen geahndet werden. Der AI Act sieht für Verstöße gegen bestimmte Pflichten grundsätzlich Bußgelder von bis zu 15 Millionen Euro vor. Bei Unternehmen kann stattdessen ein Betrag von bis zu drei Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres maßgeblich sein.
Welche Obergrenze im Einzelfall gilt, hängt unter anderem von der Art des betroffenen Unternehmens und den konkreten Umständen des Verstoßes ab. Bei kleinen und mittleren Unternehmen gelten besondere Begrenzungen. Die tatsächliche Höhe muss zudem verhältnismäßig sein.
Was Unternehmen jetzt tun sollten
Ein sinnvoller Umsetzungsprozess kann in fünf Schritten beginnen:
- KI-Einsatz erfassen. An welchen Stellen werden Texte, Bilder, Audio- oder Videoinhalte mit KI erzeugt oder verändert?
- Rollen klären. Handelt das Unternehmen im jeweiligen Fall als Anbieter oder als Betreiber eines KI-Systems?
- Inhalte einordnen. Liegt eine direkte KI-Interaktion, ein Deepfake oder ein Text zu einem Thema von öffentlichem Interesse vor?
- Prüfprozesse dokumentieren. Wer kontrolliert die Inhalte, wer gibt sie frei und wer übernimmt die redaktionelle Verantwortung?
- Kennzeichnung umsetzen. Wo eine Offenlegung notwendig ist, sollte sie sichtbar, verständlich, barrierefrei und gegebenenfalls zusätzlich maschinenlesbar erfolgen.
Besonders bei Grenzfällen ist eine rechtliche Prüfung sinnvoll. Das gilt etwa für journalistisch anmutende Unternehmensinhalte, realistische KI-Bilder oder synthetische Stimmen und Personen.
Fazit
Artikel 50 verbietet Unternehmen nicht, KI für die Content-Erstellung einzusetzen. Er verlangt jedoch in bestimmten Situationen Transparenz darüber, dass Menschen mit einem KI-System oder einem künstlich erzeugten Inhalt konfrontiert sind.
Für Unternehmen bedeutet das vor allem: Nicht jeder KI-unterstützte Inhalt muss pauschal gekennzeichnet werden. Gleichzeitig reicht es nicht, sich auf eine allgemeine Formulierung im Impressum oder in den Nutzungsbedingungen zu verlassen, wenn im konkreten Fall eine Offenlegung direkt am Inhalt erforderlich ist.
Wer KI-Inhalte systematisch erfasst, Verantwortlichkeiten festlegt und redaktionelle Prüfungen dokumentiert, schafft eine solide Grundlage für den praktischen Umgang mit Artikel 50. Gleichzeitig stärkt eine nachvollziehbare Kennzeichnung das Vertrauen der Menschen, für die die Inhalte bestimmt sind.