KI-generierte Inhalte kennzeichnen: wer markiert, wer offenlegt und bis wann
Der AI Act enthält zwei Pflichten zu erzeugten Inhalten, und sie treffen verschiedene Akteure. Das Unternehmen, dessen System die Inhalte erzeugt, muss sie maschinenlesbar markieren. Das Unternehmen, das einen Deepfake veröffentlicht, muss das offenlegen. Die meiste Verwirrung entsteht, wenn man beides vermischt.
Zwei Pflichten, zwei Akteure
- Anbieter markieren. Nach Artikel 50 Absatz 2 muss der Anbieter eines Systems, das synthetische Audio-, Bild-, Video- oder Textinhalte erzeugt, dessen Ausgaben maschinenlesbar als künstlich erzeugt oder manipuliert kennzeichnen.
- Betreiber legen offen. Nach Artikel 50 Absatz 4 muss, wer ein solches System nutzt, um einen Deepfake zu erstellen oder Text zu Angelegenheiten von öffentlichem Interesse zu veröffentlichen, dies den Menschen offenlegen, die ihn sehen.
Die FAQ der Kommission ergänzen den Punkt, an dem viele stolpern: Ein Betreiber kann sich zur Erfüllung seiner eigenen Offenlegungspflicht nicht auf die maschinenlesbare Markierung des Anbieters stützen. Die Markierung ist für Maschinen, die Offenlegung für Menschen.
Markierung: was Anbieter schulden
Anbieter von KI-Systemen, einschließlich KI-Systemen mit allgemeinem Verwendungszweck, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, stellen sicher, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.
Die technische Lösung muss, soweit technisch möglich, wirksam, interoperabel, belastbar und zuverlässig sein. Die Pflicht gilt nicht, soweit das System nur eine unterstützende Funktion für die Standardbearbeitung ausführt oder die Eingabedaten oder deren Semantik nicht wesentlich verändert.
Die FAQ der Kommission nennen außerdem Ausgaben, die nicht unter Artikel 50 Absatz 2 fallen: kurze Folgen von Zahlen, Symbolen oder Buchstaben, Quellcode, Ausgaben zwischen Maschinen und Ausgaben industrieller Systeme mit geschlossenem Regelkreis.
Die Fristen
- 2. August 2026. Artikel 50 gilt, nach dem allgemeinen Geltungsbeginn des AI Act in Artikel 113.
- 2. Dezember 2026. Anbieter, deren generative Systeme vor dem 2. August 2026 in Verkehr gebracht wurden, haben bis zu diesem Datum Zeit, Artikel 50 Absatz 2 zu erfüllen. Die Frist wurde durch die Verordnung (EU) 2026/1744 als neuer Artikel 111 Absatz 4 eingefügt und gilt seit dem 27. Juli 2026.
- Keine Rückwirkung. Laut den FAQ der Kommission müssen Inhalte, die vor dem 2. August 2026 erzeugt wurden, nicht nachträglich gekennzeichnet werden.
Die viermonatige Schonfrist gilt nur für die Markierungspflicht. Die Pflicht des Betreibers, Deepfakes offenzulegen, gilt seit dem 2. August 2026 ohne eine solche Frist.
Deepfakes: was Betreiber schulden
'Deepfake' einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde;
Ein Betreiber, dessen KI-System solche Inhalte erzeugt oder manipuliert, muss offenlegen, dass sie künstlich erzeugt oder manipuliert wurden. Die FAQ der Kommission lesen die Definition als drei Bedingungen, die alle erfüllt sein müssen: Der Inhalt ähnelt etwas, dieses Etwas existiert, und der Inhalt würde fälschlicherweise als echt erscheinen.
Eine klar gezeichnete Illustration eines erfundenen Produkts ist also kein Deepfake. Ein realistisches Foto Ihres echten Geschäfts mit Kunden, die nie dort waren, kann einer sein.
Bei einem offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werk beschränkt sich die Pflicht darauf, offenzulegen, dass erzeugte Inhalte vorhanden sind, und zwar so, dass das Werk nicht beeinträchtigt wird.
Erzeugter Text
Text ist enger erfasst, als viele denken. Der zweite Unterabsatz von Artikel 50 Absatz 4 gilt für erzeugten oder manipulierten Text, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Die Pflicht entfällt, wenn der Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Eine Redaktion, die KI-Entwürfe bearbeitet und freigibt, fällt unter diese Ausnahme; eine Website, die maschinell geschriebene Nachrichten veröffentlicht, ohne dass jemand dafür verantwortlich ist, nicht.
Der Praxisleitfaden
Die Kommission hat am 10. Juni 2026 einen endgültigen Praxisleitfaden (Code of Practice) zur Transparenz KI-generierter Inhalte veröffentlicht. Er hat einen Teil für Anbieter zu Markierung und Erkennung und einen für Betreiber zur Kennzeichnung. Die Unterzeichnung ist freiwillig, die Pflichten aus Artikel 50 sind es nicht.
Am 8. Juli 2026 kam die Kommission zu dem Ergebnis, dass der Leitfaden Artikel 50 Absätze 2, 4 und 5 angemessen abdeckt. Ihre Stellungnahme fügt hinzu, dass die Einhaltung des Leitfadens keinen schlüssigen Nachweis der Konformität darstellt.
Am 20. Juli 2026 hat die Kommission außerdem Leitlinien zu Artikel 50 angenommen. Die FAQ, die sie zusammenfassen, sind der schnellste Einstieg.
In der Praxis, für ein Unternehmen
- Erstellen Sie eine Liste, wo KI erzeugt, was Sie veröffentlichen: Produktfotos, Werbebilder, Voice-overs, Videos, Artikel.
- Fragen Sie den Hersteller jedes Werkzeugs, wie dessen Ausgaben markiert werden, und bewahren Sie die Antwort auf. Wenn Sie einen eigenen Generator bauen, liegt die Markierungspflicht bei Ihnen.
- Prüfen Sie, ob Ihr Export- oder Upload-Schritt die Markierung aus der Datei entfernt.
- Kennzeichnen Sie alles Realistische, das echte Personen, Orte oder Ereignisse zeigt, als erzeugt.
- Halten Sie die Liste aktuell: Ein neues Werkzeug ist eine neue Zeile.
Unsere Markierungsprüfung prüft bis zu fünf Bilder auf einer öffentlichen Seite und sucht nach C2PA und anderen Herkunftsmetadaten. Werden sie gefunden, trägt das Bild eine Markierung. Fehlen sie bei einem gewöhnlichen Foto, ist das kein Verstoß, und die Prüfung sagt das auch: Ob ein Bild von KI erzeugt wurde, lässt sich allein aus seinen Bytes nicht beweisen.
Wer die Pflicht durchsetzt
Die nationalen Marktüberwachungsbehörden setzen den größten Teil durch, das Büro für Künstliche Intelligenz ist zuständig für Systeme, die auf einem KI-Modell mit allgemeinem Verwendungszweck desselben Anbieters beruhen, sowie für sehr große Online-Plattformen und sehr große Online-Suchmaschinen. Das Bußgeld für Verstöße gegen Artikel 50 ist dasselbe wie bei Chatbots: bis zu 15 000 000 EUR oder 3% des gesamten weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist, und für KMU der niedrigere der beiden.
Häufige Fragen
- Muss ich KI-generierte Bilder kennzeichnen?
- Wenn Sie Anbieter des Systems sind, das sie erzeugt, müssen sie nach Artikel 50 Absatz 2 maschinenlesbar markiert sein. Wenn Sie ein realistisches Bild veröffentlichen, das echten Personen, Orten oder Ereignissen ähnelt und fälschlicherweise als echt erscheinen würde, müssen Sie nach Artikel 50 Absatz 4 offenlegen, dass es erzeugt wurde.
- Ab wann ist die maschinenlesbare Markierung Pflicht?
- Artikel 50 gilt ab dem 2. August 2026. Anbieter generativer Systeme, die vor diesem Datum in Verkehr gebracht wurden, haben nach Artikel 111 Absatz 4, eingefügt durch die Verordnung (EU) 2026/1744, Zeit bis zum 2. Dezember 2026.
- Braucht von KI geschriebener Marketingtext eine Kennzeichnung?
- Artikel 50 Absatz 4 erfasst Text, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, und gilt nicht, wenn ein Mensch ihn geprüft hat und jemand die redaktionelle Verantwortung trägt. Produkttexte fallen nicht offensichtlich in diese Kategorie; fragen Sie zu Ihrem Fall einen Anwalt.
- Reicht die Unterzeichnung des Praxisleitfadens, um die Pflichten zu erfüllen?
- Nein. Die Kommission hat den Leitfaden für Artikel 50 Absätze 2, 4 und 5 als angemessen bewertet, aber ihre Stellungnahme sagt, dass seine Einhaltung keinen schlüssigen Nachweis der Konformität darstellt.
Quellen
- Verordnung (EU) 2024/1689 (AI Act), Artikel 3, 50, 99 und 113, EUR-Lex
- Verordnung (EU) 2026/1744 (Digital-Omnibus zur KI), neuer Artikel 111 Absatz 4, EUR-Lex
- Europäische Kommission, FAQ zu den Transparenzpflichten nach Artikel 50
- Europäische Kommission, Praxisleitfaden zur Transparenz KI-generierter Inhalte
- Europäische Kommission, Stellungnahme zur Angemessenheit des Praxisleitfadens, 9. Juli 2026
- Europäische Kommission, Leitlinien zu den Transparenzpflichten für Anbieter und Betreiber von KI-Systemen
Alle Quellen am 5. November 2026 erneut gelesen. Dieser Leitfaden erläutert den Gesetzestext und die veröffentlichten Leitlinien der Kommission. Er ist keine Rechtsberatung, und Ihren konkreten Fall sollte ein Anwalt prüfen.