Wir produzieren mit KI Bildmaterial und Anzeigen, für uns und für Kunden. Seit Anfang des Jahres kommt in fast jedem Projekt dieselbe Frage: müssen wir das jetzt kennzeichnen, und wie genau. Die Antworten, die man dazu findet, sind entweder ein Absatz Panik oder ein Absatz Beruhigung. Beides hilft nicht weiter, wenn nächste Woche 200 generierte Produktbilder online gehen sollen. Dieser Artikel ist der Stand, auf den wir uns intern geeinigt haben, mit den Stellen, an denen wir selbst unsicher sind.
Ab wann gilt das eigentlich
Die KI-Verordnung, offiziell Verordnung (EU) 2024/1689, ist am 1. August 2024 in Kraft getreten und wird gestaffelt anwendbar. Die verbotenen Praktiken galten ab Februar 2025, die Regeln für allgemeine KI-Modelle ab August 2025. Die Transparenzpflichten aus Artikel 50, um die es hier geht, gelten ab dem 2. August 2026.
Das ist der Grund, warum das Thema gerade überall auftaucht, und es ist auch der Grund, warum man es nicht mehr vor sich herschieben sollte: Wer heute eine Creative-Produktion aufsetzt, baut die Kennzeichnung besser gleich mit ein, statt später durch ein Archiv aus mehreren tausend Dateien zu gehen.
Die Pflicht, von der alle reden, trifft meistens jemand anderen
Artikel 50 ist keine einzelne Vorschrift, sondern mehrere Absätze mit unterschiedlichen Adressaten. Wer das durcheinanderbringt, kennzeichnet entweder zu viel oder das Falsche. Zwei Absätze sind für die Bildproduktion relevant.
Absatz 2: maschinenlesbar, und zwar durch den Anbieter
Absatz 2 verpflichtet Anbieter von KI-Systemen, die synthetische Bilder, Videos, Audio oder Texte erzeugen, ihre Ausgaben in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert zu markieren. Anbieter ist hier derjenige, der das erzeugende System entwickelt und auf den Markt bringt, also die Firma hinter dem Bildmodell, nicht der Shop, der damit arbeitet. Ausgenommen sind Systeme, die nur unterstützend bearbeiten und den Inhalt nicht wesentlich verändern.
Absatz 4: sichtbar, und zwar durch euch
Absatz 4 richtet sich an Betreiber, also an den Shop, die Agentur oder die Redaktion, die den Inhalt tatsächlich veröffentlicht. Wer ein Bild oder Video einsetzt, das einen sogenannten Deepfake darstellt, muss offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Für künstlerische, kreative, satirische oder fiktionale Werke gilt eine abgeschwächte Form: der Hinweis muss in angemessener Weise erfolgen, ohne die Darstellung des Werks zu beeinträchtigen. Bei KI-generierten Texten zu Themen von öffentlichem Interesse entfällt die Pflicht, wenn der Inhalt einer menschlichen Prüfung unterlag und jemand die redaktionelle Verantwortung trägt.
Was das für einen Shop konkret bedeutet
Die Verordnung ist abstrakt, die Arbeit ist es nicht. Vier Fälle, die uns in Projekten regelmäßig begegnen, und wie wir sie einordnen.
- Ein vollständig generiertes Produktbild in einem realistisch wirkenden Setting, etwa ein Sofa in einem Wohnzimmer, das es so nie gab. Das ist der Fall, der am ehesten unter Absatz 4 fällt, weil er authentisch wirken soll.
- Ein generiertes Model, das ein echtes Produkt trägt. Hier kommen zwei Dinge zusammen: die Offenlegungsfrage und, unabhängig davon, das Lauterkeitsrecht, denn ein Bild darf über die Beschaffenheit des Produkts nicht täuschen.
- Ein echtes Foto, bei dem KI den Hintergrund entfernt oder die Belichtung korrigiert hat. Das ist die klassische unterstützende Bearbeitung ohne wesentliche Veränderung und damit der Fall, in dem eine Kennzeichnung nach unserem Verständnis nicht verlangt ist.
- Ein Video-Ad mit einem KI-Avatar, der zur Kamera spricht. Hier kennzeichnen wir immer, ohne lange zu diskutieren. Ein sprechender Mensch, den es nicht gibt, ist der Kernfall, den der Gesetzgeber vor Augen hatte.
Zwischen Fall drei und Fall eins liegt eine Grauzone, und wir werden nicht so tun, als gäbe es sie nicht. Der Begriff Deepfake ist in der Verordnung über die Ähnlichkeit zu existierenden Personen, Objekten, Orten oder Ereignissen definiert, verbunden mit dem Eindruck von Echtheit. Ob ein generiertes Möbelstück in einem generierten Raum darunter fällt, ist unter Juristen nicht einheitlich beantwortet. Unsere Faustregel im Zweifel: kennzeichnen. Ein Icon in der Ecke hat noch keine Kampagne umgebracht, eine Abmahnung schon eher.
Wie eine Kennzeichnung technisch aussieht
Hier hört die juristische Diskussion auf und die Handarbeit fängt an. Es gibt zwei Ebenen, und sie haben nichts miteinander zu tun.
Die sichtbare Ebene
Das ist die Offenlegung gegenüber Menschen. Die EU-Kommission stellt dafür amtliche Zeichen bereit, die frei und ohne Namensnennung verwendet werden dürfen, in den Varianten für erzeugte und für bearbeitete Inhalte. Ein Text-Zusatz wie „KI-generiert" ist daneben erlaubt. Wichtig ist, dass der Hinweis beim ersten Kontakt mit dem Inhalt sichtbar ist, also am Bild und nicht im Impressum.
Die maschinenlesbare Ebene
Das ist die Ebene, die kein Mensch sieht und die Plattformen, Suchmaschinen und Prüfwerkzeuge auslesen. Sie sitzt in den Metadaten der Datei. Drei Verfahren sind in der Praxis relevant, und sie schließen sich nicht aus.
- IPTC DigitalSourceType als XMP im Dateikopf. Der schlankeste Weg, breit unterstützt, und das, was die meisten Prüfwerkzeuge zuerst lesen.
- C2PA Content Credentials. Kryptografisch signierte Herkunftsdaten mit eigenem Zertifikat, deutlich aufwendiger, dafür manipulationssicher und prüfbar.
- Unsichtbares Wasserzeichen. Sitzt im Bild selbst statt im Dateikopf und überlebt deshalb, wenn eine Plattform beim Upload die Metadaten entfernt.
Der dritte Punkt ist der, den fast alle unterschätzen. Viele soziale Netzwerke kodieren hochgeladene Bilder neu und werfen dabei den halben Dateikopf weg. Eine Kennzeichnung, die nur im XMP steht, ist nach dem Upload zu Instagram unter Umständen nicht mehr da. Wer sich darauf verlässt, hat die Pflicht formal erfüllt und praktisch nicht.
Der Ablauf, den wir selbst fahren
Für eine einzelne Datei ist das alles in zwei Minuten erledigt. Zum Problem wird es in dem Moment, in dem eine Kampagne aus 120 Assets besteht und drei Leute daran arbeiten. Fünf Schritte, in dieser Reihenfolge.
- Einmal festlegen, welche Kategorien bei euch kennzeichnungspflichtig sind, und das aufschreiben. Nicht pro Bild neu entscheiden, sonst entscheidet jeder anders.
- Die Kennzeichnung ans Ende der Produktion hängen, nicht an den Anfang. Wer vor der letzten Retusche kennzeichnet, kennzeichnet ein Zwischenergebnis.
- Beide Ebenen in einem Durchgang setzen, sichtbares Zeichen und Metadaten. Zwei getrennte Arbeitsschritte werden zuverlässig zu einem, und es ist immer der falsche, der übrig bleibt.
- Das unsichtbare Wasserzeichen mitnehmen, wenn das Material auf Plattformen geht.
- Festhalten, was wann gekennzeichnet wurde. Ein Hash mit Zeitstempel reicht. Im Streitfall ist die Frage nicht, ob ihr es gut gemeint habt, sondern ob ihr es belegen könnt.
Was passiert, wenn man es nicht tut
Verstöße gegen die Transparenzpflichten aus Artikel 50 sind in Artikel 99 mit Geldbußen von bis zu 15 Millionen Euro oder bis zu 3 Prozent des weltweiten Jahresumsatzes bewehrt, je nachdem, welcher Betrag höher ist. Das ist die Obergrenze und nicht der Regelfall, und die Behörden müssen Größe und Schwere berücksichtigen.
Realistischer als eine Behörde ist für die meisten Shops ohnehin der Wettbewerber: Wer erkennbar mit generiertem Material wirbt und es nicht offenlegt, gibt einer Abmahnung eine Angriffsfläche, und die ist schneller da als jede Aufsicht.
Woran wir selbst noch hängen
Drei Dinge sind zum Zeitpunkt dieses Artikels offen, und wir schreiben sie hin, statt sie zu überspringen.
- Die Abgrenzung zwischen unterstützender Bearbeitung und wesentlicher Veränderung ist nicht scharf. Ab wie viel Retusche kippt ein echtes Foto in die Kennzeichnungspflicht? Darauf gibt es noch keine belastbare Antwort.
- Das AI Office arbeitet an Praxisleitlinien und einem Verhaltenskodex zur Erkennung und Kennzeichnung. Was dort am Ende steht, kann Details verschieben.
- Wie Plattformen mit den Markierungen umgehen, ändert sich gerade laufend. Manche werten sie aus und labeln automatisch, andere werfen sie weg. Verlassen kann man sich derzeit auf keine Seite.
Wer heute eine Produktion aufsetzt, baut die Kennzeichnung besser gleich ein. Nachträglich durch ein Archiv zu gehen ist die teuerste Variante von allen.