KI-Kennzeichnungspflicht

Wie wird gekennzeichnet?
 

WICHTIG: Der AI Act unterscheidet zwei Ebenen der Kennzeichnung:

1. Maschinenlesbar (Pflicht für Anbieter)

• technische bzw. maschinenlesbare Kennzeichnung im Hintergrund z. B. Metadaten oder Wasserzeichen
• für Plattformen und Systeme erkennbar

2. Menschlich verständlich (relevant im Einsatz)

• sichtbare Hinweise für Nutzer
• z. B. „Dieses Bild wurde mit KI erzeugt“

Wichtig dabei: Maschinenlesbar ersetzt nicht automatisch eine sichtbare Kennzeichnung.

---

Ab wann sind die Transparenzpflichten verbindlich?
 

Ab dem 2. August 2026  werden die  Transparenzpflichten (Art. 50) verbindlich.

---

Ist bei Verstößen mit Bußgeldern zu rechnen?

Ja, bei Verstößen ist mit empfindlichen Bußgeldern zu rechnen:

• bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes bei Verstößen gegen Pflichten wie Transparenz
• in schwereren Fällen sogar mehr (je nach Verstoßkategorie)

---

Gibt es aktuell sogar schon Gerichtsurteile?
 

Aktuell gibt es praktisch noch keine relevanten Urteile dazu. Aber: Es gibt schon klare „Richtungssignale“

1 Wettbewerbsrecht & Irreführung (sehr wichtig)

Bereits gilt, wenn Inhalte täuschen, dann ist das juristisch definitiv kritisch (auch ohne AI Act). Hier ein kleines Beispiel:

• KI-generierte Menschen werden als echte Kund:innen dargestellt
• Fake-Szenen werden als real verkauft

Das kann also schon jetzt als irreführende Werbung gelten.

Reale Fallbeispiele:

PR-Rat / Branchenentscheidungen

Ein spannender Fall (Deutscher Rat für Public Relations, DRPR, Fall AfD Göppingen, 2024).

• Es wurden KI-generierte Personen als reale Mitglieder dargestellt
• ohne Kennzeichnung
• Rüge wegen Irreführung und fehlender Transparenz bzw. Kennzeichnung

Kritisiert wurde, dass man glauben konnte, die Personen seien echt. Es gab keinerlei Kennzeichnung, wodurch eine Täuschung der Öffentlichkeit vorgeworfen wurde. Das sieht der DRPR als klaren Vorstoß gegen Transparenz, Wahrhaftigkeit und Kennzeichnungspflicht. Das ist zwar kein Gericht, aber der Fall zeigt klar, wie es bewertet wird.

Ein weiterer Fall:

Fall Tasy AI (2025)

• Plattform bietet KI-Influencer (also Fake-Menschen)
• Es wurde bewusst ohne Kennzeichnung beworben

Es gab eine Mahnung wegen Irreführung und fehlender Kennzeichnung

Zusätzlich wurde hervorgehoben: Gefahr der gezielten Irreführung durch real wirkende KI-Avatare

Diese Fälle zeigen ziemlich klar:

Das Problem ist nicht KI an sich, sondern wenn KI real wirkt, aber nicht gekennzeichnet ist, dann ist es kritisch.

WICHTIG! Das sind keine Gerichtsurteile, sondern Branchenentscheidungen. Aber sie sind dennoch wichtig weil sie zeigen, wie solche Fälle bewertet werden und in welche Richtung sieh die Rechtssprechung entwicklen wird. Rechtsexperten sagen ziemlich eindeutig:

• Kennzeichnungspflicht greift bei realistisch wirkenden Inhalten
• Ziel: Täuschung verhindern

Eine kleine Abschätzung wie sich das entwickeln kann:

Sehr wahrscheinlich: Erste Phase (jetzt – 2026)

• kaum Urteile
• viel Unsicherheit
• Best Practices entstehen

Zweite Phase (ab 2026–2028)

• erste Abmahnungen
• erste Gerichtsfälle
• Konkretisierung durch Rechtsprechung

Dann wird’s richtig spannend (und strenger).

---

Spielt es bei Texten eine Rolle, ob diese rein KI-generiert oder menschlich geprüft sind?

Ja, das ist ein entscheidender Unterschied.

WICHTIG:
Wird ein Text rein KI-generiert und ohne menschliche Kontrolle veröffentlicht, kann eine Kennzeichnungspflicht bestehen – insbesondere bei Inhalten zu Themen von öffentlichem Interesse.

Unterliegt der Text einer strengen redaktionellen Kontrolle, überarbeitet und von einem Menschen verantwortet, entfällt diese Pflicht in der Regel.

Bei Texten ist also weniger entscheidend, ob mit KI generiert, sondern ob ein Mensch die Verantwortung übernimmt. Letzteres würde ich sowieso immer empfehlen. Keine Veröffentlichung KI-generierter Inhalte ohne strenge menschliche Kontrolle.

---

10-Punkte-Praxisleitfaden zum Einsatz von KI-generierten Inhalten

 

1. KI-Content nie ungeprüft übernehmen
KI sollte nicht als fertiges Endergebnis verstanden werden, sondern als Ausgangspunkt. Inhalte sollten immer geprüft, eingeordnet und – wenn nötig – gestalterisch oder redaktionell weiterentwickelt werden.
 

2. Urheberrecht und Kennzeichnung immer getrennt betrachten
Ob ein Inhalt urheberrechtlich geschützt ist, ist eine andere Frage als die, ob er gekennzeichnet werden muss. Beide Themen hängen zwar in der Praxis zusammen, verfolgen aber rechtlich unterschiedliche Ziele.
 

3. Der Schöpfungsgrad ist vor allem fürs Urheberrecht relevant
Je stärker ein KI-Inhalt kreativ bearbeitet, kombiniert oder weiterentwickelt wird, desto eher kann eine eigene menschliche schöpferische Leistung vorliegen. Für die Kennzeichnungspflicht ist das allein jedoch nicht entscheidend.
 

4. Bei der Kennzeichnung zählt vor allem die Wirkung des Inhalts
Entscheidend ist nicht nur, wie ein Inhalt entstanden ist, sondern wie er auf Nutzer wirkt. Je realistischer ein Inhalt erscheint, desto sensibler sollte er geprüft werden.
 

5. Bilder, Videos und Audioinhalte besonders sorgfältig einordnen
Gerade bei visuellen oder audiovisuellen Inhalten ist das Risiko höher, dass etwas als echt verstanden wird, obwohl es künstlich erzeugt wurde. Das gilt besonders für realistisch wirkende Personen, Stimmen oder Situationen.
 

6. Offensichtlich künstliche oder kreative Inhalte sind meist unkritischer
Nicht jeder KI-generierte Inhalt ist automatisch problematisch. Eine stilisierte Illustration, ein animierter Dinosaurier oder eine klar fiktionale 3D-Figur ist meist anders zu bewerten als eine täuschend echte Personendarstellung.
 

7. Bei Texten kommt es stark auf menschliche Prüfung und Verantwortung an
Wird ein Text mit KI erstellt, aber redaktionell geprüft, überarbeitet und verantwortet, ist das rechtlich anders einzuordnen als ein rein automatisiert veröffentlichter Inhalt. Gerade bei Texten ist der menschliche Review-Prozess zentral.
 

8. Bestehende KI-Hinweise besser nicht entfernen
Sind Inhalte bereits als KI-generiert markiert – etwa durch Plattformen, Metadaten oder Content Credentials – sollten diese Hinweise nicht leichtfertig gelöscht werden. Transparenz ist hier oft der bessere Weg.

9. Neben dem AI Act immer auch Plattformregeln beachten
Auf YouTube, Instagram, TikTok oder anderen Plattformen gelten oft zusätzliche Vorgaben für KI-generierte Inhalte. Wer dort veröffentlicht, sollte nicht nur die gesetzliche Lage, sondern auch die jeweiligen Plattformrichtlinien im Blick haben.
 

10. Im Zweifel lieber transparent kommunizieren
Auch wenn nicht in jedem Fall eine ausdrückliche Kennzeichnungspflicht besteht, kann ein freiwilliger Hinweis sinnvoll sein. Das wirkt professionell, schafft Vertrauen und zeigt einen verantwortungsvollen Umgang mit KI.

Meinung und Fazit

Ist die Transparenzpflicht nervig oder sinnvoll?

Ganz ehrlich: Ich finde sie sinnvoll.

Gerade bei Deepfakes, manipulierten Inhalten oder täuschend echten KI-Erzeugnissen braucht es aus meiner Sicht klare Regeln. Nicht nur, um Nutzer zu schützen, sondern auch, um ein Bewusstsein dafür zu schaffen, was echt ist — und was eben nicht. Wenn zusätzlich eine maschinenlesbare Kennzeichnung vorgeschrieben ist, könnte das langfristig auch helfen, Inhalte besser nachzuverfolgen. Und das ist gerade bei problematischen oder bewusst irreführenden Inhalten alles andere als verkehrt.

Grundsätzlich sehe ich Kennzeichnung auch nicht als Nachteil. Im Gegenteil: Ein transparenter Hinweis kann sogar Vertrauen schaffen. Besonders bei Texten wirkt ein freiwilliger Transparenzhinweis heute eher professionell als problematisch. So nach dem Motto: Wir nutzen moderne Tools — aber wir stehen auch offen dazu.

Wird jetzt alles kontrolliert?

Wahrscheinlich nicht.

Ich kann mir kaum vorstellen, dass künftig jeder Flyer, jeder Social-Media-Post oder jede Website manuell kontrolliert wird. Realistisch betrachtet werden zunächst eher große Plattformen, bekannte Anbieter und größere Marktteilnehmer im Fokus stehen. Also die üblichen Verdächtigen, bei denen auch wirklich Reichweite und Wirkung dahintersteckt.

Trotzdem würde ich das Thema nicht auf die leichte Schulter nehmen. Denn kritisch kann es immer dann werden, wenn jemand einen konkreten Verstoß meldet oder sich an einem Fall stört. Und wir kennen das Spiel leider: Wo neue Regeln auftauchen, dauert es meist nicht lange, bis manche Kanzleien darin ein neues Geschäftsmodell entdecken. Anders gesagt: Die Abmahnung schläft nicht.

Wie konkret ist der AI Act eigentlich?

Der AI Act setzt aus meiner Sicht vor allem den Rahmen — aber er sagt eben nicht bis ins letzte Detail, wie alles praktisch umgesetzt werden soll.

Juristisch ist da schon einiges bewusst offen formuliert. Begriffe wie „klar“, „erkennbar“ oder „angemessen“ lassen Spielraum. Das ist einerseits sinnvoll, weil sich Technologie und Plattformen schnell verändern. Andererseits sorgt genau das natürlich auch für Unsicherheit in der Praxis. Kurz gesagt: Der AI Act liefert eher das Spielfeld als die komplette Spielanleitung.

Warum Transparenz trotzdem sinnvoll ist

Auch unabhängig von gesetzlichen Pflichten halte ich Transparenz für wichtig. Nicht nur aus rechtlicher Vorsicht, sondern auch aus einer gewissen eigenen Haltung heraus.

Wer mit KI arbeitet, sollte sich meiner Meinung nach nicht verstecken müssen — aber eben auch nicht so tun, als wäre alles rein menschlich entstanden. Gerade in der Kommunikation, im Marketing und in kreativen Prozessen kann ein offener Umgang mit KI ein echtes Vertrauenssignal sein. Und ganz ehrlich: Ein kleiner Hinweis ist meistens deutlich angenehmer als später eine große Diskussion.

Deepfakes? Da hört der Spaß auf.

Was Deepfakes angeht, bin ich persönlich ziemlich klar: Da hoffe ich sehr, dass konsequent kontrolliert und durchgegriffen wird.

Sobald Inhalte gezielt täuschen, Personen falsch darstellen oder Realität manipulieren, ist für mich eine Grenze erreicht. Da geht es nicht mehr um kreative Spielerei oder clevere Tools, sondern um Verantwortung.

Ein Blick nach vorn

Spannend finde ich auch die Frage, wie sich das technisch weiterentwickelt. Ich kann mir gut vorstellen, dass Nutzer künftig stärker selbst steuern wollen, ob sie KI-generierte Inhalte überhaupt sehen möchten. Vielleicht gibt es irgendwann wirklich eine Art „KI-Blocker“ — also das, was der Adblocker einmal für Werbung war, nur eben für synthetische Inhalte. Noch ist das Zukunftsmusik, aber ganz abwegig ist der Gedanke nicht.

Mein Fazit

Für mich untermauert das alles vor allem eines:
KI ist ein Werkzeug — entscheidend bleibt der Mensch.

Die Technologie kann viel. Aber wie wir sie einsetzen, wie transparent wir damit umgehen und welche Standards wir uns selbst setzen, das ist und bleibt eine menschliche Entscheidung. Und vielleicht ist genau das die wichtigste Regel von allen: Nicht alles, was technisch möglich ist, ist kommunikativ auch eine gute Idee.

Dieser Blogbeitrag basiert inhaltlich auf dem AI Act, einem Fachvortrag des Rechtsanwalts Notash Taheri sowie einem Online-Artikel von E-Recht24. Der Beitrag dient der Orientierung und erhebt keinen Anspruch auf Vollständigkeit oder Rechtsberatung.

Quellen:
https://artificialintelligenceact.eu/de/article/50/
https://ra-taheri.de/
https://www.e-recht24.de/ki/13336-ki-kennzeichnungspflicht-fuer-unternehmer.html#