<aside> 📚
Fachliche Überarbeitung – Stand: 10.10.2026
</aside>
<aside> 💡
Hinweis zu Inhalt, Rechtsstand und KI
Die nachfolgenden Inhalte dienen ausschließlich der allgemeinen Information sowie Aus- und Fortbildungszwecken. Sie stellen keine Rechtsberatung und keine verbindliche behördliche Auskunft dar. Trotz sorgfältiger redaktioneller Prüfung kann keine Gewähr für die jederzeitige Vollständigkeit, Richtigkeit und Aktualität übernommen werden. Maßgeblich sind die jeweils geltenden Rechtsvorschriften und amtlichen Veröffentlichungen. Bitte prüfen Sie die Informationen vor einer Verwendung im Einzelfall auf Basis der aktuellen Rechtslage.
Zudem wurden die nachfolgenden Inhalte – einschließlich Texte und Abbildungen – teilweise oder vollständig mithilfe generativer künstlicher Intelligenz erstellt oder bearbeitet. Sämtliche Inhalte wurden anschließend durch eine natürliche Person redaktionell geprüft. Die inhaltliche und redaktionelle Verantwortung für die Veröffentlichung liegt beim Herausgeber dieser Seite.
</aside>
Die Transparenzpflichten für KI-Inhalte sind ein zentrales Instrument der KI-Verordnung (Verordnung (EU) 2024/1689, „EU-KI-Act“, in Kraft seit 1. August 2024). [1] Sie sollen das Vertrauen der Öffentlichkeit in KI-Systeme stärken und Täuschungen durch synthetisch erzeugte Inhalte verhindern. Die Pflichten nach Art. 50 gelten seit dem 2. August 2026. Die Digital-Omnibus-Verordnung zur KI (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) hat Art. 50 inhaltlich nicht geändert, aber eine Übergangsfrist für die technische Kennzeichnung nach Art. 50 Abs. 2 eingeführt (siehe Abschnitt 4.2). [2]
Art. 50 richtet sich an Anbieter und Betreiber und beantwortet zwei Kernfragen:
Die Vorschrift steht in Kapitel IV („Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme“). Maßgeblich sind außerdem die Begriffsbestimmungen in Art. 3 Nr. 3, 4 und 60 sowie die Erwägungsgründe 132–137. Konkretisiert werden die Pflichten durch die Leitlinien der Kommission zu Art. 50 (20. Juli 2026) und den Verhaltenskodex zur Transparenz KI-generierter Inhalte (Juni 2026). Ergänzend gelten die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (Kapitel V, Art. 51 ff.). [3]
<aside> ℹ️
Die Transparenzpflichten knüpfen an bestimmte Funktionen eines KI-Systems an, nicht an seine Risikoklasse. Sie gelten daher auch für Systeme, die nicht als Hochrisiko-KI eingestuft sind, und bei Hochrisiko-Systemen zusätzlich zu den Anforderungen aus Kapitel III (Art. 50 Abs. 6). [4]
</aside>
Art. 50 gliedert die Transparenzpflichten in vier Tatbestände (Abs. 1 bis 4) und ergänzende Regeln zu Form, Verhältnis zu anderen Vorschriften und Verhaltenskodizes (Abs. 5 bis 7) [5]:
| Absatz | Adressat | Regelungsgegenstand |
|---|---|---|
| Art. 50 Abs. 1 | Anbieter von KI-Systemen, die für die direkte Interaktion mit natürlichen Personen bestimmt sind | Information, dass mit einem KI-System interagiert wird (Chatbots, Sprachassistenten, KI-Agenten) |
| Art. 50 Abs. 2 | Anbieter von KI-Systemen (einschließlich KI-Systemen mit allgemeinem Verwendungszweck), die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen | Maschinenlesbare Kennzeichnung der Ausgaben, die als künstlich erzeugt oder manipuliert erkennbar sein müssen (z. B. Wasserzeichen, Metadaten) |
| Art. 50 Abs. 3 | Betreiber von Emotionserkennungssystemen und Systemen zur biometrischen Kategorisierung | Information der betroffenen Personen über den Betrieb des Systems |
| Art. 50 Abs. 4 | Betreiber von KI-Systemen, die Deepfakes erzeugen oder manipulieren, sowie Betreiber, die KI-generierte Texte zur Information der Öffentlichkeit veröffentlichen | Sichtbare Offenlegung gegenüber dem Publikum |
| Art. 50 Abs. 5 | Alle nach Abs. 1 bis 4 Verpflichteten | Form und Zeitpunkt: klar und eindeutig erkennbar, spätestens bei der ersten Interaktion oder Konfrontation, barrierefrei |
| Art. 50 Abs. 6 | – | Die Pflichten gelten zusätzlich zu Kapitel III und zu anderen Transparenzpflichten nach Unions- oder nationalem Recht |
| Art. 50 Abs. 7 | Kommission | Förderung und Erleichterung unionsweiter Verhaltenskodizes zur Erkennung, Kennzeichnung und Auszeichnung künstlich erzeugter oder manipulierter Inhalte; keine Ermächtigung mehr für Durchführungsrechtsakte |
Art. 50 Abs. 1 verpflichtet Anbieter von KI-Systemen, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, diese so zu konzipieren und zu entwickeln, dass die betroffenen Personen erfahren, dass sie mit einem KI-System interagieren. Erfasst sind nach den Leitlinien insbesondere Chatbots, Sprachassistenten, Avatare und KI-Agenten. Die Interaktion muss unmittelbar (in Echtzeit oder nahezu in Echtzeit) mit einer natürlichen Person stattfinden. Reine Maschine-zu-Maschine-Abläufe im Hintergrund fallen nicht darunter. [6]
Der Hinweis muss
Nach den Leitlinien genügen ein Hinweis in den Nutzungsbedingungen, eine allein maschinenlesbare Markierung oder eine allgemeine Bezeichnung wie „Assistent“ nicht. KI-Agenten sollen zudem erkennen lassen, in wessen Auftrag sie handeln. Erhöhte Sorgfalt ist geboten, wenn Kinder, ältere Menschen oder Personen mit geringer digitaler Kompetenz zu den Nutzenden gehören. [8]
Keine Hinweispflicht besteht, wenn
Die Kennzeichnungspflicht nach Abs. 2 gilt nicht, soweit das KI-System
Die Leitlinien nennen als mögliche Fälle u. a. kurze Ausgaben wie Alternativtexte, Bildunterschriften oder Beschriftungen von Bedienelementen, Quellcode, KI-Übersetzungen, sinnwahrende Standardbearbeitung sowie Ausgaben, die geschützt nur intern verwendet werden. Die Ausnahmen sind eng auszulegen. [13]
Übergangsfrist: Für generative KI-Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, gilt Abs. 2 erst ab dem 2. Dezember 2026 (eingeführt durch die VO (EU) 2026/1744). Systeme, die ab dem 2. August 2026 in Verkehr gebracht werden, müssen sofort gekennzeichnet sein. [14]
Ein Deepfake ist nach Art. 3 Nr. 60 ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. [15]
Betreiber müssen offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Die Pflicht gilt unabhängig vom Themenfeld, also etwa für Öffentlichkeitsarbeit, Werbung, Medien, Unterhaltung oder Politik. Ob ein Deepfake vorliegt, ist nach den Leitlinien im Einzelfall zu beurteilen: Ähnlichkeit mit der Realität, Bezug zu real existierenden Personen oder Dingen, Grad der Manipulation und Erwartung des voraussichtlichen Publikums. Bei Kindern und anderen schutzbedürftigen Gruppen gilt ein strengerer Maßstab. Das Kennzeichen muss spätestens bei der ersten Konfrontation deutlich wahrnehmbar sein. [16]
Eingeschränkte Pflicht: Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks, beschränkt sich die Pflicht darauf, das Vorhandensein solcher Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt. Eine vollständige Ausnahme ist das nicht. Die Kommission legt diese Kategorien eng aus.
Ausnahme: gesetzlich zugelassene Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten. Eine Ausnahme für wissenschaftliche Forschung sieht Art. 50 Abs. 4 nicht vor. [17]
Betreiber, die KI-generierte oder KI-manipulierte Texte veröffentlichen, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen dies offenlegen. Nach den Leitlinien gehören dazu ausdrücklich auch Themen der öffentlichen Verwaltung, der Politik, der Justiz und der öffentlichen Gesundheit. [18]
Ausnahme: Die Pflicht entfällt, wenn der Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Die Leitlinien verlangen eine substanzielle Prüfung, kein flüchtiges Gegenlesen. Wird der Text nach der Freigabe noch wesentlich durch KI verändert, entfällt die Ausnahme. [19]
Texte, die vor dem 2. August 2026 erzeugt, aber danach veröffentlicht werden, sind ebenfalls offenzulegen, sofern die Ausnahme nicht greift. [20]
Die KI-VO schreibt keine bestimmte Technik vor. Der Verhaltenskodex zur Transparenz KI-generierter Inhalte (veröffentlicht im Juni 2026) setzt auf mehrschichtige Lösungen aus Metadaten, Wasserzeichen und Herkunftsnachweisen (Content Provenance). Etablierte Verfahren sind z. B. C2PA (Coalition for Content Provenance and Authenticity, „Content Credentials“) und IPTC Photo Metadata Standards. [21]
Der Kodex ist freiwillig. Kommission und KI-Gremium haben ihn als angemessen bewertet. Unterzeichnende können seine Maßnahmen als Nachweis heranziehen; dies begründet jedoch keine Konformitätsvermutung und ersetzt nicht die Einhaltung der Verordnung. Wer den Kodex nicht nutzt, muss für die Pflichten zur Markierung und Kennzeichnung gleichwertig angemessene alternative Mittel nachweisen. Für die übrigen Transparenzpflichten können Anbieter und Betreiber geeignete Maßnahmen anhand der Leitlinien bestimmen. Art. 50 Abs. 7 ermächtigt die Kommission seit der Änderung durch VO (EU) 2026/1744 nicht mehr zum Erlass entsprechender Durchführungsrechtsakte. Bis Ende Juli 2026 hatten rund 190 Organisationen unterzeichnet. [23]
Betreiber eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung müssen die betroffenen Personen über den Betrieb des Systems informieren. Personenbezogene Daten sind nach der DSGVO, der VO (EU) 2018/1725 bzw. der RL (EU) 2016/680 zu verarbeiten. Ausgenommen sind gesetzlich zugelassene Systeme zur Aufdeckung, Verhütung oder Ermittlung von Straftaten. [24]
Die Informationspflicht macht den Einsatz nicht rechtmäßig: Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ist nach Art. 5 Abs. 1 lit. f KI-VO grundsätzlich verboten (Ausnahme: medizinische oder Sicherheitsgründe). [25]
Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI-Modelle, z. B. große Sprachmodelle) unterliegen seit dem 2. August 2025 eigenen Pflichten. Für Modelle, die vor diesem Datum in Verkehr gebracht wurden, gilt eine Frist bis zum 2. August 2027 (Art. 111 Abs. 3). [26]
Bei GPAI-Modellen mit systemischem Risiko (Vermutung nach Art. 51 Abs. 2 bei mehr als 10²⁵ FLOP Trainingsrechenaufwand) gelten zusätzlich die Pflichten nach Art. 55: Modellbewertung, Bewertung und Minderung systemischer Risiken, Meldung schwerwiegender Vorfälle an das Büro für Künstliche Intelligenz (AI Office) und angemessene Cybersicherheit. Der Verhaltenskodex für GPAI-Modelle (Juli 2025) dient als Nachweisinstrument. [28]
Abgrenzung: Die Kennzeichnungspflicht nach Art. 50 Abs. 2 trifft den Anbieter des KI-Systems. Nach den Leitlinien können sich nachgelagerte Anbieter auf eine Markierung auf Modellebene stützen, wenn diese nachweislich wirksam ist. [29]
Nach Art. 50 Abs. 6 gelten die Transparenzpflichten zusätzlich zu anderen Transparenzpflichten. Die Regelwerke sind nebeneinander anzuwenden [30]:
| Rechtsakt | Relevanz für KI-Transparenz |
|---|---|
| DSGVO (VO (EU) 2016/679) | Informationspflichten (Art. 13, 14), Auskunftsrecht (Art. 15) und Schutz vor ausschließlich automatisierten Einzelentscheidungen (Art. 22); KI-VO und DSGVO ergänzen sich, schließen sich nicht aus [31] |
| Digital Services Act (VO (EU) 2022/2065) | Werbetransparenz auf Online-Plattformen (Art. 26); sehr große Online-Plattformen und Suchmaschinen müssen Deepfakes im Rahmen der Risikominderung auffällig kennzeichnen (Art. 35 Abs. 1 lit. k) [32] |
| Verordnung über politische Werbung (VO (EU) 2024/900) | Transparenzkennzeichnung und Transparenzbekanntmachungen für politische Werbung, im Wesentlichen anwendbar seit 10. Oktober 2025; gilt neben Art. 50 [33] |
| Urheberrecht (RL (EU) 2019/790, in Deutschland §§ 44b, 60d UrhG) [34] | Nutzung urheberrechtlich geschützter Werke im KI-Training, Text- und Data-Mining-Schranken; Bezug zur KI-VO über Art. 53 Abs. 1 lit. c und d (vertiefend: ‣) |
| KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) | Nationale Durchführung der KI-VO: Zuständigkeiten und Bußgeldvorschriften (siehe Abschnitt 9) [35] |
Eine zentrale Unterscheidung des EU-KI-Acts ist jene zwischen Anbieter (Provider) und Betreiber (Deployer):
Im Behördenkontext sind Behörden beim Einsatz extern beschaffter KI-Systeme regelmäßig Betreiber und tragen damit die Offenlegungspflichten gegenüber Bürgerinnen und Bürgern. Entwickelt eine Behörde ein System selbst oder lässt es entwickeln und nimmt es unter eigenem Namen in Betrieb (z. B. einen eigenen Bürger-Chatbot), ist sie zugleich Anbieter und muss auch Abs. 1 und 2 erfüllen. [38]