Transparenzpflichten nach dem AI-Act: Woran erkennen wir künftig KI-Inhalte?

Die Nutzung von KI-Systemen zur Erstellung von Texten, Bildern oder Videos ist mittlerweile in vielen Bereichen Teil unseres Alltags geworden. Je realistischer die generierten Inhalte jedoch werden, desto schwerer fällt es, echte Aufnahmen von künstlichen zu unterscheiden. Das erleichtert auch die Verbreitung von Fehlinformationen, Täuschungen und Betrug. Dieses Risiko soll mit der sogenannten Transparenzpflicht des Artikel 50 der europäischen KI-Verordnung (AI Act) eingedämmt werden. Diese speziellen Regelungen treten am 2. August 2026 in Kraft. Zukünftig unterliegen Anbieter und Betreiber von KI-Systemen konkreten Offenlegungs-, Kennzeichnungs- und Informationspflichten.

Der AI Act unterscheidet in seinen Verpflichtungen zwischen den folgenden zwei Akteuren:

• Anbieter (Provider): Wer ein KI-System entwickelt und unter eigenem Namen auf den Markt bringt (z. B. OpenAI mit ChatGPT oder Google mit Gemini).
• Betreiber (Deployer): Wer ein KI-System in eigener Verantwortung im Rahmen einer beruflichen Tätigkeit nutzt (z. B. eine Marketingagentur, die KI-Bilder für eine Kampagne erstellt). 

Die Pflichten für Betreiber gelten nicht für die rein persönliche, nicht-berufliche Nutzung. Wer also ein KI-System nutzt, um eine private Weihnachtskarte mit einem lustigen Deep Fake der Familie zu erstellen, muss diese nicht verpflichtend nach dem AI Act kennzeichnen. Werden durch KI-Inhalte jedoch andere Vorschriften verletzt (z. B. das Verbotsgesetz oder die Erstellung von sexualbezogenem Kindesmissbrauchsmaterial nach § 207a StGB), kann der Inhalt trotz privater Nutzung strafbar sein.

Wer als KI-System einen Chatbot oder einen Sprachassistenten anbietet, muss sicherstellen, dass Nutzer:innen erkennen können, dass sie mit einer Maschine kommunizieren. Dieser Hinweis muss eindeutig und barrierefrei sein und spätestens bei der ersten Interaktion erfolgen. Lediglich ein Hinweis auf die Nutzung eines KI-Systems in den AGB ist nicht ausreichend. Diese Bestimmung verpflichtet die Anbieter von KI-Systemen sicherzustellen, dass die Programme entsprechend konzipiert sind. Ausgenommen von dieser Informationspflicht sind nur Fälle, in denen die künstliche Natur der Interaktion für eine:n durchschnittliche:n Nutzer:in ohnehin völlig offensichtlich ist, wie das etwa bei computergesteuerten Nebencharakteren in Videospielen der Fall ist.

Anbieter von Systemen, die künstliche Bild-, Ton-, Video- oder Textinhalte generieren, müssen technisch sicherstellen, dass die Ausgaben maschinenlesbar markiert und eindeutig als künstlich erkennbar sind. In der Praxis erfolgt dies beispielsweise durch den Einsatz von digitalen Wasserzeichen oder Metadaten. Zusätzlich müssen diese Anbieter geeignete Erkennungsmittel, also spezifische Tools, bereitstellen, damit Nutzer:innen zuverlässig überprüfen können, ob ein Inhalt KI-generiert wurde. Eine Ausnahme besteht lediglich für Systeme, die nur eine unterstützende Funktion bei der Standardbearbeitung übernehmen, wie etwa reine Rechtschreibüberprüfungen oder einfache Farbkorrekturen, sofern sie den eigentlichen Inhalt nicht wesentlich verändern.

Setzen Betreiber Systeme ein, die biometrische Daten zur Kategorisierung von Personen nutzen oder versuchen, Emotionen zu erkennen, müssen die betroffenen Personen über diesen Betrieb ausdrücklich informiert werden. Zwar müssen Betreiber die Nutzung gegenüber den Betroffenen nicht inhaltlich rechtfertigen, es ist jedoch zu beachten, dass solche Systeme im Rahmen des AI Acts oft als Hochrisiko-KI eingestuft werden. In bestimmten sensiblen Bereichen, wie beispielsweise am Arbeitsplatz oder in Bildungseinrichtungen, kann ihr Einsatz nach Artikel 5 AI-Act verboten sein.

Eine der praxisrelevantesten Vorschriften für Betreiber betrifft den Umgang mit sogenannten Deepfakes. Dabei handelt es sich um KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die realen Personen, Orten oder Ereignissen so stark ähneln, dass sie fälschlicherweise für authentisch gehalten werden könnten (Art 3 Z. 60 AI-Act). 

Nicht erfasst sind hingegen Inhalte, die offensichtlich unrealistisch sind, wie beispielsweise Zeichnungen, sprechende Tiere oder fliegende Menschen, da hier keine Verwechslungsgefahr mit der Realität besteht. Genauso sind geringfügige technische Änderungen nicht gleich als Deepfakes zu kategorisieren, wenn beispielsweise lediglich kosmetische Farbkorrekturen, Rauschunterdrückungen oder Anpassungen der Belichtung vorgenommen wurden.

Wer als Betreiber eines KI-Systems einen Inhalt erzeugt oder manipuliert, der ein Deepfake darstellt, ist verpflichtet, klar, deutlich und barrierefrei offenzulegen, dass dieses Werk künstlich erzeugt oder manipuliert wurde. Wichtig ist hierbei, dass bei der Frage, ob ein Inhalt täuschend echt wirkt, nicht nur von einer durchschnittlichen Person ausgegangen werden darf. Vielmehr muss berücksichtigt werden, ob der Inhalt möglicherweise von Gruppen gesehen wird, die eventuell leichter zu täuschen sind, wie beispielsweise Kinder. Die Kennzeichnung muss bei der allerersten Wahrnehmung des Inhalts erfolgen, etwa durch visuelle Markierungen oder bei Audioinhalten durch einen entsprechenden hörbaren Hinweis. Lediglich ein Hinweis im Abspann eines Films oder Ende eines Textes reicht nicht aus. Bei länger andauernden Beiträgen wie beispielsweise Livestreams, reicht eine Offenlegung zu Beginn ebenfalls nicht aus, da damit gerechnet werden muss, dass auch während der Ausstrahlung Personen dazuschalten. Daher muss eine informierende Einblendung dauerhaft oder wiederkehrend sein.

Für offensichtlich künstlerische, kreative, satirische oder fiktionale Deepfakes gilt eine abgeschwächte Transparenzpflicht, um die Nutzung des Werks nicht zu behindern. In diesen Fällen kann die Kennzeichnung an den Stil des Werkes angepasst werden. Die Rechte Dritter, wie etwa ein Urheberrecht, das Recht am eigenen Bild oder datenschutzrechtliche Bestimmungen, müssen dennoch stets gewahrt bleiben. 

Völlig von der Kennzeichnungspflicht ausgenommen sind lediglich Deepfakes, die gesetzlich zur Aufklärung, Verhütung oder Verfolgung von Straftaten zugelassen sind.

Im Zuge des von der Europäischen Kommission erstellten Code of Conduct wurden Icons ausgearbeitet, die lizenzfrei zur Kennzeichnung genutzt werden können.

Im Unterschied zu Deepfakes sieht die Verordnung eine spezielle Regelung im Fall von veröffentlichten Texten vor. Wenn ein KI-System Texte generiert oder manipuliert, die veröffentlicht werden, um über Angelegenheiten von öffentlichem Interesse zu informieren, müssen die Betreiber offenlegen, dass der Text künstlich erzeugt wurde. 

Als "veröffentlicht" gilt ein Text dann, wenn er einer unbestimmten, relativ großen Anzahl von Personen zugänglich gemacht wird, weshalb private Chat-Nachrichten oder rein firmeninterne Dokumente nicht unter diese Pflicht fallen. Themen von öffentlichem Interesse umfassen beispielsweise Nachrichtenartikel, Berichte über öffentliche Gesundheit, Umweltschutz, Politik, Verbrauchersicherheit oder die Justiz. 

Die Offenlegungspflicht entfällt jedoch, wenn ein Mensch den Text vor der Veröffentlichung redaktionell prüft und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung des Inhalts übernimmt. Es wird in diesem Fall davon ausgegangen, dass durch die menschliche Kontrolle eine ausreichende Qualitätssicherung stattgefunden hat. In den Leitlinien der Europäischen Kommission wird jedoch betont, dass eine rein oberflächliche Kontrolle, wie etwa eine bloße Rechtschreibprüfung ohne inhaltliche Auseinandersetzung, für diese Ausnahme nicht ausreicht. 

Zudem müssen die Identität und Kontaktadresse der Person oder Organisation, die die redaktionelle Verantwortung trägt, für die Öffentlichkeit leicht auffindbar sein, beispielsweise im Impressum, um Transparenz und Vertrauen zu gewährleisten.

Die ab August 2026 greifenden Transparenzpflichten des Artikel 50 der KI-Verordnung bringen präzise Spielregeln für unseren digitalen Alltag. Konsument:innen erhalten dadurch ein wichtiges Werkzeug, um Manipulationen, Deepfakes und KI-generierte Texte besser zu erkennen und informierte Entscheidungen zu treffen. Gleichzeitig schaffen die klaren Vorgaben rechtliche Sicherheit für Unternehmen und Medienmacher.

Für Unternehmen, Organisationen und Interessierte in Österreich fungiert die Rundfunk und Telekom Regulierungs-GmbH (RTR) als zentrale KI-Servicestelle. Dort können weiterführende Informationen und praxisnahe Hilfestellungen zur nationalen und europäischen Umsetzung der KI-Verordnung gefunden werden.