Transparenzpflichten beim Einsatz von KI wie ChatGPT & Co.

Viele Unternehmen erlauben ihren Beschäftigten inzwischen die Nutzung von Sprachmodellen wie ChatGPT, Microsoft Copilot oder ähnlichen KI-Systemen für Recherchen, Texterstellung, Übersetzungen, Marketing, Kundenkommunikation oder interne Arbeitsprozesse. Ab dem 02.08.2026 gelten hierfür wichtige Transparenzpflichten der KI-Verordnung (KI-VO / AI Act), die auch Unternehmen als Betreiber von KI-Systemen betreffen.

1. Kurz zum „Digital Omnibus“: Was wurde verschoben?

Der im Jahr 2026 beschlossene „Digital Omnibus on AI“ verschiebt die zeitliche Anwendbarkeit der KI-VO, insbesondere für Teile der Regelungen für Hochrisiko-KI-Systeme. Für die meisten Unternehmen, die lediglich Sprachmodelle nutzen, ist jedoch vor allem relevant:

• Die Transparenzpflichten des Art. 50 KI-VO gelten grundsätzlich weiterhin ab 02.08.2026.
• Lediglich für bestimmte bereits vor dem 02.08.2026 in Verkehr gebrachte generative KI-Systeme wurde die Pflicht zur maschinenlesbaren Kennzeichnung nach Art. 50 Abs. 2 KI-VO teilweise bis 02.12.2026 verschoben.
• Die übrigen Transparenzpflichten bleiben unverändert bestehen.
  
  

2. Die wichtigsten Transparenzpflichten nach Art. 50 KI-VO

Je nach Einsatzszenario treffen die Pflichten unterschiedliche Beteiligte (Anbieter und Betreiber). Unternehmen als Betreiber dürfen sich nicht darauf verlassen, dass allein der Anbieter die Anforderungen erfüllt.

a) KI-Chatbots und KI-Assistenten (Art. 50 Abs. 1 KI-VO)

Werden Personen mit einem KI-System in Kontakt gebracht, müssen sie grundsätzlich erkennen können, dass sie nicht mit einem Menschen kommunizieren.

Beispiele:

• KI-Chatbot auf der Unternehmenswebsite
• KI-Kundenservice
• KI-Telefonassistent

Praxisgerechte Umsetzung:

• Hinweis „Sie interagieren mit einem KI-System“
• entsprechendes Banner oder Label im Chatfenster
• Sprachhinweis bei Telefon- oder Voicebots

Nicht ausreichend sind versteckte Hinweise in AGB, Datenschutzerklärungen oder technische Erläuterungen.

b) KI-generierte Inhalte (Art. 50 Abs. 2 KI-VO)

Anbieter generativer KI-Systeme müssen KI-generierte Inhalte (synthetische Audio-, Bild-, Video- oder Textinhalte) maschinenlesbar kennzeichnen und erkennbar machen. Nach den aktuellen Leitlinien genügt hierfür regelmäßig nicht eine einzelne Technik. Vielmehr wird ein Zusammenspiel aus mehreren Methoden (z.B. Metadaten, Wasserzeichen, Herkunftsnachweisen) empfohlen.

Für die meisten Unternehmen als reine Nutzer von ChatGPT & Co. ist wichtig zu wissen, dass diese Pflicht in erster Linie den Anbieter betrifft. Dennoch sollte bei der Auswahl von KI-Tools geprüft werden, ob solche Transparenzfunktionen vorhanden sind.

c) Deepfakes und KI-manipulierte Medien (Art. 50 Abs. 4 KI-VO)

Besonders praxisrelevant ist Art. 50 Abs. 4 KI-VO. Wer KI-generierte oder KI-manipulierte Bild-, Audio- oder Videoinhalte veröffentlicht, die einer wirklichen Person, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde, muss deren künstlichen Ursprung offenlegen.

Beispiele:

• KI-generiertes Werbevideo
• KI-generierte Abbildung einer Person
• Gesichts- oder Stimmenaustausch („Face Swap“ bzw. „Voice Clone“)
• KI-bearbeitete Produktdarstellungen

Die Offenlegung muss für Menschen wahrnehmbar sein. Hierfür können Textkennzeichnungen oder die von der EU bereitgestellten KI-Icons verwendet werden.

d) KI-generierte Texte zu Themen des öffentlichen Interesses

Eine weitere Kennzeichnungspflicht kann für veröffentlichte KI-generierte Texte bestehen, die die Öffentlichkeit über Themen wie Gesundheit, Umwelt, Verwaltung oder politische Entwicklungen informieren sollen.

Für die meisten Unternehmen ist jedoch relevant, dass eine Ausnahme gilt, wenn eine echte menschliche redaktionelle Kontrolle erfolgt und die Verantwortung einer Person oder Organisation klar zugeordnet werden kann („Human in the Loop“).

3. KI-Schulungen: Die Pflicht wurde gelockert

Art. 4 KI-VO verlangte ursprünglich ein ausreichendes Maß an KI-Kompetenz der Beschäftigten im Unternehmen. Der Digital Omnibus schwächt dies künftig auf eine Pflicht ab, geeignete Maßnahmen zur Förderung der KI-Kompetenz zu ergreifen. Aus einer Erfolgspflicht wird damit weitgehend eine Bemühenspflicht.

Für Unternehmen empfiehlt sich dennoch weiterhin mindestens ein schlanker und praxistauglicher Ansatz:

• kurze Mitarbeiterschulung (ca. 30–60 Minuten),
• schriftliche KI-Richtlinie,
• Dokumentation der Teilnahme.

Die Schulung sollte insbesondere folgende Punkte behandeln:

• Funktionsweise von Sprachmodellen,
• Halluzinationen und Fehleranfälligkeit,
• Datenschutz und Geschäftsgeheimnisse,
• zulässige und unzulässige Eingaben,
• menschliche Kontrolle von KI-Ergebnissen,
• Transparenzpflichten nach Art. 50 KI-VO.

Ebenso sollte eine KI-Richtlinie regeln:

• welche KI-Tools genutzt werden dürfen,
• welche Daten nicht eingegeben werden dürfen,
• dass KI-Ergebnisse stets überprüft werden müssen,
• wer intern verantwortlich ist.
  
  

Fazit:

Für die meisten Unternehmen, die ChatGPT, Claude, Copilot oder vergleichbare Systeme einsetzen, stehen weniger die Hochrisiko-Regelungen als vielmehr die Transparenzpflichten des Art. 50 KI-VO im Vordergrund. Insbesondere bei Chatbots sowie bei der Veröffentlichung KI-generierter Bilder, Videos oder Texte sollten frühzeitig klare Kennzeichnungs- und Organisationsprozesse geschaffen werden. Eine kurze Mitarbeiterschulung und eine unternehmensweite KI-Richtlinie bleiben dabei die einfachste und zugleich mindestens notwendige Compliance-Maßnahme.

Prof. Dr. Junghanns
Rechtsanwalt
Fachanwalt für Steuerrecht
Fachanwalt für Handels- und Gesellschaftsrecht