Das EU-KI-Gesetz legt Regeln fest, wie KI-Systeme in der EU entwickelt und genutzt werden dürfen. Das Gesetz ist risikobasiert: Bestimmte Anwendungsfälle sind verboten, Hochrisikosysteme unterliegen strengeren Anforderungen, und andere Systeme sind zulässig, müssen jedoch in bestimmten Situationen Transparenzpflichten erfüllen.
Am 2. August 2026 tritt Artikel 50 in Kraft. Er schreibt vor, dass Personen informiert werden müssen, wenn sie mit KI interagieren oder KI-generierte Inhalte sehen. Artikel 50 unterscheidet dabei zwischen zwei Rollen: Anbieter und Betreiber.
Anbieter: eine natürliche oder juristische Person, eine Behörde, eine Einrichtung oder eine andere Stelle, die ein KI-System oder ein KI-Modell für allgemeine Zwecke entwickelt (oder entwickeln lässt) und es unter ihrem eigenen Namen oder ihrer Handelsmarke auf dem Markt in Verkehr bringt oder in Betrieb nimmt, unabhängig davon, ob dies entgeltlich oder unentgeltlich erfolgt.
Betreiber: eine natürliche oder juristische Person, eine Behörde, eine Einrichtung oder eine andere Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen, nicht beruflichen Tätigkeit genutzt.
Die meisten mittelständischen Unternehmen, die KI im eigenen Betrieb einsetzen, gelten nach dem KI-Gesetz als Betreiber. Unternehmen, die KI-Systeme entwickeln und anderen anbieten, sind Anbieter.
Was ist erforderlich?
Artikel 50 legt Transparenzpflichten in vier Hauptfällen fest.
1. Wenn Menschen direkt mit KI interagieren
Wenn ein KI-System direkt mit Menschen interagiert (Chatbots, Telefonassistenten, virtuelle Assistenten, automatisierter Kundensupport), müssen diese Personen darüber informiert werden, dass sie mit einer KI interagieren. Der Hinweis muss zu Beginn der Interaktion erfolgen, klar und deutlich. Er darf nicht in den Allgemeinen Geschäftsbedingungen oder einer Fußzeile versteckt werden.
2. Wenn KI synthetische Inhalte generiert
Anbieter generativer KI-Systeme müssen KI-generierte oder KI-manipulierte Ergebnisse in einem maschinenlesbaren Format erkennbar machen: Texte, Bilder, Audio- und Videodateien. Dies gilt für Anbieter, die generative KI-Systeme anderen zur Verfügung stellen, nicht für Unternehmen, die solche Systeme nur intern nutzen.
Der Code of Practice zur Transparenz KI-generierter Inhalte, veröffentlicht am 10. Juni 2026, bietet freiwillige Orientierung zur Umsetzung, einschließlich EU-Icons zur Kennzeichnung KI-generierter Inhalte.
3. Wenn Emotionserkennung oder biometrische Kategorisierung zum Einsatz kommt
Wenn ein Unternehmen KI zur Analyse von Emotionen, Stimmung, Stress oder demografischen Merkmalen einsetzt, müssen die betroffenen Personen klar darüber informiert werden. Der Anwendungsfall sollte vor dem Einsatz sorgfältig geprüft werden. Einige Nutzungsformen sind bereits nach Artikel 5 des KI-Gesetzes verboten, und solche Systeme können auch datenschutzrechtliche Pflichten auslösen.
4. Wenn KI Deepfakes oder bestimmte Texte von öffentlichem Interesse erstellt
KI-generierte oder manipulierte Bilder, Audio- oder Videoinhalte, die authentisch erscheinen könnten, müssen als KI-generiert gekennzeichnet werden. Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, können ebenfalls eine Offenlegungspflicht auslösen.
Die Pflicht entfällt, wenn der KI-generierte Inhalt einem Prozess der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.
Wichtige Termine
| Datum | Geltungsbereich |
|---|---|
| Juni 2026 | Verhaltenskodex für KI-generierte Inhalte veröffentlicht |
| 2. August 2026 | Transparenzpflichten gemäß Artikel 50 gelten für Anbieter und Betreiber |
Was Unternehmen jetzt tun sollten
Alle Organisationen
- Erfassen Sie alle in der Organisation genutzten KI-Systeme und ermitteln Sie, welche möglicherweise unter Artikel 50 fallen.
- Nutzen Sie den EU AI Act Compliance Checker, um zu prüfen, welche Pflichten für Ihre konkreten Systeme gelten.
- Prüfen Sie den Code of Practice als praktische Orientierung zur Umsetzung der Transparenzpflichten.
- Verlangen Sie von KI-Anbietern die Einhaltung der Vorschriften vertraglich.
Anbieter
- Stellen Sie sicher, dass KI-Systeme mit direktem Nutzerkontakt zu Beginn der Interaktion einen eindeutigen Hinweis auf den Einsatz von KI geben.
- Führen Sie eine maschinenlesbare Kennzeichnung synthetischer Ergebnisse in Texten, Bildern, Audio- und Videodateien ein.
Betreiber
- Prüfen Sie bei Emotionserkennung oder biometrischer Kategorisierung jeden Anwendungsfall anhand der Verbote gemäß Artikel 5, bevor Sie eine Offenlegung nach Artikel 50 in Betracht ziehen.
- Erfassen Sie alle Anwendungsfälle, die realistische synthetische Medien erzeugen, und planen Sie eine angemessene Kennzeichnung.
- Prüfen Sie bei veröffentlichten KI-generierten Texten zu Angelegenheiten von öffentlichem Interesse, ob eine Offenlegung erforderlich ist oder ein Prozess zur menschlichen Überprüfung mit redaktioneller Verantwortung eingerichtet werden sollte.
Was dies in der Praxis bedeutet
Die praktische Aufgabe bis zum 2. August besteht darin, zu ermitteln, wo KI eingesetzt wird, ob das Unternehmen als Anbieter oder Betreiber auftritt und ob eine Transparenz- oder Offenlegungspflicht besteht.
Die Bereiche mit höchster Priorität sind kundenorientierte KI-Systeme, Telefonassistenten, Chatbots, synthetische Medien, KI-generierte öffentliche Inhalte sowie Emotions- oder biometrische Analyse.
Wenn Sie prüfen möchten, wo KI in Ihren Geschäftsprozessen sicher eingesetzt werden kann, wenden Sie sich an brainbot. Wir unterstützen mittelständische Unternehmen bei der Konzeption und Implementierung von KI-Agenten mit klaren Arbeitsabläufen, Berechtigungen und Datenkontrolle.
Quellen
EU Artificial Intelligence Act. “The EU AI Act’s Transparency Rules: A Practical Guide to Article 50.” https://artificialintelligenceact.eu/transparency-rules-article-50/
European Commission. “Code of Practice on Transparency of AI-Generated Content.” https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content
European Commission. “EU Icons for Labelling AI-Generated Content.” https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content
EU AI Act. “EU AI Act Compliance Checker.” https://artificialintelligenceact.eu/assessment/eu-ai-act-compliance-checker/