Die EU nimmt KI-Anbieter stärker in die Pflicht: Mit dem Inkrafttreten des AI Act wird Transparenz zu einem gesetzlich verankerten Prinzip. Besonders brisant ist eine neue Vorschrift, die Unternehmen verpflichtet, offenzulegen, mit welchen Daten ihre KI-Modelle trainiert wurden. Das hat tiefgreifende Auswirkungen – nicht nur auf die Innovationsgeschwindigkeit, sondern auch auf Datenschutz und Geschäftsgeheimnisse.
Transparenzpflicht für Trainingsdaten: Was der EU AI Act vorgibt
Mit dem am 21. Juni 2025 in Kraft tretenden EU AI Act setzt die Europäische Union neue Maßstäbe in der Regulierung künstlicher Intelligenz. Erstmals werden Anbieter von KI-Systemen dazu verpflichtet, detaillierte Informationen über die Herkunft, Zusammensetzung und potenzielle Vorurteile in ihren Trainingsdaten offenzulegen – insbesondere bei sogenannten Foundation Models wie Sprach-KI (z.B. GPT) oder generativen Bildsystemen.
Gemäß Artikel 52a und Anhang VIII des finalen Gesetzestextes müssen Unternehmen:
- quellenbezogene Metadaten ihrer Trainingsdaten veröffentlichen,
- die Rechteinhaberschaft verwendeter Inhalte transparent machen,
- darlegen, wie sie gegen Vorurteile im Trainingsdatensatz vorgegangen sind,
- und gegebenenfalls kommerzielle Inhalte kennzeichnen.
Besonders kritisch ist die Pflicht zur Offenlegung urheberrechtlich geschützter Inhalte. Unternehmen wie OpenAI, Google DeepMind oder Mistral AI geraten hier unter Druck – viele ihrer Trainingssets bestehen teilweise aus Daten aus dem Web, Bildungsarchiven oder Medieninhalten, deren Rechte nachvollziehbar sein müssen.
Bruch mit Geschäftsgeheimnissen und Innovationsschutz?
Die neue Offenlegungspflicht führt zu einem zentralen Konflikt: Während die EU maximale Transparenz fordert, sehen viele KI-Anbieter darin eine massive Bedrohung für ihre Geschäftsgeheimnisse. Die Trainingsdaten und die Art ihrer Aufbereitung gelten als Schlüssel zur Performance von Modellen – und damit als strategisches Kapital.
Ein Beispiel liefert der Streit um die Trainingsdaten von Meta AI: Im Mai 2024 wurde bekannt, dass Meta teilweise Inhalte europäischer User für KI-Trainingszwecke nutzte – ohne aktive Zustimmung. Nach massiver Kritik und Prüfungen durch europäische Datenschutzbehörden zog das Unternehmen zurück und kündigte eine „freiwillige Transparenzoffensive“ an. Insider aus der Branche sprechen von einem „dominoartigen Druck zur Offenlegung“, der auch andere Anbieter erfasse.
KI-Unternehmen beklagen zudem unklare Grenzziehungen. Wann gilt ein Datensatz als ausreichend anonymisiert? Wie darf man mit public-domain-Material verfahren? Viele dieser Fragen sind auch 2025 noch nicht eindeutig geregelt.
Datenschutz und Urheberrecht: Europas Balanceakt
Die EU versucht mit dem AI Act ein Gleichgewicht zwischen Innovationsförderung und Datenschutzinteressen zu finden. Dabei steht der grundrechtliche Schutz personenbezogener Daten ebenso im Fokus wie das geistige Eigentum Dritter.
Laut einer Studie des Centre for European Policy Studies (CEPS, 2024) sehen 74% der europäischen Unternehmen mögliche Konflikte mit der Datenschutzgrundverordnung (DSGVO), wenn KI-Trainingsdaten offengelegt werden müssen. Besonders personenbezogene Daten aus Kundenservice-Datenbanken, medizinischen Protokollen oder freien Textfeldern seien trotz Anonymisierung oft rückverfolgbar. Hier ist Vorsicht geboten – auch im Hinblick auf mögliche Verstöße gegen Artikel 6 DSGVO (Rechtmäßigkeit der Verarbeitung).
Gleichzeitig entstehen neue Herausforderungen beim Umgang mit urheberrechtlich geschütztem Content. Der AI Act verlangt keine pauschale Löschung solcher Inhalte, sehr wohl aber deren Kennzeichnung und die Möglichkeit für Rechteinhaber, Einspruch zu erheben. Das Europäische Parlament diskutiert derzeit ergänzend eine elektronische „Content-Markierungspflicht für Trainingsmaterial“, um die Rückverfolgbarkeit zu verbessern (COM(2025)108).
Wie reagieren die Unternehmen? Erste Strategien
Marktführer reagieren mit teils drastischen Maßnahmen. OpenAI hat im Juli 2025 ein neues Transparenz-Dashboard vorgestellt, das für jedes GPT-Modell grundlegende Angaben über die Datendomänen (z. B. Code, Bücher, Wikipedia, Forumsdaten) veröffentlicht – allerdings ohne genaue Quellen.
Google wiederum kündigte an, nur noch explizit lizenzierte Datensätze für Gemini zu verwenden und arbeitet an einer Partnerschaft mit Verlagsgruppen in der EU. Start-ups wie Aleph Alpha oder Mistral AI bauen unterdessen auf Open-Source-Transparenz. Ihre Modelle werden mit frei zugänglichen, nachprüfbaren Datensätzen trainiert – ein Vorteil im regulatorischen Umfeld.
Eine zentrale Schwierigkeit bleibt jedoch die Definition von „ausreichend transparenter Offenlegung“. Die EU-Kommission hat angekündigt, entsprechende technische Leitfäden bis Ende 2025 zu veröffentlichen.
Drohen Unternehmen empfindliche Strafen?
Ja – und zwar in erheblichem Umfang. Laut AI Act können bei Verstößen gegen die Transparenzpflichten Geldstrafen von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes verhängt werden – je nachdem, welcher Wert höher liegt (Artikel 71, AI Act).
Zum Vergleich: Im Fall der Datenschutzgrundverordnung (DSGVO) liegt die Höchststrafe bei 4 % des Umsatzes. Die Einsicht der EU ist klar: Fehlinformationen in KI-Systemen haben erhebliche gesellschaftliche Auswirkungen – Desinformation, algorithmische Diskriminierung oder Rechtsverletzungen sind reale Risiken.
Die Durchsetzung übernimmt primär die European Artificial Intelligence Office (EAIO), unterstützt von nationalen Aufsichtsbehörden. Erste angekündigte Audits sollen im Herbst 2025 starten, begleitet von einer Meldepflicht für Hochrisiko-Modelle ab November.
Einordnung: Was sagen Rechtsexperten und Branchenanalysten?
Die Meinungen gehen auseinander. Der Technologierechtler Dr. Jonas Henrichs (Uni Münster) lobt die neue Regelung als „längst überfällige Maßnahme gegen die Blackboxisierung von KI“. Er fordert jedoch klare Richtlinien zur Differenzierung von „reinem Trainingsinput“ und „modellinterner Repräsentation“, um rechtlich relevante Offenlegungspflichten einzugrenzen.
Anders sieht es Caroline Marx, Chief Legal Officer bei einem führenden KI-Start-up in Berlin: „Wir befürchten, dass wir unsere Innovationsstrategie offenlegen müssen – und damit faktisch Copycats in die Hände spielen.“ Der wirtschaftliche Schaden durch „Zwangstransparenz“ sei laut einer Studie des Digital Europe Consortium potenziell bei 9,2 Mrd. Euro für die nächsten drei Jahre einzuschätzen (Studie 2024, EU TechMonitor).
Branchenanalysten aus den USA beobachten derweil mit Skepsis, ob die EU sich mit ihrer „regulatorischen Vorreiterrolle“ nicht selbst aus dem Wettbewerb schießt. Allerdings zeigen Parallelentwicklungen wie etwa der „AI Bill“ in Kalifornien, dass auch andere Regionen stärkere Vorgaben für KI-Transparenz planen.
Praktische Tipps für Unternehmen: So gelingt die Umsetzung
Um den neuen Anforderungen gerecht zu werden, sollten KI-Unternehmen jetzt handeln. Drei wichtige Empfehlungen:
- Datendokumentation etablieren: Führen Sie ein internes Register über Datenquellen, Lizenzen, Formate und Klassifizierungen. Dies erleichtert spätere Offenlegungen erheblich.
- Legal-by-Design umsetzen: Binden Sie juristische und datenschutzrechtliche Expertise frühzeitig in KI-Projekte ein.
- Evaluationssysteme aufbauen: Entwickeln Sie interne Bewertungsmetriken, um Verzerrungen und Repräsentationslücken in Trainingsdaten frühzeitig zu erkennen.
Fazit: Transparenz als neue Grundbedingung für vertrauenswürdige KI
Die Offenlegungspflicht für KI-Trainingsdaten markiert einen historischen Wendepunkt im Umgang mit künstlicher Intelligenz – weg von intransparenten Black-Box-Modellen, hin zu nachvollziehbarer Technologie. Das Ziel der EU, Vertrauen aufzubauen und Risiken zu minimieren, ist richtig – auch wenn der Weg dorthin für Unternehmen holprig bleibt.
Die Pflicht zur Datenoffenlegung erfordert ein Umdenken – technisch, juristisch, strategisch. Doch sie ist auch eine Chance für Pioniere, die auf ethische und transparente KI setzen. Wie sehen Sie die Entwicklung? Teilen Sie Ihre Einschätzungen, Lösungen und Fragen in den Kommentaren und werden Sie Teil einer verantwortungsbewussten Tech-Community.
