KI-Regeln geraten zwischen Kontrolle und Konzernmacht

Der Streit über den Umgang mit künstlicher Intelligenz wird konkreter: Es geht nicht mehr nur um Chancen und Risiken, sondern um Macht über Regeln, technische Grenzen und Transparenz. Transparency International kritisiert starken Einfluss großer US-Interessen auf EU-Verfahren zur Entlastung von Unternehmen. Nvidia stellt zugleich eigene Sicherheitsmechanismen für autonome KI-Agenten vor. Ein Literaturfall in Kanada zeigt, wie heikel die Offenlegung von KI-Nutzung bereits heute ist.

Kritik an Einfluss in Brüssel

Transparency International EU wirft zwei führenden Beteiligten an der Reform des Omnibus-I-Pakets vor, große Wirtschaftsinteressen besonders stark einbezogen zu haben. Das Paket soll Unternehmen in der Europäischen Union von Berichtspflichten und Teilen der Lieferkettenregeln entlasten. Die Organisation warnt vor einer „Vereinnahmung der Politik durch Einzelinteressen“.

Im Mittelpunkt stehen der EU-Wirtschaftskommissar Valdis Dombrovskis und der Europa-Abgeordnete Jörgen Warborn. Transparency International wertete veröffentlichte Lobbykontakte aus. Bei Dombrovskis und seinem Kabinett wurden zwischen Dezember 2024 und Anfang Oktober 836 Kontakte mit einzelnen Interessenorganisationen erfasst. Davon entfielen 97 auf Organisationen mit US-Bezug. Das entspricht rund 11,6 Prozent. Ohne EU-Dachverbände mit Sitz in Brüssel lagen nur deutsche Organisationen höher.

Bei Warborn wurden im untersuchten Zeitraum 337 Kontakte gezählt. 58 davon hatten einen US-Bezug, also rund 17 Prozent. Für das Jahr 2025 lagen Organisationen aus den USA in dieser Auswertung sogar vor jenen aus Schweden. Transparency International kritisiert, kleine und mittlere Unternehmen sowie zivilgesellschaftliche Gruppen seien zu wenig einbezogen worden, obwohl ihre Entlastung als zentrale Begründung für das Verfahren diente.

Die EU-Kommission weist den Vorwurf einseitiger Einflussnahme zurück. Die Reform sei eine Antwort auf wiederholte Forderungen der Staats- und Regierungschefs nach weniger regulatorischem Aufwand. Kleinere Unternehmen würden häufig über Dachverbände vertreten, weil ihnen Kapazitäten für Termine in Brüssel fehlten. Auch der kritisierte Runde Tisch im Februar 2025 habe Vertreter verschiedener Unternehmensgrößen, Branchen und Länder sowie Sozialpartner und Nichtregierungsorganisationen zusammengebracht.

Nvidia setzt auf technische Leitplanken

Parallel wächst der Druck auf Unternehmen, KI-Systeme selbst kontrollierbarer zu machen. Nvidia hat auf der GTC in Berlin eine Open Agent Safety Platform rund um die Laufzeitumgebung OpenShell vorgestellt. Sie soll autonome KI-Agenten in abgeschotteten Umgebungen betreiben und deren Zugriffe auf Dateien, Programme und Netzwerkdienste begrenzen.

Der Konzern will dafür Sicherheitsfunktionen direkt in die Infrastruktur verlagern. BlueField-4-DPUs sollen mit einer Software namens Sentry unabhängig vom verwendeten Sprachmodell überwachen, was ein Agent tut. Nach Angaben von Nvidia können Agenten binnen Millisekunden isoliert oder gestoppt werden, wenn sie festgelegte Grenzen überschreiten. Die Kontrollen laufen außerhalb der eigentlichen Arbeitsumgebung des Agenten und sollen dadurch schwerer zu umgehen sein.

Der Ansatz verschiebt einen Teil der KI-Governance von den Modellen auf die Betriebsumgebung. Bisher setzen Anbieter oft darauf, Modelle so zu trainieren, dass sie bestimmte Ausgaben verweigern. OpenShell begrenzt dagegen, welche Systeme ein Agent erreichen darf. Das kann unbefugte Zugriffe verhindern. Es löst aber nicht jedes Risiko, wenn ein Agent innerhalb erlaubter Zugriffe falsche Änderungen vornimmt oder Sicherheitsprobleme verursacht.

Nvidia erweitert zugleich seine Angebote für Unternehmensdaten. Mit der Agent Knowledge Foundation sollen KI-Agenten strukturierte Daten aus Datenbanken und unstrukturierte Inhalte aus Dokumenten nutzen können, ohne dass Firmen ihre Daten zwingend in Nvidias Cloud übertragen. Partner sind unter anderem Databricks und Snowflake. Der Konzern stärkt damit sowohl die Freiheit beim Einsatz eigener KI-Anwendungen als auch seine Rolle als Plattformanbieter.

Offenlegung wird zum Konfliktfall

Wie empfindlich der Umgang mit KI-Nutzung ist, zeigt ein Fall aus der Literatur. Der kanadische Verlag Les Éditions du Boréal hat die Zusammenarbeit mit dem kanadisch-haitianischen Autor Thélyson Orélien beendet. Nach einer Untersuchung teilte der Verlag mit, beim Schreibprozess seines Bestsellers „C’était ça ou mourir“ sei künstliche Intelligenz eingesetzt worden. Der Umfang blieb demnach unklar.

Der Roman war zuvor von der Auswahlliste für den Prix Goncourt gestrichen worden. Die Académie Goncourt hatte erklärt, Analysen ließen auf eine weitreichende KI-Beteiligung schließen. Orélien hatte die Vorwürfe zurückgewiesen. Der Verlag ließ verschiedene Fassungen des Romans extern prüfen und erklärte anschließend das Ende der Zusammenarbeit.

Gleichzeitig entsteht ein Gegenmodell: Drei französische Techunternehmer haben einen Literaturpreis für unveröffentlichte französischsprachige Werke angekündigt, die gemeinsam mit KI entstehen. Einsendungen sollen bis zum 30. November möglich sein, die Vergabe ist für Dezember geplant.

Einordnung

Die Beispiele zeigen eine gemeinsame Entwicklung: KI-Regeln entstehen nicht nur in Gesetzen, sondern auch durch technische Plattformen, Branchenpraktiken und Transparenzentscheidungen einzelner Organisationen. Damit rückt die Frage in den Vordergrund, wer Standards setzt und wer sie kontrolliert. Für Unternehmen kann das mehr Sicherheit bringen. Für Politik und Öffentlichkeit wird zugleich wichtiger, Einflusswege, Verantwortlichkeiten und den Einsatz von KI nachvollziehbar zu machen.