OpenAI gerät wegen KI-Risiken unter Druck

OpenAI und andere führende KI-Unternehmen stehen wegen möglicher Sicherheitsrisiken stärker unter Beobachtung. Nach Informationen, die der Tagesspiegel unter Berufung auf Axios wiedergibt, rechnen mehrere Personen aus der Branche mit schweren KI-bezogenen Zwischenfällen innerhalb der kommenden sechs bis zwölf Monate. Intern sollen Unternehmen bereits Krisenfälle durchspielen, bei denen zentrale digitale oder technische Infrastrukturen über Tage ausfallen könnten. Die Debatte trifft eine Branche, deren Produkte schneller in Wirtschaft und Alltag vordringen, als Regierungen ihre Aufsicht ausbauen können.

Firmen bereiten Krisenszenarien vor

In den beschriebenen Planspielen geht es um Folgen, die weit über einzelne Softwareprobleme hinausreichen. Genannt werden Angriffe, die etwa Zahlungsverkehr, Onlinezugänge oder Versorgungsbereiche wie Energie und Wasser beeinträchtigen könnten. Für OpenAI, Anthropic und andere Anbieter wäre ein solcher Vorfall nicht nur ein technisches Problem. Er könnte das Vertrauen in KI-Systeme weiter schwächen und politische Forderungen nach Eingriffen verstärken.

OpenAI erklärte laut Tagesspiegel, das Unternehmen übe für verschiedene mögliche Entwicklungen, um vorbereitet zu sein. Die Darstellung zielt darauf, solche Vorbereitungen als Risikomanagement einzuordnen, nicht als Hinweis auf ein konkretes Ereignis. Zugleich zeigt sie, dass große Entwickler die Gefahr erheblicher Störungen inzwischen in ihre internen Abläufe aufnehmen.

OpenAI-Chef Sam Altman hatte kürzlich gegenüber Politico gesagt, die Welt müsse bei KI „manche schlechte Dinge“ hinnehmen, um von den Vorteilen profitieren zu können. Diese Aussage steht im Zentrum einer wachsenden Kontroverse: Wie viel Risiko ist akzeptabel, wenn dieselbe Technologie Produktivität, Forschung und Geschäftsmodelle verändert?

EU kann Modelle beschränken

In Europa existiert mit dem KI-Gesetz bereits ein Rahmen, der große Anbieter zu mehr Kontrolle verpflichtet. ZDFheute beschreibt, dass Entwickler ihre Modelle fortlaufend auf Risiken prüfen müssen. Dazu gehören Einschätzungen zu Gefahren, mögliche Sicherheitslücken und Risiken durch Cyberangriffe. Die EU-Agentur für Cybersicherheit Enisa testet zentrale Modelle zusätzlich selbst.

Die EU-Kommission kann bei besonders gefährlichen Funktionen einschreiten. Möglich sind Verbote einzelner Anwendungen oder ganzer Modelle auf dem europäischen Markt. Außerdem drohen Bußgelder, wenn Unternehmen Risiken verschweigen oder der Aufsicht zu wenig Informationen liefern. Die Obergrenze liegt bei drei Prozent des weltweiten Jahresumsatzes. Bei OpenAI entspräche das nach den für 2025 genannten Zahlen etwas weniger als 400 Millionen Euro.

Konkrete Verbote großer Modelle stehen derzeit nicht im Raum. Die Kommission hat aber bereits mehr als 30 Auskunftsersuchen an Unternehmen gerichtet. Solche Schreiben gelten als möglicher Auftakt zu Verfahren, die sich über längere Zeit ziehen können.

Streit über Haftung und Durchsetzung

Kritik entzündet sich vor allem an Lücken bei der Verantwortung. Wenn KI-Agenten eigenständig handeln und etwa für Angriffe missbraucht werden, ist nicht immer eindeutig, ob Entwickler oder Anwender haften. Der KI-Forscher Harshvardhan Pandit warnte bei ZDFheute, ohne schnelle Klärung werde das Problem bei weiteren Vorfällen größer. Zugleich hält er die zuständige Einheit im KI-Büro der Kommission personell und technisch für unzureichend ausgestattet.

Im Europaparlament gibt es deshalb Forderungen nach einem zusätzlichen Haftungsrecht für KI. Abgeordnete aus mehreren Fraktionen verlangen Regeln, damit Betroffene und europäische Unternehmen bei Schäden nicht ohne Ansprüche bleiben. Damit rückt neben der Sicherheitsprüfung auch die Frage in den Vordergrund, wer für Folgen haftet, wenn KI-Systeme Schaden verursachen.

Die EU-Regeln enthalten zudem Verbote für bestimmte Anwendungen. Untersagt sind etwa Systeme, die Menschen nach Merkmalen wie Hautfarbe, Religion, politischer Haltung oder sexueller Orientierung einordnen. Ab Dezember sollen außerdem Anwendungen verboten sein, mit denen Nutzer sexualisierte Deepfakes erzeugen können. Weitere Vorgaben betreffen Hochrisiko-Einsätze, etwa bei Polizei oder Personalentscheidungen.

Wirtschaft hängt stärker an KI

Schärfere Regeln hätten inzwischen Folgen weit über die Technologiebranche hinaus. Rund um KI sind hohe Investitionen entstanden, besonders in Rechenzentren, Chips, Energieversorgung und Finanzierungen. Auch Bauwirtschaft, Immobilienmarkt und Kreditwesen sind nach Einschätzung von Experten zunehmend mit dem KI-Boom verflochten.

Damit wächst der politische Zielkonflikt. Einerseits sollen Staaten verhindern, dass KI-Systeme für schwere Angriffe oder andere Schäden eingesetzt werden. Andererseits könnten harte Beschränkungen Unternehmen, Investoren und ganze Lieferketten treffen. OpenAI steht deshalb nicht nur wegen einzelner Produkte unter Druck, sondern als Symbol für eine Branche, die Regulierung, Sicherheit und wirtschaftliche Erwartungen zugleich bewältigen muss.