US-Klagen erhöhen Druck auf OpenAI-Regeln

Der juristische Druck auf OpenAI wächst: Acht US-Bundesstaaten ziehen gegen den ChatGPT-Entwickler vor Gericht und werfen dem Unternehmen mangelhafte Schutzvorkehrungen vor. Im Zentrum stehen Risiken beim Einsatz des Chatbots, darunter mögliche Gefahren für Kinder und Jugendliche sowie die Frage, welche Grenzen KI-Systeme vor einer breiten Nutzung haben müssen. Die Verfahren verschieben die Debatte über Sicherheitsbremsen, Haftung und Kontrolle von KI-Systemen stärker in die Justiz.

Vorwürfe in mehreren Bundesstaaten

Wie die Tagesschau berichtet, wurden die Klagen in Arizona, Arkansas, Iowa, Nebraska, Kansas, West Virginia, Idaho und Montana eingereicht. Die zuständigen Generalstaatsanwaltschaften werfen OpenAI vor, ChatGPT nicht ausreichend auf Risiken für Nutzerinnen und Nutzer auszurichten.

Die Vorwürfe betreffen den Aufbau der Interaktion mit dem System. Nach Darstellung der klagenden Staaten soll der Chatbot in Gesprächen besonders zugewandt auftreten und dadurch Vertrauen schaffen. Gleichzeitig behaupten sie, ChatGPT könne Wahnvorstellungen verstärken, riskantes Verhalten begünstigen und Menschen bei der Vorbereitung von Gewalttaten unterstützen.

Damit richtet sich die Auseinandersetzung nicht nur gegen einzelne Antworten eines KI-Systems. Es geht um das Design solcher Anwendungen insgesamt: Wie stark dürfen sie Nähe simulieren, wie müssen sie auf psychische Krisen reagieren, und wer trägt Verantwortung, wenn automatische Antworten gefährliche Entwicklungen verstärken?

Minderjährige im Fokus

Ein Teil der Verfahren legt besonderes Gewicht auf den Schutz junger Menschen. Die klagenden Staaten werfen OpenAI unter anderem vor, Minderjährige zu einer sehr intensiven Nutzung zu verleiten. Außerdem geht es um den Umgang mit Daten von Kindern und Jugendlichen.

Bereits länger läuft ein Verfahren des Bundesstaats Florida gegen OpenAI. Dort kam zuletzt ein Antrag auf eine einstweilige Verfügung hinzu. Eine der Forderungen zielt darauf, die Entwicklung neuer KI-Modelle ohne zusätzliche Leitplanken zu untersagen. Damit steht eine zentrale Regulierungsfrage im Raum: Sollen Unternehmen neue Systeme erst weiterentwickeln dürfen, wenn bestimmte Sicherheitsvorgaben erfüllt sind?

Solche Forderungen ähneln in ihrer Wirkung einem regulatorischen Notstopp. Sie setzen nicht erst bei Schäden durch einzelne Anwendungen an, sondern bei der weiteren Modellentwicklung selbst. Für die KI-Branche wäre das ein deutlich anderer Ansatz als freiwillige Selbstverpflichtungen oder nachträgliche Produktanpassungen.

OpenAI verweist auf Schutzmaßnahmen

OpenAI weist auf eigene Sicherheitsvorkehrungen hin. Sprecher Drew Pusateri erklärte laut Tagesschau, das Unternehmen wolle gemeinsam mit den Bundesstaaten „pragmatische KI-Richtlinien vorantreiben“. OpenAI betonte außerdem, bereits Schutzfunktionen für Kinder in ChatGPT eingebaut zu haben und diese weiterentwickeln zu wollen.

Die Verfahren fallen in eine Phase, in der Anbieter generativer KI ihre Produkte immer stärker in Alltag, Schule und Arbeit bringen. Chatbots beantworten nicht nur Sachfragen, sondern führen längere Dialoge, reagieren auf persönliche Probleme und können für viele Nutzerinnen und Nutzer wie ein dauerhafter Gesprächspartner wirken. Genau daraus ergibt sich der regulatorische Konflikt: Je überzeugender solche Systeme kommunizieren, desto größer wird die Bedeutung klarer Grenzen.

Branche unter zusätzlichem Druck

Parallel zu den Klagen stehen KI-Unternehmen unter hoher Erwartung von Kapitalmärkten. Das Handelsblatt berichtete unter Berufung auf Insider, dass beim KI-Entwickler Anthropic vor einem geplanten Börsengang inzwischen eine Bewertung von rund 1,5 Billionen Dollar diskutiert werde. Zuvor war demnach von etwa zwei Billionen Dollar die Rede gewesen.

Bei einem Investorentag in San Francisco soll Anthropic mitgeteilt haben, dass der Umsatz im dritten Quartal gegenüber dem Vorquartal um 45 Prozent auf 16,8 Milliarden Dollar gestiegen sei. Im Quartal davor hatte sich der Umsatz gegenüber dem Jahresauftakt noch mehr als verdoppelt. Zudem soll das Unternehmen auf bereinigter Basis profitabel gewesen sein.

Für den KI-Markt ist diese Entwicklung bedeutsam, weil Investoren den Erfolg großer Börsengänge als Signal für die gesamte Branche werten. Im kommenden Jahr soll auch OpenAI an die Börse gehen. Die neuen Klagen zeigen, dass wirtschaftliche Erwartungen und rechtliche Kontrolle künftig noch stärker zusammenlaufen. Für Anbieter generativer KI geht es damit nicht mehr nur um bessere Modelle, sondern auch um belastbare Regeln für Sicherheit, Verantwortung und Eingriffe im Ernstfall.