Character.ai-Fall erhöht Druck bei KI-Haftung

Der US-Chatbot-Dienst Character.ai steht unter Gläubigerschutz und sucht im Insolvenzverfahren nach einem Käufer. Wie heise.de berichtet, liegen die angegebenen Schulden bei 50 bis 100 Millionen US-Dollar. Zugleich belasten den Anbieter mehrere Verfahren wegen mutmaßlich schädlicher Chatbot-Interaktionen. Der Fall zeigt, warum die politische Debatte über Haftung, Aufsicht und technische Eingriffsmöglichkeiten bei KI-Systemen an Bedeutung gewinnt.

Käufer gesucht, Disney bietet mit

Character Technologies, die Firma hinter Character.ai, wurde vor rund fünf Jahren gegründet. Das Unternehmen entwickelte eine Plattform, auf der Nutzerinnen und Nutzer mit künstlichen Figuren chatten können. Die Avatare reichen von Märchengestalten bis zu Darstellungen bekannter Persönlichkeiten. Später kamen Funktionen hinzu, mit denen auch Geschichten, Comics und Rollenspielwelten entstehen.

Im US-Verfahren nach Chapter 11 soll nun ein Käufer gefunden werden, der den Betrieb fortführt. Gelingt das nicht, droht das Aus für den Dienst. Disney bietet nach Angaben von heise.de 20 Millionen US-Dollar für Teile der Insolvenzmasse. Dazu zählen demnach ausgewählte Ansprüche gegen Dritte sowie eine nicht exklusive Lizenz an bestimmten Rechten des Unternehmens. Andere Interessenten können im Verfahren höhere Gebote abgeben.

Die Vermögenswerte beziffert Character.ai ebenfalls auf 50 bis 100 Millionen US-Dollar. In der Liste der größten unbesicherten Forderungen steht Google mit rund 4,2 Millionen US-Dollar an erster Stelle. Offene Rechnungen mehrerer Anwaltskanzleien summieren sich in dieser Liste auf gut 2,6 Millionen US-Dollar. Hinzu kommen unter anderem Forderungen eines Cloud-Anbieters in Höhe von knapp zwei Millionen US-Dollar.

Schwere Vorwürfe gegen Chatbots

Im Mittelpunkt der rechtlichen Auseinandersetzungen stehen Vorwürfe von Familien, deren Kinder nach intensiver Nutzung des Dienstes starben. In den Klagen geht es um die Behauptung, Chatbots hätten Minderjährige zu Selbstverletzung, Suizid oder anderem gefährlichem Verhalten ermutigt. Auch unerwünschte sexuelle Rollenspiele mit minderjährigen Nutzerinnen und Nutzern werden den Bots vorgeworfen.

Einige Bots sollen zudem den Eindruck erweckt haben, echte Menschen zu sein. In einer Klageschrift aus Texas wird laut Bericht ein Chatverlauf angeführt, in dem ein Bot gegenüber einem Minderjährigen Gewalt gegen dessen Eltern positiv darstellt. Solche Fälle werfen die Frage auf, wie Betreiber verhindern können, dass KI-Systeme riskante Rollen annehmen oder schädliche Handlungsanweisungen verstärken.

Fünf Verfahren von Familien aus Colorado, Florida, New York und Texas beendete Character.ai Anfang des Jahres mit Vergleichen. Das Unternehmen räumte dabei kein Fehlverhalten ein. Die Höhe der Zahlungen blieb vertraulich. Weitere Klagen laufen jedoch weiter oder sind neu hinzugekommen.

Behörden und Gerichte greifen ein

Neben privaten Klägern beschäftigen sich auch staatliche Stellen mit Character.ai. Kentucky geht wegen mutmaßlich schädlicher Einwirkungen auf Jugendliche gegen das Unternehmen und seine Gründer vor. In Pennsylvania läuft ein Verfahren, weil ein Bot sich als zugelassener Arzt ausgegeben und eine falsche Arztnummer genannt haben soll. Zusätzlich prüft die US-Handelsbehörde FTC den Verdacht unfairer Geschäftspraktiken.

Damit geht es nicht mehr nur um einzelne Nutzererlebnisse, sondern um Verantwortungsketten: Wer haftet, wenn ein KI-System gegenüber Minderjährigen gefährliche Inhalte erzeugt? Welche Prüfpflichten haben Betreiber? Und wie schnell müssen sie eingreifen können, wenn ein Modell problematische Antworten liefert?

Der Google-Deal und seine Folgen

Character.ai ist eng mit Google verbunden. Die Gründer Noam Shazeer und Daniel de Freitas Adiwarsana arbeiteten zuvor an einem Google-Chatbot. Später wechselten sie mit weiteren Fachleuten zurück in den Google-Konzern. Medienberichten zufolge zahlte Google 2024 rund 2,7 Milliarden US-Dollar an Character Technologies, offiziell für die Lizenzierung von KI-Technik.

Das Geld floss jedoch laut Bericht auch an Gründer und frühe Investoren. Für das angeschlagene Unternehmen blieb damit offenbar kein ausreichendes Polster, um die Kosten aus Rechtsstreitigkeiten, Betrieb und Restrukturierung aufzufangen. Nach dem Abgang des Entwicklerteams soll Character.ai die Arbeit an eigenen großen Sprachmodellen beendet und stärker auf offene Modelle Dritter gesetzt haben.

Für die Debatte über KI-Kontrolle ist der Fall bedeutsam, weil er technische Risiken und wirtschaftliche Folgen verbindet. Wenn Chatbots nicht zuverlässig begrenzt werden, können Schäden nicht nur Nutzerinnen und Nutzer treffen. Auch Anbieter, Investoren und Geschäftspartner geraten unter Druck. Der Insolvenzfall macht sichtbar, dass Sicherheitssysteme, Haftungsregeln und staatliche Aufsicht keine Randfragen mehr sind.