Kontrollfragen bei KI werden dringlicher

Der wirtschaftliche Schub durch Künstliche Intelligenz trifft zunehmend auf Sicherheits- und Haftungsfragen. In den USA steht Character.ai nach Klagen von Eltern und wegen Überschuldung unter Gläubigerschutz. Gleichzeitig senkt Google die Hürde, Android-Apps per KI erstellen zu lassen. Dazu kommen Warnungen des Bundesamts für Sicherheit in der Informationstechnik vor angreifbaren vernetzten Anlagen. Die Debatte über Kontrolle, Prüfungen und einen möglichen KI-Notaus bekommt damit neue praktische Beispiele.

Klagen setzen Character.ai unter Druck

Character.ai hat in den USA Gläubigerschutz beantragt. Das Unternehmen sucht nach einem Käufer, der den Betrieb fortführt. Andernfalls droht das Ende des Start-ups. Heise berichtet, Disney biete 20 Millionen US-Dollar für ausgewählte Forderungen des Unternehmens gegen Dritte sowie für eine nicht-exklusive Lizenz an bestimmten immateriellen Rechten. Im Verfahren können weitere Interessenten höhere Angebote abgeben.

Im Zentrum stehen auch mehrere Klagen von Eltern verstorbener Kinder. Sie werfen dem Unternehmen vor, die Kinder hätten nach sehr langen Unterhaltungen mit dem Chatbot Suizid begangen. Der Fall zeigt, wie schwer die Verantwortung bei KI-Systemen zu fassen ist, wenn digitale Gesprächspartner über längere Zeit emotional eingebunden werden. Für Betroffene wird die Insolvenz zusätzlich bedeutsam, weil mögliche Schadenersatzansprüche unsicherer werden.

Der Fall betrifft nicht nur ein einzelnes Geschäftsmodell. Er berührt die Frage, welche Schutzmechanismen Anbieter von KI-Chatbots einbauen müssen und wie schnell sie eingreifen können, wenn ein System riskante Interaktionen erzeugt. Ein technischer Notaus ist dabei nur ein Teil der Debatte. Ebenso wichtig sind Vorbeugung, Protokollierung, Zugangsbeschränkungen und Verantwortlichkeit.

Google erleichtert App-Bau per Prompt

Parallel dazu bringt Google KI-Funktionen stärker in die Softwareentwicklung für Endnutzerinnen und Endnutzer. Mit Google AI Studio können Apps für Android-Geräte per Anweisung an ein KI-System erstellt werden. Programmierkenntnisse sind dafür nicht nötig. Voraussetzung sind ein Google-Konto, ein Mindestalter von 18 Jahren und der Zugang zur webbasierten Entwicklungsumgebung.

Nach Angaben von heise ist das Angebot bislang kostenlos. Die so erzeugten Apps sind zunächst für das eigene Mobilgerät gedacht. In den kommenden Monaten sollen sie auch mit Familie und Freunden geteilt werden können. Wer eine Veröffentlichung im Play Store anstrebt, muss das Konto zu einem professionellen Entwicklerkonto erweitern. Dann greifen die üblichen Sicherheits- und Qualitätsprüfungen.

Damit verschiebt sich die Grenze zwischen privatem Experiment und veröffentlichter Software. Je einfacher Anwendungen entstehen, desto wichtiger werden Prüfverfahren, bevor Programme eine größere Verbreitung erreichen. Google ergänzt den Play Store zudem um KI-Hilfen bei Suche, Empfehlungen und Spiele-Playlists. Auch dadurch wächst der Einfluss automatisierter Systeme auf Auswahl und Nutzung digitaler Angebote.

BSI warnt vor vernetzten Anlagen

Nicht nur klassische KI-Dienste stehen im Blick. Nach einem Angriff auf Kühlsysteme warnt das BSI Betreiber kleiner vernetzter industrieller Anlagen. Dazu zählen etwa Solarwechselrichter, Kühlsysteme, einzelne Windkraftanlagen und Einrichtungen der Trinkwasserversorgung. Solche Anlagen unterliegen grundsätzlich keinen besonderen IT-Sicherheitsvorgaben.

BSI-Präsidentin Claudia Plattner sagte laut heise, ein solcher Angriff hätte jedes Land treffen können und könne Nachahmer finden. „Derartige Einfallstore laden regelrecht zu Sabotage ein“, sagte sie. Die Behörde veröffentlichte deshalb praxisnahe Empfehlungen für Betreiber kleiner und kleinster Anlagen.

Der Hinweis erweitert die Sicherheitsdebatte über KI hinaus. Vernetzte Systeme, automatisierte Steuerung und KI-Anwendungen wachsen in vielen Bereichen zusammen. Wenn digitale Komponenten in Infrastruktur, Konsumsoftware oder Kommunikationsdiensten versagen, reichen die Folgen über einzelne Nutzerkonten hinaus.

Boom verstärkt den Handlungsdruck

Der ökonomische Anreiz bleibt hoch. Ulrich Stephan, Chefanlagestratege für Privat- und Firmenkunden der Deutschen Bank, sagte im Podcast Handelsblatt Invest, er halte den KI-Aufschwung weiter für tragfähig. Es sei ein „Boom ist und keine Blase“, sagte er dem Handelsblatt. Er erwartet, dass Unternehmen bis ins nächste Jahr hinein stark in KI investieren.

Gerade dieser Investitionsdruck macht Sicherheitsfragen drängender. Je schneller KI-Systeme in Produkte, Entwicklungsumgebungen und Infrastruktur einziehen, desto stärker rücken Kontrolle, Haftung und Eingriffsmöglichkeiten in den Mittelpunkt. Die aktuellen Fälle zeigen unterschiedliche Seiten derselben Entwicklung: KI wird einfacher verfügbar, wirtschaftlich wertvoller und zugleich sicherheitspolitisch schwerer zu begrenzen.