Neue KI-Projekte verschärfen Ruf nach Kontrolle

Künstliche Intelligenz dringt weiter in zentrale Wirtschaftsbereiche vor. Die Bundesregierung bereitet eine Kooperation mit Nvidia für industrielle KI vor, Sicherheitsforscher nutzen KI zum Finden von Angriffsketten, und Unternehmen testen Bewerbende mit Chatbots. Damit rückt die Kontrolle solcher Systeme stärker in den Mittelpunkt: Wer überwacht Entscheidungen, wer haftet bei Fehlern, und wie lassen sich Anwendungen stoppen oder eingrenzen, bevor Schäden entstehen?

Staat und Industrie setzen auf physische KI

Die Bundesregierung will mit dem US-Chipkonzern Nvidia zusammenarbeiten, um KI-Anwendungen in der Industrie voranzubringen. ZDFheute berichtet unter Berufung auf Regierungskreise, Bundeskanzler Friedrich Merz und Nvidia-Chef Jensen Huang wollten die Initiative am Montag beim Investitionsgipfel in Berlin vorstellen. Nvidia bestätigte demnach Huangs Aufenthalt in Berlin.

Im Zentrum steht sogenannte physische KI. Gemeint sind Systeme, die nicht nur Texte oder Bilder erzeugen, sondern Maschinen, Fahrzeuge oder Industrieanlagen steuern können. Beispiele sind Roboter, autonome Fahrzeuge und automatisierte Fabriktechnik. Für solche Anwendungen braucht es hohe Rechenleistung, spezielle Chips und umfangreiche Trainingsumgebungen.

Der Bund ist laut Bericht bereit, einen dreistelligen Millionenbetrag einzusetzen. Das Geld könnte aus Mitteln der Hightech-Agenda kommen. Die Anschubfinanzierung soll unter anderem Rechenkapazitäten auf einer Cloud der Deutschen Telekom ermöglichen. Nvidia soll sich mit Chips und Ingenieuren beteiligen. Rund ein Dutzend deutsche Unternehmen wollen mitmachen, darunter Siemens, Audi und Black Forest Labs.

Gerade physische KI erhöht den Druck auf Sicherheitsregeln. Wenn Systeme mit Maschinen oder Fahrzeugen verbunden sind, reicht eine nachträgliche Korrektur oft nicht aus. Unternehmen müssen vorab festlegen, wann Menschen eingreifen, wie Testdaten geprüft werden und welche Grenzen autonome Funktionen haben.

KI hilft beim Angriff auf Systeme

Auch in der IT-Sicherheit wächst die Bedeutung von KI. Heise berichtet von einem auf der Sicherheitskonferenz Hexacon in Paris gezeigten Jailbreak für iOS 27.0.1, der auch aktuelle iPhone-18-Pro-Modelle betreffen soll. Das Team Calif.io demonstrierte demnach einen Angriff, der Neustarts übersteht und nicht nach jedem Bootvorgang erneut per Rechner aktiviert werden muss.

Welche Schwachstellen genutzt wurden, ist nicht bekannt. Klar ist nach dem Bericht jedoch, dass KI beim Auffinden der Angriffskette geholfen hat. Das macht den Fall für die Sicherheitsdebatte besonders relevant. Wenn Modelle Patches, Programmcode oder Systemverhalten auswerten, können sie nicht nur Verteidigern helfen, sondern auch Angreifern.

Heise verweist zudem auf den Trend, aus Sicherheitsupdates Hinweise auf bereits geschlossene Lücken abzuleiten und daraus neue Angriffswerkzeuge zu bauen. Besonders leistungsfähige Sicherheitsmodelle stehen zwar nicht allen offen. Offene Modelle können die Hürde für Nachahmer dennoch senken. Für Hersteller wird damit wichtiger, Updates, Dokumentation und interne Tests eng aufeinander abzustimmen.

Kontrolle im Bewerbungsprozess

KI wird nicht nur in Technik und Produktion eingesetzt, sondern auch in der Personalauswahl. Bei McKinsey müssen Bewerbende in nordamerikanischen Büros seit Herbst 2024 im ersten Schritt ein Gespräch mit einer KI führen, wie heise unter Verweis auf das Wall Street Journal berichtet. Die Software spielt dabei eine Kundin oder einen Kunden nach.

Die Gespräche dauern etwa zehn Minuten und finden vor Ort statt. Währenddessen sind weitere Personen im Raum, die Entscheidungen und Verhalten der Kandidatinnen und Kandidaten beobachten. Die KI soll am Ende keine Bewertung abgeben. Sie dient als simulierte Gesprächssituation, nicht als alleinige Instanz über Zu- oder Absage.

McKinsey will damit Alltagssituationen aus der Beratung nachstellen. Zunächst geht es um Studierende, die sich auf Stellen in der Business-Analyse bewerben. Bei Erfolg soll das Verfahren im kommenden Jahr auf weitere Positionen ausgeweitet werden. Der Fall zeigt, wie Unternehmen KI mit menschlicher Aufsicht kombinieren: Die Maschine erzeugt eine standardisierte Situation, die Entscheidung bleibt bei Beschäftigten.

Mehr Nutzen, mehr Risiko

KI-generierte Videos verdeutlichen eine weitere Seite der Entwicklung. Sie senken die Hürden für Filmproduktion und kreative Arbeit, können aber auch Manipulation und Propaganda erleichtern. Die FAZ beschreibt beides: neue Möglichkeiten für Einzelne und Unternehmen, aber zugleich ein höheres Risiko für Täuschung.

Damit verbindet sich ein gemeinsamer Punkt der aktuellen KI-Debatte. Ob Industrieanlage, Smartphone-Sicherheit, Bewerbungsgespräch oder Videoerstellung: Je leistungsfähiger und zugänglicher Systeme werden, desto wichtiger werden klare Zuständigkeiten. Unternehmen und Staat stehen vor der Aufgabe, Innovation zu ermöglichen, ohne Kontrolle, Nachvollziehbarkeit und Eingriffsmöglichkeiten aus der Hand zu geben.