Unternehmen ziehen KI-Zugriffe enger

Der Einsatz von KI verschiebt sich von einfachen Texteingaben zu Systemen mit Zugriff auf Daten, Anwendungen und Entwicklungsumgebungen. Damit steigen für Unternehmen die Anforderungen an Kontrolle, Haftung und technische Absicherung. Aktuelle Beispiele aus Sicherheitsforschung und Softwareentwicklung zeigen, dass KI nicht nur Routineaufgaben unterstützt, sondern auch bei der Suche nach Schwachstellen, beim Erstellen von Code und beim Arbeiten mit externen Werkzeugen eine größere Rolle bekommt.

KI hilft bei der Exploit-Suche

Besonders deutlich wird die neue Lage an einem Jailbreak für iOS 27.0.1, den das Sicherheitsunternehmen Calif.io vorgestellt hat. Die Technik soll auf aktuellen iPhones bis zu den Modellen 18 Pro und 18 Pro Max funktionieren. Nach Angaben des Unternehmens werden die zugrunde liegenden Schwachstellen veröffentlicht, sobald Apple sie per Update geschlossen hat. Ein fertiges Werkzeug für Endnutzerinnen und Endnutzer ist nicht geplant. Möglich wäre jedoch, dass Dritte auf Basis der veröffentlichten Informationen eigene Varianten entwickeln. Auch ein Proof of Concept steht im Raum.

Der Fall ist technisch auffällig, weil der Jailbreak nach einem Neustart erhalten bleibt und ohne Verbindung zu einem anderen Rechner auskommt. Solche Verfahren sind bei iOS selten geworden. Zudem sollen Schutzmechanismen überwunden worden sein, die Speicherfehler schwerer ausnutzbar machen. Dazu zählen Apples Memory Integrity Enforcement und die auf ARM-Technik aufbauende Enhanced Memory Tagging Extension. Die meisten der betroffenen Fehler sind nach Angaben des Sicherheitsforschers Stefan Esser in einer fortgeschrittenen Beta von iOS 27.2 bereits behoben.

KI spielte bei der Entwicklung des Jailbreaks ebenfalls eine Rolle. Esser beschreibt den Nutzen großer Sprachmodelle jedoch nicht als Ersatz für menschliche Expertise. Der erfolgreiche Angriff auf stark abgesicherte Ziele verlange weiterhin Fachwissen und die Kombination aus menschlicher Analyse und KI-Unterstützung. Die Vorstellung, einem Modell lediglich den Auftrag zum Hacken eines iPhones zu geben, nannte er „Science-Fiction“. Gleichzeitig sieht er bei aktuellen Modellen deutliche Fortschritte gegenüber dem Stand vor wenigen Monaten.

Mehr Rechte, mehr Verantwortung

In Unternehmen geht es nicht nur um Sicherheitsforschung. Generative KI wird zunehmend mit Werkzeugen, Datenquellen und Fachanwendungen verbunden. Solche Systeme können Informationen aus Ablagen abrufen, Dokumente durchsuchen oder Ergebnisse in Anwendungen übernehmen. Dafür reichen gute Arbeitsanweisungen allein nicht aus. Nötig sind Konnektoren, klar beschriebene Aufgaben und festgelegte Rechte.

Der Begriff Tool Use beschreibt dabei, dass ein KI-System externe Werkzeuge einsetzt und deren Resultate in weitere Arbeitsschritte einbezieht. Konnektoren stellen die Verbindung zu Datenbeständen oder Anwendungen her. Relevant ist dabei die Trennung zwischen reinem Lesen und Aktionen, die neue Inhalte erzeugen oder bestehende Daten verändern. Für Unternehmen entstehen daraus konkrete Kontrollfragen: Wer darf welche Daten anbinden, welche Aktionen darf ein System auslösen, und wie werden Ergebnisse überprüft?

Der Verbindungsstandard MCP wird in diesem Zusammenhang als technischer Baustein eingeordnet. Er soll helfen, den Zugriff auf Werkzeuge und Daten strukturiert abzubilden. Zugleich bleibt entscheidend, dass Berechtigungen passend gesetzt und Resultate kontrolliert werden. Die wachsende Nutzung von ChatGPT, Claude und Microsoft 365 Copilot zeigt, dass die Frage nicht auf einzelne Anbieter beschränkt ist. Auch das Teilen und Veröffentlichen eigener Plugins wird damit zu einem Governance-Thema.

Sandbox statt ungeprüfter Code

Auch in der Softwareentwicklung verschärft sich der Bedarf an Leitplanken. Sprachmodelle können aus einer einzelnen Eingabe lauffähige Programme erzeugen, etwa eine Webanwendung mit HTML und JavaScript. Dieses sogenannte Vibe-Coding ist besonders für Einsteigerinnen und Einsteiger attraktiv, weil es kaum klassische Entwicklungswerkzeuge erfordert. Für professionelle Entwicklung reicht ein solcher Ansatz jedoch nicht aus.

Der Grund liegt in der Qualität und Nachvollziehbarkeit. Ein einmal erzeugtes Programm ist selten dauerhaft fehlerfrei oder sauber erweiterbar. Wenn KI-Werkzeuge in Entwicklungsprozesse eingebunden werden, brauchen sie eine kontrollierte Umgebung. Kommandozeilenwerkzeuge für agentisches Programmieren sollten deshalb nicht auf den gesamten Rechner zugreifen können. Eine Sandbox begrenzt den Zugriff und reduziert das Risiko unbeabsichtigter Veränderungen.

Ergänzend können sogenannte Skills helfen, Aufgaben geordneter abzuarbeiten. Sie geben dem Modell Hinweise zum Vorgehen und zur Strukturierung von Arbeitsschritten. In Kombination mit Plugins und Konnektoren entsteht daraus ein stärker formalisiertes Arbeiten mit KI. Die wirtschaftliche Bedeutung liegt in der Skalierung: Je mehr KI in Kernprozesse eingreift, desto wichtiger werden Rechteverwaltung, Nachprüfung und technische Begrenzungen.