Microsoft fordert Notaus für riskante KI-Systeme

Microsoft-Präsident Smith verlangt verbindliche Sicherheitsregeln für Künstliche Intelligenz. Neue Modelle sollen vor dem Einsatz extern geprüft werden, zudem sollen Abschaltmechanismen eingebaut werden, falls Systeme nicht mehr kontrollierbar sind. Damit wächst der Druck auf Technologieunternehmen, freiwillige Selbstkontrollen durch nachprüfbare Vorgaben zu ersetzen.

Pflichtprüfungen statt Selbstkontrolle

Laut FAZ fordert Smith, KI-Entwicklerunternehmen weltweit zu verpflichten, neue Produkte durch unabhängige Stellen auf Risiken untersuchen zu lassen. Außerdem sollen Firmen melden müssen, wenn eines ihrer Programme ohne Erlaubnis in fremde IT-Systeme eindringt. Betroffene Stellen müssten informiert werden, zusätzlich soll es eine formelle Meldepflicht geben.

Der Vorstoß zielt auf eine zentrale Schwachstelle der aktuellen KI-Entwicklung: Viele leistungsfähige Modelle werden in kurzen Abständen veröffentlicht, während Sicherheitsprüfungen häufig auf freiwilliger Basis stattfinden. Das britische AI Security Institute erhält bislang vorab Zugang zu Modellen führender Unternehmen, um Risiken einzuschätzen. Smith sieht Großbritannien deshalb als möglichen Taktgeber für strengere Regeln.

Ein Notaus für KI-Systeme soll verhindern, dass ein Modell weiterarbeitet, wenn es nicht mehr sicher gesteuert werden kann. Die Forderung richtet sich besonders auf autonome KI-Agenten, die Aufgaben eigenständig planen und ausführen können. Anlass der Debatte sind Cyberangriffe solcher Systeme, unter anderem auf die Plattform Hugging Face. Fachleute warnen, dass KI-Werkzeuge künftig nicht nur zur Text- oder Bildproduktion dienen, sondern auch Angriffe auf digitale Infrastruktur erleichtern können.

Streit über internationale Regeln

Die Diskussion über verbindliche Vorgaben ist auch ein Konflikt über den richtigen Ordnungsrahmen. Smith reiht sich in Forderungen ein, die einheitliche Mindeststandards und unabhängige Kontrollen verlangen. Dagegen lehnt US-Präsident Donald Trump ein internationales Regelpaket ab. Er setzt mit führenden Technologiekonzernen auf eine Selbstverpflichtung, die interne Kontrollverfahren vorsieht.

Für Unternehmen hätte eine strengere Regulierung direkte Folgen. Sie müssten Risiken dokumentieren, Notfallprozesse technisch absichern und Vorfälle schneller melden. Solche Vorgaben könnten die Markteinführung neuer KI-Produkte verlangsamen, würden aber zugleich Haftungsrisiken und Reputationsschäden begrenzen. Besonders Firmen, die KI in IT-Sicherheit, Bürosoftware, Kundendienst oder Datenanalyse einsetzen, stünden vor zusätzlichen Prüfpflichten.

Die Debatte berührt auch bestehende Abhängigkeiten von großen Technologieplattformen. Wenn KI-Funktionen stärker in Cloud-Software, Kommunikationsdienste und Unternehmensprozesse integriert werden, können Fehlfunktionen oder Missbrauch schneller viele Betriebe gleichzeitig treffen. Deshalb rückt neben der Leistungsfähigkeit der Modelle auch ihre Abschaltbarkeit in den Mittelpunkt.

Folgen für Arbeit und Gesellschaft

Parallel wächst die Sorge vor wirtschaftlichen Verwerfungen durch KI. n-tv berichtet über eine Untersuchung des Instituts für Arbeitsmarkt- und Berufsforschung, wonach Künstliche Intelligenz in Deutschland bislang keinen breiten Beschäftigungsabbau ausgelöst hat. Zwischen 2022 und 2025 entwickelten sich Berufe mit hohem KI-Potenzial insgesamt sogar besser als weniger betroffene Tätigkeiten.

Anders fällt das Bild bei jungen Menschen aus. Bei den 20- bis 29-Jährigen sehen die Forschungsteams erste Warnsignale für einen erschwerten Berufseinstieg. Die schwache Konjunktur belastet diese Gruppe demnach zwar stärker als KI, doch die Technologie könnte Unternehmen dazu bewegen, eher erfahrene Beschäftigte einzustellen. Tätigkeiten mit großem KI-Potenzial liegen häufig in Büroberufen, in der Informatik, in Medien, Recht, Wissenschaft, Rechnungswesen und Organisation.

Auch außerhalb der Wirtschaft steigt der politische Druck. Die Tagesschau berichtet aus dem Bericht der Missbrauchsbeauftragten Kerstin Claus, dass digitale Risiken für Kinder und Jugendliche zunehmen. KI kann demnach etwa harmlose Profilbilder in sexualisierte Fälschungen verwandeln und Erpressung erleichtern. Zudem hat bereits jeder vierte junge Mensch zwischen 14 und 17 Jahren Cybergrooming erlebt.

Damit verschiebt sich die KI-Debatte. Es geht nicht mehr nur um Innovation, Produktivität und Wettbewerbsfähigkeit. Gefragt sind Kontrollmechanismen, die vor dem Einsatz greifen, während des Betriebs funktionieren und bei Missbrauch schnelle Eingriffe ermöglichen. Der geforderte KI-Notaus steht deshalb symbolisch für eine neue Phase der Regulierung: Technologie soll leistungsfähig bleiben, aber nicht ohne überprüfbare Sicherheitsgrenzen wachsen.