Microsoft fordert Notaus für KI-Modelle

Microsoft-Präsident Smith dringt auf strengere Regeln für Entwickler von Künstlicher Intelligenz. Neue KI-Produkte sollen vor dem Einsatz verpflichtend durch unabhängige Fachleute geprüft werden. Außerdem fordert er technische Stoppmechanismen, mit denen entgleiste Modelle angehalten werden können. Die FAZ berichtete zudem über Smiths Forderung nach Informations- und Meldepflichten, wenn KI-Anwendungen ohne Erlaubnis in fremde IT-Systeme eindringen.

Prüfungen vor dem Marktstart

Smith stellt die Aufsicht über KI in einen scharfen Kontrast zu anderen regulierten Bereichen. Demnach werde Milch strenger kontrolliert als Künstliche Intelligenz. Seine Forderung zielt auf verbindliche Regeln statt freiwilliger Selbstverpflichtungen der Branche.

Konkret sollen Entwicklerfirmen ihre Systeme nicht erst nach der Veröffentlichung beobachten. Externe Prüferinnen und Prüfer sollen neue Modelle vorab auf Risiken untersuchen. Damit würde ein Verfahren entstehen, das der schnellen Einführung neuer KI-Produkte Grenzen setzt. Für die Unternehmen hieße das: Sicherheitsnachweise würden zu einem festen Bestandteil der Entwicklung.

Zentrale Rolle spielt dabei ein technischer Notaus. Smith spricht von eingebauten „Notbremsen“, mit denen außer Kontrolle geratene KI-Modelle gestoppt werden sollen. Gemeint sind Mechanismen, die nicht nur auf freiwillige Eingriffe der Anbieter angewiesen sind, sondern in den Systemen selbst angelegt werden.

Meldepflichten bei digitalen Eingriffen

Smith fordert auch mehr Transparenz, wenn KI-Systeme in fremde Netze gelangen. Betroffene sollen informiert werden, sobald eine Anwendung unbefugt in IT-Umgebungen Dritter eindringt. Zusätzlich soll es eine offizielle Pflicht zur Meldung solcher Vorfälle geben.

Diese Forderung verschiebt die Debatte von abstrakten Zukunftsrisiken zu konkreten Pflichten für Softwareanbieter. Es geht nicht nur darum, ob ein System leistungsfähig ist. Entscheidend wird, wer Risiken prüft, wer im Ernstfall eingreift und wer über Zwischenfälle informiert werden muss.

Großbritannien sieht Smith dabei in einer möglichen Führungsrolle. Das dortige AI Security Institute genießt nach seiner Einschätzung international hohes Ansehen. Die Fachleute der Einrichtung bekommen bisher auf freiwilliger Grundlage frühe Einblicke in KI-Modelle führender Anbieter, um sie zu bewerten. Smiths Vorstoß würde solche Verfahren stärker in gesetzliche Bahnen lenken.

Abhängigkeit von IT-Systemen wächst

Die Forderungen fallen in eine Zeit, in der digitale Störungen unmittelbar wirtschaftliche Folgen haben. Am Dienstag meldete Microsoft selbst Probleme bei sicheren Anmeldungen für Microsoft-365-Dienste. Betroffen waren unter anderem Zugänge zu Anwendungen wie Teams und Outlook. Laut FAZ stiegen gegen 10 Uhr deutscher Zeit die Störungsmeldungen bei einschlägigen IT-Portalen deutlich an.

Auch andere digitale Angriffe zeigen die Verwundbarkeit technischer Infrastrukturen. In Frankreich traf ein Cyberangriff Kühlanlagen mehrerer Handelsketten. Betroffen war nach Angaben eines Unternehmens ein dänischer Technikdienstleister, dessen Systeme von verschiedenen Lebensmittelhändlern genutzt werden. Ein Anbieter sprach von einer begrenzten Zahl betroffener Kühlsysteme, überwiegend älterer Bauart.

Solche Fälle betreffen nicht direkt die Regulierung von KI. Sie verdeutlichen aber, warum Unternehmen und Behörden stärker auf Kontrolle, Nachvollziehbarkeit und Eingriffsmöglichkeiten in vernetzten Systemen achten. Je mehr Geschäftsprozesse über digitale Plattformen laufen, desto größer wird das Interesse an klaren Verantwortlichkeiten.

Einordnung

Die Debatte reicht inzwischen über einzelne Technologien hinaus. Plattformen, Cloud-Dienste und KI-Anbieter stehen stärker unter Beobachtung, wenn ihre Systeme gesellschaftliche oder wirtschaftliche Risiken auslösen können. Der Deutschlandfunk berichtete am Dienstag etwa, dass die EU-Kommission Betreiber sozialer Netzwerke an Jugendschutzpflichten erinnerte und vor der Verbreitung eines angekündigten Livestreams warnte. Auch dort geht es um die Frage, welche Vorsorge Plattformen technisch und organisatorisch treffen müssen.

Für die KI-Branche würde eine verbindliche Prüfpflicht einen deutlichen Einschnitt bedeuten. Bisher beruhen frühe Sicherheitsbewertungen wichtiger Modelle vielfach auf Kooperation. Smiths Vorschlag zielt auf Regeln, die für alle Anbieter gelten. Damit rückt die Kontrolle von KI aus der Selbstregulierung der Unternehmen heraus und näher an staatliche Vorgaben.