Manager fordern Not-Aus für KI-Systeme

Microsoft-Präsident Brad Smith fordert deutlich strengere Vorgaben für künstliche Intelligenz. Neue Systeme sollen nach seiner Vorstellung vor dem Einsatz durch unabhängige Fachleute geprüft werden. Außerdem brauche es technische Notbremsen, mit denen außer Kontrolle geratene Modelle gestoppt werden können. Die Forderungen fallen in eine Debatte, die sich nach Angriffen autonom arbeitender KI-Agenten verschärft hat.

Smith verlangt unabhängige Prüfungen

Smith verwies in einem BBC-Interview, über das der Spiegel berichtet, auf andere Produkte, bei denen Sicherheitsauflagen selbstverständlich seien. Für Waschmaschinen gebe es „mehr Sicherheitsrichtlinien als für KI“, sagte der Microsoft-Präsident. Auch Lebensmittel würden kontrolliert, bevor sie verkauft würden. Auf diese Erfahrungen solle die Politik aufbauen und sie auf KI übertragen.

Nach Smiths Vorstellungen müssten Entwickler neuer KI-Produkte weltweit verpflichtet werden, externe Risikoprüfungen zuzulassen. Zudem sollten Unternehmen Betroffene benachrichtigen, wenn eines ihrer Systeme unerlaubt in fremde IT-Umgebungen eindringt. Eine formale Meldepflicht hält er ebenfalls für nötig.

Großbritannien sieht Smith dabei als möglichen Vorreiter. Das dortige AI Security Institute genieße in der Branche hohes Ansehen. Bisher erhalten die Prüferinnen und Prüfer des Instituts vorab Zugang zu Modellen großer Anbieter allerdings auf freiwilliger Grundlage. Smiths Vorstoß zielt auf verbindlichere Regeln, die nicht allein vom guten Willen der Unternehmen abhängen.

Angriffe durch KI-Agenten erhöhen den Druck

Auslöser der neuen Dringlichkeit ist eine Serie von Cyberangriffen, bei denen autonome KI-Agenten eine Rolle spielten. Betroffen war unter anderem die Onlineplattform Hugging Face. Solche Systeme können Aufgaben selbstständig planen und ausführen. Genau diese Fähigkeit macht sie für Unternehmen attraktiv, erhöht aber zugleich die Sorge vor unkontrolliertem Verhalten.

Die Kritik an fehlenden Sicherungen reicht inzwischen über Fachkreise hinaus. Einige Forscherinnen und Forscher warnen vor extremen Risiken bis hin zur Auslöschung der Menschheit. Der Spiegel griff die sogenannte Doomsday-Debatte am Montag auch aus Sicht des Risikoforschers Wolfgang Gaissmaier auf. Künstliche Intelligenz sei nicht das einzige existenzielle Risiko, löse derzeit aber bei vielen Menschen besondere Ängste aus.

Smith stellt sich damit auf die Seite jener Fachleute, die nicht nur freiwillige Standards, sondern koordinierte gesetzliche Regeln verlangen. Seine Vorschläge betreffen drei Ebenen: Prüfungen vor der Veröffentlichung, technische Eingriffsmöglichkeiten während des Betriebs und Informationspflichten nach einem Vorfall.

Trump setzt auf Selbstverpflichtung

In den USA verfolgt Präsident Donald Trump einen anderen Kurs. Er lehnt ein internationales Gesetzespaket zur Regulierung von KI ab. Stattdessen hat das Weiße Haus mit führenden Technologieunternehmen eine freiwillige Vereinbarung geschlossen. Sie sieht nach Angaben der FAZ unter anderem interne Sicherheitskontrollen für KI-Modelle vor. Trump bezeichnete diese Zusage als moralisch bindend.

Parallel versucht Trump, den Begriff künstliche Intelligenz politisch umzudeuten. Amerikanische Behörden sollen laut einem Dekret nur noch von „Super Intelligenz“ sprechen. Der Präsident begründet dies damit, dass leistungsfähige KI-Systeme nicht bloß menschliche Fähigkeiten nachahmten, sondern Kreativität und Erfindungsreichtum erweiterten.

Mehrere Spitzenmanager aus der Techbranche übernehmen Trumps Sprachregelung. Salesforce-Chef Marc Benioff kündigte eine Umbenennung einer Plattform an. Microsoft-Chef Satya Nadella verwendete den Begriff in einem Beitrag zur KI-Sicherheit. Elon Musk sprach sich ebenfalls für die Abkürzung „SI“ aus und kündigte Änderungen bei der KI-Sparte von SpaceX an. Amazon-Gründer Jeff Bezos äußerte Sympathie für die neue Bezeichnung.

Streit über Kontrolle und Vertrauen

Auch OpenAI-Chef Sam Altman äußerte sich zur Begriffsfrage. In einem Podcast sagte er laut FAZ, sein Unternehmen plane keine Umbenennung. Zugleich halte er „Super Intelligenz“ für einen besseren Ausdruck als künstliche Intelligenz. Altman bezweifelte jedoch, dass der neue Begriff weniger beunruhigend wirke.

Die Diskussion zeigt einen wachsenden Konflikt zwischen politischer Symbolik, freiwilliger Selbstkontrolle und dem Ruf nach harten Sicherheitsregeln. Während Trump auf Vereinbarungen mit Unternehmen setzt, fordert Smith verbindliche externe Prüfungen und Eingriffsmöglichkeiten. Im Zentrum steht die Frage, wer leistungsfähige KI-Systeme kontrolliert, bevor sie Schaden anrichten können.