Rufe nach schärferer KI-Kontrolle werden lauter

Die Debatte über strengere Kontrolle von Künstlicher Intelligenz gewinnt an Schärfe. DIW-Präsident Marcel Fratzscher fordert staatliche Mehrheiten an führenden KI-Unternehmen, Bundesdigitalminister Karsten Wildberger setzt auf ein neues KI-Sicherheitsinstitut. Parallel zeigen neue leistungsstarke Modelle, wie schnell die technischen Fähigkeiten wachsen.

Fratzscher will staatliche Kontrolle

Wie die Welt berichtet, verlangt Fratzscher, dass der Staat bei zentralen KI-Unternehmen und ihrer Infrastruktur die Kontrolle übernimmt. Der Präsident des Deutschen Instituts für Wirtschaftsforschung begründet dies mit Risiken, die aus seiner Sicht nicht allein privaten Unternehmen überlassen werden dürfen. Der Wettlauf um immer stärkere Modelle erhöhe die Gefahr, dass Kontrolle verloren gehe.

Fratzscher sagte der Süddeutschen Zeitung, KI sei aus seiner Sicht die „potenziell größte Bedrohung unserer Existenz“. Er vergleicht die Lage mit Hochrisikotechnologien, bei denen ein rein privatwirtschaftlicher Wettbewerb nicht akzeptiert würde. Der Staat müsse deshalb nicht nur regulieren, sondern innerhalb der Unternehmen Einfluss ausüben können.

Der Ökonom wendet sich damit gegen Ansätze, die vor allem mehr Wettbewerb, Umverteilung oder klassische Regulierung vorsehen. Nach seiner Einschätzung ist nicht mangelnder Wettbewerb das Kernproblem, sondern ein Anreizsystem, in dem Unternehmen hohe Gewinne anstreben, während extreme Risiken am Ende die Allgemeinheit treffen könnten. Fratzscher fordert zudem globale Regeln und eine internationale Aufsicht.

Sicherheitsinstitut soll Modelle prüfen

Auch die Bundesregierung will mehr Zugriff auf neue KI-Systeme. Gegenüber dem Tagesspiegel sagte Digitalminister Wildberger, große Anbieter wie OpenAI, Anthropic und Google müssten verhindern, dass die Welt zum Testfeld unausgereifter Systeme werde. Ein KI-Sicherheitsinstitut soll Modelle auf Fähigkeiten und Risiken untersuchen, sich international vernetzen und Zugang zu Systemen erhalten, bevor sie breit verfügbar sind.

Wildberger verbindet die Prüfungen mit möglichen Konsequenzen. Es gehe auch um die Frage, ob ein Modell in einer bestimmten Form zugelassen werde. Unternehmen sollten nach seinen Vorstellungen mindestens so viel in Sicherheit investieren wie in die Entwicklung ihrer Systeme. Wenn ein KI-Agent in fremde Systeme eindringt, soll dies sofort gemeldet werden. Für Schäden sollen die Unternehmen selbst einstehen.

Microsoft-Mitgründer Bill Gates warnt ebenfalls vor Missbrauch. In einem Interview mit ABC News bezeichnete er KI als möglicherweise gefährlichste Technologie, die Menschen entwickelt hätten. Eine außer Kontrolle geratene KI hält er in den nächsten Jahren weniger für die zentrale Gefahr. Größer sei das Risiko, dass Kriminelle Modelle ohne Schutzmechanismen für Cyberangriffe oder biotechnologische Gefahren nutzen. Besonders im Cyberbereich rechnet Gates mit negativen Überraschungen im kommenden Jahr.

Leistungsfähigere Modelle erhöhen den Druck

Der Ruf nach Kontrolle trifft auf eine Phase rascher technischer Fortschritte. heise berichtet über Metas neue Modelle Muse Wonder und Muse Wonder Full, die in unabhängigen Tests deutlich besser abschneiden als der erst wenige Wochen alte Vorgänger Muse Spark 1.3. Die Systeme verarbeiten Text, Bilder, Videos und Audio, geben aber nur Text aus. Das Kontextfenster umfasst eine Million Tokens, Details zur Architektur und Parameterzahlen nennt Meta nicht.

Bei komplexen Agentenaufgaben und in der Softwareentwicklung erreicht Wonder Full laut den Tests Spitzenwerte. Im Intelligence Index von Artificial Analysis kommt das Modell auf 56 Punkte, knapp unter Claude Opus 5.5 mit 58 Punkten. Im Coding Agents Index erzielt Wonder Full 68 Punkte und liegt damit auf dem Niveau eines führenden Konkurrenzsystems. Bei Faktenwissen bleiben Schwächen, zugleich sinkt die gemessene Halluzinationsrate gegenüber dem Vorgänger.

Für die Sicherheitsdebatte ist besonders relevant, dass Meta in der Modellkarte ohne Schutzmaßnahmen eine hohe Risikoschwelle für chemisch-biologischen Missbrauch nicht ausschließt. Mit Schutzmaßnahmen bewertet das Unternehmen die verbleibenden Risiken als moderat oder niedriger. Ein ausführlicher Sicherheitsbericht soll folgen.

Regulierung betrifft auch den Arbeitsmarkt

Neben Sicherheitsfragen rückt die wirtschaftliche Steuerung von KI stärker in den Vordergrund. Wie heise berichtet, plädiert Wildberger dafür, Umsätze mit KI in Deutschland zu besteuern. Die Einnahmen sollen helfen, den Umbau des Arbeitsmarkts zu finanzieren. Wenn Wertschöpfung in Deutschland entstehe, müssten hier auch Steuern gezahlt werden, sagte der Minister.

Wildberger rechnet damit, dass KI die Arbeitswelt grundlegend verändert. Langfristig könne mehr Beschäftigung entstehen, allerdings in anderen Tätigkeiten als heute. Umschulungen und neue berufliche Perspektiven, etwa in Handwerk oder Pflege, müssten finanziert werden. Damit verbindet sich die Kontrollfrage nicht nur mit technischer Sicherheit, sondern auch mit der Verteilung der Kosten des KI-Wandels.