OpenAI gerät in der KI-Debatte von zwei Seiten unter Druck

OpenAI steht gleichzeitig wegen interner Sicherheitsfragen und wegen KI-generierter Mathematik unter Druck. Drei frühere Mitarbeiter aus dem Sicherheitsbereich werfen dem Unternehmen vor, eine offene Risikokultur zu gefährden. Parallel lösten Hunderte veröffentlichte mathematische Manuskripte des Unternehmens Begeisterung, Misstrauen und Kritik in der Fachwelt aus.

Kritik nach Entlassungen im Sicherheitsteam

Die drei ehemaligen OpenAI-Beschäftigten Tomek Korbak, Jasmine Wang und Mikita Balesni haben einen offenen Brief an mehrere Sicherheits- und Beratungsgremien des Unternehmens gerichtet. Wie heise berichtet, waren sie zuvor im Bereich KI-Sicherheit und Alignment tätig. OpenAI hatte sie demnach wegen angeblicher Weitergabe interner Informationen entlassen; die Betroffenen bestreiten das.

Balesni schrieb auf X, ihm sei nicht schriftlich erklärt worden, weshalb er gehen müsse. In einem Abschlussgespräch sei ihm gesagt worden, OpenAI habe kein Vertrauen mehr in ihn, weil er zu häufig mit anderen Organisationen gesprochen habe. Seine Arbeit sei jedoch mit Vorgesetzten, der Forschungsleitung und dem Vorstand abgestimmt gewesen.

In ihrem Brief warnen die drei vor Folgen für die Sicherheitsarbeit. Sie befürchten, dass Kolleginnen und Kollegen künftig zurückhaltender werden könnten, wenn sie Bedenken äußern oder mit externen Fachleuten sprechen wollen. Gerade im Bereich KI-Risiken sei Zusammenarbeit mit unabhängigen Expertinnen und Experten ein wichtiger Teil der Arbeit. Der zentrale Satz des Schreibens lautet: „OpenAI kann KI nicht allein sicher machen.“

Forderung nach externen Prüfungen

Die früheren Mitarbeiter verlangen von OpenAI, Zusagen zu externem Rat und unabhängigen Sicherheitsprüfungen einzuhalten. Sam Altman hatte im September 2026 angekündigt, unabhängigen Sicherheitsexpertinnen und Sicherheitsexperten einen weitreichenden Zugang zu ermöglichen. Nach Ansicht der Ex-Beschäftigten ist das nötig, um Risiken neuer Modelle belastbar einschätzen zu können.

Zudem fordern sie mehr Arbeit an der Überwachung leistungsfähiger KI-Modelle. Je weniger nachvollziehbar solche Systeme würden, desto schwieriger werde eine sichere Entwicklung und Veröffentlichung. Eine offene Gesprächskultur zwischen internen Sicherheitsforscherinnen und Sicherheitsforschern sowie dem weiteren Fachumfeld sehen sie als Schutzmechanismus.

Der Brief fügt sich in eine breitere Debatte über die Governance von KI-Unternehmen ein. Bei OpenAI hatte es bereits zuvor Diskussionen über Sicherheitsstrukturen gegeben, unter anderem nach der Auflösung eines Krisenteams für KI-Sicherheit.

Mathematik-Veröffentlichung sorgt für Schock

Zur selben Zeit richtet sich der Blick der Wissenschaft auf eine andere OpenAI-Veröffentlichung. Nach Darstellung der FAZ stellte das Unternehmen auf Github 722 Manuskripte bereit, in denen ein internes KI-Modell Antworten auf 377 bislang offene mathematische Fragen liefert. Dazu zählt ein KI-generierter Beweis zur Unique Games Conjecture, an der die Informationstheoretikerin Dana Moshkovitz seit Jahren arbeitet.

Einige der veröffentlichten Ergebnisse betreffen dem Bericht zufolge auch Fortschritte im Umfeld mehrerer Millennium-Probleme, darunter die Riemannsche Vermutung, die Hodge-Vermutung sowie die Vermutung von Birch und Swinnerton-Dyer. Schon zuvor hatte OpenAI eine Lösung zum Navier-Stokes-Problem veröffentlicht.

Die Reaktionen in der Fachwelt fallen gespalten aus. Der Informatiker Scott Aaronson sprach in einem Blogbeitrag von „The Mathocalypse“, wie die FAZ berichtet. Die Association for Human Mathematics, eine Gruppe mit mehr als 800 Mathematikerinnen und Mathematikern, kritisierte die gleichzeitige Veröffentlichung von mehr als 700 Dateien als „Demonstration von Macht“. Auch die Deutsche Mathematiker-Vereinigung äußerte Bedenken, Mathematik werde von Technologiekonzernen zur Leistungsschau für KI-Systeme genutzt.

Ein zentraler Streitpunkt ist der Umgang mit menschlicher Vorarbeit. DMV-Präsident Jürg Kramer warnte, dass KI-Systeme vorhandenes Wissen oft ungefiltert und ohne Erlaubnis nutzten. Der Verdacht, KI könne auch von unveröffentlichten Ideen profitieren, habe bereits Folgen: Forschende würden Zwischenergebnisse seltener online teilen, was den offenen Austausch hemme.

Vom Hype zur Kontrolle

Die beiden Debatten zeigen, dass sich die Aufmerksamkeit weg von bloßer Leistungsfähigkeit verschiebt. Entscheidend wird, wer KI-Systeme kontrolliert, wie ihre Ergebnisse überprüft werden und welche Regeln für den Umgang mit Wissen gelten.

Auch in der Softwareentwicklung rücken solche Fragen stärker in den Vordergrund. Die OOP-Konferenz by heise widmet 2027 einen Track dem Einsatz von KI jenseits von Vorführungen und Produktversprechen. Dort geht es um messbaren Nutzen, Qualitätssicherung, Kosten, Compliance, mentale Belastung in Teams und mögliche Verzerrungen durch KI.

Damit verbindet sich die technische Entwicklung mit organisatorischen und wissenschaftlichen Folgen. OpenAI steht exemplarisch für eine Branche, deren Systeme schneller leistungsfähiger werden, als Regeln, Prüfverfahren und gemeinsame Standards wachsen.