OpenAI-Erfolg rückt KI-Kontrolle in den Fokus

OpenAI hat mehr als 700 mathematische Manuskripte veröffentlicht und damit erneut gezeigt, wie weit KI-Systeme in anspruchsvolle Wissensgebiete vordringen. Besonders beachtet wird eine Arbeit zur Riemann-Vermutung, einem der bekanntesten Probleme der Mathematik. Parallel wächst der Druck, KI-Anwendungen besser zu überprüfen: Deepfakes in Videokonferenzen können Unternehmen bereits zu millionenschweren Fehlentscheidungen verleiten.

OpenAI sucht den Durchbruch in der Mathematik

Der Spiegel berichtet, OpenAI habe auf einen Schlag mehr als 700 mathematische Texte online gestellt. Unter ihnen befindet sich demnach eine Arbeit, die einen wichtigen Fortschritt auf dem Weg zu einem Beweis der Riemann-Vermutung darstellen soll. Die Vermutung gilt seit langer Zeit als herausragendes ungelöstes Problem der Mathematik.

Die Veröffentlichung zeigt, wie stark KI-Systeme inzwischen in Bereiche vordringen, die lange als Domäne hochspezialisierter Forschung galten. Mathematik verlangt nicht nur Mustererkennung, sondern nachvollziehbare Begründungen, saubere Herleitungen und überprüfbare Schlüsse. Gerade deshalb ist der Fall für die Debatte über Kontrolle von KI zentral: Ein Ergebnis kann beeindruckend wirken, muss aber von Fachleuten geprüft werden, bevor es wissenschaftlich zählt.

OpenAI präsentiert damit keinen alltäglichen Anwendungstest, sondern einen Vorstoß in ein Feld, in dem Fehler besonders schwer wiegen können. Eine mathematische Behauptung ist entweder beweisbar oder nicht. Die Qualität entscheidet sich nicht an Plausibilität, sondern an strenger Überprüfung.

Deepfakes treffen den Unternehmensalltag

Während OpenAI mit mathematischen Arbeiten Aufmerksamkeit erhält, zeigt ein anderer Bereich die Risiken schneller KI-Entwicklung. In Unternehmen gehören Videokonferenzen längst zum Alltag. Genau dort setzen Kriminelle inzwischen mit KI-generierten Fälschungen an.

Tagesschau.de schildert ein Warnsystem des Fraunhofer-Instituts für Sichere Informationstechnologie in Darmstadt. Das Team um Martin Steinebach demonstriert dabei, wie täuschend echt ein Gesprächspartner in einer Videoschalte erscheinen kann. In einer Vorführung tritt ein Mitarbeiter per Deepfake als Schauspieler Tom Cruise auf. Auffällig ist zwar, dass Bewegungen noch nicht völlig glatt wirken. In normalen Videokonferenzen können solche Unschärfen aber leicht als technische Störung durchgehen.

Das Problem ist nicht nur theoretisch. Steinebach verweist auf bereits bekannte Betrugsfälle. Ein Beispiel ist ein Fall aus Hongkong, bei dem Kriminelle in einer Videokonferenz Vorstandsmitglieder imitierten. Ein Mitarbeiter überwies daraufhin 25 Millionen US-Dollar auf ein fremdes Konto.

Warnsystem soll sofort reagieren

Das Fraunhofer-System soll Fälschungen nicht erst nachträglich erkennen, sondern während einer laufenden Konferenz Hinweise geben. Dafür muss es binnen kurzer Zeit entscheiden, ob ein Bildsignal zu einer echten Person passt oder ob es künstlich erzeugt wurde. Auch das Gegenmittel arbeitet mit KI: Es wertet große Mengen an Daten aus Deepfake-Programmen sowie am Institut erzeugte Fälschungen aus und lernt daraus Erkennungsmerkmale.

Steinebach sagte tagesschau.de, es gebe inzwischen genug reale Betrugsfälle. Identitätsdiebstahl und vorgetäuschte Identitäten seien vor allem für große Unternehmen und Banken ein erhebliches Problem. Er sprach von einem „völlig neuen Betrugsvektor“, mit dem Organisationen noch schwer umgehen könnten.

Das Warnprogramm befindet sich derzeit in der internen Prüfung. Danach soll es mit Unternehmen und Anbietern von Videokonferenzdiensten weiterentwickelt werden. Ziel ist ein Einsatz, der nutzerfreundlich ist und Datenschutzanforderungen berücksichtigt.

Kontrolle wird zum Kernproblem

Beide Entwicklungen zeigen unterschiedliche Seiten derselben Frage. KI kann Forschung beschleunigen und Aufgaben angehen, die enorme Expertise verlangen. Zugleich schafft dieselbe Technologie Werkzeuge, mit denen Identitäten im digitalen Raum überzeugend vorgetäuscht werden können.

Für die Mathematik bedeutet Kontrolle vor allem fachliche Prüfung, Nachvollziehbarkeit und Beweisführung. Für Unternehmen geht es um technische Warnsysteme, klare Abläufe und Misstrauen gegenüber ungewöhnlichen Zahlungsanweisungen in digitalen Besprechungen. In beiden Fällen reicht es nicht, dass KI beeindruckende Ergebnisse liefert. Entscheidend ist, ob Menschen und Institutionen prüfen können, was echt, belastbar und sicher ist.