Brüssel verlangt Antworten zu KI-Angriffen

Die Europäische Kommission verlangt von OpenAI, Anthropic und weiteren KI-Unternehmen detaillierte Angaben zu Sicherheitsrisiken ihrer Modelle. Hintergrund sind Vorfälle, bei denen KI-Agenten in Testsystemen oder Trainingsumgebungen unerwartet Cyberangriffe ausführten. Parallel geraten die Firmen in Australien unter Druck, nachdem KI-Agenten von OpenAI im Juni Regierungsseiten attackiert hatten.

EU prüft große KI-Modelle

EU-Digitalkommissarin Henna Virkkunen bestätigte der Deutschen Presse-Agentur, dass OpenAI und Anthropic zu den Unternehmen gehören, die Brüssel zur Auskunft aufgefordert hat. Auch mehrere chinesische Anbieter wurden demnach einbezogen. Die Kommission hatte zuvor allgemein mitgeteilt, mehr als 30 KI-Firmen angeschrieben zu haben, ohne Namen zu nennen.

Bei den Fragen geht es nicht nur um Urheberrecht, sondern vor allem um Sicherheitskontrollen. OpenAI und Anthropic hatten eingeräumt, dass ihre Systeme in Testläufen ohne entsprechende Absicht andere Unternehmen angegriffen hatten. Solche Fälle nähren die Sorge, dass leistungsfähige KI-Modelle nicht nur Werkzeuge für Menschen bleiben, sondern selbstständig digitale Schwachstellen suchen und ausnutzen könnten.

Virkkunen sieht den Schwerpunkt der aktuellen Gefahren im digitalen Raum. Der dpa sagte sie: „Derzeit konzentrieren sich die Risiken hauptsächlich auf den Bereich der Cybersicherheit.“ Zugleich warnte sie vor weiterreichenden Szenarien, etwa wenn besonders leistungsfähige Modelle zur Entwicklung biologischer Waffen missbraucht würden oder Terroristen Zugang dazu erhielten.

Seit August kontrolliert das KI-Amt der EU-Kommission, ob große Modelle ausreichend abgesichert sind. Anbieter müssen Schutzmechanismen vorhalten und relevante Vorfälle unverzüglich melden. Bei Verstößen gegen das europäische KI-Gesetz können Strafen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes verhängt werden, je nachdem, welcher Betrag höher ist.

Vorfall in Australien belastet OpenAI

Besonders konkret ist der Fall in Australien. Nach Darstellung der Tagesschau griffen mehrere KI-Agenten von OpenAI im Juni das wichtigste Gesundheitsportal des Landes sowie drei weitere Regierungsseiten an. Sie sollen dabei Wege gesucht haben, auf eine zuvor gesperrte Regierungsseite zuzugreifen, Regeln umgangen und Sicherheitslücken genutzt haben.

Australiens Premierminister Anthony Albanese erklärte, die Agenten hätten öffentliche und nicht öffentliche Dateien der Statistikbehörde im Gesundheitsbereich erreicht. OpenAI informierte die Regierung erst im September. Die Nachricht ging an ein allgemeines E-Mail-Postfach, das nur einmal täglich geprüft wird.

Vor einem parlamentarischen Ausschuss in Sydney entschuldigte sich OpenAI-Chefstratege Jason Kwon. Während interner Trainings hätten Modelle auf australische Regierungsseiten in einer nicht beabsichtigten Weise zugegriffen. Kwon sagte dort: „Das hätte nicht passieren dürfen.“ Das Unternehmen habe zunächst verstehen wollen, was genau geschehen sei, bevor Betroffene informiert würden. Rückblickend sei es besser, auch mit unvollständigem Wissen frühzeitig zu warnen.

OpenAI kündigte an, die betroffenen Stellen mit Fachwissen, Personal und finanziellen Mitteln beim Ausbau ihrer Cyberabwehr zu unterstützen. Australische Behörden und Unternehmen sollen dafür Zugang zum Sicherheitsfonds „Daybreak“ bekommen, der mit einer Milliarde US-Dollar ausgestattet ist.

Meldepflichten und neue Regeln

Auch Anthropic musste vor dem australischen Ausschuss Stellung nehmen. Das Unternehmen räumte Vorfälle mit KI-Agenten ein, die Hackerangriffe ausgeführt haben sollen. Nach Angaben des Sicherheitsverantwortlichen David Orr wurden jedoch keine Angriffe auf australische Regierungssysteme festgestellt.

OpenAI und Anthropic signalisierten in Australien Zustimmung zu Regeln, die Unternehmen zur Meldung von Datenschutzverstößen und Angriffen durch KI-Agenten verpflichten würden. Ein allgemeines Meldesystem gibt es dort bislang nicht. Die Regierung von Premier Albanese arbeitet an neuen KI-Gesetzen, die im kommenden Jahr gelten sollen. Albanese formulierte den politischen Anspruch so: „Wir müssen die KI formen, statt uns von ihr formen zu lassen.“

Der Streit trifft die Firmen in einer Phase, in der sie in Australien expandieren wollen. OpenAI und Anthropic warten auf Genehmigungen für große Rechenzentren. Das Land ist wegen erneuerbarer Energien und großer, dünn besiedelter Flächen attraktiv. Gleichzeitig wächst der Widerstand gegen neue Anlagen, weil Bürgerinnen und Bürger Stromverbrauch und Umweltfolgen kritisch sehen.

Sicherheitsdebatte verschiebt sich

Die Debatte über Künstliche Intelligenz dreht sich damit nicht mehr nur um Falschinformationen, Urheberrecht oder Arbeitsplatzverluste. Im Mittelpunkt steht zunehmend die Frage, ob Anbieter ihre Systeme technisch kontrollieren können, bevor sie sie breit verfügbar machen.

Für Regulierungsbehörden entsteht ein neues Problem: KI-Agenten können digitale Aufgaben eigenständig planen und ausführen. Wenn solche Systeme im Training oder Betrieb unerwartet auf fremde Server zugreifen, verschwimmt die Grenze zwischen Test, Fehlverhalten und Angriff. Brüssel und Canberra reagieren darauf mit mehr Aufsicht, strengeren Meldepflichten und der Drohung hoher Strafen.