Neue Initiativen sollen KI-Missbrauch begrenzen

Das Bundeskulturministerium und Google.org unterstützen ein Projekt zum Schutz historischer Digitalbestände vor KI-Fälschungen. Parallel legt das World Wide Web Consortium, kurz W3C, Vorschläge vor, um handelnde KI-Agenten im Web besser abzusichern. Beide Initiativen zeigen, wie stark der Regulierungs- und Standardisierungsdruck rund um Künstliche Intelligenz wächst: Es geht um die Echtheit historischer Dokumente, um sichere Berechtigungen für automatisierte Webdienste und um mehr Kontrolle für Nutzerinnen und Nutzer.

Schutz für historische Dokumente

Kulturstaatsminister Wolfram Weimer und Google.org fördern die „Global Authentic Memory Initiative“, kurz GAMI. Das Vorhaben soll Archiven, Museen und Gedenkstätten helfen, digitalisierte historische Bestände gegen Manipulationen durch generative KI abzusichern. Das Bundeskulturministerium stellt dafür 100.000 Euro bereit, Google.org beteiligt sich mit 300.000 Euro.

GAMI setzt auf ein offenes und anbieterunabhängiges Verfahren. Historische Dokumente sollen dabei mit einem digitalen Fingerabdruck, kryptografischer Absicherung, Zeitstempel und institutioneller Signatur versehen werden. Auf diese Weise soll später nachvollziehbar bleiben, ob ein digitales Objekt tatsächlich aus einer anerkannten Einrichtung stammt und seit der Signierung unverändert ist.

Hintergrund ist die Sorge von NS-Gedenkstätten vor einer wachsenden Verunsicherung im Umgang mit historischen Belegen. Einrichtungen warnten bereits im Januar vor dem Risiko, dass echte Dokumente als angebliche KI-Produkte abgewertet werden könnten. Umgekehrt könnten synthetische Fälschungen als authentische Zeugnisse ausgegeben werden. Historische Objekte enthalten anders als viele aktuelle digitale Medien häufig keine eingebetteten Herkunftsinformationen.

Das Projekt stammt von der bayerischen Authentic Memory gUG, einer Ausgründung der Technischen Universität München und der Ludwig-Maximilians-Universität München. Geleitet wird es von Gründer Pablo Toussaint. Erste Tests liefen bereits mit den KZ-Gedenkstätten Dachau und Flossenbürg.

W3C will Grenzen für KI-Agenten

Auch auf technischer Ebene rücken strengere Leitplanken in den Mittelpunkt. Das W3C-Strategieteam beschreibt in einem neuen Diskussionspapier, wie Webstandards auf KI-Agenten reagieren könnten, die nicht mehr nur Informationen anzeigen, sondern selbst Handlungen im Auftrag von Menschen ausführen. Der Text wurde am 21. Oktober veröffentlicht und soll ein Treffen des W3C vorbereiten. Die offizielle Vorstellung ist für den 29. Oktober vorgesehen.

Die Vorschläge sind noch keine beschlossenen Standards. Sie zeigen aber, welche Risiken das W3C für besonders relevant hält. Dazu zählt vor allem Prompt Injection. Dabei können Anweisungen in gewöhnlichem Webtext, in Dokumenten oder in Antworten angebundener Werkzeuge einen Agenten zu unerwünschten Handlungen bewegen. Gefährlich wird das, wenn der Agent zugleich über weitreichende Rechte verfügt, etwa Zugriff auf persönliche Daten oder interne Unterlagen.

Das W3C sieht deshalb Bedarf für klarere Bedrohungsmodelle. Sie sollen beschreiben, welche Vertrauensgrenzen für Agenten, browserinterne KI-Funktionen und WebMCP gelten. Dabei geht es auch um manipulierte Werkzeuge, delegierte Befugnisse und die Frage, ob ein Agent eigene Aktionen selbst freigeben darf.

Zustimmung soll nachvollziehbar werden

Ein Schwerpunkt liegt auf Nutzerkontrolle. Ein Auftrag an einen Agenten soll nicht automatisch jede spätere Handlung erlauben. Wer einen Agenten etwa nach Reiseoptionen suchen lässt, hat damit noch keinen Kauf eines Tickets freigegeben. Bei riskanten oder finanziell relevanten Vorgängen sollen Nutzerinnen und Nutzer erkennen können, welche konkrete Aktion ansteht.

Für Zahlungen nennt das W3C unter anderem Ausgabenlimits, widerrufbare Rechte, eindeutige Nachweise und nachvollziehbare Wege für Beschwerden. Zugleich warnt das Papier vor zu vielen Abfragen. Wenn jede Kleinigkeit bestätigt werden muss, droht die Gefahr, dass Menschen wichtige Sicherheitsdialoge nur noch routinemäßig abnicken.

Eine vorgeschlagene Arbeitsgruppe soll daher Muster für Zustimmung und Übergaben an Menschen entwickeln. Weitere W3C-Gruppen sollen prüfen, wie Agenten delegierte Rechte nachweisen können, ohne selbst Passwörter oder Zugangsdaten zu besitzen. Als mögliche Bausteine werden überprüfbare digitale Nachweise und dezentrale Identifikatoren genannt.

Debatte über Plattformen und Verantwortung

Das W3C betont außerdem, dass Barrierefreiheit nicht zum Kanal für versteckte Agentenanweisungen werden soll. Informationen in HTML und ARIA sollen weiterhin Menschen dienen, insbesondere Nutzerinnen und Nutzern assistiver Technik. Technische Hinweise für Agenten dürften die Bedienbarkeit für Menschen nicht verschlechtern.

Auch Datenschutzfragen werden umfassender. KI-Agenten können Informationen über Websites, Sitzungen und eigene Speicher hinweg bewegen. Deshalb sollen künftige Regeln auch lokale und cloudbasierte Verarbeitung sowie ein mögliches Arbeiten ohne Agentengedächtnis einbeziehen.

Politisch bleibt der Druck auf große Plattformen ebenfalls hoch. Weimer hält trotz der Kooperation mit Google.org an Plänen für eine Digitalabgabe für große Plattformunternehmen fest. Einnahmen daraus sollen der Medien- und Kulturlandschaft sowie dem Lokaljournalismus zugutekommen. Die aktuellen Initiativen markieren damit keinen Abschluss, sondern den nächsten Schritt in einer breiteren Auseinandersetzung über KI-Sicherheit, Herkunftsnachweise und Verantwortung im digitalen Raum.