Schärfere Regeln gegen sexualisierte Deepfakes geplant

Die Bundesregierung arbeitet an strengeren Vorgaben gegen den Missbrauch künstlicher Intelligenz. Besonders im Fokus stehen sexualisierte Deepfakes, also manipulierte oder künstlich erzeugte Darstellungen mit sexuellem Bezug. Die geplante Verschärfung reiht sich in eine breitere politische Debatte ein: Neben dem Schutz vor konkreten Übergriffen geht es zunehmend auch darum, ob besonders leistungsfähige KI-Systeme früher und härter reguliert werden müssen.

Schutz vor digitaler Bloßstellung

Sexualisierte Deepfakes können Persönlichkeitsrechte massiv verletzen. Betroffene werden in Situationen gezeigt, die es so nicht gegeben hat. Solche Inhalte lassen sich mit modernen KI-Werkzeugen immer leichter herstellen und verbreiten. Genau hier setzt die politische Debatte über schärfere Regeln an.

Der Kern der neuen Entwicklung ist eine konkretere Ausrichtung auf sexualisierte Fälschungen. Damit rückt eine Form des KI-Missbrauchs in den Vordergrund, die häufig Einzelpersonen trifft und sich schnell über Plattformen, Messenger und soziale Netzwerke verbreiten kann. Für die rechtliche Praxis ist entscheidend, wie Herstellung, Besitz, Verbreitung und mögliche kommerzielle Nutzung solcher Inhalte künftig eingeordnet werden.

Die Diskussion betrifft nicht nur Strafverfolgung. Auch Plattformen und technische Anbieter geraten stärker in den Blick. Bei Deepfakes stellt sich regelmäßig die Frage, wie schnell Inhalte gelöscht werden müssen, wie Betroffene Unterstützung erhalten und welche technischen Nachweise für KI-generierte Inhalte verlangt werden können.

Forderungen nach früheren Eingriffen

Parallel zur Debatte über Deepfakes wächst der Druck auf die Politik, KI-Systeme schon in früheren Entwicklungsphasen zu kontrollieren. Die Nichtregierungsorganisation ControlAI warnt vor Risiken sehr weit entwickelter Systeme. Ihr deutscher Leiter Benjamin Balde beschreibt Superintelligenz als KI, die Menschen in allen Bereichen übertreffen könnte und dadurch mächtiger wäre als einzelne Personen, Unternehmen oder Staaten.

Balde verweist darauf, dass KI heute bereits in einzelnen Bereichen sehr stark ist. Als Beispiel nennt er Programmieraufgaben. Nach seiner Einschätzung zielen führende Entwickler darauf, die KI-Forschung selbst zu automatisieren. Gelinge das, könne eine Entwicklung entstehen, bei der Systeme immer leistungsfähigere Nachfolger hervorbringen.

ControlAI fordert deshalb Grenzen für Superintelligenz und für eine allgemeine rekursive Selbstverbesserung. Gemeint sind Systeme, die nicht nur in einem eng begrenzten Bereich arbeiten, sondern breit einsetzbar sind und ihre eigene Weiterentwicklung vorantreiben könnten. Wer trotz eines Verbots daran arbeite, solle bestraft werden. Zudem verlangt die Organisation Schutz für Hinweisgeberinnen und Hinweisgeber, die illegale Projekte offenlegen.

EU-Regeln reichen Kritikern nicht

Der europäische AI Act setzt bereits einen Rahmen für künstliche Intelligenz. Aus Sicht von ControlAI greift er jedoch zu spät, wenn besonders riskante Systeme erst beim Markteintritt reguliert werden. Balde argumentiert, dass Probleme schon während des Trainings entstehen können. Die Organisation gibt an, in den vergangenen zwei Jahren mit mehr als 400 Abgeordneten in den USA, Kanada, Großbritannien und Deutschland gesprochen zu haben.

In den USA und in Großbritannien liegen demnach bereits Gesetzesvorschläge vor, an deren Ausarbeitung ControlAI beteiligt war. Sie zielen nicht auf ein pauschales Verbot generativer KI. Spezialisierte Anwendungen in Medizin, Materialforschung, autonomem Fahren oder anderen engen Bereichen sollen weiterentwickelt werden können. Eingedämmt werden soll vor allem die Entwicklung allgemein einsetzbarer, autonomer Systeme, die schwer kontrollierbar wären.

Balde spricht von einer starken Wettbewerbsdynamik zwischen KI-Unternehmen und zwischen Staaten. Wer freiwillig langsamer oder vorsichtiger vorgehe, könne im Markt Nachteile haben. Deshalb hält ControlAI Selbstregulierung für unzureichend und fordert staatliche Vorgaben, die für alle Anbieter gelten.

Einordnung

Die geplante Verschärfung gegen sexualisierte Deepfakes betrifft eine konkrete und bereits sichtbare Form des KI-Missbrauchs. Die weitergehende Debatte über Superintelligenz zielt dagegen auf mögliche künftige Risiken. Beide Linien zeigen, dass KI-Politik nicht mehr nur Innovation ermöglichen soll. Sie soll zugleich Schutzmechanismen schaffen, bevor Schäden entstehen oder sich kaum noch begrenzen lassen.