Bundesregierung nimmt sexualisierte Deepfakes ins Visier

Die Bundesregierung rückt sexualisierte Deepfakes und weitere Formen digitaler Gewalt stärker in den Fokus. Der Vorstoß trifft auf eine Debatte, in der viele Menschen strengere Vorgaben für künstlich erzeugte Videos verlangen. Nach der Studie „Video Trends 2026“ der Landesmedienanstalten begegnen große Teile der Bevölkerung bereits KI-Clips im Netz. Viele zweifeln inzwischen häufiger daran, ob Videos echt sind.

KI-Videos werden zum Alltag

Bewegtbild ist für fast alle Menschen in Deutschland täglicher Medienalltag. Von den Menschen ab 14 Jahren sehen 93 Prozent jeden Tag Videos. Klassisches Fernsehen bleibt dabei ein wichtiger Bezugspunkt. Für viele, besonders für jüngere Nutzerinnen und Nutzer, prägen aber soziale Netzwerke und Videoplattformen den Konsum.

Dort tauchen künstlich erzeugte oder stark bearbeitete Clips besonders häufig auf. Laut der Studie haben 79 Prozent der Befragten bereits Kontakt mit KI-Videos gehabt. Besonders oft werden TikTok und Instagram genannt. Unter denjenigen, die solche Inhalte schon gesehen haben, hielten 68 Prozent mindestens ein künstlich erzeugtes Video irrtümlich für authentisch.

Die Ergebnisse zeigen auch eine Lücke zwischen Selbstbild und tatsächlicher Erfahrung. Mehr als die Hälfte der Befragten traut sich zu, KI-Inhalte sicher zu erkennen. Dennoch berichten auch viele aus dieser Gruppe von Täuschungen. Bisherige Hinweise wie merkwürdige Gesichtsausdrücke, unnatürliche Bewegungen oder fehlerhafte Details können mit technischer Weiterentwicklung seltener werden.

Mehrheit will klare Kennzeichnung

Der Vertrauensverlust ist deutlich messbar. 81 Prozent der Teilnehmerinnen und Teilnehmer geben an, häufiger an der Echtheit von Videos zu zweifeln. Jeweils etwa drei Viertel sorgen sich vor Täuschung, schenken Bewegtbildern weniger Glauben als früher oder prüfen Inhalte kritischer.

Die Forderungen an Politik und Plattformen fallen entsprechend klar aus. Rund neun von zehn Befragten sprechen sich für eine allgemeine Kennzeichnung von KI-Inhalten aus. Ebenfalls breite Zustimmung gibt es für Angaben dazu, wie groß der KI-Anteil an einem Inhalt ist. Für Nachrichten und politische Formate wünschen sich viele besonders klare Regeln. 83 Prozent befürworten ein Verbot bestimmter Deepfake-Formen.

Damit berührt der Vorstoß gegen sexualisierte Deepfakes einen Bereich, in dem der Schutz vor Täuschung, Persönlichkeitsverletzungen und digitaler Gewalt zusammenläuft. Sexualisierte Fälschungen können Betroffene auch dann schwer belasten, wenn die Bilder oder Videos vollständig künstlich erzeugt sind. Die politische Auseinandersetzung dreht sich deshalb nicht nur um Transparenz, sondern auch um Grenzen für besonders schädliche Anwendungen.

Politische Inhalte wandern in Unterhaltungsformate

Die Studie beschreibt zugleich, wie sich politische Information im Netz verschiebt. Gesellschaftliche und politische Themen erscheinen nicht mehr nur in klassischen Nachrichtenangeboten. Sie werden zunehmend nebenbei in Inhalten von Creatorinnen und Creatorn aufgegriffen, die eigentlich Unterhaltung, Sport oder Kultur anbieten.

87 Prozent der Nutzerinnen und Nutzer sozialer Netzwerke begegnen solchen Inhalten regelmäßig. Bei Menschen unter 30 Jahren ist der Einfluss besonders groß: 45 Prozent betrachten Creatorinnen und Creator als wichtige Quelle für Informationen. Die Landesmedienanstalten sehen dabei Risiken, weil viele Absenderinnen und Absender keine journalistische Ausbildung haben. Genannt werden unter anderem gezielte Beeinflussung und starke Vereinfachung.

Auf problematische Inhalte reagieren viele eher ausweichend als prüfend. 55 Prozent klicken solche Beiträge weg. 41 Prozent suchen aktiv nach anderen Quellen, um Informationen abzugleichen.

Debatte über Verantwortung im Netz

Parallel zur Diskussion über KI und Deepfakes wächst der Druck, digitale Dienste insgesamt robuster zu machen. Das Bundesamt für Sicherheit in der Informationstechnik stellte nach Bekanntwerden einer PHP-Sicherheitslücke bislang keine Angriffe fest, warnte aber, die Gefahr sei noch nicht vorbei. Präventiv abgeschaltete Webseiten der Bundesverwaltung waren größtenteils wieder erreichbar.

IT-Fachleute fordern mehr Verbindlichkeit bei Cybersicherheit. Der Deutsche Städte- und Gemeindebund sieht besonders Bund und Länder in der Pflicht, Strukturen für schnelle Reaktionen in Krisen aufzubauen. Vertreter aus der IT-Sicherheit sprechen sich zudem dafür aus, Betreiber bei fahrlässigem Umgang mit Risiken stärker haftbar zu machen, vor allem wenn Kundendaten betroffen sind.

Die Auseinandersetzung um Deepfakes ist damit Teil einer größeren politischen Frage: Wer digitale Inhalte verbreitet oder technische Infrastruktur betreibt, soll Verantwortung für Schutz, Transparenz und schnelle Reaktion übernehmen. Die hohe Zustimmung zu Kennzeichnungspflichten und Verboten bestimmter Deepfakes zeigt, dass viele Bürgerinnen und Bürger dafür schärfere Regeln erwarten.