Deepfakes verschärfen Streit über KI-Haftung

KI-generierte Deepfakes und stimmliche Nachahmungen werden für Künstlerinnen und Künstler zu einem konkreten Rechtsproblem. Im Musikmarkt können Unbefugte fremde Profile nutzen, künstlich erzeugte Songs veröffentlichen und damit Einnahmen abzweigen. Die EU-KI-Verordnung setzt bei Deepfakes vor allem auf Kennzeichnung, ein generelles Verbot sieht sie nicht vor. Damit verschiebt sich die Debatte zunehmend auf Kontrolle, Haftung und die Frage, ob Betroffene erst nach einem Schaden reagieren können.

Fremde Songs auf echten Profilen

Die Berliner Musikerin Tara Nome Doyle bemerkte den Missbrauch, als ihr Management eine Benachrichtigung über angeblich bevorstehende Veröffentlichungen erhielt. Neue Musik hatte sie nicht geplant. Für sie war schnell klar, „dass es sich um Betrug handeln muss“.

Der Vorgang zeigt eine Schwachstelle im digitalen Musikvertrieb. Wer Musik über Vertriebsdienste hochlädt, kann nach den geschilderten Abläufen angeben, auf welchem Künstlerprofil ein Titel erscheinen soll. Eine wirksame Prüfung der Identität findet dabei offenbar nicht in jedem Fall statt. Anschließend landen die Dateien auf Streaming-Plattformen.

Generative KI erleichtert diese Masche. Betrügerinnen und Betrüger können Musik produzieren, die an den Stil einer realen Person erinnert. Wird sie in Empfehlungslisten oder auf bekannten Profilen ausgespielt, können Hörerinnen und Hörer die Täuschung zunächst übersehen. Die Erlöse fließen dann nicht an die tatsächlichen Künstlerinnen und Künstler. Doyle berichtete zudem, dass für die Bewerbung KI-veränderte Bilder von ihr eingesetzt worden seien. Eine Abbildung habe sie leicht bekleidet am Strand gezeigt. Sie nannte das „eklig“.

Kennzeichnung statt Verbot

In der EU-KI-Verordnung behandelt Artikel 50 Deepfakes ausdrücklich. Der Ansatz ist jedoch nicht, solche Inhalte grundsätzlich zu untersagen. Vorgesehen ist vielmehr eine Offenlegung, wenn Inhalte künstlich erzeugt oder manipuliert wurden. Die Rechtswissenschaftlerin Alma Eggers verweist darauf, dass ein pauschales Verbot mit Grundrechten kollidieren könnte, etwa mit Meinungs- und Pressefreiheit.

Für betrügerische Veröffentlichungen löst diese Regel aber nicht das Kernproblem. Wer KI-Musik unter falschem Namen hochlädt, wird eine Kennzeichnung kaum freiwillig anbringen. Betroffene müssen deshalb auf andere Rechtsgebiete zurückgreifen. In Deutschland kommen nach Einschätzung von Eggers unter anderem das Kunsturheberrecht, allgemeine Persönlichkeitsrechte und Datenschutzregeln in Betracht. Deepfakes können demnach auch als personenbezogene Daten eine Rolle spielen.

Diese Instrumente greifen jedoch meist erst, wenn ein Inhalt bereits veröffentlicht wurde. Dann können strafrechtliche oder zivilrechtliche Schritte folgen. Für weniger bekannte Musikerinnen und Musiker kann das hohe Kosten, Zeitaufwand und Beweisschwierigkeiten bedeuten. Präventiver Schutz für die eigene Stimme besteht in Deutschland bislang nicht in vergleichbarer Form.

Dänemark geht weiter

Ein neuer Ansatz kommt aus Dänemark. Dort soll das Recht künftig stärker gegen missbräuchliche Deepfakes schützen. Nach Darstellung von Eggers umfasst die Regelung einerseits einen allgemeinen Schutz für alle Menschen und andererseits besondere Rechte für ausübende Künstlerinnen und Künstler. Bild und Stimme werden damit stärker wie immaterielle Güter behandelt.

Das hätte für den Musikmarkt weitreichende Folgen. Der charakteristische Klang einer Stimme könnte ähnlich abgesichert werden wie ein geschütztes Werk. In den USA versuchen Stars wie Taylor Swift bereits, einzelne stimmtypische Formulierungen markenrechtlich abzusichern. In Deutschland ist dieser Weg nach derzeitigem Stand nicht eröffnet.

Eggers sieht in der dänischen Lösung einen möglichen Orientierungspunkt. Ein einheitlicher Mindeststandard wäre nach ihrer Einschätzung am ehesten auf EU-Ebene realistisch. Weltweite Regeln hält sie wegen unterschiedlicher Rechtstraditionen derzeit für kaum erreichbar.

Kreative Arbeit unter Druck

Die Auseinandersetzung reicht über die Musik hinaus. Auch Zeichner, Illustratorinnen und andere Kreative müssen sich mit KI-Werkzeugen auseinandersetzen. Der Frankfurter Porträtzeichner Alfred Schüssler setzt weiter auf handwerkliche Arbeit und Originale. Bei Veranstaltungen fertigt er schnelle Porträts an; sein Argument ist schlicht: „Die Leute wollen Originale.“

Gerade dieser Gegensatz prägt die politische Debatte. KI kann Inhalte massenhaft erzeugen, verändern und imitieren. Gleichzeitig bleiben Verantwortung und Kontrolle oft ungeklärt. Für die Regulierung geht es deshalb nicht nur um technische Transparenz, sondern auch um Haftung entlang der Kette: bei Erzeugung, Vertrieb, Plattformbetrieb und kommerzieller Nutzung. Der Streit um Deepfakes zeigt, dass Kennzeichnung allein Betroffene nicht immer schützt, wenn Missbrauch bereits im System angelegt ist.