Vellocet Audio

Rechtliche Herausforderungen im Zusammenhang mit KI-Stimmen

KI-Anwendungen wie künstlich erzeugte Stimmen machen immer wieder Schlagzeilen. Erst kürzlich hat OpenAI, die Firma hinter ChatGPT, eine ihrer KI-Stimmen deaktiviert, weil sie Scarlett Johansson zu sehr ähnelte. Diese hatte zuvor eine Anfrage von OpenAI, ihre Stimme zu klonen, abgelehnt und das Unternehmen nach der Veröffentlichung der KI-Stimme verklagt.

Die Politik und insbesondere die Gesetzgebung tun sich schwer, mit der rasanten technologischen Entwicklung Schritt zu halten. Spätestens seit Voice Cloning und KI-generierter „Kunst“ stellen sich nicht nur bei Synchronsprechern und anderen Künstlern viele Fragen zur rechtlichen Einordnung. Mit diesem Beitrag möchte ich etwas Licht ins Dunkel bringen.

Keine Rechtsberatung

Dieser Artikel stellt keine Rechtsberatung dar. Ich bin nicht befugt, rechtliche Tips zu geben, sondern stelle hier nur den allgemein frei verfügbaren rechtlichen Zustand zusammengefasst dar. Hier geht es weiterhin auch nur um das Thema „Voice Cloning“ – denn dort werden neuronale Netze mit bereits vorhandenen und u.U. geschützten Inhalten trainiert. Der Beitrag ist darüber hinaus als Ergänzung meines vorhergehenden Artikels zum Thema KI-Stimmen zu sehen.

Die Themen, die wir heute ansprechen sind:

• Sind Stimmen rechtlich geschützt?
• Welche KI-Gesetze gibt es bereits?
• Angebote und Lösungen für Sprecher/innen

Sind Stimmen rechtlich geschützt?

Gibt es in Deutschland einen rechtlichen Schutz der eigenen Stimme? Das deutsche Recht ist da eindeutig:

1. Die Stimme eines Menschen ist in Deutschland zwar nicht durch das Urheberrecht geschützt, jedoch durch die DSGVO und das Persönlichkeitsrecht¹.
2. Das Training einer KI mit menschlichen Stimmen fällt unter das Persönlichkeitsrecht² („Recht am gesprochenen Wort“) und das Urheberrecht bzw. Leistungschutzrecht.
3. Auch die DSGVO schützt persönliche Daten vor unbefugtem Zugriff (d.h.: Nutzung als Trainingsdaten) und greift daher auch bei Stimmen¹.

Zusammengefasst kann man also sagen, dass sowohl das Persönlichkeitsrecht als auch das Urheberrecht den Schutz von menschlichen Stimmen regeln und deren unautorisierte Nutzung einschränken können. Diese Rechtsgrundlagen stellen sicher, dass Personen die Kontrolle über die Nutzung ihrer Stimmen behalten und dass kreative Leistungen geschützt werden.

Wer also unautorisiert Aufnahmen anderer Menschen benutzt, um damit ein neuronales Netz zu füttern und dieses mit Gewinnabsicht betreibt, macht sich strafbar. Umgekehrt können z.B. Synchronsprecher über ein „Opt-Out“ entscheiden, dass ihre Aufnahmen nicht zu Trainingszwecken verwendet werden dürfen.

Welche KI-Gesetze gibt es bereits?

Die Regulierung von künstlicher Intelligenz steckt noch in den Kinderschuhen. Einige Länder haben jedoch schon Gesetze oder Gesetzentwürfe verabschiedet, die den Einsatz von KI regeln. Diese haben auch Implikationen für die Nutzung und Erzeugung künstlicher Stimmen und sind daher insbesondere für professionelle Sprecher und Sprecherinnen wichtig.

Europäische Union

1. EU AI Act:
   • Der AI Act der Europäischen Union, der 2026 in Kraft tritt, zielt darauf ab, KI-Systeme umfassend zu regulieren, einschließlich solcher, die Sprachsynthese verwenden.
   • Der Entwurf sieht eine Risiko-basierte Klassifizierung vor, und Sprachsynthese-Systeme könnten unter die Kategorie „Hochrisiko-KI-Systeme“ fallen, wenn sie in Bereichen wie Bildung, Arbeitsrecht oder Strafverfolgung eingesetzt werden.
   • Anforderungen an Transparenz und menschliche Überwachung könnten für Sprachsynthese-Systeme relevant werden, um Missbrauch und Diskriminierung zu vermeiden.

Vereinigte Staaten

1. Algorithmic Accountability Act (Entwurf):
   • Der Algorithmic Accountability Act von 2019, der noch nicht verabschiedet wurde, würde Unternehmen verpflichten, ihre automatisierten Entscheidungssysteme, einschließlich Sprachsynthese, auf Bias und Diskriminierung zu überprüfen.
   • Während der Act nicht speziell auf Sprachsynthese abzielt, umfasst er alle Arten von automatisierten Entscheidungssystemen, die bedeutende Auswirkungen auf Einzelpersonen haben können.
2. Federal Trade Commission (FTC) Guidelines:
   • Die FTC hat Leitlinien und Warnungen für die Nutzung von KI und algorithmischen Systemen herausgegeben, die auch Sprachsynthese betreffen können.
   • Unternehmen könnten aufgefordert werden, transparent über die Nutzung von Sprachsynthese-Technologien zu sein und sicherzustellen, dass sie keine irreführenden oder schädlichen Praktiken anwenden.

China

1. Ethical Guidelines for AI:
   • China hat ethische Richtlinien für die Nutzung von KI, die auch Sprachsynthese umfassen können. Diese Richtlinien betonen die Notwendigkeit von Transparenz, Datenschutz und Fairness.
   • In der Praxis könnten Sprachsynthese-Systeme strengen Überwachungs- und Transparenzanforderungen unterliegen.

Internationale Prinzipien

1. OECD AI Principles:
   • Die OECD-Prinzipien für vertrauenswürdige KI betonen Transparenz, Fairness und Sicherheit und gelten auch für Sprachsynthese.
   • Diese Prinzipien ermutigen Länder und Unternehmen, Sprachsynthese-Technologien so zu gestalten und zu nutzen, dass sie die Menschenrechte respektieren und transparent sind.

Es gibt also durchaus schon Initiativen, um mit den rasant wachsenden Fortschritten der Technik Schritt zu halten. Was kann man nun aber als professioneller Synchronsprecher tun, um seine Werke zu schützen. Und was könnte man tun, falls man bereits eine Verletzung seiner Rechte bemerkt hat?

Angebote und Lösungen für Sprecher/innen

In Deutschland ist das allgemeine Persönlichkeitsrecht durch Artikel 2 Absatz 1 i.V.m. Artikel 1 Absatz 1 GG verfassungsmäßig garantiert und zivilrechtlich durch § 823 I BGB gedeckt⁴. Es schützt die Menschenwürde und das Recht auf freie Entfaltung der Persönlichkeit, einschließlich ideeller und vermögenswerter Interessen. Seit dem „Marlene Dietrich-Urteil“ des Bundesgerichtshofs (BGH) ist auch die Stimme durch dieses Recht geschützt, da sie wirtschaftlichen Wert haben kann, basierend auf der Bekanntheit und dem Ansehen der Person.

Unerlaubte Nutzung der Stimme kann verboten werden, wenn sie die persönliche Ehre oder materielle Interessen verletzt, auch durch KI. Die DSGVO schützt Stimmen als biometrische Daten, die nur im Ausnahmefall verarbeitet werden dürfen. Je nach Fall gibt es zwei rechtliche Wege, sich gegen „Stimmen-Klau“ zu wehren: das allgemeine Persönlichkeitsrecht und das Datenschutzrecht..

Wird die Stimme einer natürlichen Person ohne deren Erlaubnis verwendet, um eine KI-Stimme zu generieren, die diese Stimme nachahmt, kann sich die betroffene Person gerichtlich dagegen wehren und Unterlassungs- und Schadensersatzansprüche geltend machen, wie dies übrigens bereits in China der Fall war.

Zusätzlich stellen geeignete Lizenzverträge eine Möglichkeit zum Schutz und zur Vermarktung der Stimme dar. Zum Beispiel bietet die Künstlerin Grimes ihre Stimme gegen eine Beteiligung an den Einnahmen von KI-generierten Liedern an⁵. Einen Leitfaden zu geeigneten Vertragsbedingungen für Profisprecher findet Ihr z.B. beim VDS – Verband Deutscher Sprecher:innen.

Professionelle Sprecher für Euer nächstes Projekt findet Ihr übrigens auch bei uns – wir haben eine eigene Kartei mit über 100 Sprechern in 8 Sprachen.

• Facebook
• LinkedIn
• Per E-Mail senden

1. https://www.lto.de/recht/hintergruende/h/ki-stimme-nachahmen-rechtlicher-schutz-missbrauch-datenschutz-allgemeines-persoenlichkeitsrecht/#:~:text=Die%20menschliche%20Stimme,Betroffenen%20und%20Rechtsanwender. ↩︎
2. https://itmedialaw.com/kuenstliche-intelligenz-und-sprecherrechte-ein-paar-juristische-gedanken/#:~:text=Das%20Training%20einer%20KI%20mit,Zustimmung%20der%20betroffenen%20Personen%20einzuholen. ↩︎
3. https://www.lto.de/recht/hintergruende/h/ki-stimme-nachahmen-rechtlicher-schutz-missbrauch-datenschutz-allgemeines-persoenlichkeitsrecht/#:~:text=Die%20menschliche%20Stimme,Betroffenen%20und%20Rechtsanwender. ↩︎
4. https://www.juraforum.de/lexikon/allgemeines-persoenlichkeitsrecht#:~:text=Dar%C3%BCber%20hinaus%20sch%C3%BCtzt,hinsichtlich%20unerlaubter%20Handlungen. ↩︎
5. https://pitchfork.com/news/grimes-unveils-software-to-mimic-her-voice-and-announces-2-new-songs/ ↩︎