Missbrauch von DeepFakes auf Social-Media: Schutz der Persönlichkeitsrechte ist Plattformpflicht

Pressemitteilung von Donata Vogtschmidt und Anne-Mieke Bremer

„Angesichts der jüngsten Welle sexualisierter Deepfakes und der missbräuchlichen Nutzung von Nutzerfotos insbesondere durch das KI-Tool ‚Grok‘ von Elon Musk fordere ich endlich eine konsequente Plattformregulierung.Der Trend, Profilbilder oder Alltagsfotos mit KI-Werkzeugen ohne Einwilligung der betroffenen Person in sexualisierte Darstellungen zu überführen, ist kein technisches Versehen, sondern das Resultat problematischer Anreize wie etwa ein ‚spicy mode‘, um gezielt sexualisierte Darstellungen zu erzeugen“, erklärt Anne-Mieke Bremer, Sprecherin für Games und Digitale Infrastruktur für die Fraktion Die Linke im Bundestag. Ihre Kollegin Donata Vogtschmidt, Obfrau im Digitalausschuss und Sprecherin für Digitalpolitik und Cybersecurity ergänzt: „Die Verbreitung sexualisierter Inhalte ohne Einwilligung erfolgt auf großen Plattformen wie X, die damit EU-Recht verletzen und etwa der Pflicht der Risikominderung zum Schutz vor digitaler Gewalt gemäß des Digital Services Act offensichtlich nicht nachkommen. Es ist inakzeptabel, Nutzer*innen für Sicherheitslücken verantwortlich zu machen, die durch die Plattformen selbst geschaffen wurden und so zu digitaler Gewalt führen.“ Anne-Mieke Bremer stellt klar: „Wer Betroffenen rät, weniger Fotos zu teilen, normalisiert digitale Gewalt, anstatt Konzerne wie X und xAI zur Verantwortung zu ziehen. Wer die Technologie bereitstellt und von der Verweildauer auf seiner Plattform profitiert, muss auch die uneingeschränkte Haftung für die Sicherheit seiner Infrastruktur übernehmen.“

Donata Vogtschmidt und Anne-Mieke Bremer fordern:

• Soziale Medien wie X müssen ihrer Pflicht zum Schutz vor geschlechtsspezifischer Gewalt und der Persönlichkeitsrechte gemäß europäischem Recht endlich nachkommen, was sie kaum von sich aus tun. Daher müssen Regelverletzungen stärker geprüft werden und Strafzahlungen zufolge haben, die Konzerne wie jene des Musk-Imperiums auch empfindlich treffen.
• Die Erstellung und Verbreitung bildbasierter sexualisierter Gewalt muss explizit unter Strafe gestellt werden.
• KI-Werkzeuge und Apps, die explizit auf die Erstellung bildbasierter sexualisierter Gewalt ausgerichtet sind, müssen verboten werden.
• Die IT-Produkthaftung erstreckt sich zwar inzwischen auch auf KI, muss jedoch auf digitale Gewalt erweitert werden. Denn Persönlichkeitsrechte sind als Standard unverhandelbar und ihr Schutz ein Teil der Cybersicherheit. Das Recht am eigenen Bild und der Schutz vor sexualisierter Gewalt müssen integraler Bestandteil des Produktdesigns sein.