Schutz vor Deepfakes: Ein neues Gesetz gegen das große Unbekannte
Deepfakes, manipulierte Bilder, digitale Bloßstellung: Die Bundesjustizministerin Stefanie Hubig will mit einem Referentenentwurf zum Schutz vor digitaler Gewalt (öffnet in neuem Tab) Lücken im Strafrecht schließen. Doch eine aktuelle Antwort der Bundesregierung (öffnet in neuem Tab) auf eine Kleine Anfrage offenbart: Über das tatsächliche Ausmaß des Problems weiß der Staat erstaunlich wenig. Zwischen empirischer Unsicherheit und gesetzgeberischem Vorpreschen stellen sich Fragen, die weit über die Deepfake-Debatte hinausreichen. Weil die Politik hier im Datennebel agiert, ist digitale Resilienz im Alltag umso wichtiger. Wie sich Familien, Schulen und Gesellschaft konkret schützen können, diskutierten wir bei unseren WAKE UP (öffnet in neuem Tab)!-Events am 21. und 22. Mai 2026 mit Eltern und Schulklassen.
Vor wenigen Wochen hat Bundesjustizministerin Stefanie Hubig den Entwurf eines Gesetzes zur Stärkung des zivilrechtlichen und strafrechtlichen Schutzes vor digitaler Gewalt vorgelegt. Kernstück ist dabei die strafrechtliche Erfassung von sogenannten sexualisierten Deepfakes. Dabei handelt es sich um künstlich erzeugte, täuschend echte Bild- und Videoinhalte, die Personen ohne deren Einwilligung in intimen oder kompromittierenden Situationen zeigen. Ein entscheidender Kernpunkt: Künftig soll bereits das Herstellen (öffnet in neuem Tab) solcher Inhalte unter Strafe stehen, nicht erst deren Verbreitung.
Der gesetzgeberische Anlass ist offensichtlich: Generative Künstliche Intelligenz hat die Schwelle zur Manipulation drastisch gesenkt. Was vor wenigen Jahren noch Spezialwissen erforderte, gelingt heute mit frei verfügbaren Apps in Minuten. Die Plattform MrDeepFakes, inzwischen vom Netz, aber lange tonangebend, soll laut einer Kurzstudie des Büros für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB) (öffnet in neuem Tab) rund 70.000 nicht einvernehmliche sexualisierte Deepfakes mit milliardenfachen Aufrufen veröffentlicht haben. Schätzungen, wonach 96 bis 98 Prozent aller Deepfakes pornografischer Natur sind, kursieren seit Jahren, das TAB selbst weist allerdings darauf hin, dass die empirische Basis dünn ist.
Was die Bundesregierung wirklich weiß – und was nicht
Auch sonst stellt das Phänomen gerade die Politik vor Herausforderungen. Zur Frage, wie viele Fälle digitaler Persönlichkeitsrechtsverletzungen durch manipulierte Inhalte seit 2020 bekannt seien, lägen der Bundesregierung „keine über öffentliche Quellen hinausgehenden Informationen” vor, so die aktuelle Antwort auf eine Kleine Anfrage der AfD-Fraktion (Drucksache 21/5919) (öffnet in neuem Tab).
Der Grund dafür ist systemisch. Die Polizeiliche Kriminalstatistik (PKS) erfasst Straftaten entlang der Paragraphen des Strafgesetzbuchs, nicht entlang neuer Phänomene. Als reines polizeiliches Registrierwerkzeug bildet sie primär das gesetzliche Tatbestandsmerkmal ab, nicht aber die konkrete “Tatbegehungsweise” (den sogenannten Modus Operandi). KI-gestützte Betrugsdelikte etwa landen pauschal unter dem Schlüssel „Betrug”, ohne dass die technische Methode statistisch sichtbar wird. Ähnliches gilt für Verfahrensstatistiken von Staatsanwaltschaften und Strafgerichten, die als Länderstatistiken keine bundeseinheitliche Sondererfassung vorsehen. Dadurch entsteht eine erhebliche statistische Blindheit, die treffsichere gesetzliche Gegenmaßnahmen erschwert.
Belastbare Hinweise liefert die Dunkelfeldstudie “Lebenssituation, Sicherheit und Belastung im Alltag (öffnet in neuem Tab)” (LeSuBiA) des Bundeskriminalamts, die digitale Gewalt erstmals systematisch untersucht. Die 5-Jahres-Prävalenz der Kategorie „Manipulierte Bilder und Informationen” liegt dort bei 0,7 Prozent (Frauen) bzw. 0,8 Prozent (Männer). Dabei liegt die Anzeigequote bei digitaler Gewalt insgesamt bei mageren 2,4 bzw. 0,9 Prozent. Daraus lässt sich vor allem eines ableiten: Das Dunkelfeld ist groß, die Datenlage dünn.
Reicht das geltende Recht?
Genau dieser empirische Befund nährt die Kritik am Referentenentwurf. Konkret argumentieren der Deutsche Anwaltverein und Teile der Rechtswissenschaft (öffnet in neuem Tab): Das geltende Recht decke die meisten Fallkonstellationen bereits ab. Wer Persönlichkeitsrechte verletze, sehe sich Unterlassungs- und Schadensersatzansprüchen ausgesetzt, die direkt aus dem Allgemeinen Persönlichkeitsrecht abgeleitet sind. Ebenso sei das Recht am eigenen Bild seit jeher ein starkes zivilrechtliches Instrument, um Betroffenen effektiven Schutz zu bieten, sofern die Täter identifiziert werden können. Strafrechtlich greifen bereits Beleidigung, üble Nachrede, die Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen (§ 184k StGB) und im Falle pornografischer Inhalte einschlägige Spezialnormen.
Die Bundesregierung räumt diese Lage indirekt ein, verweist aber auf einen entscheidenden Punkt: Bislang war vor allem das Zugänglichmachen strafbar, nicht jedoch das reine Herstellen sexualisierter Deepfakes. Genau diese Lücke schließe der Entwurf. Ob das in der Praxis viel ändert, hängt wie so oft an einem anderen Problem: der tatsächlichen Durchsetzung.
Das wahre Problem: Vollzug, nicht Norm
Die Antwort der Bundesregierung enthält ein beachtliches Eingeständnis. Auf die Frage nach zivilrechtlicher Durchsetzbarkeit heißt es wörtlich: Die Identifizierung der schädigenden Person sei „ein zentrales Hindernis“, weil Täter „oft unter Pseudonymen bei den Diensteanbietern registriert (öffnet in neuem Tab)” seien. Ohne eine vorausgegangene Strafanzeige erhalten Betroffene selten eine ladungsfähige Anschrift der Täter. Sie wählen deshalb regelmäßig den zeitintensiven Umweg über das Strafverfahren, bevor sie überhaupt zivilrechtlich klagen können.
Gleichzeitig zeigt sich, dass nicht allein zusätzliche Datenspeicherung, sondern vor allem effizientere Zugriffsmechanismen und internationale Kooperation entscheidend sind. Hier wirkt zudem der parallel verhandelte Gesetzentwurf zur IP-Adressspeicherung. (öffnet in neuem Tab)Entscheidend wird dabei sein, eine rechtssichere und verhältnismäßige Ausgestaltung zu finden, die sowohl Ermittlungsinteressen als auch Grundrechte und technische Umsetzbarkeit berücksichtigt.
Eine weitere wichtige Norm ist das ab Sommer 2026 anwendbare E-Evidence-Paket (öffnet in neuem Tab) der EU. Es verpflichtet Diensteanbieter aus Drittstaaten, einen Empfangsbevollmächtigten in einem EU-Mitgliedstaat zu benennen, der Anordnungen zur Herausgabe elektronischer Beweismittel zügig umsetzen muss. Damit könnte die grenzüberschreitende Ermittlung erheblich beschleunigt werden – ein klarer digitalpolitischer Fortschritt, der in der öffentlichen Debatte oft übersehen wird.
Was Plattformen und KI-Anbieter ohnehin schon müssen
Auf europäischer Ebene besteht längst ein dichtes Regulierungsnetz, das die Bundesregierung selbst hervorhebt. Der Digital Services Act (DSA) verpflichtet sehr große Online-Plattformen, systemische Risiken zu analysieren und zu mindern. Wie ernst die EU-Kommission dies nimmt, zeigt das eingeleitete förmliche DSA-Verfahren gegen die Plattform X (vormals Twitter): Geprüft wird dort explizit, ob die Integration des KI-Chatbots „Grok“ und die damit einhergehende Welle an sexualisierten Deepfakes unzureichend bekämpft wurden.
Der DSA meint ausdrücklich auch die Kennzeichnung von Deepfakes und leicht zugängliche Meldefunktionen für Nutzerinnen und Nutzer. Plattformen haften nach allgemeinem Zivilrecht, wenn sie gemeldete rechtswidrige Inhalte nicht unverzüglich entfernen. Eine umfassende Evaluation des DSA ist von der EU-Kommission bis November 2027 vorgesehen; belastbare Aussagen über seine statistische Wirksamkeit gibt es bis dahin noch nicht.
Den entscheidenden regulatorischen Durchbruch bringt jedoch die brandneue Trilog-Einigung vom 7. Mai (öffnet in neuem Tab) 2026 zum „Digitalen Omnibus-Paket“ zur Änderung der EU-KI-Verordnung (AI Act). Die EU-Institutionen haben sich auf ein striktes und umfassendes Verbot von sogenannten „Nudifier“-Apps geeinigt. Verboten wir zukünftig, ohne Einwilligung intime Körperteile oder sexuelle Aktivitäten identifizierbarer Personen darzustellen – oder die keine hinreichenden Sicherheitsvorkehrungen besitzen, um einen solchen Missbrauch technisch zu verhindern. Unternehmen haben nun bis zum 2. Dezember 2026 Zeit, ihre Systeme konform zu gestalten. Parallel dazu wurde die Pflicht zur standardmäßigen und maschinenlesbaren Kennzeichnung (Wasserzeichen) von KI-generierten Inhalten vorgezogen: Sie greift nun ebenfalls bereits am 2. Dezember 2026.
Ergänzend dazu regelt die KI-Verordnung im Kern: Ab dem 2. August 2026 müssen Anbieter und Betreiber generativer KI-Systeme sicherstellen, dass synthetische Audio-, Bild-, Video- oder Textinhalte für die Nutzerschaft klar erkennbar als künstlich erzeugt gekennzeichnet werden. Die Marktüberwachung übernehmen in Deutschland die im Entwurf des KI-Marktüberwachungs- und Innovationsförderungsgesetzes benannten Behörden. Auch hier lässt sich ihre reale Wirkung derzeit schlicht noch nicht messen.
Ausblick: Neue Normen, alte Vollzugslücken
Der Referentenentwurf zur digitalen Gewalt ist politisch nachvollziehbar und wird in Teilen das Strafrecht modernisieren. Ob er die Lage der Betroffenen spürbar verbessert, hängt aber weniger an der Norm als an drei zentralen Faktoren: an einer verbesserten Datenlage durch differenziertere Statistiken und Dunkelfeldforschung, an einer konsequenten Durchsetzung bestehender Vorschriften – gestärkt durch die neue EuGH-Rechtsprechung und europäische Evidenz-Tools, und an der Medienkompetenz der Nutzerinnen und Nutzer, die im Alltag zwischen Original und Fälschung unterscheiden müssen.
Vorgesehen ist, das neue Gesetz hinsichtlich seines zivilrechtlichen Teils spätestens fünf Jahre nach Inkrafttreten zu evaluieren. Diese Evaluation wird mehr leisten müssen, als nur die neuen Paragraphen zu zählen. Sie wird die ehrliche Frage beantworten müssen, ob das Recht in der digitalen Realität ankommt – oder ob es weiter hinter der Technik herläuft.
Weitere Informationen:
Projekttag „Digitale Gewalt erkennen, handeln und stoppen!“ – WakeUp Jetzt (öffnet in neuem Tab)
Digitaler Elternabend – WakeUp Jetzt (öffnet in neuem Tab)
Impressionen vom Projekttag „Digitale Gewalt erkennen, handeln und stoppen!“ (22.05.2026)
Empfehlung der Redaktion
Autor:in
