Britische Internetaufsichtsbehörde verschärft Vorgehen gegen Deepfake-Pornos
Ofcom, die britische Regulierungsbehörde für Internetsicherheit, hat im Zuge der weiteren Umsetzung des Online Safety Act (OSA) einen weiteren neuen Leitlinienentwurf veröffentlicht. Die neuesten Empfehlungen zielen darauf ab, betroffene Unternehmen dabei zu unterstützen, ihren gesetzlichen Verpflichtungen nachzukommen und Frauen und Mädchen vor Online-Bedrohungen wie Belästigung und Mobbing, Frauenfeindlichkeit und Missbrauch intimer Bilder zu schützen.
Die Regierung hat erklärt, dass der Schutz von Frauen und Mädchen bei der Umsetzung des OSA Priorität hat. Bestimmte Formen (überwiegend) frauenfeindlichen Missbrauchs – wie das Teilen intimer Bilder ohne Zustimmung oder die Verwendung von KI-Tools zur Erstellung von Deepfake-Pornos, die auf Einzelpersonen abzielen – sind im Gesetz ausdrücklich als Durchsetzungsprioritäten festgelegt.
Die Online-Sicherheitsverordnung, die im September 2023 vom britischen Parlament verabschiedet wurde, wurde mit der Begründung kritisiert, sie sei der Aufgabe, die Plattformgiganten zu reformieren, nicht gewachsen, obwohl sie bei Nichteinhaltung empfindliche Strafen – bis zu 10 % des weltweiten Jahresumsatzes – vorsieht.
Auch Aktivisten, die sich für die Sicherheit von Kindern einsetzen, haben ihre Frustration darüber zum Ausdruck gebracht, wie lange es dauert, das Gesetz umzusetzen. Sie bezweifeln zudem, dass es den gewünschten Effekt haben wird.
In einem Interview mit der BBC im Januar bezeichnete sogar Technologieminister Peter Kyle – der die Gesetzgebung von der vorherigen Regierung übernommen hatte – sie als „sehr uneinheitlich“ und „unzufriedenstellend“. Doch die Regierung hält an diesem Ansatz fest. Ein Teil der Unzufriedenheit mit dem OSA ist auf die lange Vorlaufzeit zurückzuführen, die den Ministern für die Umsetzung des Regimes eingeräumt wurde, da das Parlament die Ofcom-Konformitätsrichtlinien genehmigen muss.
Es wird jedoch erwartet, dass die Durchsetzung der Kernanforderungen zur Bekämpfung illegaler Inhalte und zum Kinderschutz bald beginnen wird. Die Umsetzung anderer Aspekte der OSA-Konformität wird länger dauern. Und Ofcom räumt ein, dass dieses neueste Paket von Praxisempfehlungen erst 2027 oder später vollständig durchsetzbar sein wird.
„Die ersten Pflichten des Online Safety Act treten nächsten Monat in Kraft“, sagte Jessica Smith von Ofcom, die die Entwicklung der auf die Sicherheit von Frauen ausgerichteten Leitlinien leitete, in einem Interview mit TechCrunch. „Wir werden also einige der Kernpflichten des Online Safety Act durchsetzen, bevor diese Leitlinien [selbst durchsetzbar werden].“
Der neue Richtlinienentwurf zum Schutz von Frauen und Mädchen im Internet soll die früheren, umfassenderen Richtlinien von Ofcom zu illegalen Inhalten ergänzen, die beispielsweise auch Empfehlungen zum Schutz Minderjähriger vor der Betrachtung von Online-Inhalten für Erwachsene enthalten.
Im Dezember veröffentlichte die Regulierungsbehörde ihre endgültigen Leitlinien dazu, wie Plattformen und Dienste die Risiken im Zusammenhang mit illegalen Inhalten verringern können, einem Bereich, in dem der Kinderschutz klare Priorität hat.
Außerdem hat die Organisation bereits einen Kindersicherheitskodex herausgegeben, der Online-Diensten empfiehlt, Altersprüfungen und Inhaltsfilter einzuführen, um sicherzustellen, dass Kinder keinen unangemessenen Inhalten wie Pornografie ausgesetzt werden. Im Zuge der Umsetzung des Online-Sicherheitssystems hat die Organisation auch Empfehlungen für Technologien zur Alterssicherung für Websites mit Inhalten für Erwachsene entwickelt. Ziel ist es, Pornoseiten dazu zu drängen, wirksame Maßnahmen zu ergreifen, um Minderjährige am Zugriff auf nicht altersgerechte Inhalte zu hindern.
Die neuesten Richtlinien wurden laut Ofcom mit Hilfe von Opfern, Überlebenden, Frauenrechtsgruppen und Sicherheitsexperten entwickelt. Sie decken vier Hauptbereiche ab, in denen Frauen laut der Aufsichtsbehörde überproportional von Online-Schäden betroffen sind – nämlich: Online-Frauenfeindlichkeit, Anpöbelungen und Belästigung im Internet, häusliche Gewalt im Internet und Missbrauch intimer Bilder.
Die wichtigste Empfehlung von Ofcom fordert die betroffenen Dienste und Plattformen auf, einen „Safety by Design“-Ansatz zu verfolgen. Smith sagte uns, die Regulierungsbehörde wolle Technologieunternehmen ermutigen, „einen Schritt zurückzutreten“ und „über die Benutzererfahrung im Ganzen nachzudenken“. Sie räumte zwar ein, dass einige Dienste Maßnahmen ergriffen haben, die hilfreich sind, um die Online-Risiken in diesem Bereich zu verringern, argumentierte jedoch, dass es immer noch an ganzheitlichem Denken mangelt, wenn es darum geht, der Sicherheit von Frauen und Mädchen Priorität einzuräumen.
„Was wir wirklich fordern, ist eine Art grundlegender Wandel in der Funktionsweise der Designprozesse“, sagte sie uns. Das Ziel bestehe darin, sicherzustellen, dass Sicherheitsaspekte in das Produktdesign einfließen.
Sie betonte, dass der Aufstieg bildgenerierender KI-Dienste zu einem „massiven“ Anstieg des Missbrauchs intimer Deepfake-Bilder geführt habe und dass dies ein Beispiel dafür sei, wie Techniker proaktiv hätten vorgehen können, um das Risiko zu verringern, dass ihre Tools als Waffe gegen Frauen und Mädchen eingesetzt werden – was sie jedoch nicht getan haben.
„Wir denken, dass es sinnvolle Dinge gibt, die die Dienste in der Entwurfsphase tun könnten, um das Risiko einiger dieser Schäden zu verringern“, schlug sie vor.
Beispiele für „gute“ Branchenpraktiken, die Ofcom in den Leitlinien hervorhebt, sind Maßnahmen von Online-Diensten wie:
- Entfernen der Geolokalisierung als Standardeinstellung (um Datenschutz-/Stalkingrisiken zu verringern);
- Durchführen von Missbrauchstests, um festzustellen, wie ein Dienst als Waffe eingesetzt bzw. missbraucht werden könnte;
- Ergreifen von Maßnahmen zur Erhöhung der Kontosicherheit;
- Einbinden von Benutzeraufforderungen, die dazu führen sollen, dass die Verfasser vor dem Posten beleidigender Inhalte zweimal nachdenken;
- Und es werden zugängliche Berichtstools angeboten, mit denen Benutzer Probleme melden können.
Wie bei allen OSA-Richtlinien von Ofcom ist nicht jede Maßnahme für jede Art oder Größe von Diensten relevant – da das Gesetz für große und kleine Online-Dienste gilt und verschiedene Bereiche von sozialen Medien über Online-Dating, Spiele, Foren und Messaging-Apps umfasst, um nur einige zu nennen. Ein großer Teil der Arbeit für die betroffenen Unternehmen wird also darin bestehen, zu verstehen, was Compliance im Kontext ihres Produkts bedeutet.
Auf die Frage, ob Ofcom Dienste identifiziert habe, die derzeit die Standards der Leitlinien erfüllen, verneinte Smith. „In der gesamten Branche gibt es noch viel zu tun“, sagte sie.
Sie räumte auch stillschweigend ein, dass es angesichts der Rückschritte, die einige große Akteure der Branche in Sachen Vertrauen und Sicherheit gemacht haben, zu wachsenden Herausforderungen kommen könnte. So hat Elon Musk beispielsweise seit der Übernahme von Twitter und der Umbenennung des sozialen Netzwerks in X dessen Personalbestand im Bereich Vertrauen und Sicherheit reduziert – zugunsten dessen, was er als maximalistischen Ansatz zur freien Meinungsäußerung bezeichnet.
In den letzten Monaten scheint Meta, dem Facebook und Instagram gehören, ähnliche Schritte unternommen zu haben. So kündigte das Unternehmen beispielsweise die Verträge zur Faktenprüfung mit 30 Parteien an und führt stattdessen ein „Community Notes“-System im X-Stil ein, das Crowdsourcing-Kennzeichnungen bei Inhaltsstreitigkeiten ermöglicht.
Smith meinte, dass sich Ofcom bei derartigen Veränderungen auf hoher Ebene – bei denen das Risiko besteht, dass die Maßnahmen der Betreiber die Online-Schäden eher verstärken als eindämmen – darauf konzentrieren werde, die Transparenz- und Informationsbeschaffungsbefugnisse zu nutzen, die ihm im Rahmen des OSA zustehen, um die Auswirkungen zu veranschaulichen und die Benutzer zu sensibilisieren.
Kurz gesagt, die Taktik hier dürfte – zumindest zunächst – auf „Name and Shame“ basieren.
„Sobald wir die Leitlinien fertiggestellt haben, werden wir einen [Markt-]Bericht erstellen … darüber, wer die Leitlinien verwendet, wer welche Schritte befolgt, welche Art von Ergebnissen sie für ihre Benutzer, bei denen es sich um Frauen und Mädchen handelt, erzielen, und wir werden wirklich Licht darauf werfen, welche Schutzmaßnahmen auf verschiedenen Plattformen vorhanden sind, damit die Benutzer fundierte Entscheidungen darüber treffen können, wo sie ihre Zeit online verbringen“, sagte sie uns.
Smith schlug vor, dass Unternehmen, die das Risiko vermeiden möchten, wegen schlechter Leistungen in Bezug auf die Sicherheit von Frauen öffentlich an den Pranger gestellt zu werden, sich an den Leitlinien von Ofcom orientieren können, um „praktische Schritte“ zu unternehmen, mit denen sie die Situation für ihre Nutzer verbessern und gleichzeitig dem Risiko eines Reputationsschadens begegnen können.
„Plattformen, die in Großbritannien betrieben werden, müssen sich an das britische Recht halten“, fügte sie im Kontext der Diskussion hinzu, dass große Plattformen Vertrauen und Sicherheit weniger wichtig machen. „Das bedeutet, dass sie die Pflichten zum Schutz vor illegalen Schäden und zum Schutz von Kindern gemäß dem Online Safety Act einhalten müssen.“
„Ich denke, hier kommen auch unsere Transparenzbefugnisse ins Spiel – wenn die Branche ihre Richtung ändert und die Schäden zunehmen, können wir hier Licht ins Dunkel bringen und relevante Informationen mit britischen Nutzern, den Medien und den Parlamentariern teilen.“
Eine Art von Online-Schaden, bei dem Ofcom seine Empfehlungen explizit verschärft, noch bevor es aktiv mit der Durchsetzung des OSA begonnen hat, betrifft den Missbrauch intimer Bilder. So schlägt der jüngste Richtlinienentwurf die Verwendung von Hash-Matching vor, um solche missbräuchlichen Bilder zu erkennen und zu entfernen, während frühere Empfehlungen von Ofcom nicht so weit gingen.
„Wir haben in diese Leitlinien zusätzliche Schritte aufgenommen, die über das hinausgehen, was wir bereits in unseren Kodizes festgelegt haben“, bemerkte Smith und bestätigte, dass Ofcom plant, seine früheren Kodizes „in naher Zukunft“ zu aktualisieren, um diese Änderung zu berücksichtigen.
„Auf diese Weise können wir den Plattformen sagen, dass sie dieser durchsetzbaren Anforderung zuvorkommen können, indem sie die in dieser Anleitung festgelegten Schritte befolgen“, fügte sie hinzu.
Ofcom empfahl den Einsatz von Hash-Matching-Technologie, um dem Missbrauch intimer Bilder entgegenzuwirken, da dieses Risiko laut Smith erheblich zunehme – insbesondere im Zusammenhang mit dem durch KI generierten Missbrauch von Deepfake-Bildern.
„Im Jahr 2023 wurde mehr Missbrauch von Deepfake-Intimbildern gemeldet als in allen Jahren zuvor zusammen“, stellte sie fest und fügte hinzu, dass Ofcom auch mehr Beweise für die Wirksamkeit des Hash-Matchings zur Bekämpfung dieses Schadens gesammelt habe.
Der gesamte Leitlinienentwurf wird nun einer Konsultation unterzogen. Ofcom bittet dabei um Rückmeldungen bis zum 23. Mai 2025. Anschließend wird die endgültige Richtlinie bis Ende dieses Jahres vorliegen.
Volle 18 Monate später wird Ofcom dann seinen ersten Bericht vorlegen, in dem die Branchenpraxis in diesem Bereich geprüft wird.
„Wir werden wohl erst im Jahr 2027 unseren ersten Bericht darüber vorlegen können, wer was tut [um Frauen und Mädchen online zu schützen] – aber es gibt nichts, was die Plattformen jetzt davon abhalten könnte, zu handeln“, fügte sie hinzu.
Als Reaktion auf die Kritik, dass die Umsetzung des OSA zu lange dauere, sagte sie, es sei richtig, dass die Regulierungsbehörde über Maßnahmen zur Einhaltung der Vorschriften konsultiere. Da die endgültige Maßnahme jedoch nächsten Monat in Kraft tritt, rechne Ofcom auch mit einer Wende in der Diskussion zu diesem Thema, merkte sie an.
„Das wird insbesondere die Diskussion mit Plattformen wirklich verändern“, prophezeite sie und fügte hinzu, dass man dadurch auch Fortschritte bei der Reduzierung von Online-Schäden erzielen könne.
techcrunch
