Rumble und Rechtswissenschaftler verklagen New Yorker Generalstaatsanwältin wegen neuem Online-Zensurgesetz

Die Videoplattform Rumble und ein Verfassungsrechtler gehören zu denjenigen, die New York wegen des neuen “Online-Hate-Speech-Gesetzes” verklagen. Sie behaupten, die Formulierung des Gesetzes sei so weit gefasst, dass Blogger den finanziellen Ruin riskieren könnten, nur weil sie Meinungen teilen, die der Staat missbilligt.

Die Gemeinnützige Stiftung für individuelle Rechte und Meinungsäußerung (FIRE) hat letzte Woche vor dem US-Bezirksgericht für den südlichen Bezirk von New York im Namen von drei Klägern Klage eingereicht: Der Online-Videoplattform Rumble, ihrer Abonnement-Plattform “Locals” und dem Wissenschaftler Eugene Volokh, Herausgeber des Blogs “DieVolokh-Verschwörung”.

In der Klage wird die Generalstaatsanwältin des Staates New York, Letitia James, als einzige Beklagte genannt.

Den Klägern zufolge wird das Gesetz, das am 3. Dezember in Kraft getreten ist, Online-Plattformen dazu verpflichten, Äußerungen zu zensieren, die durch den ersten Zusatzartikel der US-Verfassung geschützt sind.

In einer Erklärung sagte FIRE: “Das Gesetz trägt den Titel ‘Social Media Networks; hateful conduct prohibited’ (Soziale Mediennetzwerke; Verbot von hasserfülltem Verhalten), aber es zielt tatsächlich auf Äußerungen ab, die dem Staat nicht gefallen – selbst wenn diese Äußerungen durch den Ersten Verfassungszusatz vollständig geschützt sind.”

Dem Gesetz zufolge sind Online-Plattformen verpflichtet, “Mechanismen zur Meldung von hasserfülltem Verhalten auf ihrer Plattform bereitzustellen und aufrechtzuerhalten”, und können bei Nichteinhaltung mit Geldstrafen von bis zu 1.000 Dollar pro Tag belegt werden.

Die Kläger fordern das Gericht auf, die neue Gesetzgebung als Verstoß gegen den ersten und 14. Zusatzartikel der US-Verfassung zu erklären, die die Redefreiheit bzw. ein ordnungsgemäßes Verfahren schützen.

Außerdem beantragen sie eine dauerhafte Unterlassungsverfügung gegen die Durchsetzung des Gesetzes, eine Erklärung, dass das neue Gesetz gegen Abschnitt 230 des Communications Decency Act verstößt, sowie Anwaltsgebühren und -kosten.

In der Klage heißt es, dass die Klägerinnen

“versuchen, eine freie und offene Debatte auf ihren Plattformen zu fördern, weil sie an den freien Markt der Ideen glauben. Sie veröffentlichen jede Art von Meinungsäußerung und sind nicht der Meinung, dass die Äußerungen, auf die das Gesetz über Hassreden im Internet abzielt, durch einen Regierungserlass abgeschwächt, verboten oder entfernt werden sollten.

“Sie wollen nicht das Narrativ des Staates nachplappern oder auf jede Beschwerde wegen angeblicher ‘Hassrede’ antworten müssen.”

Es ist jedoch auch möglich, dass soziale Medienplattformen in ihren Bemühungen, die Bestimmungen des neuen New Yorker Gesetzes zu erfüllen, grundlegende Änderungen an ihren Plattformen und ihren Richtlinien vornehmen, die sich auf die Nutzer überall auswirken werden und nicht nur in dem einen bestimmten Staat, in dem das Gesetz in Kraft ist.

Eine andere Möglichkeit wäre, dass bestimmte Websites anfangen, “geofence” oder “geoblock” zu verwenden – eine Praxis, bei der IP-Adressen (Internetprotokolle) aus bestimmten geografischen Regionen, z. B. Staaten oder Ländern, von einer Website oder einem Online-Dienstanbieter blockiert werden.

Dies ist zum Beispiel eine zunehmend übliche Praxis bei vielen offiziellen Online-Diensten der US-Bundesstaaten – eine Praxis seitens der Regierungen der Bundesstaaten, die anscheinend einer größeren Aufmerksamkeit entgangen ist, obwohl sie in bestimmten Branchen üblich ist.

Alex Pattakos, Ph.D. , Mitbegründer des Global Meaning Institute und Autor für Psychology Today, wurde von der Social-Media-Plattform LinkedIn, die zu Microsoft gehört, dauerhaft gesperrt.

Pattakos erklärte gegenüber The Defender, warum er über die Zensur und ihre mögliche Ausweitung besorgt ist:

“Meine jüngsten Erfahrungen mit den “alten” Social-Media-Plattformen waren beispiellos. In diesem Zusammenhang wurden meine Beiträge von Online-Moderatoren und so genannten “Faktencheckern” bei zahlreichen Gelegenheiten als “Fehlinformationen” eingestuft und zensiert.

Kürzlich wurde ich dauerhaft von LinkedIn suspendiert, weil ich Informationen und empirische Beweise geteilt hatte, die das “Mainstream”-Narrativ zu einem wichtigen Thema in Frage stellten. Es war entmutigend, dass ein unbekannter, aber offensichtlich voreingenommener Moderator mein Recht auf freie Meinungsäußerung auf diese Weise eingeschränkt hat.”

Für Pattakos stellt die Zensur von Inhalten auf Social-Media-Plattformen, sei es durch die Plattformen selbst oder durch die Regierung, “einen direkten Angriff” auf Demokratie und Freiheit dar, anstatt diese Ideale zu schützen.

“Als Fachmann in den Disziplinen Politikwissenschaft, Existenzphilosophie und humanistische Psychologie sowie als jemand, der sich immer für die wissenschaftliche Methode und den authentischen Dialog eingesetzt hat, ist eine solche Behandlung natürlich persönlich”, sagte Pattakos. “Vor allem aber ist es ein direkter Angriff auf die demokratischen Prinzipien und die menschliche Freiheit.

Gesetz verpflichtet Plattformen, auf “hasserfüllte” Inhalte zu reagieren – definiert diese aber nicht

Nach Angaben von Reclaim The Net verpflichtet das neue New Yorker Gesetz Online-Plattformen dazu, Richtlinien zu entwickeln, die erklären, wie sie auf nutzergenerierte Inhalte reagieren, die “verunglimpfen, erniedrigen oder zu Gewalt aufrufen”, und zwar auf der Grundlage geschützter Kategorien wie Geschlecht, Rasse oder Religion.

Die Plattformen werden außerdem verpflichtet, Mechanismen einzurichten, über die Nutzer und Besucher Beschwerden über “hasserfüllte Inhalte” einreichen können. Die Plattformen müssen auf solche Beschwerden direkt reagieren, andernfalls drohen Ermittlungen, Vorladungen und Geldstrafen, die direkt von der Generalstaatsanwaltschaft erhoben werden.

Das Gesetz wurde im Juni verabschiedet und von der demokratischen Gouverneurin Kathy Hochul unterzeichnet, die inzwischen für eine volle Amtszeit gewählt worden ist.

Nach Angaben von Law and Crime wurde das Gesetz erstmals nach einer Massenschießerei in einem Lebensmittelgeschäft in Buffalo vorgeschlagen. Im Oktober veröffentlichten James und Hochul einen Bericht, in dem die Radikalisierung des Schützen von [the] auf Randgruppen-Websites wie 4chan und seine Nutzung von Mainstream-Plattformen für das Livestreaming von Gewalt beschrieben wird.

Im selben Monat sagte James, dass Online-Plattformen für “hasserfülltes Verhalten” zur Rechenschaft gezogen werden sollten, das aus einem “Mangel an Aufsicht, Transparenz und Rechenschaftspflicht dieser Plattformen” resultiere, die es “hasserfüllten und extremistischen Ansichten ermöglichen, sich online zu verbreiten”.

James sagte, der Bericht sei “ein weiterer Beweis dafür, dass Online-Radikalisierung und Extremismus eine ernsthafte Bedrohung für unsere Gemeinden darstellen, insbesondere für farbige Gemeinden”.

“Wir können nicht auf eine weitere Tragödie warten, bevor wir Maßnahmen ergreifen”, fügte sie hinzu. “Wir müssen alle zusammenarbeiten, um diese Krise zu bewältigen und unsere Kinder und Gemeinden zu schützen”.

Reclaim The Net argumentiert jedoch, dass der Wortlaut des neuen Gesetzes vage ist und keine Definition für Begriffe wie “hasserfüllte Inhalte”, “erniedrigen”, “aufhetzen” oder “verunglimpfen” enthält.

In einer Erklärung sagte Rumble, dass diese vage und weit gefasste Formulierung “verfassungsrechtlich geschützte Äußerungen wie Witze, Satire, politische Debatten und andere Online-Kommentare” abdecken würde.

Der Klage zufolge hängt das Gesetz

“wie ein Damoklesschwert über einer Vielzahl von Online-Diensten (wie Websites und Apps) und droht, sie zu Fall zu bringen, wenn sie sich nicht ordnungsgemäß mit der Äußerung bestimmter, vom Staat missbilligter Standpunkte befassen, wie es der Staat nun vorschreibt.”

In der Klage wird das Gesetz auch als “doppelter Schlag gegen den Ersten Verfassungszusatz” bezeichnet, durch den Plattformen trotz der vagen Formulierung des Gesetzes mit einer Geldstrafe rechnen müssen:

“In einer Art “Doppelschlag” gegen den Ersten Verfassungszusatz belastet das Gesetz über Online-Hassreden die Veröffentlichung missbilligter, aber geschützter Äußerungen durch verfassungswidrig eingeschränkte Meinungsäußerung – und es zwingt Online-Dienste, “Hassreden” mit einer speziellen Richtlinie, einem obligatorischen Melde- und Reaktionsmechanismus und obligatorischen direkten Antworten auf jede Meldung zu kennzeichnen.

“Sollte sich ein Dienst weigern, droht das Gesetz dem New Yorker Generalstaatsanwalt Ermittlungen, Vorladungen und tägliche Geldstrafen von 1.000 Dollar pro Verstoß an.”

FIRE beschrieb das Gesetz als “völlig subjektiv”, mit dem Potenzial, alles vom “Blogeintrag eines Komikers” bis hin zu den meisten von Online-Nutzern geposteten Kommentaren ins Visier zu nehmen, “das von jemandem, irgendwo, zu irgendeinem Zeitpunkt, als ‘erniedrigend’ oder ‘verunglimpfend’ für eine Gruppe auf der Grundlage des Status einer geschützten Klasse wie Religion, Geschlecht oder Rasse betrachtet werden könnte”.

In einem Beitrag vom 1. Dezember schrieb Volokh in seinem Blog:

“New Yorker Politiker kleben mir ein Abzeichen der Sprachpolizei auf die Brust, weil ich einen Blog betreibe.

“Ich habe den Blog ins Leben gerufen, um interessante und wichtige juristische Geschichten zu verbreiten, nicht um die Sprache der Leser auf Geheiß der Regierung zu kontrollieren.”

Chris Pavlovski, CEO und Vorsitzender von Rumble, sagte:

“Das New Yorker Gesetz würde der Unterdrückung geschützter Äußerungen aufgrund von Beschwerden von Aktivisten und Tyrannen Tür und Tor öffnen.

“Rumble wird immer die Freiheit feiern und die kreative Unabhängigkeit unterstützen, daher freue ich mich, mit FIRE zusammenzuarbeiten, um den rechtmäßigen Online-Ausdruck zu schützen.”

Sind Websites für soziale Medien “Verlage” oder “Plattformen”?

Bei der Anfechtung der neuen Gesetzgebung bezogen sich die Kläger auf den Bericht des New Yorker Generalstaatsanwalts, der eine Einschränkung von Abschnitt 230 des Communications Decency Act fordert, der soziale Medienplattformen davor schützt, für die von ihren Nutzern eingestellten Inhalte Dritter haftbar gemacht zu werden.

Social-Media-Websites haben sich auf Abschnitt 230 berufen, um zu argumentieren, dass sie keine “Herausgeber” von Inhalten sind – was bestimmte rechtliche Verpflichtungen mit sich bringen würde, die der Immunität, die ihnen als “Plattformen” gewährt wird, vorgehen würden. Und das, obwohl diese Plattformen in der Regel die auf ihren Plattformen eingestellten Inhalte moderieren.

Während einige als Reaktion auf zahlreiche angebliche Zensurfälle die Aufhebung des Schutzes von Section 230 für Social-Media-Plattformen gefordert haben, argumentieren die Kläger in der Klage gegen den New Yorker Generalstaatsanwalt für den Schutz der “Plattformen” und gegen James’ Forderung, diesen im Namen der Bekämpfung angeblicher “Hassreden” zu verwässern.

Laut Law and Crime hat Abschnitt 230 “heute außerhalb von Silicon Valley und Aktivisten der freien Meinungsäußerung nur noch wenige Freunde”.

Demokratische Gesetzgeber aus dem Bundesstaat New York argumentieren jedoch, dass das neue Gesetz die Sicherheit auf Online-Plattformen erhöhen wird.

So sagte die Senatorin Anna Kaplan, die den Gesetzentwurf eingebracht hat, im Jahr 2021: “Die New Yorker kennen die Redewendung ‘Wenn du etwas siehst, sag etwas’, aber leider machen es viele Social-Media-Plattformen unmöglich, sich zu äußern, wenn man etwas Gefährliches oder Schädliches online sieht.”

Umfassendere Bemühungen zur Eindämmung von “Online-Fehlinformationen” in New York und weltweit

Das New Yorker Gesetz über Online-Hassreden ist nur einer von mehreren jüngsten Versuchen des Staates, soziale Medien zu überwachen, so Reclaim The Net, das Gesetzesvorlagen zitiert, die ein Verbot des Online-Austauschs von Videos, die Gewaltverbrechen zeigen und einen Vorschlag, der es dem Staat ermöglichen würde, Plattformen zu verklagen, wenn sie “wissentlich oder rücksichtslos” zur Verbreitung von “Fehlinformationen” im Internet “beitragen”..

Ein Bundesrichter hat im Oktober 2022 die Bestimmungen eines neuen Gesetzes in New York gekippt, wonach Bewerber um einen Waffenschein in diesem Bundesstaat Informationen über ihre Social-Media-Konten preisgeben müssen.

Auf Bundesebene ist die Regierung Biden mit einer Klage konfrontiert, die von den Generalstaatsanwälten von Louisiana und Missouri eingereicht wurde und in der der Regierung mehrere Verstöße gegen den ersten Verfassungszusatz vorgeworfen werden, darunter auch, dass Bundesbehörden Plattformen für soziale Medien gezwungen haben, diejenigen zu zensieren, die die COVID-19-Politik der Regierung kritisiert haben.

Und im Februar 2022 brachte das US-Repräsentantenhaus den Digital Services Oversight and Safety Act (HR 6796) ein, “um die Einrichtung des Bureau of Digital Services Oversight and Safety innerhalb der Federal Trade Commission und für andere Zwecke vorzusehen”.

Der Gesetzentwurf bleibt im Unterausschuss für Verbraucherschutz und Handel des Repräsentantenhauses stecken.

Ähnliche Maßnahmen – und Rechtsvorschriften – werden auch außerhalb der Vereinigten Staaten verfolgt.

Im Vereinigten Königreich wurde das Gesetz zur Online-Sicherheit erneut im Parlament eingebracht, und die britische Kommunikationsbehörde (Ofcom) ernannte eine ehemalige Google-Führungskraft, Gill Whitehead, zur Leiterin der Abteilung “Online-Sicherheit” ab April 2023. Andere Ofcom-Führungskräfte haben zuvor für Amazon und Meta gearbeitet, berichtet Reclaim The Net.

Die vorgeschlagene Gesetzgebung “wird Ofcom ermächtigen, hohe Bußgelder gegen Big-Tech-Firmen zu verhängen, die es versäumen, die Zensurbestimmungen in ihren Nutzungsbedingungen konsequent durchzusetzen.”

Die vorgeschlagene Gesetzesvorlage sieht die Kriminalisierung von “falschen Mitteilungen” vor – definiert als das Versenden von “Informationen, von denen die Person [sender] weiß, dass sie falsch sind”, mit der Absicht, einem “wahrscheinlichen Publikum” ohne “vernünftige Entschuldigung” “psychologischen Schaden” zuzufügen. Zu den in den Rechtsvorschriften vorgesehenen Strafen gehören bis zu 51 Wochen Gefängnis.

Das Gesetz zur Online-Sicherheit definiert die Begriffe “falsch”, “weiß”, “Absicht”, “psychologischer Schaden”, “wahrscheinliches Publikum” oder “angemessene Entschuldigung” nicht eindeutig.

Die vorgeschlagene Gesetzgebung würde Ofcom auch dazu verpflichten, einen “beratenden Ausschuss für Desinformation und Fehlinformation” einzurichten. Er enthält auch großzügige Ausnahmen für “große Medienunternehmen” und “anerkannte Nachrichtenverlage”, die gegen den Straftatbestand der “Falschmeldung” immun sind, der für andere als Straftat gelten würde.

Wie The Defender bereits berichtet hat, hat auch die EU ein ähnliches Gesetz – den Digital Services Act (DSA) – verabschiedet, der für ihre 27 Mitgliedsstaaten gilt. Der DSA soll die Verbreitung von “Fehlinformationen und illegalen Inhalten” bekämpfen und gilt “für alle Online-Vermittler, die Dienste in der EU anbieten”, und zwar im Verhältnis zur “Art der betreffenden Dienste” und der Anzahl der Nutzer der jeweiligen Plattform.

Dem DSA zufolge werden “sehr große Online-Plattformen” und “sehr große Online-Suchmaschinen” – also solche mit mehr als 45 Millionen monatlich aktiven Nutzern in der EU – den strengsten Anforderungen des DSA unterliegen.

Große Technologieunternehmen werden verpflichtet sein, jährliche Risikobewertungen durchzuführen, um festzustellen, inwieweit ihre Plattformen “zur Verbreitung von spalterischem Material beitragen, das sich auf Themen wie Gesundheit auswirken kann”, und unabhängige Audits zur Ermittlung der Maßnahmen, die die Unternehmen ergreifen, um zu verhindern, dass ihre Plattformen “missbraucht” werden.

Diese Schritte sind Teil eines umfassenderen Vorgehens gegen die “Verbreitung von Desinformation”, das die DSA fordert und von den Plattformen verlangt, “Hassreden zu kennzeichnen, jede Art von terroristischer Propaganda zu eliminieren” und “Rahmenbedingungen zu schaffen, um illegale Inhalte schnell zu entfernen”.

In Bezug auf angebliche “Desinformationen” werden diese Plattformen beauftragt, einen “Krisenreaktionsmechanismus” zu schaffen, um die Verbreitung solcher Inhalte zu bekämpfen, wobei die DSA insbesondere den Konflikt zwischen Russland und der Ukraine und die daraus resultierende “Manipulation” von Online-Inhalten anführt.

Das US-Außenministerium beteiligt sich auch an den Bemühungen zur Bekämpfung von “Fehlinformationen” und “Desinformationen” in anderen Ländern durch die “Erklärung zur Zukunft des Internets“, die am 28. April veröffentlicht und von 56 Ländern und Einrichtungen, darunter die USA und die EU, unterzeichnet wurde.

Die Erklärung ist zwar rechtlich nicht bindend, aber sie enthält “eine politische Verpflichtung, Regeln für das Internet durchzusetzen, die auf demokratischen Werten beruhen”.

Weniger klar ist, wie die Erklärung und andere ähnliche Gesetze “demokratische Werte” definieren, obwohl sich aus den jüngsten Erklärungen globaler Akteure wie des Weltwirtschaftsforums (WEF) und von Führungskräften der sozialen Medien einige Anhaltspunkte ableiten lassen.

So wird in einem kürzlich erschienenen WEF-Artikel darüber, wie das “Metaverse” verwaltet werden kann, darauf verwiesen, dass “Real-World-Governance-Modelle” eine mögliche Option darstellen. Zu den “realen” Modellen, auf die er sich bezog, gehörte jedoch auch das “Oversight Board” von Facebook.

Das Oversight Board beschreibt sich selbst als “das größte globale Netzwerk zur Überprüfung von Fakten jeder Plattform,” sich selbst lobend für die “Anzeige von Warnungen zu über 200 Millionen verschiedenen Inhalten auf Facebook (einschließlich erneuter Freigaben) weltweit, basierend auf über 130.000 entlarvenden Artikeln, die von unseren Fact-Checking-Partnern geschrieben wurden”, allein im zweiten Quartal 2022.

Das Oversight Board hat außerdem ein Pilotprogramm gestartet, das nach eigenen Angaben darauf abzielt, den Menschen zuverlässigere Informationen zu zeigen und sie in die Lage zu versetzen, selbst zu entscheiden, was sie lesen, wem sie vertrauen und was sie weitergeben wollen. Wie “zuverlässig” bestimmt wird, ist nicht angegeben.

Derzeit erwägt das Oversight Board auch die Empfehlung, “alternative Durchsetzungsmöglichkeiten” zur Beseitigung von “gesundheitsschädlichen Fehlinformationen” in Bezug auf COVID-19, und andere Themen, bei denen solche Inhalte nicht direkt von den Meta-Plattformen entfernt werden, sondern lediglich “gekennzeichnet”, von Dritten “überprüft” oder ihre Verbreitung “eingeschränkt” werden – eine Praxis, die gemeinhin als Shadowbanning bekannt ist.

Das Oversight Board erhielt von Meta eine “Dreijahreszusage über 150 Millionen Dollar” zur Finanzierung dieser und anderer Initiativen.

Auch die sozialen Medien und Vertreter von Big Tech und Big Media haben sich kürzlich zur “Demokratie” im digitalen Bereich geäußert. So sagte Nanna-Louise Linde, Vizepräsidentin für europäische Regierungsangelegenheiten bei Microsoft, auf dem Athener Demokratieforum im September: “Wir sollten sicherstellen, dass wir unsere Probleme im alten Internet bereinigen, bevor wir sie auch auf das Metaversum übertragen: Datenschutz, Desinformation.”

Donald Martin, Medienberater und ehemaliger Herausgeber des schottischen The Herald, sagte, dass Fake News zwar nicht neu seien, aber das derzeitige Ausmaß sei “beispiellos”. Er fügte hinzu: “Es ist wirklich erschreckend, wie schnell ‘Fake News’ an Zugkraft und Akzeptanz gewinnen, und das ist vor allem den Algorithmen der sozialen Medien zu verdanken.”

Martin sagte, “Fake News” müssten “innerhalb von 30 Minuten entlarvt werden, bevor sie Wirkung zeigen”.

Esther O’Callaghan, Gründerin und Geschäftsführerin von hundo.xyz, äußerte sich besorgt über die Verbreitung von “Fehlinformationen und extremen Ideen”, die “in Wirklichkeit sehr heimtückisch sind”, und fragte: “Wie stellen wir sicher, dass wir [online users] in die von Ihnen beschriebene Richtung und nicht in eine andere Richtung stoßen?”

Wie The Defender bereits berichtet hat, wird das aus der Verhaltenspsychologiestammende Konzept des “Nudging” von Regierungen und Gesundheitsbehörden eingesetzt, um bestimmte Verhaltensweisen zu “fördern”, wie etwa die Einhaltung von COVID-19-bezogenen Einschränkungen.