La plateforme de partage de vidéos Rumble et un spécialiste du droit constitutionnel font partie des personnes qui ont intenté un procès à New York au sujet de la nouvelle « loi sur les discours haineux en ligne » de l’État, affirmant que le libellé de la loi est si large qu’il pourrait exposer les blogueurs à la ruine financière simplement pour avoir partagé des opinions que l’État désapprouve.

L’association à but non lucratif, la Fondation pour les droits individuels et l’expression [Foundation for Individual Rights and Expresssion (FIRE)], la semaine dernière a intenté le procès dans le tribunal de district des États-Unis pour le district sud de New York au nom de trois plaignants : la plateforme de partage de vidéos en ligne Rumble, sa plateforme d’abonnement « Locals » et le spécialiste du premier amendement Eugene Volokh, l’éditeur dublogue« The Volokh Conspiracy ».

L’action en justice désigne le procureur général de l’État de New York, Letitia James, comme seul défendeur.

Selon les plaignants, la législation – qui est entrée en vigueur le 3 décembre – obligera les plateformes en ligne à cibler et à censurer des discours protégés par le premier amendement de la Constitution américaine.

Dans une déclaration, la FIRE a déclaré : « La loi est intitulée « Réseaux de médias sociaux ; conduite haineuse interdite », mais elle cible en fait les discours que l’État n’aime pas – même si ces discours sont pleinement protégés par le Premier amendement. »

Selon la législation, les platesformes en ligne sont tenues de « fournir et de maintenir des mécanismes de signalement des comportements haineux sur leur plateforme » et sont passibles d’amendes pouvant atteindre 1 000 dollars par jour en cas de non-respect.

Les plaignants demandent à la Cour de déclarer la nouvelle législation en violation des premier et quatorzième amendements de la Constitution des États-Unis, qui protègent respectivement la liberté d’expression et l’application régulière de la loi.

Ils demandent également une injonction permanente contre l’application de la loi, une déclaration selon laquelle la nouvelle loi viole la section 230 de la loi sur la décence des communications, ainsi que les honoraires et frais d’avocat.

Selon le procès, les plaignants :

« cherchent à promouvoir un débat libre et ouvert sur leurs plateformes parce qu’ils croient au libre marché des idées. Ils publient toutes sortes de discours et ne pensent pas que les discours visés par la loi sur les discours haineux en ligne devraient être refroidis, interdits ou supprimés en raison d’un décret gouvernemental.

Ils ne veulent pas être les perroquets du message de l’État ou être obligés de répondre à chaque plainte concernant un prétendu discours de haine ».

Cependant, il est également possible que, dans leurs efforts pour se conformer potentiellement aux dispositions de la nouvelle loi de New York, les plateformes de médias sociaux apportent des changements fondamentaux à leurs plateformes et à leurs politiques qui affecteront les utilisateurs partout, et pas seulement dans l’État particulier où la législation est en vigueur.

Une autre possibilité serait que certains sites web commencent à choisir de « géo-barrer » ou de « géobloquer » – une pratique par laquelle les adresses IP (protocole Internet) provenant de régions géographiques particulières, comme des États ou des pays, sont bloquées par un site web ou un fournisseur de services en ligne.

Il s’agit, par exemple, d’une pratique de plus en plus courante dans de nombreux services en ligne officiels des États américains – une pratique de la part des gouvernements des États qui semble avoir échappé à une plus grande attention, bien qu’elle soit courante dans certains secteurs.

Alex Pattakos, docteur en philosophie, cofondateur du Global Meaning Institute et collaborateur de Psychology Today, a été définitivement banni de la plateforme de médias sociaux LinkedIn, qui appartient à Microsoft.

M. Pattakos a expliqué à The Defender pourquoi il s’inquiète de la censure et de son expansion potentielle :

« Mon expérience récente avec les plateformes de médias sociaux traditionnelles a été sans précédent. À cet égard, mes messages ont été considérés comme de la « désinformation » et censurés par des modérateurs en ligne et des soi-disant « vérificateurs de faits » à de nombreuses reprises.

« Plus récemment, j’ai été suspendu définitivement de LinkedIn pour avoir partagé des informations et des preuves empiriques qui remettaient en cause le récit « grand public » sur un sujet de préoccupation majeure. Il était décourageant de voir un modérateur inconnu, mais manifestement partial, restreindre ma liberté d’expression de cette manière. »

Pour M. Pattakos, la censure du contenu des plateformes de médias sociaux, qu’elle soit le fait des plateformes elles-mêmes ou du gouvernement, représente « une attaque directe » contre la démocratie et la liberté plutôt que de protéger ces idéaux.

« En tant qu’expert en la matière dans les disciplines des sciences politiques, de la philosophie existentielle et de la psychologie humaniste, ainsi qu’en tant que personne qui a toujours été attachée à la méthode scientifique et au dialogue authentique, un tel traitement est évidemment personnel, » a déclaré M. Pattakos. « Toutefois, plus important encore, il s’agit d’une attaque directe contre les principes démocratiques et la liberté humaine. »

La loi oblige les plateformes à réagir aux contenus « haineux », mais ne les définit pas

Selon Reclaim The Net, la nouvelle loi de New York exigera des plateformes en ligne qu’elles élaborent des politiques expliquant comment elles répondront aux contenus générés par les utilisateurs qui « vilipendent, humilient ou incitent à la violence », sur la base de classes protégées telles que le sexe, la race ou la religion.

Les plateformes seront également tenues de créer des mécanismes permettant aux utilisateurs et aux visiteurs de déposer des plaintes concernant des « contenus haineux », ce qui les obligera à répondre directement à ces plaintes sous peine de faire l’objet d’enquêtes, d’assignations à comparaître et d’amendes prélevées directement par le bureau du procureur général.

La législation a été adoptée en juin et a été promulguée par la gouverneure Kathy Hochul, une démocrate, qui a depuis été élue pour un mandat complet.

Selon Law and Crime, la législation a été proposée pour la première fois à la suite d’une fusillade de masse dans une épicerie de Buffalo. En octobre, Mme James et Mme Hochul ont publié un rapport qui « détaille la radicalisation du tireur de [the] sur des sites Web marginaux », tels que 4chan, et son « utilisation de plateformes grand public pour diffuser en direct des actes de violence ».

Le même mois, Mme James a déclaré que les platesformes en ligne devraient être tenues responsables des « comportements haineux » résultant d’un « manque de surveillance, de transparence et de responsabilité de ces platesformes » qui permettent « aux opinions haineuses et extrémistes de proliférer en ligne ».

Se référant au rapport, Mme James a déclaré qu’il représentait « une preuve supplémentaire que la radicalisation et l’extrémisme en ligne constituent une menace sérieuse pour nos communautés, en particulier les communautés de couleur ».

« Nous ne pouvons pas attendre une autre tragédie pour agir, » a-t-elle ajouté. « Nous devons tous travailler ensemble pour faire face à cette crise et protéger nos enfants et nos communautés. »

Cependant, Reclaim The Net affirme que le langage de la nouvelle loi est vague, ne fournissant pas de définition pour des termes tels que « contenu haineux », « humilier », « inciter » ou « diffamer ».

Dans une déclaration, Rumble a déclaré que ce langage vague et large aurait pour conséquence de « couvrir des discours protégés par la Constitution tels que les blagues, les satires, les débats politiques et autres commentaires en ligne ».

Selon le procès, la loi :

« Elle est suspendue comme l’épée de Damoclès au-dessus d’un large éventail de services en ligne (tels que les sites web et les applications), menaçant de les faire tomber s’ils ne traitent pas correctement les discours exprimant certains points de vue désapprouvés par l’État, comme celui-ci le leur impose désormais. »

L’action en justice décrit également la loi comme une « double peine du premier amendement » qui fait courir aux platesformes le risque d’être condamnées à une amende malgré le caractère vague de la loi :

Dans une sorte de « double coup dur » du Premier amendement, la loi sur les discours de haine en ligne entrave la publication de discours défavorisés mais protégés en imposant un discours inconstitutionnel – en forçant les services en ligne à distinguer les « discours de haine » par une politique spécifique, un mécanisme de rapport et de réponse obligatoire et des réponses directes obligatoires à chaque rapport.

« Si un service refuse, la loi le menace d’enquêtes du procureur général de New York, de citations à comparaître et d’amendes quotidiennes de 1 000 dollars par violation. »

La FIRE a décrit la loi comme étant « entièrement subjective » et pouvant viser n’importe quoi, de « l’article de blogue d’un comédien » à la plupart des commentaires postés par des utilisateurs en ligne, « qui pourrait être considéré par quelqu’un, quelque part, à un moment donné, comme « humiliant » ou « diffamatoire » pour un groupe basé sur une classe protégée comme la religion, le sexe ou la race ».

Dans un article publié le 1er décembre sur son blogue, M. Volokh a écrit :

« Les politiciens de New York me collent un badge de la police de la parole sur la poitrine parce que je tiens un blogue.

« J’ai commencé le blogue pour partager des histoires juridiques intéressantes et importantes, pas pour policer le discours des lecteurs sur ordre du gouvernement. »

Chris Pavlovski, PDG et président de Rumble, a déclaré :

« La loi de New York ouvrirait la porte à la suppression d’un discours protégé sur la base des plaintes d’activistes et d’intimidateurs.

« Rumble célébrera toujours la liberté et soutiendra l’indépendance créative, je suis donc ravi de travailler avec la FIRE pour aider à protéger l’expression légale en ligne. »

Les sites de médias sociaux sont-ils des « éditeurs » ou des « plateformes » ?

Pour contester la nouvelle législation, les plaignants se sont référés au rapport du procureur général de New York, qui préconise de limiter la section 230 de la loi sur la décence des communications, qui protège les platesformes de médias sociaux contre toute responsabilité pour les contenus de tiers publiés par leurs utilisateurs.

Les sites de médias sociaux ont utilisé la section 230 pour faire valoir qu’ils ne sont pas des « éditeurs » de contenu – ce qui impliquerait certaines obligations légales qui primeraient l’immunité qui leur est conférée en tant que « plateformes ». Et ce, malgré le fait que ces plateformes s’engagent généralement dans la modération du contenu posté sur leurs plateformes.

Alors que certains ont appelé à l’abrogation des protections de la section 230 pour les plateformes de médias sociaux en réponse à de nombreux cas présumés de censure, les plaignants dans le procès contre le procureur général de New York plaident en faveur des protections accordées aux « plateformes » et contre l’appel de Mme James à les diluer au nom de la lutte contre les prétendus « discours de haine ».

Selon Law and Crime, la section 230 « a aujourd’hui très peu d’amis en dehors de la Silicon Valley et des militants de la liberté d’expression ».

Toutefois, les législateurs démocrates de l’État de New York affirment que la nouvelle loi renforcera la sécurité sur les plateformes en ligne.

Par exemple, la sénatrice d’État Anna Kaplan, qui a parrainé le projet de loi, a déclaré en 2021 : « Les New-Yorkais connaissent l’expression « si vous voyez quelque chose, dites quelque chose », mais malheureusement, de nombreuses plateformes de médias sociaux rendent impossible de s’exprimer lorsque vous voyez quelque chose de dangereux ou de nuisible en ligne. »

Des efforts plus larges pour lutter contre la « désinformation » en ligne à New York et dans le monde entier

La loi new-yorkaise sur les discours haineux en ligne n’est qu’une des nombreuses tentatives récentes de l’État de contrôler les médias sociaux, selon Reclaim The Net, qui a cité des projets de loi proposant d’interdire le partage en ligne des vidéos illustrant des crimes violents et une proposition qui permettrait à l’État de poursuivre les platesformes si elles « contribuent » à l’utilisation « consciente ou imprudente » de la diffusion de « fausses informations » en ligne..

En octobre 2022, un juge fédéral a annulé les dispositions d’une nouvelle loi de l’État de New York qui aurait obligé les demandeurs de permis de port d’arme dans cet État à communiquer des informations sur leurs comptes de médias sociaux.

Au niveau fédéral, l’administration Biden est confrontée à un procès, intenté par les procureurs généraux de la Louisiane et du Missouri, alléguant plusieurs violations du Premier amendement de la part du gouvernement américain, notamment que les agences fédérales ont contraint les plateformes de médias sociaux à censurer ceux qui critiquaient les politiques COVID-19 du gouvernement.

En février 2022, la Chambre des représentants des États-Unis a présenté la loi sur la surveillance et la sécurité des services numériques (HR 6796), qui prévoit « la création d’un bureau de surveillance et de sécurité des services numériques au sein de la Commission fédérale du commerce, et d’autres objectifs ».

Le projet de loi reste bloqué dans le sous-comité de la Chambre sur la protection des consommateurs et le commerce.

Des politiques – et des textes législatifs – similaires sont mis en œuvre en dehors des États-Unis.

Au Royaume-Uni, le projet de loi sur la sécurité en ligne a été réintroduit au Parlement, tandis que l’Office britannique des communications (Ofcom) a nommé un ancien cadre de Google, Gill Whitehead, à la tête de la « sécurité en ligne » à partir d’avril 2023. D’autres cadres de l’Ofcom ont précédemment travaillé pour Amazon et Meta, selon Reclaim The Net.

La législation proposée « donnera à l’Ofcom le pouvoir d’imposer d’énormes amendes aux grandes entreprises technologiques qui n’appliquent pas systématiquement les règles de censure figurant dans leurs conditions de service ».

Parmi les dispositions de la proposition de loi figure la criminalisation des « fausses communications » – définies comme l’envoi d’une « information que la personne [sender] sait être fausse », dans l’intention de causer un « préjudice psychologique » à un « public probable » sans « excuse raisonnable ». Les sanctions prévues par la législation vont jusqu’à 51 semaines de prison.

Le projet de loi sur la sécurité en ligne ne définit pas clairement les termes « faux », « sait », « intention », « préjudice psychologique », « public probable » ou « excuse raisonnable ».

La législation proposée exigerait également que l’Ofcom mette en place un « comité consultatif sur la désinformation et la mésinformation ». Il prévoit également de généreuses exceptions pour les « grands médias » et les « éditeurs de presse reconnus », qui seraient à l’abri de l’infraction de « fausse communication » qui, pour les autres, serait considérée comme un acte criminel.

Comme le rapportait précédemment The Defender, l’UE a également adopté une législation similaire – Digital Services Act (DSA) – applicable à ses 27 États membres. La DSA vise à lutter contre la diffusion de « fausses informations et de contenus illicites » et s ‘appliquera « à tous les intermédiaires en ligne fournissant des services dans l’UE », proportionnellement à « la nature des services concernés » et au nombre d’utilisateurs de chaque plateforme.

Selon la DSA, les « très grandes plateformes en ligne » et les « très grands moteurs de recherche en ligne » – ceux qui comptent plus de 45 millions d’utilisateurs actifs mensuels dans l’UE – seront soumis aux exigences les plus strictes de la DSA.

Les grandes entreprises technologiques seront obligées d’exécuter des évaluations annuelles des risques afin de déterminer dans quelle mesure leurs platesformes « contribuent à la diffusion de matériel de discorde qui peut affecter des questions telles que la santé », et des vérifications indépendantes pour déterminer les mesures prises par les entreprises pour éviter que leurs platesformes ne fassent l’objet d’ « abus ».

Ces mesures s’inscrivent dans le cadre d’une répression plus large de la « propagation de la désinformation » demandée par la DSA, exigeant des plateformes qu’elles « signalent les discours de haine, éliminent tout type de propagande terroriste » et mettent en place « des cadres pour retirer rapidement les contenus illicites ».

En ce qui concerne la « désinformation » présumée, ces plateformes seront tenues de créer un « mécanisme de réponse aux crises » pour lutter contre la diffusion de ce type de contenu, la DSA citant spécifiquement le conflit entre la Russie et l’Ukraine et la « manipulation » du contenu en ligne qui en a résulté.

Le département d’État américain participe également aux efforts de lutte contre la « désinformation » et la « mésinformation » dans d’autres pays, par le biais de la « Déclaration pour l’avenir de l’Internet », établie le 28 avril et signée par 56 pays et entités, dont les États-Unis et l’Union européenne.

Bien que la déclaration ne soit pas juridiquement contraignante, elle énonce « un engagement politique à promouvoir des règles pour l’internet qui soient fondées sur des valeurs démocratiques ».

Ce qui est moins clair, c’est la façon dont la déclaration, et d’autres lois similaires, définissent les « valeurs démocratiques », bien que plusieurs indices puissent être trouvés dans les récentes déclarations faites par des acteurs mondiaux tels que le Forum économique mondial (WEF) et par les dirigeants des médias sociaux.

Par exemple, un article récent du WEF sur la façon dont le « métaverse » peut être gouverné fait référence à la façon dont les « modèles de gouvernance du monde réel » représentent une option possible. Les modèles du « monde réel » auxquels il est fait référence incluent toutefois le « Conseil de surveillance » de Facebook.

Le Conseil de surveillance se décrit lui-même comme « le plus grand réseau mondial de vérification des faits de n’importe quelle plateforme » l’éloge de lui-même pour avoir « affiché des avertissements sur plus de 200 millions de contenus distincts sur Facebook (y compris les re-partages) dans le monde entier, sur la base de plus de 130 000 articles de démystification rédigés par nos partenaires de vérification des faits », juste au cours du deuxième trimestre de 2022.

Le Conseil de surveillance a également lancé un programme pilote qui, selon lui, « vise à montrer aux gens des informations plus fiables et à leur donner le pouvoir de décider ce qu’ils veulent lire, croire et partager ». La manière dont le terme « fiable » est déterminé n’est pas précisée.

Actuellement, le Conseil de surveillance envisage également de recommander« des options alternatives d’application »à la suppression des « informations erronées et préjudiciables à la santé » relatives à la COVID-19 et d’autres questions, où, au lieu du retrait pur et simple de ces contenus des plateformes de Meta, ils peuvent être « étiquetés », « vérifiés » par des tiers ou leur distribution « réduite » – une pratique communément appelée shadowbanning.

L’Oversight Board a reçu un « engagement de 150 millions de dollars sur trois ans » de la part de Meta pour financer ces initiatives et d’autres.

Les médias sociaux et les représentants de Big Tech et Big Media ont également exprimé récemment des opinions sur la « démocratie » dans le domaine numérique. Par exemple, s’exprimant lors du forum démocratique d’Athènes en septembre, Nanna-Louise Linde, vice-présidente des affaires gouvernementales européennes chez Microsoft, a déclaré : « Nous devrions nous assurer de nettoyer nos problèmes dans l’ancien internet avant de les transférer également dans le métavers : vie privée, désinformation. »

Donald Martin, consultant en médias et ancien rédacteur en chef du journal écossais The Herald, a déclaré que si « les fake news [les nouvelles fausses] ne sont pas nouveaux », leur ampleur actuelle est « sans précédent ». Il a ajouté : « C’est vraiment effrayant de voir à quelle vitesse les « fake news » gagnent en traction et en acceptation, et ce en grande partie grâce aux algorithmes des médias sociaux. »

M. Martin a déclaré que les « fake news » doivent être « démystifiées dans les 30 minutes, avant qu’elles n’aient de l’influence ».

Esther O’Callaghan, fondatrice et directrice générale de hundo.xyz, s’est dite préoccupée par la propagation de « fausses informations et d’idées extrêmes » qui « finissent par être très insidieuses », et s’est demandée « comment s’assurer que nous les poussons [online users] dans la direction dont vous parlez et pas dans une autre » ?

Comme l’a précédemment rapporté The Defender, le concept de « nudging », issu du domaine de la psychologie comportementale, a été utilisé par les gouvernements et les responsables de la santé publique pour « encourager » certains comportements, tels que le respect des restrictions liées à la COVID-19.