La plataforma de intercambio de vídeos Rumble y un experto en derecho constitucional figuran entre quienes han demandado a Nueva York por la nueva “Ley contra el Discurso de Odio en Internet ” (“Online Hate Speech Law”) del estado, alegando que el lenguaje de la ley es tan amplio que podría poner a los blogueros en riesgo de ruina financiera por el mero hecho de compartir opiniones que el estado desaprueba.

La semana pasada la organización sin ánimo de lucro Fundación para los Derechos y la Expresión Individuales (“Foundation for Individual Rights and Expression”, FIRE por sus siglas en inglés) presentó la demanda en el Tribunal de Distrito de Estados Unidos para el Distrito Sur de Nueva York en nombre de tres demandantes: la plataforma de intercambio de vídeos en línea Rumble, su plataforma de suscripción “Locals” y el académico de la Primera Enmienda, Eugene Volokh, editor del blog “La conspiración Volokh” (“The Volokh Conspiracy”).

La demanda nombra como única acusada a la Fiscal General del Estado de Nueva York, Letitia James.

Según los demandantes, la legislación -que entró en vigor el 3 de diciembre- obligará a las plataformas en línea a perseguir y censurar discursos protegidos por la Primera Enmienda de la Constitución de Estados Unidos.

En un comunicado, FIRE afirma: “La ley se titula ‘Redes de medios sociales; prohibida la conducta que incite al odio’, pero en realidad va dirigida contra el discurso que no le gusta al Estado, aunque ese discurso esté plenamente protegido por la Primera Enmienda”.

Según la legislación, las plataformas en línea están obligadas a “proporcionar y mantener mecanismos para denunciar conductas de odio en su plataforma”, y están sujetas a multas de hasta 1.000 dólares al día por incumplimiento.

Los demandantes piden al tribunal que declare la nueva legislación contraria a la Primera y la Decimocuarta Enmiendas de la Constitución de Estados Unidos, que protegen la libertad de expresión y las garantías procesales, respectivamente.

También solicitan un interdicto permanente contra la aplicación de la ley, una declaración de que la nueva ley viola la Sección 230 de la Ley de Decencia en las Comunicaciones y honorarios de abogados y costas.

Según la demanda, los demandantes:

“Tratan de promover el debate libre y abierto en sus plataformas porque creen en el libre mercado de las ideas. Publican todo tipo de discursos y no creen que los discursos a los que se refiere la Ley contra el Discurso de Odio en Internet deban ser amedrentados, prohibidos o eliminados como resultado de un edicto gubernamental.

“No quieren repetir como loros el mensaje del Estado ni que se les exija responder a cada denuncia de supuesta ‘incitación al odio'”.

Sin embargo, también es posible que, en sus esfuerzos por cumplir potencialmente las disposiciones de la nueva ley de Nueva York, las plataformas de medios sociales introduzcan cambios fundamentales en sus plataformas y sus políticas que afectarán a los usuarios de todo el mundo, y no sólo en el estado concreto en el que la legislación esté en vigor.

Otra posibilidad es que algunos sitios web empiecen a optar por el “geofence” o “geobloqueo”, una práctica por la que las direcciones IP (protocolo de Internet) de determinadas regiones geográficas, como estados o países, son bloqueadas por un sitio web o proveedor de servicios en línea.

Se trata, por ejemplo, de una práctica cada vez más habitual en muchos servicios oficiales en línea de los estados de Estados Unidos, una práctica por parte de los gobiernos estatales que parece haber eludido una mayor atención, aunque es común en determinadas industrias.

El doctor Alex Pattakos, cofundador del “Global Meaning Institute” y escritor colaborador de “Psychology Today”, fue expulsado permanentemente de la plataforma de redes sociales LinkedIn, propiedad de Microsoft.

Pattakos explicó a “The Defender” por qué le preocupa la censura y su posible expansión:

“Mi experiencia reciente con las plataformas de medios sociales ‘tradicionales’ no ha tenido precedentes. A este respecto, mis mensajes han sido considerados “información errónea” y censurados por moderadores en línea y supuestos “verificadores de datos” en numerosas ocasiones.

Recientemente, me cancelaron permanentemente de LinkedIn por compartir información y pruebas empíricas que cuestionaban la narrativa “dominante” sobre un tema de gran preocupación. Fue descorazonador que un moderador desconocido, aunque obviamente tendencioso, restringiera mi libertad de expresión de esta manera.”

Para Pattakos, la censura de contenidos en las plataformas de medios sociales, ya sea por las propias plataformas o por el gobierno, representa “un ataque directo” a la democracia y la libertad, en lugar de proteger esos ideales.

“Como experto en las disciplinas de la ciencia política, la filosofía existencial y la psicología humanista, así como alguien que siempre ha estado comprometido con el método científico y el diálogo auténtico, este trato es obviamente personal”, dijo Pattakos. “Pero, lo que es más importante, es un ataque directo a los principios democráticos y a la libertad humana”.

La ley obliga a las plataformas a responder al contenido “odioso”, pero no lo define

Según “Reclaim The Net”, la nueva ley de Nueva York obligará a las plataformas en línea a elaborar normativas que expliquen cómo responderán a los contenidos generados por los usuarios que “vilipendien, humillen o inciten a la violencia”, basándose en clases protegidas como el género, la raza o la religión.

Las plataformas también estarán obligadas a crear mecanismos a través de los cuales los usuarios y visitantes puedan presentar quejas sobre “contenidos que inciten al odio”, lo que obligará a las plataformas a responder directamente a dichas quejas o enfrentarse a posibles investigaciones, citaciones y multas impuestas directamente por la fiscalía general.

La legislación se aprobó en junio y fue promulgada por la gobernadora Kathy Hochul, demócrata, que desde entonces ha sido elegida para un mandato completo.

Según “Law and Crime”, la legislación se propuso por primera vez a raíz de un tiroteo masivo en una tienda de comestibles de Buffalo. En octubre, James y Hochul publicaron un informe que “detalla la radicalización del tirador en sitios web marginales”, como 4chan, y su “uso de plataformas convencionales para retransmitir en directo actos violentos”.

Ese mismo mes, James dijo que las plataformas en línea deben rendir cuentas por “conductas de odio” resultantes de una “falta de supervisión, transparencia y rendición de cuentas de estas plataformas” que permiten que “las opiniones de odio y extremistas proliferen en línea.”

Refiriéndose al informe, James dijo que representa “una prueba más de que la radicalización y el extremismo en línea son una grave amenaza para nuestras comunidades, especialmente para las comunidades de color”.

“No podemos esperar a que ocurra otra tragedia para actuar”, añadió. “Debemos trabajar todos juntos para hacer frente a esta crisis y proteger a nuestros niños y comunidades”.

Sin embargo, “Reclaim The Net” argumenta que el lenguaje de la nueva ley es vago, al no proporcionar una definición para términos como “contenido de odio”, “humillar”, “incitar” o “vilipendiar”.

En una declaración, Rumble dijo que este lenguaje vago y amplio, como resultado, “afectaría a discursos constitucionalmente protegidos como chistes, sátiras, debates políticos y otros comentarios en línea”.

Según la demanda, la ley:

“Cuelga como la espada de Damocles sobre una amplia franja de servicios en línea (como sitios web y aplicaciones), amenazando con caer si no abordan adecuadamente el discurso que expresa ciertos puntos de vista desfavorecidos por el Estado, como el Estado ahora ordena que deben hacer.”

La demanda también describe la ley como un “doble golpe a la Primera Enmienda” que pone a las plataformas en riesgo de ser multadas a pesar del lenguaje vago de la ley:

“En una especie de ‘doble golpe’ a la Primera Enmienda, la Ley contra el Discurso de Odio en Internet obstaculiza la publicación de discursos desfavorecidos pero protegidos, obligando inconstitucionalmente a los servicios en línea a distinguir el ‘discurso de odio’ con una normativa específica, un mecanismo obligatorio de denuncia y respuesta, y respuestas directas obligatorias a cada denuncia.

“Si un servicio se niega, la ley amenaza con investigaciones del Fiscal General de Nueva York, citaciones judiciales y multas diarias de 1.000 dólares por infracción”.

FIRE describió la ley como “totalmente subjetiva”, con el potencial de dirigirse a cualquier cosa, desde “la entrada de un blog de un cómico” a la mayoría de los comentarios publicados por los usuarios en línea, “que podrían ser considerados por alguien, en algún lugar, en algún momento, como ‘humillantes’ o ‘vilipendiantes’ para un grupo basado en la condición de clase protegida como la religión, el género o la raza”.

En un post del 1 de diciembre en su blog, Volokh escribió:

“Los políticos neoyorquinos me ponen una placa de ‘policía de la palabra’ en el pecho porque dirijo un blog.

“Empecé el blog para compartir historias jurídicas interesantes e importantes, no para vigilar el discurso de los lectores a instancias del Gobierno”.

Chris Pavlovski, Consejero Delegado y Presidente de Rumble, ha declarado:

“La ley de Nueva York abriría la puerta a la supresión de la expresión protegida basándose en las quejas de activistas y matones.

“Rumble siempre celebrará la libertad y apoyará la independencia creativa, así que estoy encantado de trabajar con FIRE para ayudar a proteger la expresión legal en línea”.

¿Las redes sociales son “editores” o “plataformas”?

Al impugnar la nueva legislación, los demandantes se remiten al informe del fiscal general de Nueva York que aboga por limitar la Sección 230 de la Ley de Decencia en las Comunicaciones, que protege a las plataformas de medios sociales de ser consideradas responsables de los contenidos de terceros publicados por sus usuarios.

Los sitios de redes sociales han utilizado la Sección 230 para argumentar que no son “editores” de contenidos, lo que implicaría ciertas obligaciones legales que se antepondrían a la inmunidad que se les confiere como “plataformas”. Y ello a pesar de que estas plataformas suelen moderar los contenidos que se publican en ellas.

Mientras que algunos han pedido la derogación de las protecciones de la Sección 230 para las plataformas de medios sociales en respuesta a numerosos supuestos casos de censura, los demandantes en el pleito contra el fiscal general de Nueva York argumentan a favor de las protecciones otorgadas a las “plataformas” y en contra del llamamiento de James a diluirlas en nombre de la lucha contra la supuesta “incitación al odio”.

Según “Law and Crime”, el artículo 230 “tiene hoy muy pocos amigos fuera de Silicon Valley y los activistas de la libertad de expresión”.

Sin embargo, los legisladores demócratas del Estado de Nueva York sostienen que la nueva ley aumentará la seguridad en las plataformas en línea.

Por ejemplo, la senadora estatal Anna Kaplan, promotora del proyecto de ley, dijo en 2021: “Los neoyorquinos conocen la expresión ‘si ves algo, di algo’, pero por desgracia muchas plataformas de medios sociales hacen imposible denunciar cuando se ve algo peligroso o dañino en línea.”

Esfuerzos más amplios para frenar la “información errónea” en línea en Nueva York y en todo el mundo

Según “Reclaim The Net”, la Ley de incitación al odio en línea de Nueva York es sólo uno de los intentos recientes del Estado de vigilar las redes sociales, que cita proyectos de ley que proponen prohibir la difusión en línea de vídeos mostrando delitos violentos y una propuesta que permitiría al Estado demandar a las plataformas si “contribuyen” de forma “consciente o imprudente” a la difusión de “desinformación” en línea..

En octubre de 2022, un juez federal anuló las disposiciones de una nueva ley de Nueva York que obligaban a los solicitantes de licencias de armas de fuego a facilitar información sobre sus cuentas en las redes sociales.

A nivel federal, la administración Biden se enfrenta a una demanda, presentada por los fiscales generales de Luisiana y Misuri, en la que se alegan varias violaciones de la Primera Enmienda por parte del gobierno de Estados Unidos, entre ellas que las agencias federales coaccionaron a las plataformas de medios sociales para que censuraran a quienes criticaban las medidas políticas sobre la COVID-19 implementadas por el gobierno.

Y en febrero de 2022, la Cámara de Representantes de Estados Unidos presentó la Ley de Supervisión y Seguridad de los Servicios Digitales (HR 6796) “para disponer la creación de la Oficina de Supervisión y Seguridad de los Servicios Digitales dentro de la Comisión Federal de Comercio, y para otros fines”.

El proyecto de ley sigue estancado en la Subcomisión de Protección del Consumidor y Comercio de la Cámara de Representantes.

Fuera de Estados Unidos se están adoptando medidas políticas y leyes similares.

En el Reino Unido, se reintrodujo en el Parlamento el proyecto de ley sobre seguridad en línea, mientras que la Oficina de Comunicaciones del Reino Unido (Ofcom) nombró a una antigua ejecutiva de Google, Gill Whitehead, para que sea su responsable de “seguridad en línea” a partir de abril de 2023. Otros directivos de Ofcom han trabajado anteriormente para Amazon y Meta, informó “Reclaim The Net”.

La legislación propuesta “facultará a Ofcom para imponer enormes multas a las grandes empresas tecnológicas que no apliquen sistemáticamente las normas de censura de sus condiciones de servicio”.

Entre las disposiciones de la propuesta de ley se incluye la tipificación como delito de las “comunicaciones falsas”, definidas como el envío de “información que la persona [remitente] sabe que es falsa”, con la intención de causar “daño psicológico” a una “audiencia probable” sin “excusa razonable”. Las penas previstas por la legislación incluyen hasta 51 semanas de prisión.

El proyecto de ley de seguridad en línea no define claramente los términos “falso”, “sabe”, “intención”, “daño psicológico”, “audiencia probable” o “excusa razonable”.

La legislación propuesta también obligaría a Ofcom a crear un “comité asesor sobre información errónea y desinformación”. También incluye generosas excepciones para los “grandes medios de comunicación” y los “editores de noticias reconocidos”, que serían inmunes al delito de “comunicaciones falsas” que, para los demás, se consideraría un acto delictivo.

Como ya informó “The Defender”, la Unión Europea también aprobó una legislación similar – la ley de servicios digitales (“Digital Services Act, DSA por sus siglas en inglés) – aplicable a sus 27 Estados miembros. La DSA pretende atajar la difusión de “información errónea y contenidos ilegales” y se aplicará “a todos los intermediarios en línea que presten servicios en la UE”, en proporción a “la naturaleza de los servicios en cuestión” y al número de usuarios de cada plataforma.

Según la DSA, las “plataformas en línea muy grandes” y los “motores de búsqueda en línea muy grandes” -aquellos con más de 45 millones de usuarios activos mensuales en la Unión Europea- estarán sujetos a los requisitos más estrictos de la DSA.

Las grandes empresas tecnológicas estarán obligadas a evaluaciones anuales de riesgos para determinar en qué medida sus plataformas “contribuyen a la difusión de material divisivo que puede afectar a cuestiones como la salud”, y auditorías independientes para determinar medidas que están tomando las empresas para evitar que se “abuse” de sus plataformas.

Estas medidas forman parte de una ofensiva más amplia contra la “difusión de desinformación” solicitada por la DSA, que exige a las plataformas que “marquen el discurso del odio, eliminen cualquier tipo de propaganda terrorista” e implanten “marcos para retirar rápidamente los contenidos ilícitos“.

En cuanto a la supuesta “desinformación”, estas plataformas recibirán el mandato de crear un “mecanismo de respuesta a las crisis” para combatir la difusión de este tipo de contenidos, y la DSA cita específicamente el conflicto entre Rusia y Ucrania y la “manipulación” de contenidos en línea que se ha producido.

El Departamento de Estado de Estados Unidos también participa en los esfuerzos para combatir la “información errónea” y la “desinformación” en otros países, a través de “Una Declaración para el Futuro de Internet“, establecida el 28 de abril y firmada por 56 países y entidades, entre ellos EE.UU. y la UE.

Aunque la declaración no es jurídicamente vinculante, establece “un compromiso político para impulsar normas para Internet que se sustenten en valores democráticos”.

Lo que no está tan claro es cómo la declaración, y otras leyes similares, definen los “valores democráticos”, aunque se pueden encontrar varias pistas en las recientes declaraciones realizadas por actores globales como el Foro Económico Mundial (FEM) y por ejecutivos de las redes sociales.

Por ejemplo, un reciente artículo del FEM sobre cómo puede gobernarse el “metaverso” hace referencia a cómo los “modelos de gobernanza del mundo real” representan una posible opción. Sin embargo, los modelos del “mundo real” a los que se refiere incluyen el “Consejo de Supervisión” de Facebook.

El Consejo de Supervisión se describe a sí mismo como ” la mayor red mundial de verificación de datos de cualquier plataforma”, alabándose a sí misma por “mostrar advertencias en más de 200 millones de contenidos distintos en Facebook (incluidos los compartidos) en todo el mundo sobre la base de más de 130.000 artículos de desacreditación escritos por nuestros socios de verificación de datos”, solo durante el segundo trimestre de 2022.

El Consejo de Supervisión también puso en marcha un programa piloto que, según dijo, “pretende mostrar a la gente información más fiable y capacitarla para decidir qué leer, en qué confiar y qué compartir.” No se especifica cómo se determina qué es “fiable”.

En la actualidad, el Consejo de Supervisión también está considerando recomendar “opciones de aplicación alternativas” a la eliminación de la “información errónea que es perjudicial para la salud” relativa a la COVID-19, y otras cuestiones, en las que en lugar de eliminar directamente dichos contenidos de las plataformas de Meta, pueden ser “etiquetados”, “verificados” por terceros o “reducida” su distribución, una práctica comúnmente conocida como “shadowbanning” o “bloqueo fantasma”.

El Consejo de Supervisión recibió de Meta un “compromiso de 150 millones de dólares durante tres años” para financiar estas y otras iniciativas.

Las redes sociales y los representantes de las grandes empresas tecnológicas, “Big Tech”, y los grandes medios de comunicación, “Big Media”, también han expresado recientemente su opinión sobre la “democracia” en el ámbito digital. Por ejemplo, en su intervención en el Foro de la Democracia de Atenas en septiembre, Nanna-Louise Linde, Vicepresidenta de Asuntos Gubernamentales Europeos de Microsoft, afirmó: “Debemos asegurarnos de limpiar nuestros problemas en la vieja Internet antes de trasladarlos también al metaverso: privacidad, desinformación”.

Donald Martin, consultor de medios de comunicación y ex director del diario escocés “The Herald”, afirmó que, aunque “las noticias falsas no son nuevas”, su magnitud actual “no tiene precedentes”. Y añadió: “Es realmente aterrador lo rápido que las noticias falsas (‘fake news’) ganan tracción y aceptación, y eso es en gran parte gracias a los algoritmos de las redes sociales.”

Martin dijo que las “noticias falsas” deben ser “desacreditadas en unos 30 minutos, antes de que tengan tracción”.

Esther O’Callaghan, fundadora y consejera delegada de hundo.xyz, expresó su preocupación por la difusión de “información errónea e ideas extremas” que “en realidad acaban siendo muy insidiosas”, y se preguntó “cómo nos aseguramos de dar un empujoncito, “nudge”, [a los usuarios en línea] en la dirección de la que usted habla y no en otra?”

Como ya informó “The Defender”, el concepto de ‘dar un empujoncito’ (“nudging”), derivado del campo de la psicología del comportamiento, ha sido empleado por gobiernos y funcionarios de salud pública para “fomentar” determinados comportamientos, como el cumplimiento de las restricciones relacionadas con la COVID-19.