Login
El Departamento de Justicia de EE.UU. (DOJ) la semana pasada demandó a TikTok, acusando a la plataforma de “violar flagrantemente” la Ley de Protección de la Privacidad Infantil en Internet (COPPA), la Norma COPPA y una decisión de 2019 de la Comisión Federal de Comercio (FTC) relativa a la recopilación ilegal de información personal de niños.
La demanda, presentada ante un tribunal federal de California, alega que TikTok recopiló “gran cantidad de datos” de niños menores de 13 años sin el consentimiento paterno, permitió que usuarios menores de 13 años crearan y mantuvieran cuentas, y no atendió las peticiones de los padres de eliminar las cuentas y la información personal de sus hijos.
La demanda -la última de una serie de acciones del gobierno estadounidense contra la plataforma- sigue a una denuncia presentada en 2020 por varios grupos de defensa, entre ellos el Centro de Información sobre Privacidad Electrónica (EPIC), en la que se alegaba que TikTok violaba la COPPA.
En abril, el presidente Joe Biden firmó un proyecto de ley por el que se prohibía TikTok en Estados Unidos, a menos que su empresa matriz china vendiera los activos estadounidenses de la plataforma de medios sociales antes de enero de 2025.
El anuncio del DOJ se produjo a raíz de un informe publicado el miércoles por “The Washington Post” en el que se destacaba el crecimiento de empresas privadas que utilizan tecnología de reconocimiento facial mediante inteligencia artificial (IA) para identificar la edad de los usuarios. La tecnología se comercializa en sitios como TikTok como medio de impedir el acceso a los menores.
Según el informe, la tecnología -que es propensa a falsos positivos- ha suscitado preocupación por la privacidad entre los padres. Sin embargo, según “The Post”, 19 estados han aprobado leyes que exigen la comprobación de la edad en Internet. Sin embargo, esas leyes se han enfrentado a obstáculos legales y constitucionales por motivos de censura y libertad de expresión.
Eva Galperin, directora de ciberseguridad de la “Electronic Frontier Foundation” (EFF), declaró a “The Defender” que “de los esfuerzos que nuestros legisladores y el gobierno estadounidense han estado haciendo para perseguir a TikTok y limitar su alcance, éste es probablemente el más razonable. Este sí tiene dientes”.
Galperin señaló, sin embargo, que otras plataformas de medios sociales han incurrido en prácticas similares. Dijo:
“El DOJ ha perseguido a otras empresas de medios sociales por violaciones de la COPPA. También lo ha hecho la FTC… Cuando la Cámara de Representantes decidió prohibir TikTok por violaciones de la privacidad y otros tipos de comportamiento, pensé que era bastante escandaloso, y la razón era que la Cámara de Representantes no acusaba a TikTok de hacer casi nada que no hicieran ya casi todas las demás empresas de redes sociales de Estados Unidos.
“La única diferencia es que lo hacía una empresa china y no una empresa ubicada en Europa o EEUU”.
Galperin citó un ejemplo:
“De hecho, hace años conseguimos que la FTC fuera a investigar a Google por su seguimiento de niños en Chromebooks, donde resultó que Google estaba dando Chromebooks gratis a escolares, no se suponía que rastreara nada de lo que hacían mientras estaban en la escuela, pero de hecho estaba recopilando esos datos”.
Galperin dijo que la denuncia de la EFF contra Google en 2015 condujo a un mayor escrutinio normativo de las prácticas de Google.
Según Tim Hinchliffe, editor de ‘The Sociable’, el uso de la tecnología de reconocimiento facial por parte de las plataformas de redes sociales y otros sitios web y servicios en línea supone un riesgo importante para los niños. Hinchliffe afirmó:
“Los riesgos del reconocimiento facial por IA en los niños superan a los beneficios. A lo largo de toda nuestra existencia humana, hemos tenido personas a las que llamamos padres para salvaguardar a los niños. Si un padre no quiere que la cara de su hijo se recoja y almacene en una base de datos, debe tener el poder y el control para impedir que esa tecnología sea utilizada por sus hijos sin prejuicios.”
Hinchliffe también advirtió de que el uso generalizado de estas tecnologías por parte de los niños podría dar lugar a una normalización de su uso.
“El escaneado facial con IA en los programas de los niños les enseña desde una edad temprana a aceptar que no tienen privacidad, y es el siguiente paso hacia un pasaporte de Internet basado en la identidad digital para eliminar todo anonimato”, afirmó Hinchliffe.
TikTok construyó “puertas traseras” que permitían a los niños acceder a su plataforma
Según la FTC, TikTok y su empresa matriz, ByteDance, “supuestamente eran conscientes de la necesidad de obedecer la Norma COPPA y la orden de consentimiento de 2019 y conocían los fallos de obediencia de TikTok que ponían en peligro los datos y la privacidad de los niños“.
Pero en lugar de obedecer, la denuncia afirma que:
“Durante años, millones de niños estadounidenses menores de 13 años han estado utilizando TikTok y los Demandados han estado recopilando y reteniendo información personal de los niños”.
La FTC escribió que, a partir de 2020, TikTok utilizó “revisores humanos” para determinar si un usuario era menor de 13 años, pero “supuestamente dedicaron una media de sólo cinco a siete segundos a revisar cada cuenta para determinar si pertenecía a un niño”.
A continuación, la plataforma presuntamente siguió recopilando datos personales de estos niños, “incluidos datos que permitían a TikTok dirigirles publicidad, sin notificárselo a sus padres ni obtener su consentimiento, como exige la Norma COPPA”.
Según la FTC, se construyeron “puertas traseras” en la plataforma de TikTok “que permitían a los niños eludir la puerta de edad destinada a controlar a los menores de 13 años”. Esto incluía el uso de credenciales importadas de otras plataformas de las grandes empresas tecnológicas, “Big Tech”, como Google e Instagram.
TikTok clasificó estas cuentas como de “edad desconocida”. TikTok utilizó los datos que recopiló “para crear perfiles de niños” y “compartió estos datos personales con terceros como Facebook y AppsFlyer”. La plataforma también dificultó supuestamente que los padres solicitaran la eliminación de las cuentas de sus hijos, ignorando a menudo las solicitudes de eliminación realizadas por los padres.
Do you have a news tip? We want to hear from you!
El auge de la industria de la “garantía de edad” conduce a una “pesadilla autoritaria”
Según “The Washington Post”, la preocupación por que los niños accedan a contenidos en línea inapropiados para su edad ha alimentado “una industria en auge de escáneres de edad utilizando IA, dirigidos a las caras de los niños”, compuesta por “un grupo poco conocido de empresas en un rincón experimental de la industria tecnológica conocido como ‘garantía de edad'”.
Estas comprobaciones de garantía de edad, que “se basan en un estilo de vigilancia que oscila entre “algo que viola la privacidad” y una “pesadilla autoritaria””, informó “The Post”, abren la puerta a riesgos para la privacidad de cualquiera que utilice la web y pueden “someter a los niños -y a todos los demás- a un nivel de inspección pocas veces visto en la Internet abierta”.
Aunque la garantía de edad “podría dar a los padres una mayor sensación de control y tranquilidad”, “The Post” informó de que la recogida y centralización de los datos personales y biométricos de los usuarios puede “aumentar las posibilidades de que sea pirateada, filtrada o utilizada indebidamente”.
“The Post” citó a empresas como Yoti, Incode y VerifyMyAge, describiéndolas como “guardianes digitales” que han desarrollado una tecnología que pide a los usuarios que verifiquen su edad grabando un “vídeo selfie”, a menudo mientras sostienen un documento de identidad oficial delante de la cámara. A continuación, las herramientas de IA determinan la edad de los usuarios, basándose en rasgos biométricos.
Las principales plataformas de redes sociales y servicios en línea, como TikTok, Facebook, Instagram y OpenAI, así como varios sitios web orientados a adultos, utilizan ya estas herramientas de comprobación de la edad, mientras que 19 estados -entre ellos Florida, Texas y Virginia- han aprobado o promulgado leyes que exigen la comprobación de la edad en línea.
Según “The Post”, esa legislación ha “creado una mina de oro”, y cita el ejemplo de la empresa de verificación de la edad Incode, de San Francisco, que ahora “rastrea internamente los proyectos de ley estatales y se pone en contacto con los funcionarios locales para… ‘comprender dónde… encaja nuestra tecnología'”.
Las fotos y los datos de los niños son un objetivo “tentador” para los piratas informáticos
La expansión de los servicios de verificación de la edad en línea -y el creciente número de estados que han promulgado leyes de verificación de la edad en línea- también han alimentado críticas y preocupaciones, señaló “The Post”:
“Los partidarios de las herramientas reconocen que la comprobación de la edad podría impulsar una profunda expansión de la supervisión gubernamental de la vida en línea. Pero los críticos sostienen que los legisladores que esperan proteger a los niños podrían, en cambio, exponer a los usuarios de todas las edades a terribles riesgos, obligándoles a entregar detalles íntimos de sus vidas a empresas que en gran medida no han sido supervisadas, no están reguladas y son desconocidas.”
Estas preocupaciones persisten a pesar de que empresas como Incode y Yoti aseguran que borran las imágenes después de analizar el rostro de un usuario.
Galperin dijo que los datos recogidos por estas empresas se alojan en “Grandes bases de datos que contienen fotos de personas con sus nombres reales, sus DNI, sus direcciones y todo tipo de información sensible, y se quedan ahí”.
Esto se convierte en un objetivo “tentador” para los piratas informáticos, dijo Galperin, y también hace que los datos corran el riesgo de sufrir una violación o filtración.
“También se trata de información que puede hacerse pública, no sólo por culpa de los piratas informáticos, sino porque las empresas cometen errores y esta información acaba filtrándose en Internet”, dijo.
Comparando las bases de datos centralizadas de información biométrica infantil con la “pedofilia legalizada”, el abogado especializado en privacidad Greg Glaser, con sede en California, declaró a “The Defender” que estos datos, que pueden incluir “fotografías corporales completas y parciales de niños” en entornos privados, correrían el riesgo de filtrarse “a la red oscura”.
“A estas alturas de la historia, es obvio que los sistemas informáticos no están diseñados con controles y equilibrios para respetar la moralidad tradicional, como la inviolabilidad de una infancia inocente”, afirmó Glaser.
Hinchliffe dijo que los datos de los usuarios individuales también podrían compilarse y exponerlos al riesgo de elaboración de perfiles, ya que “las bases de datos mantendrían un registro completo de las etapas de la vida de cada niño.” Y añadió:
“Los investigadores afirman que la IA ya puede detectar la sexualidad a partir de una sola fotografía. Imagina qué inferencias podrán hacer sobre los niños que son escaneados durante toda su vida. ¿Podrá el escaneado facial de la IA distinguir a un liberal de un conservador? ¿Podrá la IA hacer inferencias sobre una persona a partir de su forma de vestir, el color de su pelo, su etnia, sus microexpresiones o sus tatuajes?”
Galperin también advirtió de que los maltratadores domésticos y los acosadores podrían aprovecharse de los datos filtrados de las bases de datos de garantía de edad.
“Uno de los escenarios de secuestro más comunes en EE.UU. suele ser el secuestro de un niño cuando los padres se han divorciado pero sólo a uno de ellos se le ha concedido la custodia, y el progenitor sin custodia básicamente se queda con el niño”, dijo Galperin. “Esta tecnología podría poner a la gente en verdadero peligro”.
“Cuando los adultos experimenten de primera mano cómo puede utilizarse contra ellos el reconocimiento facial por IA, creo que dudarían más en permitir que esa misma tecnología se utilizara con sus hijos. Pero si la tecnología se utiliza primero con los niños, ¿se darían cuenta los padres de todo el alcance de lo distópico que podría llegar a ser?”
El gobierno y los agentes privados también pueden aprovecharse de esos datos. dijo Galperin:
“Estos datos también podrían ser tentadores para los anunciantes y los corredores de datos, a los que les encanta este tipo de información con fines de publicidad dirigida. También es de interés para los gobiernos y las fuerzas de seguridad, que compran regularmente datos a los corredores de datos para ahorrarse el trabajo de tener que acudir a los tribunales para obtener una orden judicial o una citación para ciertos tipos de datos.”
Otros han argumentado que la tecnología de comprobación de la edad, a pesar de la promesa de la IA, suele dar lugar a falsos positivos que pueden dejar fuera de los servicios en línea a usuarios legales.
“The Post” citó datos del Instituto Nacional de Estándares y Tecnología, según los cuales los estimadores de edad “suelen ser precisos en unos tres años”, y de Instagram, según los cuales las comprobaciones de edad habían detenido al 96% de los adolescentes que intentaron cambiar sus cuentas para aparentar más de 18 años.
Pero esto sigue dejando fuera a muchos usuarios potencialmente legítimos, y ciertos grupos corren un riesgo especial. “The Post” señaló que los porcentajes de error de los sistemas para chicas y mujeres eran más elevados que para chicos y hombres, y que las personas con ciertas discapacidades que afectan a su aspecto suelen quedar excluidas.
“Si tu solución tiene algún tipo de falso positivo, básicamente estás dejando fuera de Internet a personas que no deberían estarlo. Cualquier solución que tenga falsos positivos como éste es inaceptable”, dijo Galperin.
Cuando Yoti pidió a la FTC el año pasado que aprobara los estimadores de edad como medio de obtener el consentimiento paterno, más de 300 comentarios presentados durante el periodo de comentarios públicos se opusieron a la propuesta, informó el Post. La FTC denegó finalmente la propuesta de Yoti.