Login
Padres y alumnos están cada vez más preocupados por el uso de tecnologías de inteligencia artificial (IA) en las aulas, especialmente la tecnología de reconocimiento facial, según una encuesta del Centro para la Democracia y la Tecnología (CDT).
El informe del CDT, publicado el 12 de diciembre, reveló que más de la mitad de los padres y alumnos encuestados estaban preocupados por el uso del reconocimiento facial y otras tecnologías de IA, incluidos los sistemas de localización, en las escuelas.
Los profesores, que también fueron encuestados, mostraron un mayor grado de aceptación de las tecnologías.
Según el informe, cada vez son más los centros escolares que han implantado este tipo de herramientas.
Los defensores de estas tecnologías sostienen que pueden ayudar a proteger los entornos escolares de amenazas violentas, como los tiradores.
Los defensores de la privacidad argumentan que las tecnologías, que suponen un riesgo para la intimidad y los datos personales de los alumnos, no han demostrado que aumenten la seguridad escolar.
“Desconexión profunda entre escuelas, padres y alumnos”
Según el CDT, “se están utilizando herramientas de seguridad experimentales y potencialmente dañinas, independientemente de las preocupaciones de alumnos y padres”, incluidas tecnologías “que antes considerábamos ‘demasiado extravagantes’.”
Entre ellas se incluyen el análisis predictivo, la supervisión a distancia, el reconocimiento facial, el intercambio de datos con las fuerzas de seguridad, los sistemas de detección de armas y el seguimiento de la ubicación de los estudiantes.
Impulsadas por la IA, estas tecnologías “se están extendiendo en las escuelas para responder a los tiroteos masivos, la crisis de salud mental de los jóvenes y otras amenazas de seguridad siempre presentes para el personal y los estudiantes”, dijo CDT – es una tendencia “alarmante” que las escuelas continúen con el despliegue de estas tecnologías a pesar de los “altos niveles de preocupación” expresados por padres y estudiantes.
Estos “altos niveles de preocupación” se pusieron de manifiesto en los resultados de la encuesta, que mostraban:
- Al 58% de los padres y al 55% de los alumnos (y al 33% de los profesores) les preocupa el uso de cámaras de reconocimiento facial para comprobar quién puede entrar en un edificio escolar o quién está autorizado a estar en él.
- El 71% de los padres y el 74% de los alumnos (y el 36% de los profesores) expresaron su preocupación por el uso de estas tecnologías para rastrear la ubicación física de los estudiantes.
- El 60% de los padres y el 58% de los alumnos (y el 31% de los profesores) estaban preocupados por el uso de cámaras de IA “para captar movimientos físicos inusuales o irregulares.”
- El 55% de los padres y el 45% de los alumnos (y el 27% de los profesores) expresaron su preocupación por el uso de este tipo de tecnologías para detectar disparos en el recinto escolar.
- Al 69% de los alumnos y padres (y al 36% de los profesores) les preocupa que se analicen los datos de los alumnos para predecir qué alumnos tendrían más probabilidades de cometer un delito, un acto violento o un acto de autolesión.
- El 66% de los padres y el 65% de los alumnos (y el 38% de los profesores) expresaron su preocupación por la posibilidad de que la información académica de los alumnos, como sus calificaciones y registros de asistencia, pudiera compartirse con las fuerzas del orden.
- Al 68% de los padres y al 71% de los alumnos (y al 37% de los profesores) les preocupa que se utilicen estas tecnologías para controlar las cuentas de los alumnos en las redes sociales.
Estos resultados muestran “una profunda desconexión entre las escuelas, los padres y los estudiantes en sus prioridades cuando se trata de decisiones de adquisición de ‘edtech’ [datos educativos y tecnología]”, escribió CDT.
Colegios que utilizan los fondos de recuperación de COVID para comprar tecnologías de vigilancia
La encuesta se basa en un informe de la CDT, publicado en septiembre, sobre herramientas de tecnología educativa que filtran y bloquean contenidos, supervisan la actividad de los alumnos o utilizan IA generativa.
Según ese informe, la pandemia de COVID-19 contribuyó a acelerar la adopción de este tipo de tecnologías en los entornos escolares, un hecho que el CDT considera crítico.
“El uso de programas informáticos de control de la actividad de los alumnos se extendió rápidamente durante la enseñanza a distancia y ha mantenido una presencia significativa en la vida de los estudiantes. Desgraciadamente, sigue perjudicando a los estudiantes a los que pretende ayudar”, dice el informe.
Según el informe, esos perjuicios van desde medidas disciplinarias hasta la revelación de la identidad de los alumnos sin su consentimiento y el inicio de contactos con las fuerzas del orden.
El informe también incluyó datos que indican que el 88% de los profesores informaron que sus escuelas utilizan software de monitoreo de actividad estudiantil, el 40% de los profesores informaron que sus escuelas monitorean los dispositivos personales de los estudiantes y el 38% de los profesores informaron que sus escuelas monitorean a los estudiantes fuera del horario escolar – aunque, notablemente, hubo una disminución de 9 puntos porcentuales en este parámetro desde el año escolar 2021-22.
Kenneth Trump, presidente de “National School Safety and Security Services”, declaró a “Education Week” en octubre: “Las escuelas han estado utilizando los fondos de recuperación de COVID para comprar equipos y hardware de seguridad.”
Las empresas tecnológicas han “intensificado” la comercialización de estos productos a los distritos escolares en los últimos años, según Trump, quien dijo que las compras “se han utilizado para resolver problemas políticos y de relación con la comunidad, no tanto problemas de seguridad escolar.”
“Cuando hay uso o confiscación de armas en el campus, vemos que los consejos escolares y los superintendentes toman decisiones instintivas y juegan con las necesidades emocionales de seguridad de los padres y el personal”, añadió Trump.
En un ejemplo del Reino Unido, “Sky News” informó en octubre de 2021 de que 27 escuelas habían empezado a utilizar un sistema de reconocimiento facial para servir el almuerzo a los alumnos y 15 más estaban listas para implantar la tecnología, una medida supuestamente destinada a reducir el riesgo de transmisión del COVID-19.
“Sky News” informó de que padres y activistas “advirtieron de que normalizaba exponer a los niños a la vigilancia biométrica, y se quejaron de que no confiaban en que se informara adecuadamente a los estudiantes sobre el riesgo para la privacidad”.
Y a pesar de los altos niveles de consentimiento de los padres, “Sky News” informó en su momento de que Jen Persson y Pippa King, defensoras de la privacidad de los niños, dijeron al Comisionado de la Infancia de Escocia: “La alta aceptación no debe confundirse con el consentimiento”, señalando que los formularios de consentimiento proporcionados a los padres hacían que la aceptación pareciera obligatoria.
Estas quejas llevaron a la Oficina del Comisario de Información, el organismo de control de datos del Reino Unido, a investigar. El ayuntamiento escocés de North Ayrshire detuvo el despliegue de la tecnología, mientras la Cámara de los Lores británica debatía la cuestión en noviembre de 2021.
Greg Glaser, un litigante con sede en California para las iniciativas de privacidad de “Children Health Defense”, dijo a “The Defender” que “Durante la era Covidiana de mascarillas y confinamientos, los padres fueron testigos de una normalización forzada de las aulas Zoom, pero Zoom no era la única tecnología que se estaba normalizando en los jóvenes.”
Glaser añadió:
“Esto no es sorprendente en las escuelas públicas. La burocracia no se organiza para remediar los problemas de fondo de la sociedad, sino para tratar los síntomas. Nada mejorará realmente en las escuelas públicas hasta que la sociedad decida aprender la lección más profunda, el por qué los niños fracasan en un sistema diseñado para fracasar. ¿Por qué se diseñó el sistema para dañar a los niños?
“Mientras tanto, la multimillonaria industria educativa que se lucra con la ‘lucha’ contra el fracaso seguirá ofreciendo sus supuestas soluciones. Es todo tan cansino: se puede detectar la estafa a la legua”.
Preocupación por los “efectos amedrentadores” de las tecnologías de reconocimiento facial en las escuelas
Según la CDT, las tecnologías utilizadas “en nombre de la seguridad de los alumnos” presentan capacidades por las que deben preocuparse los responsables educativos y políticos.
Entre ellas figuran la falta de eficacia y precisión, como las limitaciones técnicas, los “falsos positivos” que podrían dar lugar a “medidas disciplinarias infundadas” dirigidas a los estudiantes, y las dificultades para auditar dichos sistemas.
Otra serie de preocupaciones, según CDT, son los “efectos paralizantes”. Según la CDT, “disponer de varias herramientas tecnológicas de seguridad invasivas como parte habitual del entorno de aprendizaje de un alumno puede, de hecho, hacer que los estudiantes se sientan menos seguros en el aula”.
“El control y la vigilancia excesivos pueden enfriar la expresión, las asociaciones, la circulación y el acceso a recursos vitales”, afirma el CDT.
Estas preocupaciones se reflejaron en un artículo publicado en 2020 en “Learning, Media and Technology” por Mark Andrejevic, Ph.D., y Neil Selwyn, Ph.D., de la Universidad Monash de Australia, según el cual dicha tecnología puede alterar “la naturaleza de las escuelas y la escolarización siguiendo líneas divisorias, autoritarias y opresivas”.
“El reto clave al que se enfrentan ahora los educadores es si existe o no una perspectiva futura realista de remodelar de algún modo estas tecnologías para fines más beneficiosos y/o benignos. O bien, ¿se trata de una forma de tecnología digital que no debería aplicarse ‘educativamente’ de ninguna manera?”, escribieron los autores.
Tim Hinchliffe, editor de “The Sociable”, declaró a “The Defender”: “El reconocimiento facial en las escuelas trata de manipular el comportamiento, y normaliza la vigilancia total desde una edad temprana.”
“En las aulas, el reconocimiento facial enseña a los niños que no tienen privacidad y que cualquier cosa que digan o hagan puede ser y será utilizada en su contra. Esto facilita a los gobiernos y a las empresas el control de las generaciones futuras, porque se les inculca la idea de que la privacidad no existe, y que más vale que hagan lo que se les dice, ¡o de lo contrario…!”, añadió.
Hinchliffe citó un reportaje de “Good Morning America” de 2020 que mostraba un vídeo de una clase en línea de la escuela primaria de Parkland, en Texas. Cuando a un profesor de segundo curso se le cortó la conexión Zoom, los alumnos empezaron a portarse mal al principio, antes de darse cuenta de que la llamada seguía grabándose.
“Los niños empezaron a portarse mal al principio, pero cuando un alumno se dio cuenta de que les seguían grabando, todos se comportaron por miedo a meterse en problemas con el director. Ese es el miedo que hace que [esta tecnología] sea tan poderosa y que los niños se comporten”, afirma.
La doctora Pin Lean Lau, de la Facultad de Derecho Brunel de Londres, relató una conversación con su hija, quien, al preguntarle si le preocuparía el uso de la tecnología de reconocimiento facial en la cafetería de su colegio, respondió: “En realidad, no. Aunque haría las cosas mucho más rápidas en la caja”.
Según Lau, “sus palabras validan la preocupación de que los niños son mucho menos conscientes de sus derechos sobre los datos en comparación con los adultos”.
“A gran escala, una población que sabe que está siendo vigilada cambiará su comportamiento para ajustarse a las normas, y sus ciudadanos se vigilarán a sí mismos”, afirma Hinchliffe.
El informe del CDT también aborda el impacto potencialmente desproporcionado de estas tecnologías contra categorías protegidas de estudiantes, la falta de recursos de muchos centros escolares para mantener y actualizar dichas tecnologías, la falta de claridad de los mecanismos de gobernanza que supervisan el uso de estas tecnologías y los riesgos para la privacidad, como la violación de datos.
En 2021, un pirateo informático que afectó a Verkada, un desarrollador de tecnologías de seguridad basadas en la nube muy utilizado en las escuelas, expuso públicamente imágenes en directo de cámaras de vigilancia.
Irene Knapp, directora de tecnología de la organización sin ánimo de lucro “Internet Safety Labs”, declaró a “Education Week” que los centros escolares deben considerar detenidamente si desean asumir la responsabilidad de manejar y proteger los datos biométricos de los alumnos.
Knapp afirma que es difícil saber si los datos que recogen estas tecnologías se comparten con terceros.
Según “Education Week”, “también existe el riesgo real de que la misión se desplace”, ya que es “tentador” para las escuelas utilizar la tecnología de vigilancia, como el reconocimiento facial, en formas para las que no fue originalmente concebida, “como el seguimiento y la imposición de multas a los padres que llegan tarde a recoger a sus hijos a la escuela”.
La Dra. Molly Kleinman, directora gerente del programa de Ciencia, Tecnología y Política Pública de la Universidad de Michigan, declaró a “Route Fifty” en septiembre que, sin una normativa en vigor, las escuelas pueden utilizar esas tecnologías para “tareas rutinarias” o pueden exigir el reconocimiento facial para que los estudiantes inicien sesión en ordenadores y tabletas de propiedad escolar.
Según Hinchliffe, “aunque el reconocimiento facial empiece en la entrada de los colegios para verificar quién entra por supuestas ‘razones de seguridad’, es sólo cuestión de tiempo que entre en las aulas, y cuando lo haga, robará a los alumnos otra parte de su infancia, y a los niños ya no se les permitirá ser niños.”
“Desde el punto de vista de la ley de privacidad, las escuelas de vigilancia del gobierno se están exponiendo a la responsabilidad en muchos niveles potenciales, ya que sus procedimientos de inclusión voluntaria, si los hay, fracasarán rutinariamente en cubrir la realidad de lo que ellos y sus socios corporativos están haciendo”, dijo Glaser.
“Basta con que se produzca una violación de datos para que se exija la notificación a los padres”, afirma Glaser. “Y cuando no se siguen debidamente los procedimientos de seguridad, eso significa demandas judiciales. Al menos, así es como el sistema diseñado para fallar, fallará”.
Estas preocupaciones no son nuevas. Ya en 2019, la revista Wired abordaba la “delicada ética” de implementar tecnologías de IA en las aulas.
Nueva York prohíbe las tecnologías de reconocimiento facial en las aulas
Fueron estas “serias preocupaciones en torno al uso de la tecnología de reconocimiento facial” que “no compensan sus supuestos beneficios” las que llevaron en septiembre al estado de Nueva York a promulgar una prohibición de este tipo de tecnologías, prohibiendo a las escuelas “comprar o utilizar tecnología de reconocimiento facial.”
Esta determinación se tomó tras la realización de un análisis por parte de la Oficina de Servicios de Tecnología de la Información y se basó en una investigación derivada de los datos recopilados por la organización sin ánimo de lucro “The Violence Prevention Project“, que descubrió que el 70% de los tiradores escolares entre 1980 y 2019 eran estudiantes matriculados.
La Universidad de Michigan de 2020 preparó un estudio sobre la tecnología de reconocimiento facial y sus repercusiones en las aulas también influyó potencialmente en la decisión de Nueva York de imponer una prohibición.
Según el estudio, la tecnología de reconocimiento facial “tendrá probablemente cinco tipos de implicaciones: exacerbar el racismo, normalizar la vigilancia y erosionar la privacidad, estrechar la definición del estudiante ‘aceptable’, mercantilizar los datos e institucionalizar la inexactitud”.
“Como FR [“facial recognition”, reconocimiento facial] está automatizado, extenderá estos efectos a más estudiantes de lo que podría hacerlo cualquier sistema manual”, añade el estudio. “Basándonos en este análisis, recomendamos encarecidamente que se prohíba el uso de FR en las escuelas”.
El estudio también emitía una amplia gama de recomendaciones nacionales y locales para las escuelas que siguieran utilizando esas tecnologías. El CDT formuló recomendaciones similares en su informe del 12 de diciembre.
Y en 2019, Vox señaló que las escuelas estaban utilizando cada vez más “el reconocimiento facial para tratar de detener los tiroteos“, pero argumentó que “deberían pensar dos veces” sobre esta práctica.
Los distritos escolares aún pueden optar por utilizar otros tipos de tecnologías biométricas, como la huella digital, según la nueva política de Nueva York.
Esto ocurre a pesar de la “inmensa presión” a la que se enfrentan los administradores escolares para proteger sus escuelas de la violencia armada y la amenaza de un tiroteo, según “Education Week”, que señaló que las tecnologías de reconocimiento facial y de armas impulsadas por IA “pueden ser una solución seductora para los consejos escolares y los superintendentes que buscan tranquilizar a los padres.”
Nueva York aplicó una moratoria al reconocimiento facial después de que unos padres impugnaran legalmente la adopción de esta tecnología por parte del Distrito Escolar Central de Lockport en enero de 2020, según la revista Time.
“El distrito del oeste de Nueva York fue uno de los primeros del país en incorporar esta tecnología tras los mortíferos tiroteos masivos que han llevado a los administradores de todo el país a adoptar medidas de seguridad que van desde cristales blindados hasta guardias armados”, informa Time.
En 2020, dos institutos de Francia que experimentaron con la tecnología de reconocimiento facial fueron demandados, lo que llevó a una decisión de un tribunal administrativo que prohibió la práctica.
Según la decisión, la implantación de la tecnología “no era proporcionada ni necesaria”, no se había obtenido libremente el consentimiento de los estudiantes y, en su lugar, se podrían haber aplicado medidas que sean menos intrusivas en la intimidad.
En otros lugares, sin embargo, prosigue el despliegue de este tipo de tecnologías. En agosto, Filadelfia anunció que introduciría drones propiedad del distrito “para patrullar zonas propensas a la violencia sin necesidad de policías sobre el terreno.”
“Biometric Update” informó en octubre de 2022 que las escuelas de Montana están utilizando la tecnología de reconocimiento facial de Verkada “en un intento de mejorar la seguridad.” El distrito escolar de Sun River Valley, por ejemplo, alimenta su sistema de reconocimiento facial con “una lista de vigilancia del Departamento del Sheriff local, así como con las fotos de los alumnos que aparecen en los anuarios”.
Según Hinchliffe, China está ampliando las capacidades de reconocimiento facial en sus escuelas “con IA y wearables, para incluir el reconocimiento de emociones y otros aspectos del comportamiento, de modo que puedan saber cuándo un niño está molesto o cuándo no está prestando atención.”
“Una vez más, el reconocimiento facial en las escuelas consiste en manipular y controlar el comportamiento infundiendo miedo al niño”, afirma Hinchliffe.
El abogado Richard Jaffe dijo a “The Defender” que hay espacio para el reconocimiento facial en las escuelas.
“La privacidad, como todos los derechos, no es absoluta y tiene que ceder ante … el derecho de los estudiantes a estar seguros”.
“Especulo que la mayoría de los padres y casi todos los profesores y el personal aceptarán algunas infracciones relativamente menores de la privacidad para aumentar la seguridad de las escuelas. A falta de cerrar todas las escuelas con un pelotón de policías SWAT armados con M16, la solución tiene que pasar por la tecnología, y cada vez más por la IA y el reconocimiento facial”, afirmó.
“La mayoría aceptará ese compromiso, y dudo mucho que los tribunales cuestionen a los distritos escolares que emplean las medidas actualmente disponibles”, añadió Jaffe.
Forbes, en un artículo de febrero de 2023, también vio un lugar para las tecnologías de reconocimiento facial en las escuelas, calificándolas de “tecnología inteligente”, pero señalando su “mala, mala, mala implementación” y argumentando que hay “Obstáculos que superar antes de que se pueda utilizar el reconocimiento facial.”
Estos obstáculos incluyen “la investigación sobre las repercusiones en el bienestar y la ética del uso de la biometría en las escuelas”, garantizar que estos sistemas “cumplen operativamente los más altos niveles de protección de los derechos” y asegurar que su uso es “plenamente legal” sin “consecuencias imprevistas”.