El brote de COVID-19 ha llevado a que más del 90% de los estudiantes del mundo no asistan físicamente a las escuelas. Como resultado, las escuelas de todo el mundo están recurriendo a proveedores de servicios de aprendizaje en línea, o tecnología educativa comúnmente conocida como EdTech.

Los analistas de mercado esperan que el mercado emergente de “educación inteligente” tenga un valor de unos $680.000 millones para 2027. Pero la capacidad de la industria EdTech para recopilar cantidades enormes de datos sobre los estudiantes y su potencial para transformar los planes de estudio tiene a grupos como la Unión Americana de Libertades Civiles (ACLU) preocupados.

En marzo, la ACLU advirtió:

“Ahora que la pandemia COVID-19 ha creado una oportunidad sin precedentes para que las empresas de EdTech hagan que el uso de sus productos educativos que violan la privacidad sea casi universal, existe un riesgo real de que estas empresas, bajo la apariencia de un acto generoso, aprovechen esta oportunidad para crear un gran dossier de información personal sobre toda una generación de jóvenes estadounidenses”.

Un vistazo a algunos de los proyectos de EdTech que ya existen ofrecen información sobre lo que está por venir. Por ejemplo, una organización sin fines de lucro, Enlearn,proporciona una plataforma en línea donde los estudiantes interactúan con materiales que se adaptan a su progreso, y los profesores obtienen datos en tiempo real sobre estudiantes individuales.

El programa de inteligencia artificial (IA) de Enlearn “aprende y se mejora a sí mismo continuamente con el tiempo”. La política de privacidad de Enlearn es vaga, permitiendo a la organización sin fines de lucro compartir datos personales con terceros para imponer sus propios términos o servicios, para prevenir fraudes, para prevenir problemas técnicos, para proteger sus propios derechos legales o para llevar a cabo las solicitudes de sus usuarios.

Otro jugador de EdTech, KidAptive,ofrece información y análisis a las empresas que crean aplicaciones relacionadas con la educación en su plataforma de aprendizaje adaptativo (ALP) basada en la nube. La plataforma de aprendizaje adaptativo (ALP) de KidAptive tiene la capacidad de identificar cuándo los niños están adivinando las respuestas, trabajando demasiado rápido o demasiado lento y cuando no vuelven a comprobar sus respuestas.

Tanto Enlearn como KidAptive obtienen información sobre los patrones conductuales y psicológicos de los niños y convierten esos conocimientos en datos valiosos, que luego se pueden convertir en algoritmos para refinar sus otros productos.

La investigadora independiente Alison McDowell cree que estamos presenciando la mercantilización de los niños que se tratan como datos. “Al recopilar los datos de nuestros hijos a través de estos programas, estas empresas privadas pueden preparar sus sistemas de IA empleando bienes públicos”, dijo McDowell a The Defender.

Algunas empresas de EdTech están recopilando datos biométricos, incluyendo datos sobre las habilidades educativas, sociales y emocionales de los niños, y utilizando los datos para preparar y mejorar su IA.

Por ejemplo, Affectiva creó un programa de reconocimiento facial que se puede utilizar para detectar los comportamientos cognitivos y sociales de los niños mediante el análisis de cómo reaccionan a los estímulos durante un juego “educativo”.

En 2018, investigadores del Instituto Tecnológico de Massachusetts (MIT) llevaron a cabo ensayos en el aula de una ayuda didáctica para monitorizar la atención de los estudiantes, utilizando haces infrarrojos que eran capaces de leer el pulso ocular del estudiante. El MIT también probó entre los estudiantes gafas equipadas con sensores. Las gafas eran capaces de analizar las habilidades y reacciones interpersonales de los estudiantes. Cuando se combina con un programa de IA, los datos recopilados por los sensores podrían determinar si el niño debería estar en una clase avanzada, o tal vez necesita ayuda especial.

El dinero para gran parte de estos programas EdTech proviene de gigantes como la Fundación Gates,que ha participado en la financiación tanto de Enlearn como de KidAdaptive. Enlearn fue lanzado con $9 millones en fondos de subvención de la Fundación Gates. El dinero para fundar KidAptive fue proporcionado por el NewSchools Venture Fund,a la que la FundaciónGates ha dado al menos $50 millones.

La Fundación Gates comenzó a dar forma a EdTech en los Estados Unidos en 2011, cuando la fundación se asoció con la Carnegie Corporation para financiar, por un monto de $100 millones, una iniciativa de EdTech llamada inBloom. inBloom tenía como objetivo crear una plataforma centralizada para el intercambio de datos y los planes de estudio. La iniciativa recogió información de los estudiantes de las escuelas públicas, incluidos los resultados de sus pruebas, la asistencia, los registros de salud, los datos de raza y etnia y el estado económico y de discapacidad. inBloom almacenó la información en los servidores de Amazon y, a continuación, analizó y distribuyó los datos a terceros con fines de lucro especificados.

La política de privacidad de inBloom declaró originalmente que “no puede garantizar la seguridad de la información almacenada en inBloom o que la información no será interceptada cuando se está transmitiendo.”

El lanzamiento en 2013 de inBloom, que fue recibido con fuertes reacción públicas negativas debido a las preocupaciones sobre la protección de la privacidad, coincidió con las revelaciones de Edward Snowden sobre la Agencia de Seguridad Nacional (NSA) que recopila datos sobre civiles estadounidenses. Después de que los padres en varios estados de los Estados Unidos interpusieran demandas contra inBloom, la iniciativa fue clausurada en 2014.

En mayo, durante el punto más alto del brote de COVID, el gobernador de Nueva York, Andrew Cuomo anunció que su estado trabajaría con la Fundación Gates para “reimaginar” el sistema educativo de Nueva York a través de una asociación público-privada, InnovateEDU. InnovateEDU y la Fundación Gates planean crear “modelos y herramientas de aprendizaje de última generación”.

LandingZone, un proyecto InnovateEDU, agrega, recopila y extrae datos de cada estudiante de Google Classrooms.

McDowell dijo que las preocupaciones de privacidad van más allá de lo que las empresas de EdTech podrían hacer con los datos de los estudiantes. También hay preocupaciones acerca de lo que el aparato de vigilancia nacional podría hacer con el modelado predictivo del comportamiento de EdTech. Según McDowell:

“A través de plataformas de ingeniería de IA, algunas de las cuales están vinculadas a la industria de defensa, ellos pueden esencialmente moldear a los niños. No queremos que estas personas sean las que enseñen a nuestros hijos”.

InnovateEDU es miembro de la Asociación Industrial de Defensa Nacional (NDIA), un grupo comercial establecido en 1919 para ayudar a la industria de defensa a ampliar el esfuerzo bélico durante la Primera Guerra Mundial. Según su sitio web, el NDIA cree en “invertir en el crecimiento profesional de la industria de defensa” y en “promover la seguridad y la defensa nacional”.

Una empresa de programas que está en primera línea de EdTech, Clever,fue financiada por la firma de capital de riesgode Peter Thiel. Thiel es cofundador de Palantir, la compañía de big data que es decisiva en la vigilancia de la NSA y cuya financiación inicial procede de la Agencia Central de Inteligencia (CIA).

Clever ayuda a los distritos escolares a añadir cientos de aplicaciones de IA relacionadas con la escuela, como Vmath, TypingClub y SpringBoard,en un solo portal. Una de las aplicaciones alojadas por Clever, el “e-hallpass”, incluso realiza un seguimiento de cuánto tiempo pasan los estudiantes en el baño.

Según el sitio webde Clever , más del 60% de las escuelas desde preescolar a la escuela secundaria de los Estados Unidos utilizan juegos y aplicaciones de aprendizaje inteligente. Eso suma un total de unos 15 millones de estudiantes por mes, un número que probablemente crecerá dado que Clever proporciona el servicio a los distritos escolares de forma gratuita.

“Es un modelo de consumo de educación, en el cual los estudiantes simplemente consumen contenido, y este contenido está conectado a la inteligencia artificial y al modelado predictivo del comportamiento”, dijo McDowell.

Si bien el desarrollo de gran parte de esta EdTech ya estaba en marcha, la pandemia ha interrumpido la escolarización tradicional y ha creado un aumento en el uso de esta tecnología y la recopilación de datos de los estudiantes cada día. McDowell dijo que este incremento plantea preguntas con respecto a la vigilancia y al control de la disidencia:

“Si un estudiante de secundaria escribe un artículo sobre determinado tema polémico y adopta cierta postura política, la IA, dependiendo de a quién pertenezca, podría perfilar al estudiante, de forma que llegara a desalentar ese comportamiento con futuras tareas”.

Según el Instituto Pioneer,los gobiernos federal, estatal y local gastaron más de $30 mil millones en 2018 para implementar la monitorización del aprendizaje socio-emocional en las escuelas públicas de preescolar a la escuela secundria, dando prioridad a depredadores esquemas digitales de aprendizaje por datos sobre las típicas relaciones entre estudiantes y maestros humanos.

Este es el primero de una serie de artículos que examinan el impacto de las grandes empresas tecnológicas (Big Tech) sobre los niños en las escuelas.