Login
Los innovadores tecnológicos llevan tiempo advirtiendo de los inconvenientes de la inteligencia artificial (IA), desde la creación de vídeos deepfake a la pérdida de puestos de trabajo, pasando por la total extinción del ser humano.
Pero en la mayoría de estos debates no se habla de cómo la IA afecta directamente a los niños, a pesar de que la tecnología ya está aquí, en los cuartos de juego y las habitaciones de los niños.
Los fabricantes ya ofrecen una amplia selección de productos para niños basados en IA, y la próxima generación de dispositivos de IA “probablemente se convertirán en niñeras electrónicas” – “IA nannies” o “nanny bots”- y se utilizarán como la televisión y los videojuegos para aligerar las tareas de cuidado.
La interfaz de la tecnología con los niños plantea importantes preocupaciones sobre su efecto en su desarrollo emocional y neurológico y en su intimidad.
La Dra. Michelle Perro, coautora de “¿Qué está enfermando a nuestros niños?“, que pasó 40 años en la práctica pediátrica, dijo a “The Defender”:
“La comunicación entre padres e hijos es algo más que una simple interacción neuronal. Además de la comunicación verbal, existen elementos inconmensurables, como las expresiones faciales, las variaciones tonales y los intercambios energéticos, a menudo ignorados, que se producen entre los seres humanos y que son imposibles de captar por la IA.
“Los niños aprenden con los seis sentidos, y la inteligencia emocional impartida a través de la comunicación es una parte clave de este aprendizaje. Por no mencionar que hay variaciones culturales que se imparten en el desarrollo del lenguaje y la comunicación que se perderían con las niñeras de IA.”
Los “compañeros de juego” de IA prometen una “amistad auténtica”
Al igual que las innovaciones de generaciones anteriores, los productos basados en la IA pretenden atraer a los niños, perfeccionar ciertas habilidades y facilitar la vida a los padres.
Por ejemplo, el robot Moxie se presenta como “el robot de inteligencia artificial más avanzado para niños mayores de cinco años”. Su objetivo es ayudar a los niños con habilidades como procesar y expresar emociones.
¿Su hijo está deprimido? ¿Los antidepresivos que les has estado metiendo a escondidas en la comida han empezado a perder efecto? ¿Estás demasiado ocupado contigo mismo para prestar la debida atención a tu propia familia?
¡Sin problemas! Por 800 dólares puedes comprar Moxie – Moxie es un robot de inteligencia artificial que mantendrá a tu hijo… pic.twitter.com/cGV8c2nD5g
– 🇺🇲LiquidsGear🇺🇲 (@LiquidBinaryTTV) 14 de agosto de 2023
Miko -otro compañero de juegos de la IA- promete una “amistad genuina” a los niños reconociéndoles y llamándoles por su nombre y respondiendo a su estado de ánimo.
“¿Necesitas una broma cuando estás deprimido? ¿Un baile cuando estás aburrido? Miko está en ello”, afirma el sitio web del producto. “Porque no es sólo el robot más inteligente que jamás conocerás. También es tu amigo”.
¿Juegos, rompecabezas, espectáculos… yoga? Miko lo tiene todo. Diseñado por un laboratorio de robots avanzados junto con expertos en desarrollo y educación infantil, Miko (Mi Compañero) es el amigo robot de inteligencia artificial ideal para los niños.#Miko #Miko3 #Yoga #DanceParty #KidsRobot #RobotForkids #kidsactivities pic.twitter.com/v3XHPG505p
– Miko Robot (@MikoRobot) 9 de octubre de 2022
Hoy en día, los niños interactúan habitualmente con la IA a través de dispositivos domésticos como teléfonos inteligentes (“Oye Siri”) y dispositivos de domótica (“Oye Google”) para encender y apagar luces y listas de reproducción de música, y para obtener respuestas a una amplia gama de preguntas.
Sandra Chang-Kredl, doctora y profesora asociada del Departamento de Educación de la Universidad Concordia de Montreal (Canadá), declaró a “The Globe and Mail”:
“¿Queremos que los niños piensen que los juguetes o los objetos son tan buenos como las mascotas, los amigos o los seres humanos? Eso me preocupa. … ¿Cómo van a ser las cosas cuando a los niños se les anima a propósito a confundir lo que es un objeto y lo que es un ser vivo?”.
La IA no se limita a robots y dispositivos.
Por ejemplo, la plataforma de redes sociales Snapchat lanzó en febrero “My AI“, impulsado por ChatGPT, diseñado para ser un “chatbot experimental y amigable” y un “compañero personal”.
Aunque las condiciones del servicio de Snapchat exigen que los usuarios tengan al menos 13 años, no se verifica la edad, lo que facilita que niños más pequeños se registren y utilicen el servicio.
Estas herramientas de IA más incorpóreas, aunque no son físicas como las niñeras robot, si no están cuidadosamente supervisadas por los padres y reguladas por los gobiernos podrían ocupar el lugar de las conexiones sociales reales y socavar las habilidades que los niños necesitan para negociar las relaciones en un mundo complejo, dijeron expertos en desarrollo infantil a “The Defender”.
Los mimos, los juegos y las interacciones cara a cara “no pueden externalizarse”.
Es demasiado pronto para saber cómo afectará la IA al desarrollo infantil, pero los expertos pueden hacer algunas conjeturas.
La doctora Liz Mumper, presidenta y directora ejecutiva del Centro Rimland de Medicina Integral, afirma que la idea de las niñeras de inteligencia artificial “provoca una respuesta de miedo innata” en su interior.
Mumper explicó a “The Defender”:
“Acabamos de ver los efectos devastadores en el desarrollo infantil durante las contramedidas COVID. Las innovaciones que distancian cada vez más a las personas, denigran el papel de los seres humanos en la crianza de los hijos y encumbran a la tecnología como sustituto parcial de los padres me preocupan por las generaciones venideras.
“Padres, tened cuidado con la publicidad de esta tecnología. Hay algunos aspectos de la crianza de bebés y niños pequeños -los mimos, los juegos y las interacciones cara a cara- que no pueden externalizarse.”
Según un reciente artículo de “The Wall Street Journal” escrito por la Dra. Dana Suskind, fundadora y codirectora del Centro TMW de Aprendizaje Temprano y Salud Pública (“TMW Center for Early Learning + Public Health”) y directora fundadora del Programa de Implantes Cocleares Pediátricos de la Universidad de Chicago, aún queda mucho por aprender sobre el desarrollo fundamental del cerebro.
Escribió en “La niñera IA en el futuro de tu bebé“:
“Lo que más necesitan los bebés para optimizar este primer periodo de rápido avance es una conversación rica, lo que los psicólogos del desarrollo llaman interacciones de ‘servir y devolver’. Esto resulta natural en la interacción de los padres con sus hijos y se sabe que impulsa el crecimiento de las capacidades cognitivas y emocionales de los niños. …
“Introducir cerebros jóvenes a una IA receptiva puede alterarlos de formas fundamentales que no podemos prever. Si proporcionamos el tipo equivocado de entrada o interacción, podemos distorsionar el desarrollo cognitivo de formas de gran alcance.”
Al educador Jonathan Sim le preocupa la influencia de la IA y las redes sociales en el desarrollo social y la capacidad de colaboración de los niños. En una columna para “Channel News Asia”, Sim escribió:
“He observado que los estudiantes tenían dificultades con los proyectos de grupo, ya que no podían entender cómo alguien podía trabajar de forma tan diferente a ellos – una falsa percepción reforzada por sus experiencias en las redes sociales, donde han estado interactuando con personas similares dentro de su burbuja. …
“Viendo cómo estas burbujas personalizadas están haciendo que nuestros jóvenes tengan dificultades para entender a los demás y trabajar con otros, mi preocupación es que este problema empeore con los niños criados por la IA.
“Si no tenemos cuidado, corremos el riesgo de criar una generación de niños con percepciones del mundo gravemente sesgadas debido a la burbuja personalizada que la IA crea a su alrededor.”
Preocupación por la privacidad de la tecnología de IA centrada en los niños
Un producto de IA, Storytimes, utiliza un programa que escribe a los niños un cuento y genera las ilustraciones que lo acompañan basándose en las fotos que sube el usuario. El sitio web de Storytimes afirma: “Gracias a la inteligencia artificial, somos capaces de recrear ilustraciones realistas de tu hijo en distintos escenarios y aventuras.”
Aunque el sitio web del producto ofrece información sobre las funciones creativas, no aborda cómo se utilizarán las imágenes de los niños ni si se incluirán salvaguardas para protegerlas.
Las empresas de vigilabebés ofrecen tecnología de inteligencia artificial que registra las caras, los sonidos y los movimientos de los bebés las 24 horas del día. Según “The Washington Post”, sus detractores temen que estos dispositivos supongan un grave perjuicio para la intimidad y expongan los hogares a ciberataques.
El abogado Greg Glaser dijo a “The Defender”: “Me sorprende que los legisladores y los reguladores no vean aquí dos pasos adelante para proteger proactivamente a los niños de la IA”.
Los juegos, vídeos y plataformas de redes sociales con los que interactúan los niños plantean problemas de privacidad similares.
La Comisión Federal de Comercio está estudiando una propuesta para permitir que las empresas utilicen “tecnología de estimación de la edad” de escaneado biométrico facial basado en IA para obtener el permiso paterno para que los menores de 13 años utilicen servicios de juegos en línea. Pero las garantías de privacidad propuestas por la industria no convencen a los críticos.
Promesas “vagas e inaplicables”
En junio, los legisladores de la Unión Europea firmaron un proyecto legislativo para el uso de la IA, que incluye la prohibición de utilizar la tecnología en la vigilancia biométrica y determinadas cláusulas para proteger a los niños.
Se trata de la primera ley sobre IA de un regulador importante y podría servir de modelo para otras jurisdicciones que planeen normativas similares.
El proyecto de directrices políticas de UNICEF promueve los derechos del niño y sensibiliza sobre el modo en que los sistemas de IA pueden defenderlos o socavarlos. Las orientaciones se elaboraron tras un amplio proceso de consulta con expertos de todo el mundo y casi 250 niños de cinco países.
Steven Vosloo, especialista en datos, investigación y política de UNICEF, declaró:
“La IA podría estar utilizando el procesamiento del lenguaje natural para entender palabras e instrucciones, por lo que está recopilando muchos datos de ese niño, incluidas conversaciones íntimas, y esos datos se están almacenando en la nube, a menudo en servidores comerciales. Por tanto, hay problemas de privacidad. …
“Alrededor de un tercio de los usuarios de Internet son niños. A menudo nos encontramos con que los niños más pequeños utilizan plataformas de medios sociales o de intercambio de vídeos que no se diseñaron pensando en ellos.
“A menudo se diseñan para lograr el máximo compromiso y se basan en un cierto nivel de elaboración de perfiles a partir de conjuntos de datos que pueden no representar a los niños”.
Según Nature, “Estados Unidos no tiene leyes federales amplias relacionadas con la IA, ni normas significativas de protección de datos”. Las audiencias del Congreso y las reuniones presidenciales relacionadas con la regulación de la IA han dado lugar a promesas “vagas e inaplicables”, según Nature.
Este año van a entrar en vigor leyes relacionadas con la IA en seis estados. La mayoría de ellas forman parte de leyes integrales de protección de la intimidad de los consumidores, que regulan la IA y la toma de decisiones automatizada permitiendo a los usuarios optar por no participar en la elaboración de perfiles y exigiendo evaluaciones de impacto.
Los dos proyectos de ley de Minnesota que proponían prohibir los algoritmos de las redes sociales dirigidos a los niños fracasaron. El año pasado se consideraron dos en California: La AB 2273, “Ley del Código de Diseño Adecuado a la Edad de California”, fue aprobada y convertida en ley, y la AB 2408, “Ley del Deber de las Plataformas de Medios Sociales para con los Niños”, fue “silenciosamente eliminada” por el Senado de California.
En esta legislatura, 12 estados han aprobado leyes sobre IA. La RB 1103 de Connecticut es la única que aborda la protección de la infancia, e incluso así, sólo menciona brevemente cuestiones de privacidad, no las posibles consecuencias neurológicas y sociales de exponer a los niños a la IA.
Varios estados propusieron proyectos de ley para aumentar la transparencia y la comprensión de los efectos de la IA. Sólo dos proyectos de ley se centran en los niños: La AB 1282 de California y la HM 75/SM 63 de Nuevo México crearían comisiones para informar sobre los riesgos para la salud mental asociados al uso que hacen los niños de las redes sociales y la IA.