Login
La Commission fédérale du commerce (FTC) étudie une proposition qui permettrait aux entreprises d’utiliser la “technologie d’estimation de l’âge” par balayage biométrique du visage pour obtenir l’autorisation parentale d’utiliser des services de jeux en ligne pour les enfants de moins de 13 ans.
Yoti, une société spécialisée dans l’identité numérique, Epic Games, une filiale de la société de gestion du consentement parental SuperAwesome, et l’Entertainment Software Rating Board (ESRB) ont soumis la proposition.
Ils demandent l’approbation de la technologie “Privacy-Protective Facial Age Estimation” (estimation de l’âge facial avec protection de la vie privée) en vertu de la loi sur la protection de la vie privée des enfants en ligne (Children’s Online Privacy Protection Act – COPPA).
En vertu de la COPPA, les sites et services en ligne “destinés aux enfants de moins de 13 ans” doivent obtenir le consentement des parents avant de collecter ou d’utiliser les informations personnelles d’un enfant.
La loi comprend plusieurs “méthodes acceptables pour obtenir le consentement parental” et des dispositions “permettant aux parties intéressées de soumettre de nouvelles méthodes vérifiables de consentement parental” pour approbation.
La période de consultation publique de la FTC pour cette proposition se termine le 21 août.
Les entreprises qui soutiennent la proposition affirment que la technologie n’obtient que des parties d’une image faciale et que les données sont immédiatement supprimées une fois le processus de vérification terminé.
Toutefois, les défenseurs de la vie privée qui se sont entretenus avec The Defender ont déclaré que la proposition ne répondait pas suffisamment à un certain nombre de préoccupations en matière de vie privée liées à la technologie.
Certains experts ont également soulevé des questions sur les implications et les abus potentiels de la technologie de reconnaissance faciale de manière plus générale.
Pas aussi précis qu’on le prétend ?
“La technologie “Privacy-Protective Facial Age Estimation” analyse la géométrie du visage d’un utilisateur pour confirmer qu’il est adulte, selon la FTC.
Selon la proposition soumise par les trois candidats:
“L’estimation de l’âge facial avec protection de la vie privée fournit un mécanisme précis, fiable, accessible, rapide, simple et préservant la vie privée pour s’assurer que la personne qui donne son consentement est bien le parent de l’enfant”.
La proposition compare la technologie aux méthodes de vérification existantes :
“L’estimation de l’âge facial utilise la vision par ordinateur et la technologie d’apprentissage automatique pour estimer l’âge d’une personne sur la base de l’analyse des modèles dans une image de son visage. Le système prend une image du visage, la convertit en nombres et compare ces nombres à des modèles dans son ensemble de données d’apprentissage qui sont associés à des âges connus.
“En revanche, la technologie de reconnaissance faciale, qui vise à identifier une personne spécifique sur la base d’une photo, recherche des mesures géométriques uniques du visage, telles que la distance et la relation entre les traits du visage, et tente de les faire correspondre à un ensemble unique de mesures déjà enregistrées dans une base de données avec des informations d’identification uniques”.
Les candidats ont déclaré que la technologie qu’ils proposent s’appuie sur un “modèle de réseau neuronal en le nourrissant de millions d’images de divers visages humains avec leur mois et année de naissance réels”.
“Le système convertit les pixels de ces images en fonctions mathématiques qui représentent des modèles. Au fil du temps, le système a appris à établir une corrélation entre ces modèles et l’âge connu”, ont déclaré les demandeurs.
Citant un livre blanc de Yoti, la proposition explique comment ces images sont ensuite traitées :
“Lors de l’estimation d’un nouvel âge, le système extrait les parties de l’image contenant un visage, et seules ces parties de l’image sont analysées à la recherche de modèles correspondants.
“Pour faire correspondre les modèles, chaque nœud du réseau neuronal de Yoti exécute une fonction mathématique sur les données des pixels et transmet le résultat aux nœuds de la couche suivante, jusqu’à ce qu’un nombre émerge de l’autre côté. Les seules entrées sont les pixels du visage dans l’image, et les seules sorties sont des nombres. Sur la base d’un examen des modèles numériques, le système crée une estimation de l’âge”.
Selon la proposition, l’utilisateur prend une photo de lui-même (un selfie) avec l’aide d’un “module de capture automatique du visage” qui guide le positionnement de son visage dans le cadre. Le système vérifie ensuite s’il y a un visage humain dans le cadre et exige que l’image soit capturée sur le moment.
Le système n’accepte pas les images fixes et les photos qui ne répondent pas aux exigences de qualité sont rejetées. “Ces facteurs minimisent le risque de contournement et de prise d’images d’adultes inconscients par des enfants”, selon la proposition.
Julie Dawson, responsable de la politique et de la réglementation chez Yoti, a déclaré à Biometric Update que le logiciel “préserve la vie privée, est précis et plus facile à utiliser par un plus grand nombre de parents” que les autres solutions existantes.
“En outre, nous avons réalisé plus de quatre millions d’estimations d’âge pour SuperAwesome en dehors des États-Unis, ce qui témoigne de sa popularité auprès des parents. Lorsque l’estimation faciale de l’âge est disponible en tant qu’option pour le consentement parental en dehors des États-Unis, plus de 70 % des parents la choisissent par rapport à d’autres méthodes”, a-t-elle déclaré.
Selon Biometric Update, “SuperAwesome et Yoti ont travaillé ensemble sur le logiciel et ont commencé à le commercialiser en dehors des États-Unis l’année dernière. … Il serait précis à 99,97 % pour l’identification d’un adulte”.
Mais les entreprises reconnaissent également qu'”un tiers des personnes dans l’Union européenne et au Royaume-Uni ont été bloquées à ce jour par l’estimation de l’âge facial”, ce qui soulève des questions quant à la précision réelle de la technologie.
Un article paru dans Sifted en février 2022 indique que la technologie “est généralement capable d’estimer l’âge avec précision dans une fourchette de quatre à six ans” et que “pas plus tard qu’en 2018, la précision n’était pas au rendez-vous pour les peaux plus foncées”.
L’anonymat “serait totalement éradiqué”.
Selon le site web de SuperAwesome, les “informations personnelles identifiables” recueillies par la technologie “comprennent le nom, l’adresse, la géolocalisation, l’adresse électronique ou d’autres informations de contact, le texte ou la photo/vidéo générés par l’utilisateur, et les identifiants persistants (tels que les identifiants d’appareil et les adresses IP), dont beaucoup sont nécessaires pour les fonctions de base du produit”.
Malgré l’assurance qu’aucune information personnelle n’est collectée, mais seulement des parties de l’image du visage, et que les données sont immédiatement supprimées, le site web indique également :
“Pour offrir de bonnes expériences en ligne aux jeunes publics, de nombreux services numériques – y compris les jeux, les plateformes éducatives et les communautés sociales – bénéficient de l’utilisation d’informations personnelles pour faire fonctionner des fonctions clés ou pour permettre la personnalisation.”
Ce qui semble ne pas être abordé dans ces déclarations, c’est la possibilité que les enfants tentent malgré tout d’utiliser le système de vérification de l’âge, ainsi que la possibilité que les images recueillies soient néanmoins reliées à d’autres informations personnelles saisies par les enfants ou les parents dans le cadre d’une inscription ou d’un achat en ligne.
On ne sait pas non plus comment le logiciel, en plus de vérifier que la personne dont le visage est scanné est un adulte, peut confirmer qu’elle est également le parent ou le tuteur légal de cet enfant, et non pas une autre personne sans lien de parenté.
Les experts juridiques et de la protection de la vie privée qui se sont entretenus avec The Defender se sont interrogés sur la manière dont les informations personnelles identifiables, ainsi que les adresses IP et les données de géolocalisation, pourraient être collectées, malgré les assurances du contraire, et sur la manière dont ces informations pourraient être utilisées, intentionnellement ou par inadvertance.
Une solution dystopique
Greg Glaser, J.D., un avocat basé en Californie, a déclaré au Defender que la proposition était “dystopique”. Il a dit :
“Les données relatives à votre visage humain sont intrinsèquement identifiées à vous, ce qui signifie que si quelqu’un voit votre visage, il sait qui vous êtes, même s’il ne connaît pas votre nom. Étant donné que l’image de votre visage humain ne peut pas être dépersonnalisée aux fins de la loi sur la protection de la vie privée, les entreprises technologiques doivent obtenir l’autorisation du gouvernement pour collecter et utiliser les données pour de nouvelles utilisations (ou mécanismes) dans le cadre de la loi actuelle sur la protection de la vie privée.
“Cette action de la FTC en vertu de la COPPA est un pas de plus dans la direction de la surveillance par reconnaissance faciale en temps réel. Les entreprises affirment qu’elles doivent examiner en privé le visage et le corps de votre enfant (oui, le corps est visible avec le visage) afin de renforcer la sécurité, mais il s’agit d’une solution dystopique à la recherche d’un problème de minimis”.
Michael Rectenwald, Ph.D., auteur de « Google Archipelago: The Digital Gulag and the Simulation of Freedom », a déclaré à The Defender :
“L’utilisation de logiciels de reconnaissance faciale, censés vérifier que les utilisateurs sont bien des enfants, constitue un moyen détourné de suivre, de tracer et de surveiller les utilisateurs d’Internet à des degrés sans précédent et jusqu’à présent inimaginables.
“Il permettrait à Big Tech de collecter des informations biométriques sur les utilisateurs, non seulement pour les identifier en tant qu’enfants (ou adultes) en soi, mais aussi précisément en tant qu’individus particuliers”.
Derrick Broze, fondateur et rédacteur en chef du Conscious Resistance Network, a déclaré que de telles pratiques pourraient également conduire à la normalisation de la numérisation faciale. Il a dit :
“Ma principale préoccupation est la façon dont cette technologie et d’autres continuent à normaliser la numérisation des visages de personnes trop jeunes pour saisir pleinement l’importance de leurs données biométriques.
“Même si Yoti est une entreprise digne de confiance, ce processus de balayage de votre visage pour vérifier votre âge ou votre identité contribuera également à normaliser le balayage des visages en tant que moyen standard d’accès au contenu.
Dans le même ordre d’idées, M. Glaser a déclaré : “Plus les régulateurs ouvriront la porte à la surveillance faciale, plus ces entreprises technologiques captureront les visages et les corps non seulement au moment de la connexion, mais aussi de manière continue pendant l’utilisation du produit. Elles prétendront que cela est nécessaire pour empêcher tout accès non autorisé pendant l’utilisation du produit”.
L’avocat californien Robert Barnes, J.D., a déclaré qu’une telle normalisation pourrait, à son tour, conduire à une normalisation du “contrôle des masses”, expliquant à The Defender :
“La volonté du gouvernement d’autoriser les entreprises à effectuer des tests biométriques sur les enfants est le dernier effort en date en matière de surveillance de masse. Une telle surveillance est en réalité un contrôle de masse. Quand cela s’est-il déjà traduit par une plus grande liberté pour les citoyens, plutôt que par une réduction de cette liberté ?
Plusieurs experts ont mis en garde contre d’autres raisons sous-jacentes à l’extension de la reconnaissance faciale et de la surveillance biométrique, ainsi que contre les conséquences potentiellement néfastes pour la vie privée et l’anonymat des personnes.
M. Glaser a déclaré : “Dans l’ensemble, il y a une raison sinistre pour laquelle les entreprises technologiques souhaitent surveiller ouvertement nos visages et nos corps lorsque nous utilisons leurs produits.
Il a dit :
“Nous sommes des gens normaux et nous pensons naïvement que la raison bénigne est que les entreprises veulent améliorer la sécurité de leurs produits et services, mais la réalité est bien plus sombre. Les données en temps réel sur les visages humains sont extrêmement précieuses pour l’analyse du comportement humain par l’IA ( [artificial intelligence] ). Ce n’est pas seulement à des fins de marketing et de sécurité. Il s’agit du développement par l’IA de nouveaux produits auxquels nous ne consentirions jamais.
“Par exemple, Facebook n’est pas une organisation caritative: il souhaite utiliser la nouvelle IA pour convertir vos vidéos familiales en méta-expériences interactives qu’il pourra revendre non seulement à vous, mais aussi à d’autres personnes.
“En clair, le souhait de Facebook est de vendre la voix et les images de votre enfant comme des expériences en 3D dont des adultes douteux peuvent profiter sur Meta. Et Facebook n’est pas le seul à se livrer à ces perversions”.
Le site web de Yoti cite Meta – la société mère de Facebook – comme l’une des entreprises qui “font confiance” à ses produits.
Selon M. Rectenwald, “lesgrandes entreprises technologiques pourraient ainsi créer une base de données d’identité vérifiée par biométrie et contenant des profils numériques précis, qui pourraient ensuite être utilisés à des fins de marketing, mais aussi à des fins politiques, gouvernementales et autres”, ajoutant que
“Compte tenu du partage fréquent des données des utilisateurs entre les agences gouvernementales et les plateformes Big Tech, ces nouvelles identités numériques permettraient au gouvernement d’entreprendre des opérations de surveillance de précision, de renseignement et de collecte de données.
“Le dernier rempart de la vie privée en ligne, à savoir l’anonymat, serait totalement éradiqué. En outre, des pirates informatiques et d’autres personnes sans scrupules pourraient accéder à ces données à des fins diverses, notamment le chantage, l’extorsion, le trafic sexuel et le trafic d’enfants, etc.
Dans le même ordre d’idées, M. Glaser a déclaré qu’en légalisant ces technologies, “les régulateurs légalisent en fait la pornographie enfantine”. Il a dit au Defender :
“Je suis étonné que les législateurs et les régulateurs n’aient pas pris les devants pour protéger de manière proactive les enfants contre l’IA. Les entreprises technologiques ont régulièrement été prises en flagrant délit de pédopornographie téléchargée sur leurs sites. Se sont-ils réformés ? Non, ils deviennent activement des pornographes de surveillance ciblant les enfants.
“Avec la quantité de données qu’ils peuvent collecter grâce à la surveillance en temps réel des caméras des téléphones et des appareils, ainsi qu’aux capacités d’analyse avancées de l’IA, les régulateurs légalisent de fait la pornographie infantile.”
Des dénonciateurs ont déjà déclaré que le gouvernement américain n’avait pas de bons antécédents en matière de protection des mineurs, notamment contre la traite des êtres humains.
Par exemple, en avril, Tara Lee Rodas, un dénonciateur du ministère américain de la santé et des services sociaux, a déclaré que le gouvernement américain était devenu l'”intermédiaire” dans le transport des mineurs non accompagnés à travers la frontière entre les États-Unis et le Mexique.
Lors de son témoignage devant la sous-commission de l’intégrité, de la sécurité et de l’application des lois sur l’immigration de la Chambre des représentants, le 26 avril, M. Rodas a déclaré ce qui suit:
“Je pensais que j’allais aider à placer des enfants dans des foyers aimants. Au lieu de cela, j’ai découvert que les enfants étaient victimes de la traite au travers d’un réseau sophistiqué qui commence par le recrutement dans leur pays d’origine, le passage clandestin à la frontière américaine et se termine lorsque l’ORR [Office of Refugee Resettlement] remet un enfant à un parrain – certains parrains sont des criminels, des trafiquants et des membres d’organisations criminelles transnationales”.
M. Broze a également souligné que, malgré les garanties en matière de protection de la vie privée, les politiques peuvent changer par la suite.
“Bien qu’il soit admirable que Yoti et ses partenaires affirment ne pas stocker les images du visage d’un enfant et ne pas partager les données, l’histoire a montré que ces politiques d’entreprise peuvent changer au fil du temps”, a-t-il déclaré.
Les entreprises de reconnaissance de l’âge sont liées aux grandes entreprises technologiques, à BlackRock et aux agences gouvernementales.
Yoti, SuperAwesome et Epic Games sont également liés à plusieurs autres grandes entreprises et organisations.
Se décrivant comme “une société d’identité numérique qui permet au gens de prouver qui ils sont de façon plus sécuritaire, en leur fournissant une application gratuite et réutilisable d’identification numérique qui minimise les données qui sont partagées avec les entreprises, Yoti affirme travailler avec “des conseillers politiques, des groupes de réflexion, des chercheurs, des universitaires, des organismes humanitaires, nos utilisateurs et des gens ordinaires”.
L’entreprise affirme également qu’elle est guidée par “sept principes éthiques”, notamment “encourager [ing] propriété des données personnelles”, “permettre [ing] protection de la vie privée et de l’anonymat” et “assurer la sécurité [ing] données sensibles”.
Outre des partenariats avec des entités telles que Meta, le Service national de santé du Royaume-Uni, l’aéroport Heathrow de Londres et le gouvernement de Jersey, Yoti a levé, en 2019, 8 millions de livres sterling (environ 10,2 millions de dollars) auprès d'”investisseurs privés anonymes“.
SuperAwesome, quant à elle, se présente comme une entreprise fournissant des “solutions de marketing pour la jeunesse” qui “alimente l’écosystème des médias numériques pour la jeunesse” par le biais de “solutions de marché publicitaire et de jeux”, de “médias YouTube et d’influence” et de “gestion du consentement parental”.
“Les jeunes ne peuvent être ignorés”, déclare l’entreprise. “[As]parmi les utilisateurs numériques qui connaissent la croissance la plus rapide et qui sont les plus engagés, ils constituent un public essentiel pour stimuler l’engagement.”
SuperAwesome encourage également la participation des jeunes au métavers. Par exemple, un rapport publié par l’entreprise, intitulé “How brands can connect with young audiences in the metaverse“, examine “comment les marques peuvent créer du contenu de marque dans le métavers que les jeunes veulent voir”.
Epic Games, la société mère de SuperAwesome, qui développe et vend des jeux vidéo, a attiré d’importants investisseurs, dont BlackRock, la Walt Disney Company et le Disney Accelerator, Sony et Tencent.