Login
Laut einer Umfrage des Centers for Democracy and Technology (CDT) sind Eltern und Schüler zunehmend besorgt über den Einsatz von Technologien der künstlichen Intelligenz (KI) im Klassenzimmer, insbesondere von Technologien zur Gesichtserkennung.
Der CDT-Bericht, der am 12. Dezember veröffentlicht wurde, ergab, dass mehr als die Hälfte der befragten Eltern und Schüler über den Einsatz von Gesichtserkennung und anderen KI-Technologien, einschließlich Systemen zur Standortbestimmung, in Schulen besorgt sind.
Die ebenfalls befragten Lehrkräfte zeigten eine höhere Akzeptanz der Technologien.
Dem Bericht zufolge hat eine wachsende Zahl von Schulen solche Instrumente eingeführt.
Die Befürworter dieser Technologien argumentieren, dass sie dazu beitragen können, das schulische Umfeld vor gewalttätigen Bedrohungen, z. B. durch Schulschützen, zu schützen.
Befürworter des Datenschutzes argumentieren, dass die Technologien, die ein Risiko für die Privatsphäre und die persönlichen Daten von Schülern darstellen, die Sicherheit in Schulen nachweislich nicht erhöhen.
“Tiefe Kluft zwischen Schulen, Eltern und Schülern”
Laut CDT werden “experimentelle, potenziell schädliche Sicherheitsinstrumente ohne Rücksicht auf die Bedenken von Schülern und Eltern eingesetzt” – einschließlich Technologien, “die wir früher für ‘zu abwegig’ hielten”.
Dazu gehören prädiktive Analysen, Fernprüfung, Gesichtserkennung, Datenaustausch mit Strafverfolgungsbehörden, Waffenerkennungssysteme und die Verfolgung des Aufenthaltsorts von Schülern.
Angetrieben durch künstliche Intelligenz (KI) werden diese Technologien in Schulen “immer häufiger eingesetzt, um auf Massenschießereien, die psychische Krise junger Menschen und andere allgegenwärtige Sicherheitsbedrohungen für Lehrkräfte und Schüler zu reagieren”, so das CDT – ein “alarmierender” Trend, dass die Schulen die Einführung solcher Technologien trotz “großer Bedenken” von Eltern und Schülern fortsetzen.
Dieses “hohe Maß an Besorgnis” zeigte sich in den Ergebnissen der Umfrage:
- 58 % der Eltern und 55 % der Schüler (und 33 % der Lehrer) waren besorgt über den Einsatz von Gesichtserkennungskameras, mit denen überprüft werden soll, wer ein Schulgebäude betreten darf oder wer berechtigt ist, sich dort aufzuhalten.
- 71 % der Eltern und 74 % der Schüler (und 36 % der Lehrer) äußerten sich besorgt über den Einsatz solcher Technologien zur Überwachung des Aufenthaltsortes von Schülern.
- 60 % der Eltern und 58 % der Schüler (und 31 % der Lehrer) waren besorgt über den Einsatz von KI-Kameras, “um ungewöhnliche oder unregelmäßige körperliche Bewegungen zu erkennen”.
- 55 % der Eltern und 45 % der Schüler (und 27 % der Lehrer) äußerten sich besorgt über den Einsatz solcher Technologien zur Erkennung von Schüssen auf dem Schulgelände.
- 69 % der Schüler und Eltern (und 36 % der Lehrer) waren besorgt darüber, dass Schülerdaten analysiert werden, um vorherzusagen, welche einzelnen Schüler am ehesten ein Verbrechen, eine Gewalttat oder eine Selbstverletzung begehen würden.
- 66 % der Eltern und 65 % der Schüler (und 38 % der Lehrer) äußerten sich besorgt über die Möglichkeit, dass die akademischen Daten der Schüler, wie ihre Noten und Anwesenheitslisten, an die Strafverfolgungsbehörden weitergegeben werden könnten.
- 68 % der Eltern und 71 % der Schüler (und 37 % der Lehrer) waren besorgt darüber, dass solche Technologien zur Überwachung der Social-Media-Konten von Schülern eingesetzt werden könnten.
Diese Ergebnisse zeigen “eine tiefe Kluft zwischen den Prioritäten von Schulen, Eltern und Schülern, wenn es um Beschaffungsentscheidungen im Bereich Bildungswesen [educational data and technology] geht”, schrieb CDT.
Schulen nutzen COVID-Fonds-Mittel für den Kauf von Überwachungstechnologien
Die Umfrage stützt sich auf einen im September veröffentlichten CDT-Bericht über Bildungswesen-Tools, die Inhalte filtern und sperren, Schüleraktivitäten überwachen oder generative KI einsetzen.
Diesem Bericht zufolge hat die COVID-19-Pandemie dazu beigetragen, die Einführung solcher Technologien in Schulen zu beschleunigen – eine Entwicklung, die das CDT kritisch sieht.
“Der Einsatz von Software zur Überwachung der Schüleraktivitäten hat sich während des Fernunterrichts rasch ausgeweitet und ist im Leben der Schüler nach wie vor sehr präsent. Leider
schadet er weiterhin den Schülern, denen er eigentlich helfen soll”, heißt es in dem Bericht.
Dem Bericht zufolge reichen diese Schäden von Disziplinarmaßnahmen bis hin zum Outing von Schülern ohne deren Zustimmung und der Kontaktaufnahme mit Strafverfolgungsbehörden.
Der Bericht enthielt auch Daten, aus denen hervorging, dass 88 % der Lehrer berichteten, dass ihre Schulen Software zur Überwachung der Schüleraktivitäten einsetzen, 40 % der Lehrer berichteten, dass ihre Schulen die persönlichen Geräte der Schüler überwachen, und 38 % der Lehrer gaben an, dass ihre Schule die Schüler außerhalb der Schulzeit überwacht – allerdings war hier ein Rückgang um 9 Prozentpunkte gegenüber dem Schuljahr 2021/22 zu verzeichnen.
Kenneth Trump, Präsident von National School Safety and Security Services, erklärte im Oktober gegenüber Education Week: “Die Schulen haben die COVID-Genesungsfonds für den Kauf von Sicherheitsausrüstung und Hardware verwendet.”
Technologiefirmen haben in den letzten Jahren die Vermarktung dieser Produkte an Schulbezirke “verstärkt”, so Trump, der sagte, dass die Käufe “zur Lösung politischer und gemeinschaftlicher Probleme eingesetzt wurden, nicht so sehr zur Lösung von Schulsicherheitsproblemen”.
“Wenn es um den Einsatz oder die Beschlagnahmung von Waffen auf dem Campus geht, sehen wir, wie Schulvorstände und Superintendenten reflexartig Entscheidungen treffen und mit den emotionalen Sicherheitsbedürfnissen von Eltern und Lehrern spielen”, so Trump weiter.
Ein Beispiel aus dem Vereinigten Königreich: Sky News berichtete im Oktober 2021, dass 27 Schulen damit begonnen haben, ein Gesichtserkennungssystem für die Ausgabe des Mittagessens an die Schüler zu verwenden, und 15 weitere Schulen bereit sind, die Technologie einzuführen – eine Maßnahme, die angeblich das Risiko der Übertragung von COVID-19 verringern soll.
Sky News berichtete, dass Eltern und Aktivisten “davor warnten, dass es normal sei, Kinder der biometrischen Überwachung auszusetzen, und sich darüber beschwerten, dass sie nicht sicher seien, dass die Schüler angemessen über das Risiko für die Privatsphäre informiert würden”.
Und trotz der angeblich hohen Zustimmung der Eltern berichtete Sky News damals, dass die Anwälte für den Schutz der Privatsphäre von Kindern, Jen Persson und Pippa King, dem schottischen Kinderbeauftragten sagten: “Eine hohe Akzeptanz sollte nicht mit Zustimmung verwechselt werden”, und darauf hinwiesen, dass die den Eltern zur Verfügung gestellten Zustimmungsformulare die Zustimmung als obligatorisch erscheinen ließen.
Solche Beschwerden veranlassten das Information Commissioner’s Office, die britische Aufsichtsbehörde für Daten, zu einer Untersuchung. Der schottische North Ayrshire Council hat die Einführung der Technologie ausgesetzt, während das britische Oberhaus im November 2021 über das Thema debattierte.
Greg Glaser, ein in Kalifornien ansässiger Anwalt für die Datenschutzinitiativen von Children Health Defense, erklärte gegenüber The Defender: “Während der Covid-Ära der Masken und Lockdowns wurden Eltern Zeuge einer erzwungenen Normalisierung von Zoom-Klassenzimmern, aber Zoom war nicht die einzige Technologie, die bei jungen Menschen normalisiert wurde.”
Glaser fügte hinzu:
“Dies ist für staatliche Schulen nicht überraschend. Die Bürokratie ist nicht darauf ausgerichtet, die grundlegenden Probleme der Gesellschaft zu beheben, sondern die Symptome zu behandeln. Nichts wird sich an den staatlichen Schulen wirklich verbessern, solange die Gesellschaft nicht beschließt, die tiefere Lektion zu lernen, warum Kinder in einem System scheitern, das zum Scheitern verurteilt ist. Warum wurde das System so konzipiert, dass es Kinder schädigt?
“In der Zwischenzeit wird die milliardenschwere Bildungsindustrie, die von der “Bekämpfung” des Scheiterns profitiert, weiterhin ihre angeblichen Lösungen anbieten. Das ist alles so ermüdend – man erkennt den Betrug schon aus einer Meile Entfernung.”
Besorgnis über “abschreckende Wirkung” von Gesichtserkennungstechnologien in Schulen
Nach Ansicht des CDT stellen Technologien, die “im Namen der Sicherheit von Schülern” eingesetzt werden, Möglichkeiten dar, über die sich Bildungsleiter und politische Entscheidungsträger Gedanken machen sollten.
Dazu gehören mangelnde Wirksamkeit und Genauigkeit, z. B. technische Beschränkungen, “falsch positive Ergebnisse”, die zu “unbegründeten Disziplinarmaßnahmen” gegen Schüler führen könnten, und Schwierigkeiten bei der Überprüfung solcher Systeme.
Ein weiterer Grund zur Besorgnis ist laut CDT die “abschreckende Wirkung”. Laut CDT “kann die Verwendung verschiedener invasiver Sicherheitstechnologien als fester Bestandteil des Lernumfelds der Schüler dazu führen, dass sie sich im Klassenzimmer weniger sicher fühlen.
“Übermäßige Kontrolle und Überwachung können die Redefreiheit, die Vereinigungsfreiheit, die Bewegungsfreiheit und den Zugang zu lebenswichtigen Ressourcen beeinträchtigen”, so CDT.
Diese Bedenken spiegeln sich in einem 2020 in Learning, Media and Technology veröffentlichten Artikel von Mark Andrejevic, Ph.D., und Neil Selwyn, Ph.D., von der Monash University in Australien wider, demzufolge solche Technologien “das Wesen von Schulen und Schulbildung entlang spaltender, autoritärer und unterdrückerischer Linien” verändern können.
“Die größte Herausforderung für Pädagogen ist die Frage, ob es eine realistische Perspektive gibt, diese Technologien für nützlichere und/oder harmlosere Zwecke umzugestalten oder nicht. Oder handelt es sich um eine Form der digitalen Technologie, die in keiner Form ‘pädagogisch’ eingesetzt werden sollte”, schreiben die Autoren.
Tim Hinchliffe, Redakteur von The Sociable, sagte gegenüber The Defender: “Bei der Gesichtserkennung in Schulen geht es darum, das Verhalten zu manipulieren, und sie normalisiert die totale Überwachung von klein auf.”
“Im Klassenzimmer lehrt die Gesichtserkennung Kinder, dass sie keine Privatsphäre haben und dass alles, was sie sagen oder tun, gegen sie verwendet werden kann und wird. Das macht es für Regierungen und Unternehmen einfacher, künftige Generationen zu kontrollieren, denn sie werden mit der Vorstellung erzogen, dass es keine Privatsphäre gibt und sie besser tun, was man ihnen sagt, sonst”, fügte er hinzu.
Hinchliffe zitierte einen “Good Morning America”-Bericht aus dem Jahr 2020, der ein Video aus einer Online-Klasse der Parkland-Grundschule in Texas zeigte. Als die Zoom-Verbindung einer Lehrerin aus der zweiten Klasse abbrach, reagierten die Schüler zunächst gereizt, bevor sie merkten, dass der Anruf noch aufgezeichnet wurde.
“Die Kinder fingen an, sich aufzuregen, aber als ein Schüler merkte, dass sie immer noch aufgezeichnet wurden, fügten sie sich alle, aus Angst, Ärger mit dem Direktor zu bekommen. Es ist diese Angst, die das Ganze so stark macht und die Kinder dazu bringt, sich anzupassen”, sagte er.
Pin Lean Lau, Ph.D., von der Londoner Brunel Law School berichtete von einem Gespräch mit ihrer Tochter, die auf die Frage, ob sie über den Einsatz von Gesichtserkennungstechnologie in der Cafeteria ihrer Schule besorgt sei, antwortete: “Eigentlich nicht. Aber es würde die Abläufe an der Kasse erheblich beschleunigen.”
Laut Lau “bestätigen ihre Worte die Befürchtung, dass sich Kinder im Vergleich zu Erwachsenen ihrer Datenrechte viel weniger bewusst sind “.
“Auf der Makroebene wird eine Bevölkerung, die weiß, dass sie beobachtet wird, ihr Verhalten ändern, um den Normen zu entsprechen, und ihre Bürger werden sich selbst überwachen”, so Hinchliffe.
Der CDT-Bericht befasste sich auch mit den potenziell unverhältnismäßigen Auswirkungen dieser Technologien auf geschützte Kategorien von Schülern, den mangelnden Ressourcen, die viele Schulen für die Wartung und Aktualisierung dieser Technologien haben, den unklaren Verwaltungsmechanismen zur Überwachung der Nutzung dieser Technologien und den Risiken für den Schutz der Privatsphäre, wie z. B. Datenverletzungen.
Im Jahr 2021 wurde Verkada, ein Entwickler von cloudbasierten Sicherheitstechnologien, die häufig in Schulen eingesetzt werden, gehackt und die Live-Übertragungen von Überwachungskameras öffentlich gemacht.
Irene Knapp, Direktorin für Technologie bei der gemeinnützigen Organisation Internet Safety Labs, erklärte gegenüber Education Week, dass die Schulen sorgfältig abwägen müssen, ob sie die Verantwortung für den Umgang mit den biometrischen Daten der Schüler und Schülerinnen und deren Schutz übernehmen wollen.
Knapp sagte, dass es schwierig sei zu wissen, ob die Daten, die durch solche Technologien gesammelt werden, an Dritte weitergegeben werden.
Laut Education Week “besteht auch die Gefahr einer schleichenden Ausweitung der Aufgaben”, da es für Schulen “verlockend” sei, Überwachungstechnologien wie die Gesichtserkennung auf eine Weise zu nutzen, für die sie ursprünglich nicht gedacht waren, “z.B. um Eltern zu verfolgen und zu bestrafen, die ihre Kinder zu spät von der Schule abholen”.
Molly Kleinman, Ph.D., geschäftsführende Direktorin des Programms für Wissenschaft, Technologie und öffentliche Politik an der Universität von Michigan, erklärte Route Fifty im September, dass Schulen ohne entsprechende Vorschriften solche Technologien für “Routineaufgaben” einsetzen oder Gesichtserkennung für die Anmeldung von Schülern an schuleigenen Computern und Tablets verlangen können.
Hinchliffe: “Selbst wenn die Gesichtserkennung zunächst am Eingang von Schulen eingesetzt wird, um zu überprüfen, wer aus so genannten ‘Sicherheitsgründen’ eintritt, ist es nur eine Frage der Zeit, bis sie auch im Klassenzimmer Einzug hält, und wenn das der Fall ist, wird sie den Schülern einen weiteren Teil ihrer Kindheit rauben, und die Kinder werden nicht mehr Kind sein dürfen”.
“Aus datenschutzrechtlicher Sicht setzen sich die staatlichen Überwachungsschulen auf vielen potenziellen Ebenen der Haftung aus, da ihre Opt-in-Verfahren, wenn überhaupt, routinemäßig die Realität dessen, was sie und ihre Unternehmenspartner tun, nicht abdecken”, so Glaser.
“Es braucht nur eine einzige Datenschutzverletzung, um die Benachrichtigungspflicht gegenüber den Eltern auszulösen”, so Glaser. “Und wenn Sicherheitsverfahren nicht pflichtgemäß befolgt werden, führt das zu Gerichtsverfahren. Zumindest wird das System, das zum Scheitern verurteilt ist, auf diese Weise scheitern.”
Solche Bedenken sind nicht neu. Bereits 2019 befasste sich das Magazin Wired mit der “heiklen Ethik” der Implementierung von KI-Technologien im Klassenzimmer.
New York führte Verbot von Gesichtserkennungstechnologien in Klassenzimmern ein
Diese “ernsthaften Bedenken im Zusammenhang mit dem Einsatz der Gesichtserkennungstechnologie”, die “die behaupteten Vorteile nicht aufwiegen”, veranlassten den Bundesstaat New York im September dazu, ein Verbot solcher Technologien zu erlassen, das den Schulen “den Kauf oder die Verwendung von Gesichtserkennungstechnologie” untersagt.
Diese Entscheidung wurde nach Abschluss einer Analyse durch das Office of Information Technology Services getroffen und basiert auf Forschungsergebnissen, die von der gemeinnützigen Organisation The Violence Prevention Project gesammelt wurden, die herausfand, dass 70 % der Schulschützen zwischen 1980 und 2019 aktuelle Schüler waren.
Eine Studie der University of Michigan aus dem Jahr 2020 über Gesichtserkennungstechnologie und ihre Auswirkungen im Klassenzimmer hat möglicherweise auch die Entscheidung New Yorks beeinflusst, ein Verbot zu verhängen.
Der Studie zufolge wird die Gesichtserkennungstechnologie “wahrscheinlich fünf Arten von Auswirkungen haben: Verschärfung des Rassismus, Normalisierung der Überwachung und Aushöhlung der Privatsphäre, Verengung der Definition des ‘akzeptablen’ Studenten, Kommerzialisierung von Daten und Institutionalisierung von Ungenauigkeit”.
“Da FR [facial recognition] automatisiert ist, werden diese Effekte auf mehr Schüler ausgedehnt, als dies mit einem manuellen System möglich wäre”, heißt es in der Studie weiter. “Auf der Grundlage dieser Analyse empfehlen wir dringend, die Verwendung von FR in Schulen zu verbieten.”
Die Studie enthält auch eine Vielzahl nationaler und lokaler Empfehlungen für Schulen, die diese Technologien weiterhin nutzen wollen. Ähnliche Empfehlungen wurden vom CDT in seinem Bericht vom 12. Dezember ausgesprochen.
Und 2019 stellte Vox fest, dass Schulen zunehmend “Gesichtserkennung einsetzen, um Schießereien zu verhindern“, forderte aber, dass sie diese Praxis “zweimal überdenken” sollten.
Schulbezirke können nach der neuen New Yorker Richtlinie auch andere Arten biometrischer Technologien, wie z. B. digitale Fingerabdrücke, verwenden.
Dies geschieht trotz des “immensen Drucks”, dem Schulverwaltungen ausgesetzt sind, um ihre Schulen vor Waffengewalt und der Bedrohung durch Schießereien zu schützen, so die Education Week, die feststellte, dass KI-gestützte Gesichts- und Waffenerkennungstechnologien “eine verlockende Lösung für Schulbehörden und Superintendenten sein können, die die Eltern beruhigen wollen”.
New York hat ein Moratorium für die Gesichtserkennung eingeführt, nachdem Eltern die Einführung dieser Technologie durch den Lockport Central School District im Januar 2020 rechtlich angefochten hatten, wie das Time Magazine berichtet.
“Der Bezirk im Westen New Yorks war einer der ersten im Land, der die Technologie nach den tödlichen Schießereien an Schulen einführte, die die Verwaltungen landesweit dazu veranlassten, Sicherheitsmaßnahmen zu ergreifen, die von kugelsicherem Glas bis hin zu bewaffneten Wachen reichten”, berichtet Time.
Im Jahr 2020 wurden zwei französische Gymnasien, die mit der Gesichtserkennungstechnologie experimentiert hatten, verklagt, was zu einem Verwaltungsgerichtsurteil führte, das diese Praxis verbot.
In der Entscheidung heißt es, dass der Einsatz der Technologie “weder verhältnismäßig noch notwendig” war, die Zustimmung der Schüler nicht freiwillig eingeholt wurde und stattdessen weniger in die Privatsphäre eingreifende Maßnahmen hätten ergriffen werden können.
Anderswo wird die Einführung solcher Technologien jedoch fortgesetzt. Im August kündigte Philadelphia an, dass es bezirkseigene Drohnen einführen werde, “um in gewalttätigen Gebieten zu patrouillieren, ohne dass die Polizei vor Ort sein muss”.
Biometric Update berichtete im Oktober 2022, dass Schulen in Montana die Gesichtserkennungstechnologie von Verkada einsetzen, “um die Sicherheit zu verbessern“. Der Schulbezirk Sun River Valley beispielsweise speist sein Gesichtserkennungssystem mit “einer Überwachungsliste des örtlichen Sheriffs sowie mit Jahrbuchfotos von Schülern”.
Laut Hinchliffe baut China die Gesichtserkennungsfunktionen in seinen Schulen aus, “mit KI und Wearables, um die Erkennung von Emotionen und anderen Verhaltensaspekten einzubeziehen, so dass sie erkennen können, wenn ein Kind verärgert ist oder nicht aufpasst”.
“Auch hier geht es bei der Gesichtserkennung in Schulen darum, das Verhalten zu manipulieren und zu kontrollieren, indem dem Kind Angst eingeflößt wird”, so Hinchliffe.
Der Anwalt Richard Jaffe sagte gegenüber The Defender, dass es Raum für Gesichtserkennung in Schulen gibt.
“Die Privatsphäre ist wie alle Rechte nicht absolut und muss dem Recht der Schüler auf Sicherheit weichen.”
“Ich vermute, dass die meisten Eltern und fast alle Lehrer und Mitarbeiter einige relativ geringfügige Eingriffe in die Privatsphäre akzeptieren werden, um die Sicherheit an Schulen zu erhöhen. Wenn man nicht jede Schule abriegelt und mit einem Zug von mit M16 bewaffneten SWAT-Polizisten bewacht, muss die Lösung in der Technologie liegen und wird zunehmend KI und Gesichtserkennung beinhalten”, sagte er.
“Die meisten werden diesen Kompromiss akzeptieren, und ich bezweifle sehr, dass die Gerichte Schulbezirke, die die derzeit verfügbaren Maßnahmen anwenden, in Frage stellen werden”, fügte Jaffe hinzu.
Forbes sah in einem Artikel vom Februar 2023 ebenfalls einen Platz für Gesichtserkennungstechnologien in Schulen, bezeichnete sie als “clevere Technologie”, wies aber auf ihre “schlechte, schlechte, schlechte Umsetzung” hin und argumentierte, dass es “Hürden zu überwinden gibt, bevor Gesichtserkennung eingesetzt werden kann”.
Zu diesen Hürden gehören die “Erforschung der Auswirkungen auf das Wohlergehen und der ethischen Aspekte des Einsatzes biometrischer Daten in Schulen, die Gewährleistung, dass solche Systeme in der Praxis den höchsten Anforderungen an den Schutz von Rechten genügen, und die Sicherstellung, dass ihr Einsatz “völlig rechtmäßig” ist und “keine unbeabsichtigten Folgen” hat.