Berichten zufolge zielen Überwachungsprogramme auf LGBTQ+-Studenten ab
Laut einem neuen Bericht kennzeichnen digitale Überwachungsprogramme, die in Schulen eingesetzt werden, LGBTQ+-Inhalte unangemessen als pornographisch. Die Ergebnisse werfen ernsthafte Bedenken hinsichtlich der Privatsphäre von Schülern und der Wirksamkeit von Überwachungssoftware auf.
Recherche durchgeführt von Bildungsnachrichtenseite Die 74 stellte erhebliche Datenschutzbedenken in Bezug auf Gaggle fest, ein Softwareprogramm, das die öffentlichen Schulen von Minneapolis zu Beginn der COVID-19-Pandemie implementiert haben. Gaggle überwacht im Wesentlichen alles auf dem Computer eines Schülers: den Inhalt von E-Mails, Chat-Nachrichten und anderen Dokumenten, einschließlich Tagebucheinträgen und Klassenzimmeraufgaben. Wenn die Software bestimmte Schlüsselwörter oder Bilder findet, werden Schulbeamte benachrichtigt.
Aber wie bei vielen automatisierten Systemen haben Gaggles Richtlinien zur Moderation von Inhalten unbeabsichtigte negative Auswirkungen auf LGBTQ+-Personen.
Ein Trans-Achtklässler, Teeth Logsdon-Wallace, beschrieb einen angeblichen Vorfall, bei dem er eine Schulaufgabe einreichte, die seine Genesung von einem Selbstmordversuch berührte und wie ihm ein Folk-Punk-Song dabei half. Aber zwei Tage später rief ein Schulberater die Mutter von Logsdon-Wallace an, um ihr mitzuteilen, dass Gaggle die Aufgabe ihres Kindes wegen der Erwähnung des Wortes Selbstmord markiert hatte, völlig ohne Kontext.
Ich habe versucht, mit diesem Lehrer verletzlich zu sein und zu sagen: „Hey, hier ist eine Sache, die mir wichtig ist, weil Sie gefragt haben“, sagte Logsdon-Wallace. Jetzt, wo ich deutlich gemacht habe, dass es mir viel besser geht, kontaktiert die Schule meinen Berater und flippt aus.
Wenn man bedenkt, dass queere und transsexuelle Jugendliche sind deutlich wahrscheinlicher als ihre heterosexuellen Altersgenossen Suizidalität erfahren, könnten solche Richtlinien sie unverhältnismäßig stark beeinträchtigen, während sie beabsichtigt sind, sie zu schützen. Und der Bericht scheint darauf hinzudeuten, dass der obige Vorfall kein Einzelfall ist: Die 74 fand mehr als drei Dutzend Vorfallberichte, in denen Gaggle Begriffe mit Bezug zur Sexualität wie schwul und lesbisch kennzeichnete.
Trotz Bedenken hinsichtlich der Privatsphäre der Schüler sagte Jeff Patterson, CEO von Gaggle CBS-Nachrichten T er glaubte, dass die Software tatsächlich mehr Vorteile für Studenten in diesen gefährdeten Gruppen bietet. Er behauptete, dass diese Begriffe in die Liste der markierten Wörter aufgenommen wurden, um Mobbing und Belästigung zu verhindern.
Kritiker behaupten jedoch, die Software habe den gegenteiligen Effekt. Ein Schüler der South High School in Minneapolis wurde angeblich ohne ihr Wissen zu seinen Eltern geoutet, als der Schüler laut der Campuszeitung von Gaggle gemeldet wurde.
Die Schulverwaltung sprach überhaupt nicht mit [dem Schüler], bevor ihre Eltern angerufen wurden, teilte eine Quelle mit Der Südländer .
Die Software hat auch bei demokratischen Gesetzgebern Bedenken ausgelöst, darunter die Senatoren Elizabeth Warren (D-Mass.), Ed Markey (D-Mass.) und Richard Blumenthal (D-Conn.), die schrieb Briefe an die Führungskräfte von Gaggle im September. Die Senatoren äußerten Bedenken hinsichtlich Überreichweite und mangelnder Transparenz in Bezug auf die Datenverfolgung.
Die Verwendung dieser Tools kann das Vertrauen in Schulen zerstören, Schüler daran hindern, auf wichtige Gesundheitsinformationen zuzugreifen, und Schüler davon abhalten, Erwachsene um Hilfe zu bitten, was möglicherweise das Risiko von Schäden für Schüler erhöht, heißt es in einem Brief.
Die Überwachung der Online-Aktivitäten von Schülern kann auch farbige Schüler und LGBTQ+-Studenten weiter davon abhalten, Erwachsene um Hilfe zu bitten, und Schüler ohne wichtige Informationen und Unterstützung zurücklassen.
Ein schwuler Priester kündigte wegen Grindr-Nutzung. Er wurde durch seine Handydaten geoutet Kritiker sagen, es sei eine Erinnerung daran, wie leicht die Privatsphäre von Tech-Nutzern im digitalen Zeitalter missbraucht werden kann. Anstatt bis zu 60.000 US-Dollar pro Jahr für die Software zu zahlen, empfiehlt der Gesetzgeber, dass Schulen in lokale menschliche Unterstützungsdienste wie Berater oder andere schulische Fachkräfte für psychische Gesundheit investieren, die Beziehungen und Vertrauen zu den Schülern aufbauen können, um ihr Wohlergehen zu gewährleisten und psychischen Episoden vorzubeugen.
Es ist ein besonders hervorstechender Vorschlag, wenn man bedenkt, dass es ihn gibt wenig bis keine Beweise dass Überwachungsprogramme für Schüler tatsächlich Sicherheit für Schüler schaffen oder die Ergebnisse der psychischen Gesundheit verbessern.
Algorithmen haben seit langem Probleme mit der unangemessenen Kennzeichnung von LGBTQ+-Inhalten. Ein April-Bericht der Tech-Publikation Hauptplatine fanden heraus, dass ein anderes Sicherheitssoftwareprogramm für Schulen, Securly, LGBTQ+-bezogene Websites als Porno markierte. Zu den Websites, auf die der Algorithmus von Securly abzielte, gehörten queere Nachrichtenseiten und Ressourcenseiten für LGBTQ+-Gesundheit.
Und nicht nur Lernsoftware ist das Problem: Tech-Giganten wie YouTube waren es wegen Dämonisierung und Unterdrückung queerer Schöpfer verklagt für Inhalte für Erwachsene. TikTok angeblich Shadowbanned LGBTQ+ Creators während gewalttätig homophobe Inhalte viral werden lassen , obwohl sich das Unternehmen schließlich für den früheren Fehler entschuldigte. Tumblrs berüchtigtes Verbot von Pornos und weiblichen Brustwarzen im Jahr 2018 endete Kennzeichnung von völlig harmlosen Materialien , einschließlich nicht-pornografischer LGBTQ+-Inhalte.