Las escuelas adoptan el reconocimiento facial en nombre de la lucha contra el Covid

Nov 29, 2023

Gregorio Barbero

Solicitud

Ética

Reconocimiento facial

Regulación

Seguridad

Usuario final

Gobierno

Sector

Educación

Cuidado de la salud

Seguridad Pública

Datos fuente

Sensores

Imágenes

Video

Tecnología

Visión de máquina

En junio, la junta escolar de Rio Rancho, Nuevo México, se enfrentaba a una serie de votaciones sobre el presupuesto de un elaborado y costoso plan de reapertura. Entre los artículos caros se encontraba una tableta diseñada para detectar fiebre en los estudiantes y el personal. Los dispositivos fueron vendidos por una empresa llamada OneScreen, que suministra a las escuelas tecnología que incluye pizarras blancas "inteligentes" y aplicaciones de asistencia. Pero esta primavera había dado un giro. Su nuevo producto, llamado GoSafe, podría escanear la frente en busca de temperaturas elevadas y detectar cuando los estudiantes no usan máscaras. También venía con una ventaja adicional: reconocimiento facial “de primera línea”, como lo describió un proveedor local a la junta escolar.

Los funcionarios del distrito consideraron que esto era un argumento de venta. Las tabletas eran caras (161.000 dólares por 71 dispositivos) incluso en medio de los pedidos al por mayor de desinfectante para manos y equipos de protección del distrito. Pero harían que los niños cruzaran las puertas de la escuela de manera más eficiente que los termómetros de mano. La tecnología de reconocimiento facial ofrecía otro beneficio: el dinero no necesariamente se desperdiciaría tan pronto como hubiera una vacuna Covid-19. El distrito podría usar los dispositivos para otras cosas, como tomar asistencia o evitar que intrusos entren a las escuelas.

Un miembro de la junta escolar, Catherine Cullen, estaba preocupada. La tecnología de reconocimiento facial era nueva para ella y notó que las características no parecían especialmente relevantes para el plan de reapertura. Había muchas incógnitas, "particularmente en lo que respecta a la privacidad de los estudiantes, las libertades civiles, el almacenamiento y la seguridad de los datos", dice en un correo electrónico.

Lea toda nuestra cobertura sobre el coronavirus aquí.

Los administradores alentaron la prisa. A la superintendente Sue Cleveland le habían dicho que las tabletas debían comprarse rápidamente, para que no salieran volando de los estantes, como lo habían hecho los equipos de protección y el desinfectante para manos a principios de la primavera. “No podrán encontrar uno en ningún lugar de este país”, dijo a la junta, basándose en ese consejo. Los edificios escolares podrían reabrir en agosto. Si el distrito no contaba con controles de temperatura para entonces, añadió, se corría el riesgo de un brote que obligaría a las escuelas a cerrar nuevamente. La medida fue aprobada por 4-1.

Rio Rancho se encuentra entre docenas de distritos escolares que han comprado cámaras térmicas con funciones de reconocimiento facial, según entrevistas con proveedores de tecnología, distritos escolares e informes de los medios locales. Muchos distritos pagaron los dispositivos con fondos de la Ley CARES, el proyecto de ley de ayuda pandémica de gran alcance que incluía $13.2 mil millones en ayuda para ayudar a las escuelas con el aprendizaje remoto y la reapertura. Los dispositivos para tomar la temperatura a menudo se consideran un componente crítico de un paquete completo de regreso a clases, con una prima en cámaras montadas en tabletas que hacen que los estudiantes lleguen a las puertas rápidamente y con poca intervención del personal. El reconocimiento facial no es un requisito para esos dispositivos, ni siquiera está involucrado en el proceso de toma de temperatura. Pero la función ha surgido como una forma poderosa de comercializar los dispositivos.

Las compras ampliaron un debate nacional sobre los méritos del reconocimiento facial en las escuelas. Los defensores de las libertades civiles dicen que incluso si las funciones no se utilizan de inmediato, equipar a las escuelas con reconocimiento facial durante una crisis normaliza la tecnología con poco debate o participación del público. "Es un caballo de Troya", dice Shobita Parthasarathy, profesora de políticas públicas de la Universidad de Michigan que ha estudiado la adopción del reconocimiento facial en las escuelas. “Hoy son cámaras térmicas y reconocimiento facial dentro de seis horas, quién sabe qué vendrá después”.

Hace un año, el reconocimiento facial era poco común en las escuelas. En octubre de 2019, WIRED identificó ocho distritos públicos que formaban parte de una de las primeras vanguardias que utilizaban la tecnología, bajo la premisa de que la tecnología podría ayudar a combatir la violencia armada y mantener alejados a intrusos no deseados. Las compras generalmente eran mejoras a los sistemas de cámaras que monitoreaban puertas y pasillos, aprovechando fondos locales y federales para mejoras en los edificios escolares.

En ocasiones, la tecnología provocó feroces debates locales, que reflejaban una discusión nacional sobre los peligros potenciales de una mayor vigilancia. La preocupación de que los algoritmos de reconocimiento facial sean menos precisos para identificar los rostros de las personas de color y puedan magnificar los sesgos existentes en la vigilancia y la vigilancia policial han llevado a ciudades como San Francisco y Boston a prohibir el uso gubernamental de esta tecnología. En septiembre, Portland, Oregón, aprobó una prohibición más amplia que abarca las empresas privadas.

Parthasarathy dice que los problemas de prejuicios se aplican doblemente a los niños. "Estas tecnologías son menos precisas entre los estudiantes que ya están marginados en las escuelas", afirma. Señala que los funcionarios escolares a menudo no están preparados para manejar la seguridad y privacidad de los datos biométricos de los niños y garantizar que el personal utilice la tecnología de manera responsable. El año pasado, WIRED documentó múltiples casos en los que se utilizaron sistemas de reconocimiento facial para disciplinar a personas, incluido un padre cuyo rostro fue cargado en el sistema de una escuela en contra de sus deseos después de un desacuerdo con un administrador escolar. Además, hay poca evidencia de que una mayor vigilancia realmente mantenga seguros a los estudiantes, añade.

Andy Greenberg

Ngofeen Mputubwele

Julian Chokkattu

Matt Simón

Durante la pandemia, donde la amenaza es un virus, muchas escuelas están buscando nuevas cámaras para cumplir con las pautas estatales que recomiendan controles diarios de fiebre para los estudiantes; otros actúan de acuerdo con las expectativas sociales. Sin embargo, muchos expertos en salud pública dicen que los controles de temperatura son ineficaces para prevenir brotes, porque algunas personas infectadas con Covid-19 no tienen fiebre y porque las personas podrían tener temperaturas elevadas por otras razones.

"Es un caballo de Troya".

El reconocimiento facial no tiene un papel obvio en el control de la temperatura. Los dispositivos de temperatura portátiles y económicos podrían hacer el trabajo. Pero los funcionarios escolares dicen que el beneficio es principalmente una cuestión de eficiencia. Una tableta que reconoce automáticamente una cara, toma la temperatura e incluso puede abrir o cerrar la puerta según los resultados ayuda a acelerar la rutina matutina de llevar a cientos de estudiantes a los edificios escolares de manera segura.

En ese sentido, un sistema así cumplía todos los requisitos para Trent Goff, superintendente de las escuelas de Booneville en las montañas del oeste de Arkansas. "Era bastante sencillo de usar y parecía hacer que todos se sintieran más cómodos", afirma. El distrito compró seis dispositivos por valor de 2.500 dólares fabricados por Zhejiang Uniview Technologies y vendidos por una empresa de Austin, Texas, llamada Alibi. Las tabletas de la marca Alibi admiten el reconocimiento facial, pero detectan la temperatura a través de un pequeño accesorio amarillo que escanea las muñecas. Goff prefiere el dispositivo a los escáneres térmicos portátiles porque el personal no necesita acercarse a los estudiantes con un termómetro portátil.

Otros distritos han hecho todo lo posible para lograr que los niños entren rápidamente. El condado de Fayette, Georgia, gastó 525.000 dólares en un sistema de cámara térmica de Hikvision, que ha sido incluido en la lista negra para su venta al gobierno de Estados Unidos debido al presunto papel de la empresa en abusos de derechos humanos contra el pueblo uigur en China. El sistema anuncia la capacidad de escanear 30 rostros a la vez, en contra de las recomendaciones de la Administración de Alimentos y Medicamentos de EE. UU. de escanear una persona a la vez. (El distrito dice que no ha activado la función de reconocimiento facial).

Un enfoque más común es colocar tabletas que reconozcan los rostros de los estudiantes en las entradas de las escuelas y escaneen sus frentes mediante imágenes térmicas. Pero incluso esas cámaras tienden a no hacer muy bien su trabajo principal, dice Erik Beall, director ejecutivo de Thermal Diagnostics y consultor que ha evaluado varios de los dispositivos para empresas que reabren oficinas y almacenes. Tomar la temperatura corporal sin ningún contacto corporal es una ciencia desafiante, señala. Las cámaras normalmente funcionan tomando imágenes infrarrojas de la piel de una persona y el entorno circundante y utilizan esas observaciones para estimar la temperatura interna de una persona. Pero esos cálculos pueden verse alterados por ligeros cambios en el aire circundante. Eso significa que no sirven para examinar a las personas en las entradas de las escuelas, dice Beall, el contexto preciso donde se usan con mayor frecuencia.

Debido a que las tabletas no están aprobadas por la FDA para controles de temperatura, los datos recopilados de forma independiente sobre su rendimiento son limitados. Pero las pruebas realizadas por Beall usando tabletas en su distrito escolar local cerca de Minneapolis, así como por la publicación comercial de la industria de vigilancia IPVM, han demostrado que las tabletas comúnmente compradas en las escuelas rutinariamente no detectan temperaturas elevadas ni anormalmente bajas en condiciones del mundo real. Eso hace que los errores sean difíciles de detectar, ya que la mayoría de las lecturas parecen normales. También significa que los límites estrictos de temperatura que determinan qué estudiantes necesitan detención médica (100,4 grados Fahrenheit es un umbral común) tienen poco significado.

Andy Greenberg

Ngofeen Mputubwele

Julian Chokkattu

Matt Simón

Funciones llamativas como inteligencia artificial, reconocimiento facial e interfaces de pantalla táctil pueden sugerir que los dispositivos hacen su trabajo mejor que los termómetros ordinarios sin contacto, dice Beall. Pero en general, las tabletas que se venden por miles de dólares no suelen ser mejores para escaneos de entrada que los termómetros portátiles de 50 dólares, concluye. "Nada de lo que la gente está comprando ahora realmente funciona en el mundo real", afirma.

Meredith Van Natta, socióloga médica de UC Merced, dice que comprende por qué las escuelas se sienten tentadas por dispositivos que combinan tecnología térmica y reconocimiento facial. A los distritos se les ha dicho que necesitan controles de temperatura y que también deben realizar un seguimiento de las personas para rastrear potencialmente los contactos de personas infectadas con Covid-19. Pero en el caos de preparar las escuelas para la reapertura, los funcionarios no necesariamente están pensando en si estas herramientas son las adecuadas para el trabajo. "Hay mejores formas de evaluar la salud de los estudiantes y de rastrearlos que utilizando registros fotográficos", afirma. "La gente se está agarrando a un clavo ardiendo".

Ya sea que las escuelas utilicen inicialmente o no las funciones de reconocimiento facial, Van Natta dice que existen riesgos al apresurarse a realizar este tipo de compras durante una crisis. En Rio Rancho, los miembros de la junta buscaron en Google artículos sobre prejuicios y reconocimiento facial mientras el grupo debatía si realizar una compra. Normalmente, ese sería un momento para hacer preguntas críticas sobre cómo los dispositivos almacenarán los datos personales de los estudiantes o cómo manejar los prejuicios contra los estudiantes o cómo investigar adecuadamente la precisión del sistema. Tampoco hubo mucho tiempo para que el público opinara sobre la ética de una mayor vigilancia. "Este no es un momento en el que pensamos en las libertades civiles tanto como deberíamos", dice Van Natta, comparando el crecimiento del software de vigilancia durante la pandemia de Covid-19 con el aumento del "teatro de seguridad" después del 11 de septiembre. .

"Nada de lo que la gente está comprando ahora realmente funciona en el mundo real".

Los distritos normalmente también tendrían más tiempo para sopesar sus opciones. Muchos de los fabricantes de tabletas son nuevos en el ámbito de las imágenes térmicas y el reconocimiento facial. Los dispositivos vienen bajo docenas de marcas a diferentes precios, aunque solo unos pocos fabricantes los fabrican; Un informe de IPVM identificó 14 marcas, todas provenientes de un solo fabricante en China, Guangzhou Bems. Esos productos, a su vez, pueden ser vendidos por proveedores locales relacionados con escuelas que comercializan las cámaras como propias: un reetiquetado de una reetiqueta. El resultado es que a los clientes les resulta difícil verificar las afirmaciones sobre la precisión y seguridad de los sistemas. “Todo el mundo tiene un producto similar”, dice Shawn Howell, director ejecutivo de Arkansas Complete Technology and Security, que ha vendido tabletas Alibi a Booneville y otros distritos de Arkansas. "Creo que el mercado se inundó cuando llegó el Covid, y depende de las empresas avanzar de manera responsable".

Algunos fabricantes de tabletas ven la detección de fiebre como un punto de apoyo potencial en el mercado de la seguridad. Sufian Munir, director ejecutivo de OneScreen, dice que la compañía ha vendido sus dispositivos a más de 30 distritos escolares, incluido Rio Rancho, pero que las funciones de reconocimiento facial generalmente están desactivadas por ahora. “Muchas escuelas no estaban dispuestas a dar ese acto de fe de inmediato”, dice, aunque algunas han relacionado los controles de temperatura con las cerraduras de las puertas de las escuelas. Pero describe las tabletas termográficas como el primer paso de una “hoja de ruta agresiva” que incluiría sistemas de cámaras que vayan más allá de los controles de entrada y monitoreen los pasillos de las escuelas en busca de rostros no deseados y potencialmente armas.

Por Eva Sneider

OneScreen estuvo entre las 14 empresas identificadas como reetiquedoras de Guangzhou Bems por IPVM, que señaló que los dispositivos comparten una carcasa idéntica y otros componentes de hardware. Pero Munir cuestiona la caracterización y señala que OneScreen es la única marca que ofrece un procesador Qualcomm en su tableta y dice que la compañía ha realizado otras modificaciones a su software. (OneScreen también ofrece una versión del dispositivo que usa el mismo procesador que los demás).

Pero Munir dice que sabe poco sobre los algoritmos de reconocimiento facial “de última generación” que son el núcleo de sus planes de expansión. "Eso es casi como una caja negra para el equipo de OneScreen", afirma. "Confiamos en la tecnología que nos brindan". Dirigió a WIRED a Qualcomm, que fabrica el procesador del dispositivo, para responder preguntas adicionales sobre las funciones de reconocimiento facial y cómo se probó su precisión. Sanjeet Pandit, vicepresidente de Qualcomm, confirma que OneScreen es el único proveedor de cámaras térmicas con licencia para utilizar sus chips, pero dice que Qualcomm no proporciona la tecnología de reconocimiento facial utilizada en las tabletas. Munir no respondió directamente a una pregunta de seguimiento sobre quién había desarrollado los algoritmos de reconocimiento facial utilizados en el dispositivo.

No está claro cuántos distritos activarán las funciones de reconocimiento facial que ya compraron. Si bien varios distritos han sugerido un futuro para los dispositivos después de la pandemia, el caos de la reapertura también es un momento difícil para comenzar a utilizar esos sistemas. Rio Rancho, por ejemplo, decidió desactivar el componente de reconocimiento facial en las tabletas OneScreen después de que Cullen expresara sus preocupaciones. De todos modos, las cámaras no habrían tenido mucha utilidad a corto plazo. Hasta noviembre, el distrito ha regresado a las aulas solo aproximadamente la mitad de sus estudiantes de escuela primaria. El resto permanece en casa a causa del virus.