La IA y la evolución de los sistemas de vigilancia

Jun 21, 2023

En esta entrevista de Help Net Security, Gerwin van der Lugt, director de tecnología de Oddity, analiza el futuro de la vigilancia y la influencia de la IA. También profundiza en cómo las organizaciones pueden evitar que sus sistemas perpetúen sesgos o violen los derechos individuales.

Oddity es una empresa relativamente joven y hemos podido tener en cuenta las prácticas de software éticas y de preservación de la privacidad desde el principio. Practicamos los principios de “Privacidad por diseño”. Por ejemplo, nuestro software no almacena ningún dato de vídeo en su configuración predeterminada, ya que los sistemas de gestión de vídeo existentes ya tienen esa funcionalidad.

Además, no utilizamos los datos de los clientes con fines de formación. En la mayoría de los casos, nuestras instalaciones no están conectadas a Internet y necesitamos acceso físico para mantenimiento y resolución de problemas. Creemos que a pesar de estos inconvenientes, todavía vale la pena. Especialmente cuando se trata de áreas sensibles como los centros de detención, donde las personas bajo vigilancia tienen poco control sobre su privacidad. Al final, nuestro software está destinado a ayudar y proteger a las personas, y nuestro objetivo es hacerlo con el menor impacto posible en la privacidad.

Las implementaciones exitosas de vigilancia con cámaras requieren una interacción delicada entre las cámaras de seguridad, los sensores y otro hardware, el sistema de gestión de video y la red misma. El mayor desafío es construir una infraestructura de red que pueda soportar los requisitos de ancho de banda cada vez mayores de las cámaras modernas.

Las instalaciones de vigilancia suelen crecer con el tiempo, y a medida que aumenta el número de cámaras se alcanza el límite de ancho de banda de la red. Reemplazar una cámara defectuosa es un trabajo de mantenimiento fácil ya que afecta solo a una cámara. Reemplazar la infraestructura de red para duplicar o triplicar la cantidad de ancho de banda es mucho más difícil y requiere verificar y reemplazar el hardware de red durante toda la instalación.

A menudo vemos integradores que intentan solucionar este problema disminuyendo la velocidad de fotogramas o la configuración de la velocidad de bits de las cámaras para reducir la cantidad de ancho de banda que necesitan. Aunque al principio parece una solución viable, para la vigilancia basada en IA puede causar problemas. Los modelos de aprendizaje automático son sensibles a diferencias visuales menores que el ojo humano difícilmente puede detectar. Especialmente si el algoritmo fue entrenado con entradas de alta calidad, podría tener problemas con transmisiones de video de baja calidad.

Como tal, al construir una infraestructura de red de vigilancia desde cero, es una buena idea planificar con anticipación y construirla con suficiente espacio en capacidad de ancho de banda para crecer. ¡Esto ahorrará costos a largo plazo y garantizará que la instalación esté lista para el futuro impulsado por la IA!

En términos de hardware físico, de acuerdo con mi recomendación anterior, reservar suficiente ancho de banda es un factor crucial.

Más importante aún, el futuro de la vigilancia es la IA, y las organizaciones deberían diseñar su sistema de vigilancia teniendo en cuenta la IA. Mientras que un típico centro de vigilancia con cámaras todavía puede tener personas mirando paredes de pantallas matriciales con transmisiones de video, pronto se les advertirá de manera proactiva cuando ocurra un incidente. Con el mismo número de personal, serán mucho más eficaces.

El primer paso es determinar los tipos de incidentes que más le interesan. Existen soluciones de IA para muchos tipos de incidentes. Es importante considerar la IA desde el principio e involucrar a los proveedores de IA lo antes posible. A partir de 2023, la IA aún no está lista para reemplazar completamente a los humanos. Las organizaciones harían bien en establecer una implementación híbrida con humanos involucrados, sin dejar de monitorear y llenar los vacíos.

Los modelos de IA están influenciados por los conjuntos de datos utilizados para entrenarlos. Es imperativo que los proveedores de IA ajusten y equilibren cuidadosamente sus conjuntos de datos para evitar que se produzcan sesgos. Equilibrar conjuntos de datos es un proceso manual que requiere asegurarse de que los humanos visibles en los conjuntos de datos sean una buena representación de la realidad y no tengan sesgos hacia ciertos rasgos humanos. En nuestro caso, utilizamos diversos grupos de actores, de todo el mundo, para ejercer violencia en nuestros conjuntos de datos de entrenamiento para garantizar que estén equilibrados. Además, realizar pruebas periódicas para detectar estos sesgos puede ser de gran ayuda.

Un sistema cuidadosamente diseñado puede proteger y ayudar a las personas sin afectar significativamente su privacidad. Esto requiere considerar la privacidad desde el diseño hasta la implementación de sistemas de IA. Creo que en el futuro de la vigilancia impulsada por la IA se reducirán las infracciones a la privacidad. Actualmente, las grandes instalaciones de vigilancia todavía requieren que los humanos miren las transmisiones de las cámaras todo el tiempo. En un flujo de trabajo basado en activadores, donde los humanos toman acciones después de que una IA los haya alertado, la cantidad de imágenes de las cámaras de seguridad vistas por los humanos es mucho menor y, por lo tanto, disminuye el riesgo de infracción de la privacidad.

Estoy convencido de que el clásico centro de vigilancia con cámaras, tal como existe ahora, con mucho personal y videowalls, desaparecerá progresivamente. En cambio, los sistemas de inteligencia artificial alertan proactivamente al personal de seguridad relevante cuando ocurren incidentes. La tasa de detección de incidentes aumenta al 80% o incluso más (del 5% al ​​25%) y los socorristas y el personal de seguridad estarán capacitados para ayudar más y dedicar menos de su valioso tiempo a mirar secuencias de video.