Los informáticos que diseñan el futuro no pueden ponerse de acuerdo sobre lo que significa la privacidad

Dec 14, 2023

Los investigadores de la Universidad Carnegie Mellon querían crear un sensor inteligente que preservara la privacidad. Luego, fueron acusados ​​de violar la privacidad de sus colegas.

Cuando los estudiantes y profesores de informática del Instituto de Investigación de Software de la Universidad Carnegie Mellon regresaron al campus en el verano de 2020, había mucho a lo que adaptarse.

Más allá de la inevitable extrañeza de estar nuevamente con colegas después de meses de distanciamiento social, el departamento también se estaba mudando a un edificio completamente nuevo: el TCS Hall de última generación de 90,000 pies cuadrados.

Las características futuristas de la sala incluían sensores de dióxido de carbono que automáticamente introducen aire fresco, un jardín de lluvia, un patio para robots y drones, y dispositivos experimentales de superdetección llamados Mites. Montados en más de 300 ubicaciones en todo el edificio, estos dispositivos del tamaño de un interruptor de luz pueden medir 12 tipos de datos, incluidos movimiento y sonido. Se incrustaron ácaros en las paredes y techos de pasillos, salas de conferencias y oficinas privadas, todo como parte de un proyecto de investigación sobre edificios inteligentes dirigido por el profesor de la CMU Yuvraj Agarwal y el estudiante de doctorado Sudershan Boovaraghavan, y que incluía a otro profesor, Chris Harrison.

“El objetivo general de este proyecto”, explicó Agarwal en una reunión pública en abril de 2021, es “construir una infraestructura de IoT [Internet de las cosas] segura y fácil de usar”, refiriéndose a una red de sensores. objetos físicos equipados como bombillas inteligentes, termostatos y televisores que pueden conectarse a Internet y compartir información de forma inalámbrica.

No todos se alegraron de encontrar el edificio lleno de Ácaros. Algunos en el departamento sintieron que el proyecto violaba su privacidad en lugar de protegerla. En particular, los estudiantes y profesores cuyas investigaciones se centraron más en los impactos sociales de la tecnología sintieron que el micrófono, el sensor de infrarrojos, el termómetro y otros seis sensores del dispositivo, que juntos podían al menos detectar cuándo un espacio estaba ocupado, los someterían a vigilancia experimental. sin su consentimiento.

"No está bien instalarlos de forma predeterminada", dice David Widder, candidato a doctorado de último año en ingeniería de software, quien se convirtió en una de las voces más vocales del departamento contra los ácaros. "No quiero vivir en un mundo en el que el hecho de que un empleador instale sensores en red en su oficina sin preguntarle primero sea un modelo a seguir para otras organizaciones".

Todos los usuarios de tecnología enfrentan preguntas similares sobre cómo y dónde trazar una línea personal en lo que respecta a la privacidad. Pero fuera de nuestros propios hogares (y a veces dentro de ellos), cada vez nos falta más autonomía para tomar estas decisiones. Más bien, nuestra privacidad está determinada por las elecciones de las personas que nos rodean. Entrar en la casa de un amigo, en una tienda minorista o simplemente en una calle pública nos deja expuestos a muchos tipos diferentes de vigilancia sobre los cuales tenemos poco control.

En un contexto de creciente vigilancia en el lugar de trabajo, prolífica recopilación de datos, crecientes riesgos de ciberseguridad, crecientes preocupaciones sobre la privacidad y las tecnologías inteligentes, y una tensa dinámica de poder en torno a la libertad de expresión en las instituciones académicas, Mites se convirtió en un pararrayos dentro del Instituto de Investigación de Software.

Voces en ambos lados del asunto eran conscientes de que el proyecto Mites podría tener un impacto mucho más allá de TCS Hall. Después de todo, Carnegie Mellon es una universidad de investigación de primer nivel en ciencia, tecnología e ingeniería, y la forma en que maneja esta investigación puede influir en cómo se implementarán los sensores en otros lugares. "Cuando hacemos algo, las empresas... [y] otras universidades nos escuchan", dice Widder.

De hecho, los investigadores de Mites esperaban que el proceso por el que habían pasado "podría ser en realidad un modelo para universidades más pequeñas" que quisieran realizar investigaciones similares, dice Agarwal, profesor asociado de ciencias de la computación que ha estado desarrollando y probando el aprendizaje automático para dispositivos de IoT. durante una década.

Pero la pregunta crucial es qué sucederá si (o cuándo) los supersensores se gradúan en Carnegie Mellon, se comercializan y se abren paso en edificios inteligentes en todo el mundo.

El conflicto es, en esencia, un intento de uno de los principales departamentos de informática del mundo de litigar cuestiones espinosas en torno a la privacidad, el anonimato y el consentimiento. Pero ha pasado de ser una discusión académica a una amarga disputa, completa con acusaciones de intimidación, vandalismo, desinformación y represalias en el lugar de trabajo. Como en tantas conversaciones sobre privacidad, las dos partes han estado hablando entre sí, con concepciones aparentemente incompatibles sobre lo que significa privacidad y cuándo se debe requerir el consentimiento.

En última instancia, si las personas cuyas investigaciones establecen la agenda para las opciones tecnológicas no pueden llegar a un consenso sobre la privacidad, ¿dónde nos deja eso al resto de nosotros?

El proyecto Mites se basó en dos premisas básicas: primero, que los edificios de todo el mundo ya están recopilando datos sin protecciones de privacidad estándar y seguirán haciéndolo. Y segundo, que la mejor solución es construir mejores sensores: más útiles, más eficientes, más seguros y mejor intencionados.

En otras palabras, ácaros.

"Lo que realmente necesitamos", explica Agarwal, es "crear sistemas de seguridad, privacidad y seguridad... asegurarnos de que los usuarios confíen en estos sistemas y comprendan la propuesta de valor clara".

"Preferiría que [nosotros] estemos liderando esto que Google o ExxonMobil", añade Harrison, profesor asociado de interacción persona-computadora y colaborador de la facultad en el proyecto, refiriéndose a la investigación de sensores. (Google financió las primeras versiones de la investigación que condujo a Mites, mientras que JPMorgan Chase brinda “generoso apoyo a la investigación de edificios inteligentes en TCS Hall”, como se indica en las placas colgadas alrededor del edificio).

Los ácaros (el nombre se refiere tanto a los dispositivos individuales como a la plataforma general) son sensores todo en uno respaldados por una pila de hardware y procesamiento de datos en el dispositivo. Si bien Agarwal dice que no recibieron el nombre de la pequeña criatura, el logotipo en el sitio web del proyecto representa un error.

Según los investigadores, los ácaros representan una mejora significativa con respecto a los sensores de edificios actuales, que Por lo general, tienen un propósito singular, como detectores de movimiento o termómetros. Además, hoy en día muchos dispositivos inteligentes a menudo solo funcionan de forma aislada o con plataformas específicas como Nest de Google o Alexa de Amazon; no pueden interactuar entre sí.

Además, los sistemas actuales de IoT ofrecen poca transparencia sobre exactamente qué datos se recopilan, cómo se transmiten y qué protocolos de seguridad existen, al tiempo que pecan de exceso de recopilación.

Los investigadores esperaban que Mites abordara estas deficiencias y facilitara nuevos usos y aplicaciones para los sensores de IoT. Por ejemplo, dijeron que los micrófonos de Mites podrían ayudar a los estudiantes a encontrar una habitación tranquila para estudiar, y Agarwal sugirió en la reunión del ayuntamiento en abril de 2021 que el sensor de movimiento podría decirle a un ocupante de la oficina si el personal de conserjería realmente estaba limpiando las oficinas todas las noches. (Desde entonces, los investigadores han dicho que este era un caso de uso sugerido específico para los protocolos de covid-19 y que podría ayudar al personal de limpieza a concentrarse en áreas de alto tráfico, pero se han alejado de esa posibilidad).

Los investigadores también creen que, a largo plazo, los ácaros (y los sensores de construcción en general) son clave para la sostenibilidad ambiental. También ven otros casos de uso más ambiciosos. Un artículo universitario describe este escenario: En 2050, una mujer comienza a experimentar pérdida de memoria. Su médico sugiere instalar Mites en su casa para "conectarse a... parlantes inteligentes y decirle cuándo está lavada la ropa y cuándo ha dejado el horno encendido" o para evaluar su sueño al notar el sonido de las sábanas alborotadas o los viajes nocturnos al baño. “Son útiles para Emily, pero aún más útiles para su médico”, afirma el artículo.

Como dispositivos multipropósito integrados con una plataforma, se suponía que los Mites resolverían todo tipo de problemas sin exagerar en la recopilación de datos. Cada dispositivo contiene nueve sensores que pueden captar todo tipo de información ambiental sobre una habitación, incluidos sonido, luz, vibraciones, movimiento, temperatura y humedad: una docena de tipos diferentes de datos en total. Para proteger la privacidad, no captura vídeos ni fotografías.

Los investigadores del CMU no son los primeros en intentar un proyecto de este tipo. Una iniciativa de investigación de IoT del Instituto de Tecnología de Massachusetts, también llamada MITes, diseñó sensores portátiles para recopilar datos ambientales como el movimiento y la temperatura. Funcionó de 2005 a 2016, principalmente como parte de PlaceLab, un laboratorio experimental inspirado en un apartamento en el que voluntarios cuidadosamente examinados dieron su consentimiento para vivir y estudiar sus interacciones. Los proyectos MIT y CMU no están relacionados. (MIT Technology Review está financiado en parte por el MIT pero mantiene independencia editorial).

Los investigadores de Carnegie Mellon dicen que el sistema Mites extrae sólo algunos de los datos que recopilan los dispositivos, mediante un proceso técnico llamado "caracterización". Esto debería hacer que sea más difícil rastrear, digamos, una voz hasta un individuo.

El aprendizaje automático, que a través de una técnica llamada computación de borde, eventualmente tendría lugar en el dispositivo en lugar de en un servidor centralizado, reconoce los datos entrantes como resultado de ciertas actividades. La esperanza es que un conjunto particular de vibraciones pueda traducirse en tiempo real, por ejemplo, en un tren que pasa.

Los investigadores dicen que la caracterización y otros tipos de computación perimetral harán que Mites proteja más la privacidad, ya que estas tecnologías minimizan la cantidad de datos que deben enviarse, procesarse y almacenarse en la nube. (Por el momento, el aprendizaje automático todavía se lleva a cabo en un servidor separado en el campus).

“Nuestra visión es que haya un sensor para gobernarlos a todos, si has visto El Señor de los Anillos. La idea es que, en lugar de esta colección heterogénea de sensores, tenga un sensor en un paquete de dos pulgadas por dos pulgadas”, explicó Agarwal en el ayuntamiento de abril de 2021, según una grabación de la reunión compartida con MIT Technology. Revisar.

Pero si la respuesta departamental sirve de indicación, tal vez un anillo de poder que permitiera a su portador lograr el dominio sobre los demás no fuera la mejor analogía.

A menos que los esté buscando, es posible que no sepa que el amplio y luminoso TCS Hall, en el extremo occidental del campus de Carnegie Mellon en Pittsburgh, está cubierto de dispositivos Mites: 314 de ellos en febrero de 2023, según Agarwal.

Pero si se mira de cerca, están ahí: pequeñas placas de circuito cuadradas revestidas de plástico y montadas en placas de interruptores de luz estándar. Están situados en el interior de las entradas de salas comunes y oficinas, junto a los termostatos y controles de iluminación, y en los techos.

De hecho, los únicos lugares en TCS Hall que están libres de ácaros son los baños y el quinto piso, donde Tata Consultancy Services, la multinacional india de TI que donó 35 millones de dólares para financiar el edificio que lleva su nombre, lleva a cabo una investigación y centro de innovación. (Un portavoz dijo: “TCS no participa en el proyecto Mites”).

Widder, cuya tesis doctoral se centra en cómo ayudar a los desarrolladores de IA a pensar en su responsabilidad por el daño que podría causar su trabajo, recuerda haber descubierto los sensores Mites en su oficina en algún momento del otoño de 2020. Y una vez que los notó, no pudo. No ve los dispositivos parpadeantes montados en su pared y techo, o los dos en el techo del pasillo justo afuera de su puerta.

Widder tampoco supo inmediatamente cómo apagar los dispositivos; no tenían interruptor de encendido y apagado. (En última instancia, sus intentos de forzar esa exclusión amenazarían con descarrilar su carrera).

Esto fue un problema para el incipiente ético tecnológico. El trabajo académico de Widder explora cómo piensan los desarrolladores de software sobre las implicaciones éticas de los productos que construyen; está particularmente interesado en ayudar a los científicos informáticos a comprender las consecuencias sociales de la tecnología. Y por eso Mites era motivo de preocupación tanto profesional como personal. Los mismos problemas de vigilancia y consentimiento informado con los que ayudó a los científicos informáticos habían llegado a su oficina.

CMU no es la única universidad que prueba nuevas tecnologías en el campus antes de enviarlas al resto del mundo. Los campus universitarios han sido durante mucho tiempo un semillero de investigación, con políticas a veces cuestionables en torno al consentimiento. Timnit Gebru, especialista en ética tecnológica y fundador del Distributed AI Research Institute, cita investigaciones iniciales sobre reconocimiento facial que se basaron en datos de vigilancia recopilados por investigadores académicos. “Muchas de las prácticas de datos problemáticas que vemos en la industria se realizaron primero en el mundo de la investigación y luego se transportan a la industria”, afirma.

Fue a través de esa lente que Widder vio a Mites. “Creo que la recopilación de datos no consensuados para la investigación... suele ser poco ética. Los sensores omnipresentes instalados en espacios públicos y privados hacen que la vigilancia cada vez más generalizada sea normal, y ese es un futuro que no quiero facilitar”, afirma.

Él Expresó sus preocupaciones en el canal Slack del departamento, en correos electrónicos y en conversaciones con otros estudiantes y profesores, y descubrió que no estaba solo. Muchas otras personas se sorprendieron al enterarse del proyecto, dice, y muchos compartieron sus preguntas sobre para qué se usarían los datos del sensor y cuándo comenzaría la recolección.

"No he estado en TCS Hall todavía, pero siento lo mismo... acerca de los Mites", escribió otro miembro del departamento en Slack en abril de 2021. "Sé que me sentiría más cómodo si pudiera desconectar el de mi oficina". .”

Los investigadores dicen que siguieron los procesos requeridos por la universidad para la recopilación de datos y recibieron la aprobación después de una revisión por parte de su junta de revisión institucional (IRB) y abogados. El IRB, que supervisa las investigaciones en las que participan sujetos humanos, según lo exige la regulación federal de EE. UU., había proporcionado comentarios sobre la propuesta de investigación de Mites antes de aprobar finalmente el proyecto en marzo. Según una pregunta frecuente pública sobre el proyecto, la junta determinó que simplemente instalar Mites y recopilar datos sobre el medio ambiente no requería la aprobación del IRB ni el consentimiento previo de los ocupantes del TCS Hall, con una excepción para la recopilación de datos de audio en oficinas privadas, que sería basado en un proceso de consentimiento “opt-in”. Se requeriría aprobación y consentimiento para etapas posteriores del proyecto, cuando los ocupantes de la oficina usarían una aplicación móvil que les permitiría interactuar con los datos de Mites.

Los investigadores de Mites también dirigieron el proyecto del asesor general de la universidad para revisar si el uso de micrófonos en los sensores violaba la ley estatal de Pensilvania, que exige el consentimiento de dos partes en la grabación de audio. "Hemos mantenido extensas conversaciones con la Oficina del Asesor General de CMU y han verificado que no estamos violando la ley de escuchas telefónicas de la Autoridad Palestina", se lee en las preguntas frecuentes del proyecto.

Las empresas de robots aspiradores dicen que sus imágenes están seguras, pero una cadena de suministro global en expansión para los datos de nuestros dispositivos genera riesgos.

En general, el Instituto de Investigación de Software, desde entonces rebautizado como Software y Sistemas Sociales, estaba dividido. Algunas de sus voces más poderosas, incluido el director del departamento (y codirector de tesis de Widder), James Herbsleb, alentaron a los miembros del departamento a apoyar la investigación. “Quiero repetir que este es un proyecto muy importante… ¡si se quiere evitar un futuro en el que la vigilancia sea rutinaria e inevitable!” escribió en un correo electrónico poco después del ayuntamiento.

"El paso inicial fue... ver cómo se comportan estas cosas", dice Herbsleb, comparando los sensores Mites con detectores de movimiento que la gente tal vez quiera probar. “La cuestión es simplemente: '¿Qué tan bien funciona como detector de movimiento?' Y ya sabes, a nadie se le pide su consentimiento. Es simplemente probar una pieza de hardware”.

Por supuesto, las capacidades avanzadas del sistema significaban que los Mites no eran sólo detectores de movimiento, y otros miembros del departamento veían las cosas de manera diferente. "Es mucho pedir a la gente tener un sensor con un micrófono funcionando en su oficina", dice Jonathan Aldrich, profesor de informática, aunque "confío en mis compañeros de trabajo como principio general y creo que merecen esa confianza". .” Y añade: "Confiar en que alguien será un buen colega no es lo mismo que darle la llave de su oficina o pedirle que instale algo en su oficina que pueda registrar cosas privadas". Permitir que otra persona controle un micrófono en su oficina, dice, es "muy parecido a darle una llave a otra persona".

A medida que el debate se desarrolló durante el año siguiente, enfrentó a los estudiantes con sus asesores y también con sus héroes académicos, aunque muchos se opusieron en privado, temiendo las consecuencias de hablar en contra de un proyecto bien financiado y respaldado por la universidad.

En la grabación de vídeo del ayuntamiento obtenida por MIT Technology Review, los asistentes preguntaron cómo planeaban los investigadores notificar a los ocupantes y visitantes del edificio sobre la recopilación de datos. Jessica Colnago, entonces estudiante de doctorado, estaba preocupada por cómo la mera presencia de los Ácaros afectaría los estudios que estaba realizando sobre privacidad. "Como investigadora de privacidad, me sentiría moralmente obligada a contarle a mi participante sobre la tecnología en la sala", dijo en la reunión. Si bien "aquí todos somos colegas" y "confiamos unos en otros", añadió, "los participantes externos tal vez no lo hagan".

Los asistentes también querían saber si los sensores podían rastrear con qué frecuencia entraban a sus oficinas y a qué hora. "Estoy en el cargo [X]", dijo Widder. "The Mite sabe que está grabando algo de la oficina [X] y, por lo tanto, me identifica como un ocupante de la oficina". Agarwal respondió que ninguno de los análisis de los datos sin procesar intentaría hacer coincidir esos datos con personas específicas.

En un momento, Agarwal también mencionó que había aceptado la idea de usar sensores Mites para monitorear al personal de limpieza, lo que algunas personas en la audiencia interpretaron como una facilitación de la vigilancia algorítmica o, al menos, una demostración clara de la dinámica desigual de poder. jugando.

Un sistema de sensores que podría usarse para vigilar a los trabajadores preocupó a Jay Aronson, profesor de ciencia, tecnología y sociedad en el departamento de historia y fundador del Centro para la Ciencia de los Derechos Humanos, quien se enteró de Mites después de que Widder llevara el proyecto a su atención. El personal universitario, como los trabajadores administrativos y de instalaciones, tienen más probabilidades de verse afectados negativamente y menos probabilidades de obtener beneficios, dijo Aronson. "Los daños y los beneficios no se distribuyen equitativamente", añadió.

De manera similar, los estudiantes y profesores no titulares aparentemente tenían muy poco que ganar directamente con el proyecto Mites y enfrentaron posibles repercusiones tanto de la recopilación de datos en sí como, temían, de hablar en contra de ella. Hablamos con cinco estudiantes además de Widder que se sentían incómodos tanto con el proyecto de investigación como con expresar sus preocupaciones.

Uno de esos estudiantes era parte de un pequeño grupo de 45 estudiantes universitarios que pasaron un tiempo en TCS Hall en 2021 como parte de un programa de verano destinado a presentarles el departamento mientras consideraban postularse para programas de posgrado. La reunión del ayuntamiento fue la primera vez que algunos de ellos supieron sobre los Mites. Algunos se molestaron, preocupados de que estuvieran siendo capturados en video o grabados.

Pero los Mites en realidad no estaban grabando ningún vídeo. Y cualquier audio capturado por los micrófonos fue codificado para que no pudiera ser reconstruido.

De hecho, los investigadores dicen que los ácaros no estaban capturando (y todavía no están capturando) ningún dato utilizable.

Para los investigadores, esta “desinformación” sobre los datos que se recopilan, como la describió Boovaraghavan en una entrevista con MIT Technology Review, fue una de las mayores frustraciones del proyecto.

Pero si el ayuntamiento tenía como objetivo aclarar detalles sobre el proyecto, en cambio exacerbó parte de esa confusión. Aunque un hilo de correo electrónico interdepartamental anterior había dejado claro que los sensores aún no estaban recopilando datos, eso se perdió en la tensa discusión. En algunos puntos, los investigadores indicaron que no se recopilaron ni se recopilarían datos sin la aprobación del IRB (que se había recibido el mes anterior), y en otros puntos dijeron que los sensores solo estaban recopilando "datos de telemetría" (básicamente para garantizar que estuvieran disponibles). encendido y conectado) y que el micrófono “está apagado en todas las oficinas privadas”. (En una declaración enviada por correo electrónico a MIT Technology Review, Boovaraghavan aclaró que “los datos se han capturado en los espacios públicos o privados de los equipos de investigación, pero nunca en los espacios de otros ocupantes”).

Para algunos que no estaban contentos, no importaba exactamente qué datos estaban capturando los sensores actualmente. No importaba que el proyecto aún no estuviera en pleno funcionamiento. Más bien, la preocupación era que se habían instalado en las oficinas sin consentimiento sensores más potentes que cualquier cosa disponible anteriormente. Claro, los Mites no estaban recopilando datos en ese momento. Pero en alguna fecha aún no especificada por los investigadores, podrían serlo. Y es posible que los afectados no tengan voz y voto.

Widder dice que el ayuntamiento (y las reuniones individuales de seguimiento con los investigadores) en realidad lo hicieron "más preocupado". Agarró su destornillador Phillips. Desenchufó los Mites de su oficina, desatornilló los sensores de la pared y el techo y quitó los cables Ethernet de sus tomas.

Puso su Mite en una caja de plexiglás en su estante y envió un correo electrónico al equipo de investigación, a sus asesores y al liderazgo del departamento informándoles que había desconectado los sensores, los había mantenido intactos y quería devolvérselos. Junto con otros miembros del departamento, escribió una carta abierta anónima que detallaba más de sus preocupaciones.

El conflicto en TCS Hall ilustra lo que hace que sea tan difícil lidiar con la privacidad: es subjetiva. No existe un estándar acordado sobre lo que significa privacidad o cuándo exactamente se debe requerir el consentimiento para que se recopilen datos personales, o incluso qué se considera datos personales. La gente tiene diferentes concepciones de lo que es aceptable. El debate de Mites destacó las discrepancias entre los enfoques técnicos para recopilar datos de una manera que preserve más la privacidad y el "lado más amplio de la privacidad, filosófico y de ciencias sociales", como dice Kyle Jones, profesor de biblioteconomía y ciencias de la información en la Universidad de Indiana que estudia la privacidad de los estudiantes. en la educación superior, dice.

Algunas cuestiones clave en los debates más amplios sobre la privacidad fueron particularmente potentes durante la disputa de Mites. ¿Qué significa el consentimiento informado y en qué circunstancias es necesario? ¿Qué datos pueden realmente identificar a alguien, incluso si no cumplen con las definiciones más comunes de “datos de identificación personal”? ¿Y es adecuado crear tecnología y procesos que protejan la privacidad si no se comunican con suficiente claridad a los usuarios?

Para los investigadores, estas preguntas tenían una respuesta sencilla: "Mi privacidad no puede ser invadida si, literalmente, no se recopilan datos sobre mí", dice Harrison.

Aun así, dicen los investigadores, existían mecanismos de consentimiento. “La capacidad de apagar el sensor solicitándolo se incorporó desde el principio. De manera similar, la capacidad de encender/apagar cualquier sensor individual en cualquier placa Mites también se incorporó desde el principio”, escribieron en un correo electrónico.

Los detalles sobre la nueva Administración Nacional de Datos de China aún están por llegar, incluido cuánto control tendrá sobre la seguridad y privacidad de los datos.

Pero aunque la funcionalidad pudo haber existido, no se comunicó bien al departamento, como lo demostró un intercambio interno de Slack. "El único correo electrónico general que se envió no proporcionaba un procedimiento para desactivarlos", señaló Aldrich.

Los estudiantes con los que hablamos destacaron la realidad de que exigirles que opten por no participar en un proyecto de investigación de alto perfil, en lugar de darles la oportunidad de participar, no tiene en cuenta la dinámica de poder de la universidad. En un correo electrónico a MIT Technology Review, Widder dijo que no cree que la opción de excluirse mediante una solicitud por correo electrónico fuera válida, porque muchos ocupantes del edificio no estaban al tanto de ello y porque optar por no participar identificaría a cualquiera que esencialmente no estuviera de acuerdo con la investigación.

A Aldrich también le preocupaba la tecnología en sí.

“¿Puedes... reconstruir el discurso a partir de lo que han hecho? Hay suficientes fragmentos para que esto sea teóricamente posible”, afirma. "El [equipo de investigación] cree que es imposible, pero no tenemos pruebas de ello, ¿verdad?"

Pero una segunda preocupación era social: Aldrich dice que no le importó el proyecto hasta que un colega fuera del departamento pidió no reunirse en TCS Hall debido a los sensores. Eso hizo que cambiara de opinión. “¿Realmente quiero tener algo en mi oficina que impida que un colega venga a reunirse conmigo? La respuesta fue claramente no. Independientemente de cómo me sintiera al respecto, no quería que fuera un impedimento para que alguien más se reuniera conmigo en mi oficina, o que [los hiciera] sentir incómodos”, dice.

El equipo de Mites colocó carteles alrededor del edificio (en pasillos, áreas comunes, escaleras y algunas habitaciones) explicando qué eran los dispositivos y qué recolectarían. Finalmente, los investigadores agregaron un código QR que vinculaba al documento de preguntas frecuentes de 20 páginas del proyecto. Los carteles eran pequeños papeles laminados de tamaño carta que, según algunos visitantes, eran fáciles de pasar por alto y difíciles de entender.

“Cuando vi eso, pensé, vaya, esa es una descripción muy pequeña de lo que está pasando”, señaló uno de esos visitantes, Se A Kim, un estudiante universitario que realizó múltiples visitas al TCS Hall en la primavera de 2022 para una tarea escolar de diseño para explorar cómo concienciar a los visitantes sobre la recopilación de datos en los espacios públicos de TCS. Cuando entrevistó a varios de ellos, le sorprendió saber cuántos aún desconocían los sensores.

Una preocupación que repiten los opositores de Mites es que incluso si el despliegue actual de Mites no está configurado para recopilar los datos más sensibles, como fotos o vídeos, y no pretende identificar a individuos, esto dice poco sobre qué datos podría recopilar o qué con esos datos podrían combinarse... en el futuro. Los investigadores de privacidad han demostrado repetidamente que los datos agregados y anonimizados se pueden anonimizar fácilmente.

Este suele ser el caso con conjuntos de datos mucho más grandes, recopilados, por ejemplo, por teléfonos inteligentes. Es posible que las aplicaciones y los sitios web no tengan el número de teléfono o el nombre del propietario del teléfono, pero a menudo tienen acceso a datos de ubicación que facilitan la ingeniería inversa de esos detalles de identificación. (Desde entonces, los investigadores de Mites han cambiado la forma en que manejan la recopilación de datos en oficinas privadas agrupando varias oficinas. Esto hace que sea más difícil determinar el comportamiento de los ocupantes individuales).

Más allá de la posibilidad de reidentificación, ¿quién exactamente puede acceder a los datos de un usuario? A menudo se desconoce en los dispositivos IoT, ya sea por accidente o por el diseño del sistema. Abundan los incidentes en los que los dispositivos domésticos inteligentes de los consumidores, desde monitores para bebés hasta parlantes de Google Home y aspiradoras robóticas, han sido pirateados o sus datos se han compartido sin el conocimiento o consentimiento de sus usuarios.

El equipo de investigación de Mites era consciente de estos conocidos problemas de privacidad y violaciones de seguridad, pero a diferencia de sus críticos, que vieron estos precedentes como una razón para no confiar en la instalación de dispositivos IoT aún más potentes, Agarwal, Boovaraghavan y Harrison los vieron como motivación para crear algo mejor. "Alexa y Google Homes son tecnologías realmente interesantes, pero algunas personas se niegan a tenerlas porque se rompe esa confianza", dice Harrison. Sintió que el trabajo de los investigadores era descubrir cómo construir un nuevo dispositivo que fuera confiable desde el principio.

A diferencia de los dispositivos anteriores, el suyo protegería la privacidad.

En la primavera de 2021, Widder recibió una carta informándole que estaba siendo investigado por presunta mala conducta por manipulación de equipos informáticos de la universidad. También le advirtió que la forma en que había actuado podría considerarse intimidación.

Los hilos de correo electrónico de todo el departamento, compartidos con MIT Technology Review, insinúan cuán personal se había vuelto el debate sobre Mites y cómo Widder, a los ojos de algunos de sus colegas, se había convertido en el malo. “Que las personas saquen sensores por su cuenta (¿qué sentido tienen estas conversaciones profundas si literalmente vamos a tomar el asunto en nuestras manos?) y que otros publiquen en las redes sociales *no es ético*”, escribió un profesor. (Aunque el profesor no nombró a Widder, era ampliamente sabido que había hecho ambas cosas).

"Creo que algunas personas se sintieron intimidadas aquí, y me lo tomo muy en serio", dice Widder, aunque también se pregunta: "¿Qué dice esto sobre nuestro campo si no estamos acostumbrados a tener este tipo de discusiones y... cuando Si lo haces, ¿no se los toma en serio o... se los recibe como intimidación? (Los investigadores no respondieron a las preguntas sobre las acusaciones de intimidación).

La acción disciplinaria se abandonó después de que Widder volviera a enchufar los sensores y se disculpara, pero para Aldrich, “la carta funciona como una forma de castigar a David por hablar sobre un tema que es inconveniente para la facultad y de silenciar las críticas de él y de otros”. en el futuro”, como escribió en una respuesta oficial a la revisión doctoral de Widder.

Herbsleb, director del departamento y asesor de Widder, se negó a comentar sobre lo que llamó un “documento interno privado”, citando la privacidad de los estudiantes.

Aunque Widder cree que fue castigado por sus críticas, los investigadores ya habían tenido en cuenta algunas de ellas. Por ejemplo, los investigadores ofrecieron permitir que los ocupantes del edificio apagaran los sensores Mites en sus oficinas solicitándolos por correo electrónico. Pero esto seguía siendo imposible en los espacios públicos, en parte porque "no hay manera de que sepamos siquiera quién está en el espacio público", nos dijeron los investigadores.

En febrero de 2023, los ocupantes de nueve de 110 oficinas habían escrito a los investigadores para desactivar los sensores Mites en sus propias oficinas, incluidos Widder y Aldrich.

Los investigadores señalan este pequeño número como prueba de que la mayoría de las personas están de acuerdo con los ácaros. Pero Widder no está de acuerdo; Todo lo que demuestra, dice, es que la gente vio cómo tomó represalias contra él por quitar sus propios sensores Mites y fue disuadida de pedir que apagaran los suyos. “Tanto si esto tenía como objetivo ser coercitivo como si no, creo que tiene ese efecto”, dice.

En un día lluvioso de octubre pasado, en una sala de conferencias acristalada en el cuarto piso de TCS Hall, el equipo de investigación de Mites argumentó que las tensiones latentes sobre su proyecto (los correos electrónicos acalorados y a veces personales de todos los departamentos, los intercambios de Slack y los ayuntamientos) eran una parte normal del proceso de investigación.

“Es posible que vean esta discordia… a través de una lente negativa; Nosotros no”, dijo Harrison.

"Creo que es fantástico que hayamos podido fomentar un proyecto en el que la gente puede legítimamente... plantear problemas... Eso es algo bueno", añadió.

"Espero que nos convirtamos en el punto culminante de cómo hacer esta [investigación de sensores] de una manera muy deliberada", dijo Agarwal.

Otros miembros del profesorado (incluso aquellos que se han convertido en firmes partidarios del proyecto Mites, como Lorrie Cranor, profesora de ingeniería de privacidad y reconocida experta en privacidad) dicen que las cosas se podrían haber hecho de otra manera. “En retrospectiva, debería haber habido más comunicación desde el principio”, reconoce Cranor, y esas conversaciones deberían haber sido continuas para que los estudiantes actuales pudieran ser parte de ellas. Debido a la rotación natural en el mundo académico, afirma, muchos de ellos nunca habían tenido la oportunidad de participar en estas discusiones, a pesar de que profesores de larga trayectoria fueron informados sobre el proyecto hace años.

También tiene sugerencias sobre cómo podría mejorar el proyecto. “Tal vez necesitemos un sensor Mites en un área pública que esté conectado a una pantalla que te brinde una transmisión en vivo, y puedas saltar arriba y abajo, silbar y hacer todo tipo de cosas frente a él y ver qué datos llegan. " ella dice. O dejar que la gente descargue los datos y se pregunte: “¿Qué se puede reconstruir a partir de esto? … Si es posible aplicar ingeniería inversa y descubrir algo, probablemente alguien aquí lo hará”. Y si no, la gente podría estar más inclinada a confiar en el proyecto.

Los dispositivos también podrían tener un interruptor de encendido y apagado, reconoce Herbsleb, el jefe del departamento: "Creo que si esas preocupaciones se hubieran reconocido antes, estoy seguro de que Yuvraj [Agarwal] lo habría diseñado de esa manera". (Widder todavía piensa que los dispositivos deberían tener un interruptor de apagado).

Pero aún así, para los críticos, estas mejoras reales y sugeridas no cambian el hecho de que “la conversación pública se produce debido a una controversia, y no antes”, dice Aronson.

Las mejoras en la investigación tampoco eliminan lo que experimentó Widder. “Cuando planteé mis preocupaciones, especialmente al principio”, dice, “me trataron como a un buscador de atención... como a un matón, un vándalo. ¿Y si ahora la gente sugiere que esto ha mejorado el proceso? Hace una pausa por la frustración. "Bueno."

Además, más allá de las mejoras realizadas en el proceso de investigación en CMU, todavía queda la cuestión de cómo se podría utilizar la tecnología en el mundo real. Esa versión comercializada de la tecnología podría tener “cámaras y micrófonos de mayor calidad y más sensores y... más información absorbida”, señala Aronson. Antes de que algo como Mites se lance al público, “necesitamos tener esta gran conversación” sobre si es necesario o deseado, dice.

"El panorama general es: ¿podemos confiar en que los empleadores o las empresas que producen estos dispositivos no los utilizarán para espiarnos?" añade Aldrich. "Algunos empleadores han demostrado que no merecen tanta confianza".

Los investigadores, sin embargo, creen que preocuparse por las aplicaciones comerciales puede ser prematuro. "Esto es una investigación, no un producto comercial", escribieron en un comunicado enviado por correo electrónico. “Realizar este tipo de investigación en un entorno altamente controlado nos permite aprender y avanzar en el descubrimiento y la innovación. El proyecto Mites aún se encuentra en sus primeras fases”.

Pero hay un problema con ese encuadre, dice Aronson. “El lugar experimental no es un laboratorio ni una placa de Petri. No es una simulación. Es un edificio al que los seres humanos reales entran todos los días y viven sus vidas”.

Widder, el crítico más acérrimo del proyecto, puede imaginar un escenario alternativo en el que tal vez podría haber sentido diferente acerca de Mites, si hubiera sido más participativo y “colaborativo”. Quizás, sugiere, los investigadores podrían haber dejado los dispositivos, junto con un folleto de introducción e instrucciones, en los escritorios de los miembros del departamento para que pudieran decidir si querían participar. Eso habría asegurado que la investigación se realizara “basándose en el principio de consentimiento voluntario incluso para tenerlos en la oficina en primer lugar”. En otras palabras, no cree que características técnicas como el cifrado y la informática de punta puedan reemplazar el consentimiento significativo.

Sin embargo, ni siquiera este tipo de ajustes cambiarían fundamentalmente cómo se siente Widder. "No estoy dispuesto a aceptar la premisa de... un futuro en el que haya todos estos tipos de sensores en todas partes", afirma.

Es poco probable que, en este momento, los 314 ácaros que quedan en las paredes y techos del TCS Hall sean arrancados. Pero si bien es posible que la lucha por este proyecto haya terminado, los debates sobre la privacidad apenas están comenzando.

Actualización: esta historia se ha actualizado con detalles sobre el ayuntamiento de abril.

El coronavirus sigue causando infecciones, enfermedades y muerte, y un largo período de covid.

El monitoreo automatizado de ERP previene el tiempo de inactividad y optimiza las funciones comerciales de misión crítica.

La compañía espera que hacer que LLaMA 2 sea de código abierto le dé ventaja sobre rivales como OpenAI.

La ciencia está a punto de volverse mucho más apasionante y eso nos afectará a todos, sostiene el ex director ejecutivo de Google.

Descubra ofertas especiales, noticias destacadas, próximos eventos y más.

¡Gracias por enviar tu correo electrónico!

Parece que algo salió mal.

Estamos teniendo problemas para guardar sus preferencias. Intente actualizar esta página y actualizarla una vez más. Si continúa recibiendo este mensaje, comuníquese con nosotros a [email protected] con una lista de los boletines que le gustaría recibir.