Un profesor de Maryland creó un software para los chinos, que puede leer la personalidad de las personas y predecir su comportamiento.
El Político
Una herramienta de mucho interés para el gigante tecnológico de ventas online chino Alibaba, según muestran los documentos obtenidos por medios de comunicación.
Contenidos relacionados
El docente de la Universidad de Maryland – UMD desarrolló el software de aprendizaje automático. Este es útil para la vigilancia, como parte de una subvención de investigación de seis cifras del gigante tecnológico chino Alibaba.
Esto ha generado gran preocupación, debido a que una universidad pública estadounidense contribuya directamente al estado de vigilancia de China.
Recursos desde China
Alibaba financió con 125.000 dólares a un equipo de investigación dirigido por Dinesh Manocha, profesor de informática de la UMD College Park, para desarrollar un software de vigilancia urbana, que pueda "clasificar la personalidad de cada peatón e identificar otras características biométricas".
Así se desprende de los documentos de la subvención de investigación, obtenidos a través de una solicitud de registros públicos.
"Estas capacidades se utilizarán para predecir el comportamiento de cada peatón y son útiles para la vigilancia", se lee en el documento.
REPORT: University of Maryland professor Dinesh Manocha, a decorated scholar in AI and robotics, created machine-learning software “useful for surveillance” that can read people’s personalities and “predict their behavior” for Chinese tech giant Alibaba. https://t.co/OsyPMypmDd
— Breitbart News (@BreitbartNews) August 22, 2022
Tecnología con notoriedad
Los productos de vigilancia de Alibaba cobraron notoriedad en 2020, cuando los investigadores descubrieron que uno de sus productos, llamado Cloud Shield, podía reconocer y clasificar los rostros del grupo étnico de los Uigures. El grupo de derechos humanos cree que estas herramientas de vigilancia de alta tecnología juegan un papel importante en el actual genocidio Uigures en Xinjiang.
"La conclusión es que Alibaba financió una investigación académica estadounidense hecha a medida para el estado de vigilancia de China", dijo Ryan Fedasiuk, miembro asociado del Center for New American Security, en un correo electrónico a los medios.
Manocha es un erudito condecorado en el campo de la Inteligencia Artificial – IA y la robótica. Ha recibido premios y reconocimientos por parte de Google, IBM y muchos otros.
Su condición de estrella conlleva recompensas: los contribuyentes de Maryland pagaron 355.000 dólares en salarios al profesor en 2021, según el organismo de control gubernamental Open the Books.
El Ejercito también aporta
El Ejército de Estados Unidos también proporciona una abundante financiación para la investigación del profesor, firmando un acuerdo de 68 millones de dólares, con el laboratorio de Manocha, para investigar las aplicaciones militares de las tecnologías de IA.
Pero los contribuyentes de Maryland y el Ejército estadounidense no son los únicos que financian la investigación de Manocha.
En enero de 2018, la Universidad de Maryland – UMD y Alibaba firmaron un contrato de investigación de 18 meses, que financia al equipo de investigación de Manocha.
En el documento de subvención obtenido por los medios, el equipo de Manocha se comprometió a "trabajar estrechamente con los investigadores de Alibaba", para desarrollar un software de vigilancia urbana que pueda identificar a los peatones, en función de sus firmas únicas de la marcha. El algoritmo utilizaría las firmas de la marcha para clasificar a los peatones como "agresivos", "tímidos", "impulsivos" y otras personalidades.
Probando el algoritmo
La beca exigía a los investigadores de la UMD que probaran el algoritmo en vídeos proporcionados por Alibaba y que presentaran sus resultados en persona en los laboratorios de Alibaba en China.
Los investigadores también tenían que proporcionar a Alibaba el código base C++ del software y el conjunto de datos en bruto.
La "clara implicación del software es predecir de forma proactiva las manifestaciones y protestas, para poder sofocarlas", dijo Fedasiuk.
"Teniendo en cuenta lo que sabemos ahora sobre la arquitectura de la represión de China en Xinjiang y otras regiones, está claro que el Dr. Manocha no debería haber presentado este proyecto, y los administradores de la UMD no deberían haberlo aprobado".
La UMD prefiere no hacer comentarios
La UMD declinó hacer comentarios sobre esta historia. Manocha no respondió a las múltiples solicitudes de comentarios.
No solo Alibaba estaba interesada en la experiencia del profesor. En enero de 2019 —cuando la subvención de Alibaba todavía estaba activa— Manocha consiguió una subvención del Departamento de Defensa de 321.000 dólares, financiada por los contribuyentes para su equipo de investigación.
Las dos subvenciones financiaron proyectos de investigación muy similares. La subvención de Alibaba se titulaba "aprendizaje conductual a gran escala para multitudes densas".
EXCLU: A University of Maryland professor built a machine-learning software “useful for surveillance” as part of a research grant from Chinese tech giant Alibaba, raising concerns that an American university contributed to China’s surveillance state.https://t.co/qNiP375rV2
— The Daily Beast (@thedailybeast) August 22, 2022
El interés del Departamento de Defensa
Mientras tanto, la subvención del Departamento de Defensa financiaba la investigación de "modelos computacionales eficientes para simular multitudes heterogéneas a gran escala".
Como era de esperar, los resultados de la investigación producidos por las dos subvenciones tenían una superposición significativa.
Entre 2019 y 2021, Manocha publicó múltiples artículos en el campo de la IA y el aprendizaje automático que citaban, tanto la subvención de Alibaba como la del DoD.
No hay pruebas de que Manocha haya infringido la ley por la doble subvención de fuentes de financiación estadounidenses y chinas, para financiar proyectos de investigación similares.
Sin embargo, el caso sigue planteando "serias dudas sobre la ética en la investigación del aprendizaje automático", dijo Fedasiuk.
Una preocupación compartida
Muchos miembros del gobierno estadounidense comparten la preocupación de Fedasiuk. En los últimos años, los responsables políticos estadounidenses han presionado para disuadir a los científicos de buscar financiadores extranjeros.
Un memorando de la Casa Blanca de 2021 —redactado desde la administración Trump y respaldado por la Casa Blanca de Biden— buscaba contrarrestar la interferencia china en el mundo académico de Estados Unidos, exigiendo a los investigadores financiados por los contribuyentes estadounidenses que "revelen completamente la información que pueda evidenciar posibles conflictos de intereses".
Mientras tanto, en el Congreso, el representante, Mike Waltz presentó una legislación que prohibía a los investigadores estadounidenses participar en programas de captación de talento extranjero.
El congresista dijo que el caso de Manocha es "otra llamada de atención" y "precisamente por eso" presentó la legislación.
Manocha has continued to work with Chinese counterparts even after the Alibaba grant expired in June 2019, co-writing a paper with Chinese academics affiliated with the Chinese military-industrial complex in 2020.
3/n
— Byron Wan (@Byron_Wan) August 22, 2022
¿Una relación que va más allá?
Los vínculos de Manocha con China van más allá de su trabajo en Alibaba. Entre 2014 y 2016, el profesor trabajó como becario de Mil Talentos, un programa chino considerado una amenaza para la seguridad nacional por el gobierno de Estados Unidos.
En 2018, Baidu, otro gigante tecnológico chino, incorporó a Manocha como consultor senior para su rama de investigación.
El profesor ha seguido trabajando con sus homólogos chinos, incluso después de que la subvención de Alibaba expirara en junio de 2019, coescribiendo un documento con académicos chinos afiliados al complejo militar-industrial chino en 2020.
Una advertencia
Jessica Brandt, una directora de políticas para la Iniciativa de Inteligencia Artificial y Tecnología Emergente, en la The Brookings Institution, dijo a los medios que el caso de Manocha debería ser un cuento de advertencia para otros investigadores estadounidenses.
"Creo que este caso pone de relieve las consecuencias de las decisiones de los investigadores sobre la colaboración y la importancia de que la comunidad académica desarrolle códigos de conducta para guiar esas decisiones", dijo.
