La campaña “Reconoceme“, lanzada por Democracia en Red y la ONG O.D.I.A (Observatorio de Derecho Informático Argentino), tiene como objetivo principal concientizar a la sociedad sobre los riesgos que representa el Sistema de Reconocimiento Facial (SRF) en relación con la privacidad, los derechos civiles y las libertades individuales.
Este sistema, que utiliza inteligencia artificial para identificar personas en espacios públicos, ha sido objeto de controversias debido a la falta de regulaciones y a los errores en la identificación, que han causado violaciones de derechos fundamentales y detenciones erróneas.
El abogado Juan Ribera, integrante del Observatorio de Derecho Informático Argentino y experto en derecho informático, dialogó con Infocielo y explicó en detalle los objetivos de la campaña y la importancia de poner en discusión el uso de estas tecnologías. “El proyecto Reconoceme es una campaña que lanzamos hace unos días. Lo que busca es volver a instalar en la sociedad, con mayor difusión, mayor capacidad de análisis y más fundamentos, los problemas que están emparejados con el Sistema de Reconocimiento Facial en general, y en particular el tema Reconocimiento Facial para prófugos”, detalló Ribera, refiriéndose a la implementación de este sistema en la Ciudad de Buenos Aires en 2019, que fue suspendida tras la intervención judicial del O.D.I.A.
La principal preocupación de la campaña es la falta de regulación adecuada sobre el uso del SRF, lo que puede derivar en un uso desmedido de los datos sensibles por parte del Estado. “Lanzamos esta campaña no solo para poner en discusión el sistema este, sino el sistema de tecnologías aplicado a la seguridad ciudadana”, explica Ribera, subrayando la importancia de establecer un marco regulatorio que garantice un uso ético de estas herramientas.
Irregularidades en la implementación del Sistema de Reconocimiento Facial
Durante el proceso judicial iniciado por O.D.I.A., se detectaron numerosas irregularidades en la implementación del SRF en Buenos Aires. Según Ribera, “en el proceso judicial se demostró una serie grande de irregularidades, para decirlo de una forma correcta”. Explicó que el sistema, inicialmente destinado a identificar prófugos de la justicia, comenzó a operar sin cumplir con los procedimientos administrativos adecuados. “Cuando nos enteramos que se empieza a aplicar, buscando cuándo había sido la licitación, se había dicho 35 días antes de que se anunciara, es decir que no cumplía con la Ley de procedimientos administrativos para las licitaciones“, afirmó Ribera, señalando la falta de transparencia en el proceso de licitación.
El uso del SRF en Buenos Aires también reveló errores en la identificación de personas, especialmente entre grupos vulnerables. Ribera menciona que el sistema presentó sesgos discriminatorios, afectando de manera desproporcionada a personas de tez más oscura, jóvenes y mujeres. “Está demostrado que hay un sesgo mayoritario a personas de color, de tez más oscura, jóvenes y por sobre todo mujeres”, explicó. Estos errores son producto de la forma en que se entrenan los algoritmos de reconocimiento facial, utilizando datos que no reflejan la diversidad de la población argentina.
Además, el gobierno de la Ciudad solicitó datos biométricos de millones de personas al Registro Nacional de las Personas (RENAPER), mucho más allá del grupo de prófugos inicialmente previsto. “Cuando preguntamos cuántos datos biométricos habían sido solicitados, el RENAPER informó que aportó al Ministerio 10 millones de datos biométricos”, revela Ribera. “Pasaron 15 mil personas más por el reconocimiento facial que no estaban incluidas en el listado de prófugos”, añade, destacando la gravedad de la situación.
El desafío de un uso ético de las tecnologías de seguridad
A pesar de las preocupaciones generadas por el SRF, Ribera y su equipo no se oponen al uso de tecnologías avanzadas en el ámbito de la seguridad, siempre que estén acompañadas de regulaciones claras y efectivas. “Nosotros creemos que sí es posible un uso ético. Somos gente que nos gusta la tecnología“, afirmó. Sin embargo, enfatizó que el problema radica en la falta de control y en la falta de transparencia en su implementación. “Lo que sostenemos es que como todo avance tecnológico tiene que estar acompañado de reglamentaciones, de difusión para la ciudadanía, que se sepa cuáles son los peligros y un control real del organismo”, señaló.
Uno de los mayores problemas detectados fue la ausencia de la Defensoría del Pueblo en el control del SRF, a pesar de que la ley estipulaba que este organismo debía supervisar su funcionamiento. “En este caso está estipulado por ley que la Defensoría del Pueblo es el órgano de control para este Sistema, y la Defensoría nunca había sido avisada, no estaban enterados que debían controlar ni cómo hacerlo”, denuncia Ribera, subrayando la falta de coordinación entre las instituciones encargadas de supervisar el uso de estas tecnologías.
El futuro del reconocimiento facial en Argentina
La campaña “Reconoceme” aboga por la creación de un marco legal robusto que permita el uso responsable de sistemas de reconocimiento facial sin comprometer los derechos fundamentales de los ciudadanos. “Básicamente lo que decimos es ‘si vamos a instalar un sistema de este tipo, por qué no hacerlo de una forma que sepamos quién y cómo lo hace'”, reflexionó Ribera, quien considera que la falta de transparencia sobre la procedencia y el desarrollo de los sistemas utilizados representa un riesgo adicional.
A largo plazo, la campaña busca que el debate sobre el SRF se extienda a otros ámbitos del uso de la tecnología en la seguridad pública y que se establezcan mecanismos de control adecuados para evitar abusos. Ribera concluye: “Nosotros lo único que pedimos es el uso correcto”, instando a las autoridades a garantizar que el desarrollo y la implementación de estas tecnologías respeten los derechos de los ciudadanos y no comprometan su privacidad ni sus libertades.
