Reconocimiento facial: sin avances en Mar del Plata y nuevo revés judicial en CABA
La falta de control del sistema, similar al aprobado para Mar del Plata, es el nucleo del cuestionamiento judicial en la Ciudad de Buenos Aires.
A casi ocho meses de aprobado en Mar del Plata un proyecto de ordenanza que habilitó al gobierno de Guillermo Montenegro a abrir una licitación para la contratación de un sistema de reconocimiento facial para la detección de personas prófugas a través de las cámaras de monitoreo, no se produjeron avances en ese proceso. Y, mientras tanto, en la Ciudad de Buenos Aires la Justicia ratificó la inconstitucionalidad de uno de los artículos de la norma que reguló el sistema allí implementado -que se tomó como ejemplo en la ciudad- al plantear que no cumple con la debida protección de los derechos de los habitantes.
La novedad que llegó desde la Ciudad de Buenos Aires durante este viernes fue que la Cámara en lo Contencioso Administrativo porteña rechazó un recurso del gobierno de Horacio Rodríguez Larreta contra la declaración de inconstitucionalidad de la implementación del Sistema de Reconocimiento Facial de Prófugos (SRFP) mediante datos biométricos.
Según informó la agencia Télam, del fallo se desprende que la Cámara dispuso que la rehabilitación del funcionamiento, además de quedar supeditada a la constitución y debido funcionamiento de los órganos de control, también “queda sujeta a la realización de las investigaciones y pruebas necesarias” sobre el software que se utiliza.
La acción en la Justicia porteña tuvo su primera definición clave en abril del año pasado cuando el juez en lo Contencioso Administrativo Roberto Gallardo suspendió el funcionamiento del sistema al plantear un posible uso ilegal con fines no autorizados como la obtención de datos biométricos de personas -y personalidades entre ellas políticos, dirigentes y referentes de diversos ámbitos- que no contaban con requerimiento judicial.
Pero después el Tribunal Superior de Justicia hizo lugar a una recusación planteada por el gobierno porteño contra el juez, y la causa quedó a cargo de una nueva magistrada, Elena Amanda Liberatori, quien en septiembre tomó una nueva resolución: hizo lugar al amparo y declaró la inconstitucionalidad de un artículo de la resolución del gobierno porteño que puso en marcha el sistema al plantear que “se implementó sin cumplir con los recaudos legales de protección de los derechos personalísimos de los habitantes”.
La causa fue iniciada a principios de 2020 por varias entidades, entre ellas el Observatorio de Derecho Informático Argentina (ODIA) y el Centro de Estudios Legales y Sociales (CELS).
En ese momento, la jueza dejó “supeditada” su puesta en funcionamiento “a la constitución y debido funcionamiento de los órganos de control (comisión especial de seguimiento de los sistemas de video vigilancia en el ámbito de la Legislatura de la Ciudad de Buenos Aires)”.
Y esa decisión fue la que confirmó ahora la Cámara porteña contra el planteo del gobierno que buscaba dejarla sin efecto.
“La Cámara estableció que el gobierno no puede rehabilitar el funcionamiento del SRFP hasta tanto se cumplan una serie de requisitos: constitución y debido funcionamiento de los órganos de control; que se realicen las investigaciones necesarias para determinar si el sistema tiene un impacto diferenciado según las características personales de los individuos afectados; y que se dé publicidad al sistema y se informe sobre su funcionamiento”, detallaron desde el CELS.
Mientras la intervención judicial se mantiene en CABA, ¿qué pasa en Mar del Plata con el sistema?. Desde agosto que fue aprobado el proyecto de ordenanza que habilitó al gobierno a licitar la contratación de un software para implementar un mecanismo similar, hasta el momento no se conocen avances en el llamado a licitación por parte del gobierno municipal.
Además, cuando se aprobó la ordenanza con impulso del oficialismo quedó descartado un despacho de la oposición que en conjunto (Frente de Todos y Acción Marplatense) preveía un período de prueba de seis meses e incluía la creación de un “comité de ética” con numerosos integrantes como representantes de universidades, de la Justicia, del Instituto Nacional contra la Discriminación y el Racismo (Inadi) y un concejal por cada bloque con el objetivo de corroborar una instrumentación que garantice “prevención sin discriminación”.
Es que uno de los cuestionamientos surgidos en torno a los sistemas de este tipo se centra en criterios discriminatorios aplicados desde los algoritmos.
Apenas días después de aprobada la ordenanza Acción Marplatense elevó un proyecto de comunicación para que el gobierno municipal aunque sea tuviera en cuenta a la hora de confeccionar el pliego para licitar la contratación del sistema la creación de un “comité de ética” y la elaboración y formalización de un protocolo de administración de las bases de datos e información personal. Ese expediente sólo tuvo un tratamiento en septiembre de 2022 en la comisión de Seguridad del Concejo, quedó allí sin avanzar por pedido del oficialismo y no volvió a tratarse desde entonces.
A lo largo del debate en comisiones, el secretario de Seguridad, Martín Ferlauto, y la Subsecretaría de Legal y Técnica habían propiciado la formación de una comisión de control sobre el descarte de los datos biométricos, que no fue incorporada finalmente en el proyecto aprobado por el Concejo.
“La falta de controles del sistema posibilita que se afecte el derecho a la privacidad, que se restrinja de manera ilegítima la libertad ambulatoria y el principio de inocencia. También habilita el uso ilegal de los datos personales y las detenciones arbitrarias. De esta manera, es urgente que el Estado cumpla, al menos, con las condiciones exigidas para el uso de este tipo de tecnología sólo para la búsqueda de personas prófugas dictadas por la Justicia. Y que habilite mecanismos de discusión amplios sobre sus efectos”, consideraron desde el CELS con respecto a la situación del sistema implementado en la Ciudad de Buenos Aires, que fue tomado como ejemplo por funcionarios locales para mostrar su eficacia durante la discusión en el Concejo.
Como parte del debate en Mar del Plata, desde el Instituto Nacional contra la Discriminación, la Xenofobia y el Racismo (Inadi) habían mostrado su rechazo a la implementación de sistemas de este tipo al plantear que “conducen a actos discriminatorios” y que se comprometen “derechos fundamentales” de la ciudadanía. Es que sostuvieron que diversos investigadores “han reportado que los algoritmos de reconocimiento facial identifican incorrectamente a personas de piel oscura, jóvenes y mujeres con mayor frecuencia que a personas de piel clara, de mayor edad y hombres, respectivamente” y señalaron que ello “refuerza la circulación de estereotipos y prejuicios y conduce a actos discriminatorios concretos”.
