Wilson Witzel ganó la gobernación del estado de Río de Janeiro en 2018 con una plataforma de mano dura contra el crimen. Como su antiguo aliado, el presidente Jair Bolsonaro —que se comprometió a dejar que los criminales “murieran como cucarachas en las calles“—, Witzel prometió “aplastar” y “cavar tumbas” para quien se interpusiera en su agenda de lucha contra el crimen.

Desde que Witzel asumió el cargo presionando a la policía a usar más tácticas de fuerza, las tasas globales de delincuencia han bajado, pero las muertes de civiles a manos de las autoridades se han disparado. Se dice que la policía de Río asesinó a 1.810 personas en 2019, 18 por ciento más que en 2018, y el saldo más alto desde que se llevan registros, hace más de 20 años.

Una de las promesas de campaña de Witzel fue redoblar el uso de tecnología. Antes de asumir el cargo, el gobernador visitó Israel para ver los drones equipados con rifles de francotirador y anunció que instalaría 30.000 nuevas cámaras, aunque aún no se ha implementado su programa de vigilancia. Pero despachó a 120 francotiradores en helicópteros a sobrevolar las favelas de la ciudad con la instrucción de “apuntar a la cabeza” de sospechosos que portaran armas y recientemente revivió el programa de “unidades de policía pacificadora” de sus predecesores, en el que se equipó a agentes de la policía con cámaras corporales conectadas a tecnología de reconocimiento facial.

*Este artículo fue publicado originalmente por el Instituto Igarapé y se tradujo, editó para mayor claridad y reprodujo con autorización, pero no refleja necesariamente las opiniones de InSight Crime. Vea el artículo original aquí.

Witzel no es el único representante del gobierno que experimenta con la tecnología para reducir el crimen. A comienzos de los años 2000, São Paulo se puso a la vanguardia de la digitalización de estadísticas de criminalidad y el despliegue de software de mapeo, incluyendo InfoCrime y Detecta. A estas y otras reformas se les atribuye una caída importante en la delincuencia. En ciudades de todo Brasil, las autoridades locales están levantando murallas digitales: cámaras que cubren las vías de acceso para rastrear placas de matrícula. Al menos cinco cuerpos de policía estatal introdujeron pilotos de reconocimiento facial en 2019, que los relacionan con las capturas de por lo menos 151 personas.

VEA TAMBIÉN: Policía de Brasil ejerce su licencia para matar en Río de Janeiro

La policía federal de Brasil es una de las primeras del mundo en desplegar drones de uso militar de fabricación israelí. Algunos cuerpos de policía estatal también están desarrollando capacidades de predicción de criminalidad que combinan máquinas inteligentes y series de datos sobre delincuencia para estimar la probabilidad de ocurrencia de ese tipo de eventos. Aunque propensas a las críticas y vulnerables a sesgos, hay evidencia de que algunas herramientas predictivas pueden ayudar a mejorar la efectividad y la eficiencia de la vigilancia policial. Ya hay en marcha programas piloto que incluyen predicción de crimen en Río de Janeiro, Fortaleza y Santa Catarina.

Brasil está lejos de ser el único país latinoamericano que entra en la onda de la tecnología de seguridad. En toda la región, gobiernos, cuerpos de policía y empresas privadas están ensayando diferentes herramientas. Tómese el caso de Buenos Aires, que está integrando el reconocimiento facial a su infraestructura existente de cámaras de vigilancia. Otras ciudades argentinas, como Córdoba y Mendoza están siguiendo el ejemplo. En Lima, los municipios están redoblando discretamente el reconocimiento facial. Y en México, el estado de Coahuila anunció hace poco su intención de combinar las funciones de reconocimiento facial con sus 1.100 cámaras de vigilancia recién adquiridas.

¿Qué tan nítida es la imagen?

Donde se adopten, las plataformas de reconocimiento facial y predicción de criminalidad no serán mejores que los datos subyacentes y de la manera como se manejen los instrumentos. La investigadora del Instituto de Tecnología de Massachusetts (MIT, por sus siglas en inglés) Joy Buolamwini ha mostrado cómo los sistemas de reconocimiento facial registran tasas de error de 34,7 por ciento para mujeres negras, mientras que son de solo 0,8 por ciento en el caso de hombres blancos. En países como Brasil, en el que 64 por ciento de la población carcelaria es negra, existen riesgos reales de que las herramientas de reconocimiento sean un estruendoso fracaso.

En lo que respecta a la predicción del crimen, se requiere justificar la falta de confiabilidad de los datos existentes y los sesgos sistemáticos en la generación de reportes. En Estados Unidos, por ejemplo, las comunidades de bajos ingresos que son las más vigiladas por la Policía prácticamente siempre registran “mayor” criminalidad que el promedio. Y en Brasil, suele haber extensas “zonas desatendidas” que padecen apagones de información, donde la policía simplemente brilla por su ausencia.

Todas estas asimetrías de información básicamente pueden distorsionar las predicciones generadas por los instrumentos de predicción de criminalidad. También pueden reforzar los prejuicios existentes en detrimento de la seguridad pública, especialmente de los más vulnerables.

Sin un buen manejo, las herramientas de predicción de criminalidad y reconocimiento facial también pueden ser altamente invasivas y socavar las libertades civiles. Algunos instrumentos son más problemáticos que otros. La predicción basada en el lugar estima el “riesgo” probable de los hechos que ocurren en horarios específicos y en puntos geográficos particulares. Las predicciones basadas en la gente absorben información pública y personal para inferir el riesgo de que lleguen a perpetrar un crimen o ser víctimas (o ambas cosas).

Algunos de estos sistemas se basan en información de naturaleza muy privada. Pocas empresas, sin embargo, están dispuestas a revelar cómo funciona su tecnología. Más aún, el alto grado de complejidad de ciertos algoritmos implica que incluso sus desarrolladores tienen problemas para explicar cómo funcionan.

No obstante, existen formas de limitar los sesgos y mejorar la rendición de cuentas y la transparencia de las tecnologías de seguridad. Como mínimo, los programadores deben poner a prueba la imparcialidad y la discriminación de los algoritmos. Eso significa modelar estadísticamente los efectos directos e indirectos de las fórmulas para determinar sus efectos en ciertos subgrupos, por raza, ingreso, género, edad u otro.

Las empresas pueden también introducir estrategias de impacto social para aclarar los sesgos, explicar cómo se usan los datos y brindar mayor información al público. Esto implica asegurarse de que los algoritmos sean explicables, aclarar las responsabilidades de la policía en lo que respecta a los datos recopilados; describir la exactitud de las predicciones, así como sus limitaciones, ofrecer opciones para auditar el algoritmo en el terreno, y explicar cómo el sistema garantiza la privacidad, de conformidad con las leyes y prácticas vigentes.

Si se diseñan y despliegan con fidelidad y cuidado, las nuevas tecnologías pueden generar mejoras positivas en la eficiencia y la efectividad de la seguridad pública. Un estudio reciente de McKinsey determinó que ciertas herramientas alimentadas con datos pueden ayudar a reducir las fatalidades hasta en 10 por ciento, reducir los episodios de delincuencia hasta en 40 por ciento y reducir drásticamente los tiempos de respuesta en casos de emergencia.

VEA TAMBIÉN: Noticias y perfil de Brasil

Esto no se garantiza simplemente con la adquisición y la implementación de soluciones de reconocimiento facial o predicción del crimen. Es esencial una dirección clara sobre cómo se usarán esas herramientas, la capacitación regular, garantías legales y éticas para limitar el uso indebido, y pruebas y evaluación regulares. Su introducción también debe ir acompañada de una campaña pública para explicar qué son dichas herramientas, cómo afectan la privacidad y el derecho de los ciudadanos a reposición.

Debe abrirse un debate público sobre los costos y beneficios de la tecnología de seguridad. Si las comunidades en sociedades democráticas rechazan la tecnología, lo que ha sucedido en lugares como San Francisco, entonces les queda muy poca posibilidad de tener éxito. De otro lado, las nuevas tecnologías de seguridad pública también pueden generar ahorros importantes, si se implementan con inteligencia. Las plataformas de mapas de delitos, las cámaras de CCTV, luces inteligentes y luces inteligentes y cámaras corporales puede reducir el gasto improductivo en organismos de orden público, fiscales, jueces y autoridades penales.

El punto es mientras en Brasil y el resto de Latinoamérica hay en curso una implementación a gran escala de las tecnologías de seguridad pública, estas deben administrarse y evaluarse cuidadosamente. Pero están lejos de ser la panacea. Más aún, su implementación sin veeduría puede ser contraproducente. Una lección clave es que si va a usarse el reconocimiento facial y la predicción de delincuencia, estos deben ir acompañados de un debate público. Las salvaguardias para proteger la información y las estrategias para medir resultados, por especialistas independientes, no son aditamentos opcionales, sino fundamentales, para el éxito de la estrategia.

*Este artículo fue publicado originalmente por el Instituto Igarapé y se tradujo, editó para mayor claridad y reprodujo con autorización, pero no refleja necesariamente las opiniones de InSight Crime. Vea el artículo original aquí.