Un algoritmo impreciso condiciona la libertad de los presos per Gemma Saura i Laura Tarragó

INTELIGENCIA ARTIFICIAL Y DERECHOS HUMANOS (I)EL SISTEMA PENITENCIARO CATALÁN

Riscanvi mide el riesgo de reincidencia de los internos y a pesar de su alta tasa de falsos positivos acaba teniendo un peso determinante en los tribunales.

¿Una máquina puede decidir sobre la libertad de una persona? Sí, se llama Riscanvi y funciona en las cárceles y tribunales de Catalunya desde el 2009. Es un algoritmo. Con el cálculo frío de un ordenador, mide el riesgo de reincidencia de los presos para ayudar a los humanos que conforman el sistema penitenciario y judicial ante una de las más arduas disyuntivas: dilucidar si un interno está listo para salir de prisión o si hay que mantenerlo encerrado porque aún supone un peligro.

Fallar tiene un precio altísimo. Riscanvi nace de un error: en el 2004, Pedro Jiménez viola y asesina a dos policías en Bellvitge durante un permiso. “Recuerdo la llamada de José María Mena [entonces fiscal jefe de Catalunya]. ‘No te voy a preguntar qué ha pasado sino qué podemos hacer para que no vuelva a pasar’, me dijo”, explica el coordinador de la fiscalía de vigilancia penitenciaria en Barcelona, Javier Faus.

Riscanvi nace de un error: en el 2004, Pedro Jiménez viola y asesina a dos policías en Bellvitge durante un permiso.

Apoyarse en una máquina que se nutre de evidencia científica aligera la carga de la decisión. Pero el algoritmo está lejos de ser infalible. Es altamente eficaz en la predicción del bajo riesgo, pero se equivoca, y mucho, cuando pronostica que habrá reincidencia violenta. En 8 de cada 10 ocasiones, según los últimos datos disponibles.

El Departament de Justícia defiende que es una herramienta muy valiosa, que el algoritmo no manda sino que orienta el juicio humano y que éste tiene la última palabra tanto en la cárcel como en el tribunal. En la práctica, sin embargo, la máquina acaba teniendo un peso determinante en la toma de decisiones. En prisión, el margen de los profesionales para contradecirla es estrecho. En los tribunales, abogados y juristas denuncian que se hace un uso del algoritmo en perjuicio del preso.

El algoritmo se utiliza de forma habitual para denegar permisos" Daniel Varona, Magistrado suplente en la Audiencia Provincial de Girona

El peligro de reincidencia siempre ha estado presente en la concesión de permisos, clasificaciones y progresiones de grado o la libertad condicional. El Código Penal ha incorporado en los últimos años la libertad vigilada o la prisión permanente revisable, que dependen del riesgo. La ley marca lo que hay que tener en cuenta pero el juez valora y decide.

“Riscanvi se utiliza de forma habitual para denegar permisos”, afirma Daniel Varona, magistrado suplente en la Audiencia Provincial de Girona y catedrático de Derecho Penal. “Nos encontramos a menudo que, aunque la junta de tratamiento de prisión defienda el permiso, si hay un riesgo alto o medio en Riscanvi el fiscal lo utiliza para recurrir y el juez de vigilancia le da la razón”, sostiene.

Varona dio la voz de alarma entre sus colegas de las secciones 3ª y 4ª de la Audiencia Provincial al considerar que se estaba haciendo un abuso del algoritmo. Impulsó un párrafo modelo que ahora muchos magistrados de estas secciones incluyen en sus autos para rechazar denegaciones de permisos sustentadas en Riscanvi. El texto dice que “no puede utilizarse como una especie de oráculo infalible” y subraya la alta tasa de falsos positivos, presos que el algoritmo predice erróneamente que reincidirán. 

Es el gran talón de Aquiles de Riscanvi: sobreestima sistemáticamente la peligrosidad.

Los falsos positivos.

El 82% de los presos que Riscanvi tachó de peligrosos no volvieron a delinquir.

Un 82% de los presos que clasificó con riesgo alto o moderado no volvieron a cometer delitos violentos, se desprende del único informe público que ha evaluado la eficacia para medir el riesgo de reincidencia violenta.

Publicado en el 2015, el estudio fue realizado por el Centro de Estudios Jurídicos de la Generalitat, que analizó la reincidencia de presos excarcelados evaluados por el algoritmo. El informe no menciona el 82% de falsos positivos y se centra en lo que Riscanvi hace bien. Apunta que detectó correctamente como alto o moderado riesgo al 77% de los reincidentes o la bajísima tasa de falsos negativos: de cada 100 personas que el algoritmo predijo que no reincidirían, sólo el 4,6% cometieron un crimen violento.

“No es que Riscanvi esté particularmente mal diseñado, más bien al contrario: se mueve en la línea de las herramientas del mismo tipo que se usan en otros países”, señala Lucía Martínez Garay, penalista en la Universidad de Valencia.

A diferencia de EE.UU. o el Reino Unido, en Catalunya no se compró la tecnología a una empresa privada sino que se encargó al Grupo de Estudios Avanzados en Violencia de la Universitat de Barcelona (UB), que lo diseñó con los servicios penitenciarios. Estudiaron la estadística de reincidencia para fijar 43 factores de riesgo (sobre el historial socioeconómico y delictivo, salud mental, comportamiento o adicciones), explica el artífice del algoritmo, Antonio Andrés Pueyo, catedrático de Psicología de la UB.

A diferencia de otros países, en Catalunya no se compró la tecnología a una empresa privada sino que se encargó al Grupo de Estudios Avanzados en Violencia de la UB.

Se trataba de buscar un método más científico y objetivo que los juicios clínicos que hacen los profesionales que trabajan con el interno: psicólogos, psiquiatras, criminólogos, trabajadores sociales, etc. El catedrático no titubea sobre las virtudes de su algoritmo. “Hay muchos factores de riesgo en la reincidencia. Experta o no, una mente humana es capaz de manejar unos cinco, más o menos dos. Riscanvi maneja 43 y lo hace ponderando cada uno”, expone.

Desde que arrancó el proyecto, se han realizado más de 89.000 riscanvis a 37.897 internos: uno al ingreso y otro cada seis meses, a menos que un incidente obligue a abrir el expediente. Al principio solo había una escala de reincidencia violenta, ahora predice también el riesgo de violencia intrainstitucional y autodirigida, quebrantamiento de condena y reincidencia en general.

Doce años de historia.

Las cifras de Riscanvi

37.897 internos evaluados.

89.638 veces utilizado.

96,6% de la población penitenciaria actual ha sido evaluada al menos una vez.

3,2% del total de evaluaciones han sido modificadas manualmente por el validador en prisión.

82% de falsos positivos, presos que clasificó con riesgo alto o moderado y luego no reincidieron.

4,6% de falsos negativos, presos que clasificó con riesgo bajo y luego reincidieron.

77% de reincidentes que detectó correctamente con riesgo alto o moderado.

Las puntuaciones van al fiscal y al juez cuando el tribunal de vigilancia debe pronunciarse. Es un instrumento esencial de administración de justicia, asegura el fiscal Faus. “No me cabe duda de que es un avance importantísimo y hay que tenerlo muy en cuenta”, subraya, si bien admite que no conocía la tasa de falsos positivos.

Faus niega que los fiscales recurran sistemáticamente en base al algoritmo. “Eso sí, si el Riscanvi dice que hay riesgo alto de reincidencia violenta, desde luego que recurrimos”, puntualiza.

Riscanvi se basa en evidencia científica: estudiaron la estadística de reincidencia para fijar 43 factores de riesgo.

Marisa Díaz, abogada de derecho penitenciario y penal, es crítica. “La ley es clara sobre las condiciones para pedir permisos o acceder al tercer grado, y no dice nada del Riscanvi. Utilizarlo para denegar es una vulneración grave de derechos”, lanza.

Carlos Martínez Mirón, presidente de la comisión de derecho penitenciario del Colegio de Abogados de Barcelona, asegura que demasiadas veces el algoritmo decanta. “Represento a un interno a quien la junta de tratamiento ha propuesto para un permiso. Son la gente que está cada día partiéndose la cara con él en prisión. Pero el fiscal, que no sabe ni su nombre, solo el número de expediente, recurre en base a Riscanvi. Y el juez prefiere escuchar a un algoritmo, un input sin sentimiento, que a los profesionales”, lamenta. “A los jueces se lo pone fácil, no se tienen que romper la cabeza. Con un folio lo liquidan”.

No me cabe duda de que es un avance importantísimo y hay que tenerlo muy en cuenta”Javier Faus, Coordinador de la fiscalía de vigilancia penitenciaria de Barcelona

Articular la defensa es complicado. “¿Qué alegas si no sabes qué elementos son los que disparan el riesgo? Riscanvi funciona por acumulación. A veces sale alterado porque hace diez años rompiste un permiso”, dice el abogado.

Entre los factores que aumentan el riesgo está haber sido víctima de maltrato o tener algún pariente convicto. Pura estadística: la gente con este perfil tiende más a reincidir.

La ley es clara sobre las condiciones para pedir permisos o acceder al tercer grado, y no dice nada del Riscanvi”Marisa DíazAbogada

“Para tomar decisiones de tratamiento, es cierto que disponer de toda la información a lo largo de la vida te permite decidir mejor. Pero hay otra serie de decisiones penitenciarias y en la ejecución de penas que son de limitación de derechos. Utilizar para estas la misma información que manejas para la ayuda, terapia y tratamiento es un problema no resuelto”, reflexiona la jurista Martínez Garay.

En Afers Penitenciaris aseguran que “Riscanvi no es una herramienta determinista”, en palabras de Marian Martínez, psicóloga técnica de la unidad de programas de intervención. Hay muchos presos con riesgo alto que salen de permiso o acceden al tercer grado. En estos casos, la junta envía un informe al tribunal argumentando por qué debe concederlo. “Los jueces y fiscales quieren que pongamos el Riscanvi. Pero deberían mirar los cinco folios de argumentación y no solo esas tres palabras”, lamenta Jordi Camps, jefe de servicios de rehabilitación.

El juez prefiere escuchar a un algoritmo, un input sin sentimiento, que a los profesionales”Carlos Martínez Mirón Abogado.

Es contradictorio proponer a un preso de alto riesgo para un permiso, considera el fiscal Faus. “O bien hay riesgo o no lo hay. Si la junta considera que no lo hay, debería modificar el resultado de la máquina. 

Y si considera que el riesgo es alto como dice la máquina, entonces debe argumentar por qué hay que asumir ese riesgo –arguye el fiscal–. Lo que ocurre es que para ellos es muy cómodo. Yo pido un permiso y si no se lo dan es culpa del juez, y si se lo dan y pasa algo, yo ya lo advertí”.

Camps subraya que aunque haya una máquina calculando, el juicio humano está muy presente. Los encargados de llenar las casillas de Riscanvi son los miembros de la junta de tratamiento (un equipo multidisciplinar: psicólogo, jurista, educador o trabajador social...) que toma decisiones clínicas sobre la presencia o ausencia del factor de riesgo. Una vez Riscanvi ha emitido su veredicto, la junta se reúne y decide si valida el resultado o lo modifica. Para eso hay que argumentar y aportar elementos críticos que no hayan sido ya computados por el algoritmo, explica Martínez.

Hace que los técnicos no nos esforcemos por afinar: delegamos en el instrumento y el tratamiento se deteriora”Pedro Medina, Psicólogo en Mas d'Enric.

Se puede contradecir a la máquina. Es la teoría. Los datos demuestran que casi nunca se hace: desde el 2009, solo un 3,2% de las 89.638 veces en que se ha aplicado Riscanvi.

“A veces te sale un riesgo alto y no te acaba de encajar pero como no sabes cómo ha valorado el algoritmo cada factor tampoco lo cambias. Es una herramienta objetiva y tus valoraciones no son tan fácilmente objetivables”, confía una psicóloga de prisiones, que admite sin embargo que Riscanvi la ayuda a hacer mejor su trabajo.

“A veces te sale un riesgo alto y no te encaja pero como no sabes cómo ha valorado el algoritmo cada factor tampoco lo cambias”, Psicóloga de un centro penitenciario catalán

Pedro Medina, psicólogo en la prisión de Mas d’Enric, considera que con la implementación de Riscanvi se pierde más que se gana. “Hace que los técnicos no nos esforcemos por afinar: delegamos en el instrumento y eso provoca que la calidad del tratamiento se deteriore”, dice.

No hay que entender Riscanvi como un instrumento de toma de decisiones sino de gestión” Marian Martínez, Psicóloga técnica de la unidad de programas de intervención

El algoritmo se ha calibrado cuatro veces para corregir fallos, pero el Departament de Justícia asegura no disponer de la tasa actual de falsos positivos.

No es algo que les preocupe en exceso, admite Marian Martínez. “No hay que entender Riscanvi como un instrumento de toma de decisiones sino de gestión. Nos permite detectar las necesidades criminógenas para orientar los programas de rehabilitación que debemos aplicar a cada interno”.

Un falso positivo es una injusticia para el interno. ¿Pero quién se entera? Él, su familia... nadie más” Daniel Varona, Magistrado suplente en la Audiencia Provincial de Girona

Desde este punto de vista, los falsos positivos no son un problema. “A efectos de priorización interna los algoritmos pueden ser muy útiles”, valora Martínez Garay. “Si tienes un programa de agresión sexual con 20 plazas y 50 reos, te interesa priorizar a los de más riesgo. Si te equivocas, si metes a alguien que realmente no lo necesita, no pasa nada. Ahora bien, si usas esa información para denegar permisos o la libertad condicional, obviamente estás evitando algún nuevo delito pero al precio de limitar de forma muy importante los derechos fundamentales a un buen número de falsos positivos”, advierte la profesora.

Antonio Andrés Pueyo, creador de Riscanvi, es consciente de la dicotomía. “Los juristas te dirán: ‘prefiero tener mil delincuentes culpables en la calle que un inocente en prisión’. Pero pregunta a las víctimas. Te dirán que mejor mil inocentes presos que uno suelto en la calle”, razona.

El magistrado Daniel Varona lo resume así: “El falso negativo es un caso como el asesinato de Laura Luelmo o el crimen pedófilo de Lardero. Un dolor inmenso. Se entera todo el mundo. Golpea la legitimidad del sistema, es una cuestión política. Un falso positivo es una injusticia para el interno. ¿Pero quién se entera? Él, su familia... nadie más”.

https://www.lavanguardia.com/vida/20211206/7888727/algoritmo-sirve-denegar-permisos-presos-pese-fallos.html?utm_source=app_deeplink&utm_medium=notification&utm_term=20211206_es.lavanguardia.list.ultimahora&utm_content=solo_para_suscriptores