¿Puede una máquina impartir justicia y decidir sobre las personas que están en la cárcel?
Tecnología

¿Puede una máquina impartir justicia y decidir sobre las personas que están en la cárcel?

Avatar of Rodrigo Ayala

Por: Rodrigo Ayala

3 de mayo, 2017

Tecnología ¿Puede una máquina impartir justicia y decidir sobre las personas que están en la cárcel?
Avatar of Rodrigo Ayala

Por: Rodrigo Ayala

3 de mayo, 2017



Compas es el nuevo e implacable enemigo de cualquier reo que aguarda sentencia.  

Se trata de un algoritmo que aconseja a los jueces sobre el veredicto final que dictar a los criminales. Compas (Correctional Offender Management Profiling for Alternative Sanctions) realiza una serie de cálculos que define cuán probable es que un reo reincida en un delito, basándose en su historial. Dependiendo del resultado son los años de sentencia que un juez cree prudente imponer, todo bajo consejo de una máquina. ¿Será una manera de terminar con la subjetividad, la corrupción y la manipulación que existen en muchas de las sentencias a prisioneros inocentes o que no merecen una condena tan drástica?

algoritmo para predecir delitos

Este algoritmo ha sido desarrollado por la compañía Northpointe Inc. y funciona con base en una encuesta aplicada a los mismos reos y a calificaciones en diversos apartados como “riesgo de reincidir” o “riesgo de reincidir con violencia”. Compas evalúa cada apartado otorgando calificaciones de 1 a 10. Entre más alta sea la puntuación, la pena es más severa.

Muchos se han cuestionado la imparcialidad o el buen criterio de los que han desarrollado este algoritmo, pues otros aspectos que el sistema evalúa son el lugar de procedencia, el barrio en el que los reos habitan, su raza o edad. Esto ha provocado, por ejemplo, que los delincuentes de raza negra obtengan las peores calificaciones que los hace ser acreedores de las sentencias más severas. Hasta el mismo algoritmo comprueba que en los Estados Unidos existe una clara división de razas…

-

¿Cómo funciona Compas?

algoritmo para predecir delitos detenido

Cuando se ha intentado investigar el verdadero funcionamiento del algoritmo desarrollado por Northpointe Inc., sus propietarios se han mostrado reacios a dar información. Para ellos, el funcionamiento es lo de menos, lo importante es el resultado y la aparente ayuda que están prestando al sistema penal de los Estados Unidos. Todo se mantiene en un silencioso e incómodo secreto.

Los enemigos de este algoritmo aseguran que Compas impide que cada reo obtenga una revisión individual de su caso para analizarlo de manera justa y humana. Finalmente los criterios de una máquina jamás podrán igualar el pensamiento reflexivo y los sentimientos de un humano para dictaminar una pena. ¿Hasta qué punto es lícito valerse de los cálculos de una máquina para dictaminar el futuro de una vida? El problema a revisar quizá no sea el algoritmo como tal, pues finalmente puede tratarse de una guía valiosa para los jueces, sino el hipotético caso en que éstos dejen de hacer su labor para dejarlo todo en manos de un robot.

algoritmo para predecir delitos detenido sala de policia

Para Eric L. Piza, profesor asistente en el Colegio John Jay de Justicia Criminal, "esta es sólo la próxima innovación en el análisis del crimen, tratando de adelantarse al problema, tratando de predecir dónde ocurren los problemas antes de que realmente ocurran". Con esta afirmación, el futuro nos ha alcanzado y nos comprueba aquella predicción del autor de ciencia ficción Philip K. Dick. En 1956 escribió uno de sus célebres relatos, “El informe de la minoría”, en el cual la policía es capaz de anticiparse a cualquier asesinato por medio de los precogs, un grupo de mutantes capaces de predecir el futuro. Es así como la justicia atrapa a los futuros culpables antes de que cometan sus crímenes.

Existen otros algoritmos semejantes a Compas en los que se define el tipo de confinamiento que necesita un reo dependiendo de su grado de peligrosidad, el riesgo de que cometa más delitos si se le pone en libertad bajo fianza o condicional. Todo está perfectamente calculado en las penitenciarias y tribunales de los Estados Unidos, la nación de los excesos.

-

Un dilema moral

algoritmo para predecir delitos carcel

Las matemáticas son incapaces de predecir hasta qué punto un reo ha aprendido la lección tras las rejas. Podría darse el caso de que los jueces decidan retener por muchos años más a un criminal dispuesto a reinsertarse en la sociedad de manera benéfica. Igualmente podría suceder de manera contraria. El riesgo de soltar o retener a un sujeto podría ser muy grande basándose únicamente en la frialdad de las estadísticas. Al confiar en una máquina podría estarse cometiendo un error imperdonable y costoso de proporciones mayúsculas.   

Uno de los casos más sonados acerca de la funcionalidad del algoritmo Compas es el de Eric Loomis, un sujeto que en 2013 participó en un tiroteo en la ciudad de Chicago conduciendo la camioneta donde escaparon los que abrieron fuego. Debido a la evaluación de Compas, le impusieron seis años de cárcel. Compas definió a Loomis como "un individuo de alto riesgo para la comunidad". El acusado decidió apelar la decisión debido a que consideraba que el sistema le había impuesto un castigo excesivo debido a culpas de terceros.

Hay una verdad que impera en este juego de justicia: la mente tiene la responsabilidad de no dejar las decisiones que le compete atender en otras manos que no sean las de la justicia impartida por el hombre.

algoritmo para predecir delitos mujer
  
**

¿Qué más debemos saber acerca del mundo del delito? Entérate de "cuántos millones gana un hacker por un ataque cibernético" y el lamentable caso de "Grooming: la nueva arma para pedófilos en Internet".

*
Referencias

The New York Time

BBC

Xataka


Referencias: