La Inteligencia Artificial (IA) tiene innumerables ventajas, perotambién problemas de gran calado ético a los que el derecho deberá dar respuesta porque su uso puede atacar derechos fundamentales básicosen el sistema de justicia penal. Los avances de las ciencias empíricas hacen que teorías como las de Lombroso recobren fuerza y quesituaciones distópicas como Minority Report puedan llegar a predecirse con algoritmos. La pregunta que deberemos hacernos es hasta dóndeestamos dispuestos a llegar por mantener la seguridad en las calles,sin olvidar que el artículo 24 CE hará de cortapisa a posibles avances de teorías de derecho penal del enemigo. La tensión entre identificar el riesgo y minimizar el daño no tiene una solución sencilla: ¿esposible minimizar el daño de aquellos que pueden ser erróneamenteclasificados como de riesgo alto?, ¿es posible minimizar el daño de la sociedad si un infractor peligroso es clasificado erróneamente comoriesgo bajo? La IA en materia judicial se está desarrollando sin tener una base reflexiva suficiente sobre para qué y hasta dónde puedellegar. Es indispensable que pongamos el acento en los riesgos y enlos límites de su uso. No porque partamos de una visión temerosa, sino porque la realidad apunta a que tanto la IA judicial como la IApolicial nos van a acompañar y debemos ser capaces de marcar cómo loharán no solo a partir de las posibilidades de su alcance, tambiéndeberemos identificar los peligros que su uso descontrolado puedetraer consigo. Predecir el futuro mirando al pasado conlleva el riesgo de que en el futuro se sigan repitiendo los mismos estereotipos degénero, raza y religión que, poco a poco, vamos superando comosociedad. Debemos ser prudentes no solo en fase de aplicación de laIA, sino ir un paso más allá y preguntarnos quién hay detrás de lamáquina, cómo se ha hecho el algoritmo, a quién beneficia y a quiénperjudica -consciente o inconscientemente- porque puede acabar porcontrolar el pensamiento j
