Ciber-jueces

Esta semana no ha empezado bien. Una mala noche, un mosquito vampiro en mi habitación... y una noticia como esta esperando en mi buzón. En china han decidido que es mejor dejar a una computadora decidir una pena que darle esa prerrogativa a un juez. Se escudan en la mayor imparcialidad, frente al aumento de jueces corruptos. Pero... hay algo más?

A priori, el argumento puede parecer consistente. Sin embargo, tiene importantes lagunas, algunas de las cuales me gustaría comentar.

Por un lado, tenemos el riesgo de dejar en manos de una máquina la vida o muerte del acusado. En manos de una máquina que, no lo olvidemos, carece de moral o ética. Sólo juzga mediante la lógica. Y hablando de personas, creo que la lógica es insuficiente. Sobre todo, si tenemos en cuenta que sentimientos y emociones, totalmente contrarios a la lógica, son la causa de una gran cantidad de crímenes y delitos. Y las cumputadoras, en este caso, dificilmente van a poder analizar algo más que los simples hechos...

Por otra parte, evitamos la dependencia de muchos jueces... para depender únicamente de uno. Porque no olvidemos que todo programa informático funciona en base a los algoritmos que le han implementado. Así que es la lógica de Qin Ye, desarrollador del programa, la que se usa para dictar sentencia. Se logra evitar la dependencia de los jueces... para pasar a depender de un único "juez" todopoderoso, cuyos algoritmos son los únicos válidos para decidir una pena.

Por último, y como bien dice el artículo, no tenemos que olvidar que estamos ante un software que puede ser atacado y/o hackeado. Si tiramos de la ISO 27001... qué controles de entrada y salida de datos se han programado? Se controla y es segura la comunicación inter-procesos? Se ha desarrollado de forma segura? y respecto a los usuarios... se validan los datos de entrada? Se controla la actividad de las personas encargadas de alimentar y mantener la herramienta? Estas, que son sólo unas pocas de las preguntas que habría que responder para garantizar la viabilidad real de la aplicación, creo que se van a quedar sin respuesta. Y, desde mi punto de vista, son demasiados interrogantes como para dejar que esa aplicación decida sobre la vida y la muerte...