Mientras que en Occidente se vigila sobre todo la expresión y el movimiento de las personas a través de sistemas automatizados de censura y vigilancia de la «IA», en China parece que se está trabajando en la creación de una máquina que actuaría como un fiscal impulsado por la IA.

La china distópica presenta un «fiscal de IA» que puede acusar automáticamente a los ciudadanos de un delito

El producto, que ya ha sido probado por la ajetreada fiscalía de Shanghái Pudong, es capaz de alcanzar un 97% de precisión a la hora de acusar a personas sospechosas de ocho actos delictivos, según han alegado los investigadores que lo están desarrollando.

Según el South China Morning Post, los casos que el «fiscal de la IA» es supuestamente muy competente en manejar implican delitos como el fraude con tarjetas de crédito, la conducción peligrosa, el juego, las lesiones intencionadas, la obstrucción a los funcionarios, el robo, pero también algo llamado «buscar peleas y provocar problemas».

Este último se considera especialmente «problemático», ya que su definición, o la falta de ella, puede abarcar diferentes formas de disidencia política.

Y ahora el plan es introducir una máquina a la que se le daría poder de decisión, como la de presentar cargos, y qué sentencia pedir en cada caso.

Según el profesor Shi Yong, que dirige el laboratorio de big data y gestión del conocimiento de la Academia China de Ciencias que está detrás del proyecto, esto supone una marcada diferencia con otras herramientas de «IA» que ya se utilizan en China desde hace años.

Una de ellas es el Sistema 206, cuyas tareas se limitan a evaluar las pruebas, el peligro que supone un sospechoso para el público y las condiciones en que puede ser detenido.

Pero la tecnología que hay detrás del nuevo fiscal artificial parece ser al mismo tiempo mucho más ambiciosa y avanzada. Lo que se ha desvelado es que puede funcionar en un ordenador de sobremesa, procesando 1.000 rasgos extraídos de la descripción de un caso presentada por humanos, y basándose en ello formular una acusación.

No está claro si la base de datos de 17.000 casos a lo largo de cinco años utilizada para entrenar los algoritmos es suficiente para considerar el proyecto como verdadera IA, y si se puede conseguir el mismo resultado con algoritmos basados en reglas.

En cualquier caso, no todos los fiscales humanos están encantados de que se sustituya parte de su carga de trabajo de esta manera, aunque precisamente este ha sido el motivo para desarrollar la tecnología.

«La precisión del 97% puede ser alta desde el punto de vista tecnológico, pero siempre habrá una posibilidad de error. ¿Quién asumirá la responsabilidad cuando ocurra? ¿El fiscal, la máquina o el diseñador del algoritmo?», señaló un fiscal de Guangzhou, que habló bajo condición de anonimato.

FUENTE

Dystopian: China Introduces ‘AI Prosecutor’ That Can Automatically Charge Citizens of a Crime