China tuvo que apagar una máquina de IA que detecta la corrupción

¿Se está apagando el sistema de inteligencia contra la corrupción de China ‘Zero Trust’ por ser demasiado eficiente?

La resistencia de los funcionarios del gobierno a un experimento innovador de big data, es solo uno de los muchos desafíos, ya que el gobierno chino comienza a usar nueva tecnología para navegar por su burocracia gigante.

Según los medios estatales, en 2016 había más de 50 millones de personas en la nómina del gobierno de China, aunque los analistas estiman que la cifra es de más de 64 millones, algo menos que la población de Gran Bretaña.

Para convertir a este gigante en una operación sin problemas acorde con la era de la información, China ha comenzado a adaptar varios tipos de tecnología sofisticada. El Ministerio de Relaciones Exteriores, por ejemplo, está utilizando el aprendizaje automático para ayudar en la evaluación de riesgos y la toma de decisiones para los principales proyectos de inversión de China en el extranjero.

Beijing ha estado desarrollando un sistema de reconocimiento facial en todo el país con cámaras de vigilancia capaces de identificar a cualquier persona, en cualquier lugar, durante todo el día en cuestión de segundos. En Guizhou, un sistema de nube rastrea los movimientos de cada policía con un informe de estado en vivo.

Las principales empresas chinas de telecomunicaciones, como ZTE, han obtenido contratos con el gobierno para desarrollar tecnología de cadena de bloques para evitar la modificación de los datos del gobierno por parte de personas u organizaciones no autorizadas.

El presidente Xi Jinping ha enfatizado repetidamente la necesidad de promover innovaciones científicas y tecnológicas como el big data y la inteligencia artificial (AI) en la reforma del gobierno.

El reto es implementar esa visión sobre el terreno. No busque más, un sistema de inteligencia anticorrupción apodado por los investigadores que lo trabajan como “Cero Confianza”.

El sistema puede acceder a más de 150 bases de datos protegidas en los gobiernos centrales y locales para el intercambio de información, desarrollado y desplegado conjuntamente por la Academia de Ciencias de China y las instituciones de control interno del Partido Comunista Chino para monitorear, evaluar o intervenir en la vida laboral y personal de los servidores públicos.

De acuerdo con las personas involucradas en el programa, esto le permite dibujar capas sofisticadas y múltiples de mapas de relaciones sociales para derivar análisis de comportamiento de los empleados del gobierno.

Esto fue “particularmente útil” para detectar transferencias de propiedades sospechosas, construcción de infraestructura, adquisiciones de tierras y demoliciones de casas, dijo un investigador.

Sin embargo el sistema no está exento de debilidades

“AI puede señalar rápidamente a un funcionario corrupto, pero no es muy bueno para explicar el proceso por el que ha pasado para llegar a tal conclusión”, dijo el investigador. “Aunque lo hace bien en la mayoría de los casos, necesitas un ser humano que trabaje estrechamente con él”.

El sistema puede detectar inmediatamente aumentos inusuales en los ahorros bancarios, por ejemplo, o si ha habido una compra u oferta de un automóvil nuevo para un contrato del gobierno con el nombre de un funcionario o uno de sus familiares o amigos.

Una vez que sus sospechas hayan sido levantadas, calculará las posibilidades de que la acción sea corrupta. Si el resultado excede un marcador establecido, las autoridades son alertadas.

Un científico informático involucrado en el programa que pidió no ser nombrado dijo que en esa etapa un superior podría ponerse en contacto con la persona bajo escrutinio y tal vez ayudarlo a evitar “ir por el camino de no retorno con más errores mayores”.

El experimento Zero Trust se ha limitado a 30 condados y ciudades, solo el 1% del área administrativa total del país. Los gobiernos locales involucrados, incluido el condado autónomo de Mayang Miao en la provincia de Hunan, están ubicados en regiones relativamente pobres y aisladas, lejos de los centros de poder político de China.

Otro investigador involucrado en el programa dijo que la idea era “evitar la resistencia a gran escala entre los burócratas”, especialmente los más poderosos, al uso de robots en la gobernabilidad.

Desde 2012, Zero Trust ha atrapado a 8,721 empleados del gobierno que se involucran en conductas indebidas como malversación de fondos, abuso de poder, mal uso de fondos del gobierno y nepotismo.

Si bien algunos fueron condenados a penas de prisión, a la mayoría se les permitió conservar su trabajo después de recibir una advertencia o un castigo menor.

Sin embargo, algunos gobiernos, incluyendo el condado de Mayang, la ciudad de Huaihua y el condado de Li en Hunan, han retirado la máquina, según los investigadores, uno de los cuales dijo que “puede que no se sientan muy cómodos con la nueva tecnología”, ninguna de las autoridades locales respondió a las solicitudes de comentarios.

Zhang Yi, un funcionario de la Comisión para la Inspección de Disciplina del Partido Comunista Chino en Ningxiang, provincia de Hunan, dijo que su agencia era una de las pocas que aún utilizaban el sistema.

“No es fácil … estamos bajo una enorme presión”, dijo, insistiendo en que el objetivo principal del programa no era castigar a los funcionarios sino “salvarlos” en una “etapa temprana de corrupción”.

“Simplemente usamos el resultado de la máquina como referencia”, dijo Zhang. “Necesitamos verificar y verificar su validez. La máquina no puede levantar el teléfono y llamar a la persona con un problema. La decisión final siempre la toman los humanos.

Desde que Xi llegó al poder en 2012, se estima que más de 1,4 millones de miembros de partidos y empleados gubernamentales han sido disciplinados, incluidos líderes como el antiguo zar de seguridad Zhou Yongkang y el ex hombre fuerte de Chongqing, Bo Xilai.

Un funcionario disciplinario del partido en el condado de Xiushui, Jiangxi, que participó en el proyecto Zero Trust dijo que ningún funcionario del gobierno estaba dispuesto a proporcionar los datos necesarios, “pero por lo general cumplen con un poco de presión”, dijo el funcionario, quien pidió no ser identificado debido a la sensibilidad del tema.

Los funcionarios disciplinarios deben ayudar a los científicos a entrenar la máquina con su experiencia y el conocimiento acumulado de casos anteriores. Por ejemplo, los funcionarios disciplinarios pasaron muchas horas etiquetando manualmente fenómenos inusuales en varios tipos de conjuntos de datos para enseñar a la máquina qué buscar.

Algunos funcionarios pueden fabricar datos, pero la máquina puede comparar información de diferentes fuentes y marcar discrepancias. Incluso se pueden llamar imágenes satelitales para investigar si los fondos del gobierno para construir una carretera en una aldea terminaron en el bolsillo de un funcionario, dijeron los investigadores.

El sistema todavía se está ejecutando en Xiushui, pero su destino es incierto. Algunos funcionarios han cuestionado el derecho de la máquina a acceder a bases de datos confidenciales porque no existe una ley ni un reglamento que autorice a una computadora o robot a hacerlo.

No es de extrañar que el sistema esté siendo retirado del servicio por los condados y las ciudades que se registraron, y los que aún lo utilizan enfrentan una enorme presión, y los investigadores ven poca o ninguna esperanza de implementarlo en todo el país.

A pesar de la joroba de Zero Trust, la incursión de la inteligencia artificial en otros sectores del gobierno continúa ya que el gobierno está decidido a aplicar tecnología de vanguardia en su beneficio. Los secretarios de inteligencia artificial, por ejemplo, han sido reclutados en algunos tribunales para leer los archivos de casos y ayudar a los jueces a procesar juicios con mayor velocidad y precisión.

El mes pasado, una corte en Shanghai se convirtió en la primera en China en utilizar a un asistente de AI en una audiencia pública, informó Xinhua.

La máquina, cuyo nombre en código es “206”, tiene la capacidad de grabar conversaciones, mostrar pruebas, como las imágenes de las cámaras de vigilancia cuando las mencionan los abogados, y comparar testimonios para ayudar a los jueces a detectar discrepancias, según el informe, un juez fue citado diciendo que reduciría la probabilidad de un veredicto equivocado.

Fuente: South China Morning Post

TELESISTEMAS-EL PUERTO INFORMA
2019 © COPYRIGHT DERECHOS RESERVADOS

Bienvenidos a nuestra comunidad virtual. El Puerto Informa es un medio informativo serio, profesional, independiente, apegado a la verdad, con espíritu crítico y conciencia social, para servir a la población en general.

Brindando lo último en noticias tanto Nacionales e Internacionales, Deportes, Servicio Social, tecnología, espectáculos, arte y cultura, dando a conocer a los artistas locales y cubriendo los eventos más importantes.

Todas nuestras notas son de forma objetiva y con veracidad sobre el acontecer en nuestra Tierra de Dios, presentado las noticias mediante nuestro medio líder en la región, para que todos estén informados.

Nuestra página juega el papel de contrapeso menos complaciente, más crítico e inconformista frente a los abusos del poder público tanto en nuestro departamento como a nivel nacional.

El Puerto Informa se reserva el derecho de eliminar comentarios con insultos o palabras ofensivas, Agradecemos su visita y participación en nuestros espacios de discusión.

DEJA UNA RESPUESTA

Please enter your comment!
Please enter your name here