24 de abril, 2022.

Inteligencia Artificial en el Sector Público Latinoamericano


English Version

En todo el mundo, los gobiernos están incorporando inteligencia artificial (IA) en su caja de herramientas para mejorar la eficiencia, tomar mejores decisiones políticas y aumentar el compromiso con el público. Esta tendencia es válida para muchas naciones de América Latina y el Caribe (ALC). En un nuevo informe de la Organización para la Cooperación y el Desarrollo Económico (OCDE), un grupo de expertos en el análisis de políticas internacionales, explora cómo los gobiernos de ALC están incorporando IA en sus procesos, para un sector público con mayores oportunidades. Hablamos con Ricardo Zapata, analista de la OCDE y uno de los coautores del informe El uso estratégico y responsable de la inteligencia artificial en el sector público de América Latina y el Caribe que tienen como objetivo otorgar información de valor sobre cómo los gobiernos de ALC utilizan la IA y lo que esto significa para el futuro de la gobernanza responsable, la seguridad pública y los derechos digitales en la región.

Foto por Robynne Hu, Unsplash

¿Cuáles son algunas de las formas más comunes en que un gobierno puede usar IA?  
Los gobiernos generalmente se acercarán a la IA para mejorar su eficiencia. Concretamente, esto supone la automatización de tareas sencillas o mejorar la velocidad y la calidad de los servicios públicos. La mayoría de los casos de uso visibles y reconocidos pertenecen a esta categoría. En algunos otros casos, los gobiernos también buscarán mejorar el proceso de diseño de políticas al obtener un conocimiento profundo de grandes cantidades de datos (la mayoría de los gobiernos ya son buenos para producir una gran cantidad de datos) y tomar decisiones más informadas, esta es un área en la que la IA puede ofrecer buenos resultados, pero que también requiere enfoques éticos más sólidos en todo su ciclo, desde la recopilación de datos hasta su procesamiento. Finalmente, la IA también se está utilizando para mejorar la comunicación y el compromiso público, generalmente a través de chatbots, herramientas de emparejamiento (producir mejores recomendaciones de acuerdo con las necesidades o características de los ciudadanos), o mejorar las habilidades para comprender mejor las opiniones y perspectivas de los ciudadanos a escalas que antes eran inviables. Es bueno tener en cuenta que los usos similares ocurren al revés cuando los ciudadanos usan la IA para comprender mejor lo que están haciendo sus gobiernos.

El informe recientemente publicado afirma que Colombia se ha convertido en un líder en la región de ALC por su uso de IA ¿A que se debe esto?
Colombia está construyendo una política sólida de IA y produciendo casos de aplicación muy interesantes. Por el lado de la política, documentamos varios instrumentos y herramientas que aseguran una gobernanza sólida de la IA en el sector público. En primer lugar, su estrategia de IA es la única en la región que cuenta con el conjunto completo de habilitadores, que pueden ayudar a impulsar su implementación. Con habilitadores nos referimos a tener objetivos y acciones específicas, metas medibles, actores responsables, plazos, mecanismos de financiación y un instrumento de seguimiento. Si bien no garantizan una implementación exitosa, contar con ellos puede mejorar su desempeño, especialmente cuando consideramos que Colombia es un país grande y la estrategia se ha hecho para perdurar en el tiempo, trascendiendo las administraciones de gobierno.

En segundo lugar, analizamos 15 herramientas en política que pueden mejorar la implementación de proyectos de IA en el sector público y, en la mayoría de ellos, Colombia se destacó como líder regional. Por ejemplo, al observar los esfuerzos para desarrollar una IA responsable, confiable y centrada en el ser humano, el marco ético de Colombia está bien alineado con nuestro instrumento de referencia, en el abordaje de los Principios de IA de la OCDE . Al analizar el financiamiento, la estrategia nacional de Colombia fue única en la región al contar con un mecanismo de financiamiento explícito. Al mirar la gobernanza de datos o los espacios para la experimentación, también se encontraba entre aquellos países con los instrumentos y prácticas más completos.

Todo este ejercicio de evaluación no pretendía crear un ranking, sino identificar fortalezas entre países para permitir que otros aprendan de sus prácticas y lecciones. Nuestro estudio no dice quién es el mejor y tampoco quién tiene mayor impacto. En esta etapa, podemos comparar lo que están haciendo los países con los marcos de políticas que estamos desarrollando y, siendo la IA una tendencia tan reciente, es posible que estos marcos evolucionen en los próximos años. Entonces, ser un líder regional, en este caso, significa que los países deben prestar especial atención a lo que está haciendo Colombia.


¿Podrías dar un ejemplo de cómo Colombia usa la IA en el sector público?

Además de todos los desarrollos de políticas que describí, Colombia también está realizando algunas implementaciones interesantes en el sector público. Creo que PretorIA se encuentra entre los más interesantes que documentamos. Este es un proyecto desarrollado por la Corte Constitucional para ayudar en la selección de tutelas(es decir, una acción Constitucional para la protección de los derechos fundamentales) para sentar precedentes legales sobre la provisión de derechos fundamentales. La Corte recibe más de 2000 tutelas cada día, por lo que una solución para hacer que este proceso sea más eficiente puede agregar mucho valor. PretorIA lee y analiza automáticamente todas las quejas, detecta y predice la presencia de criterios predefinidos y presenta informes y estadísticas de forma intuitiva. Sirve como una herramienta para los jueces, por lo que asegura que haya un humano a cargo del proceso de toma de decisiones.

Lo que me pareció más interesante de este caso es cómo se desarrolló. Inicialmente, era una adaptación de Prometea, un sistema de IA desarrollado en Argentina para ayudar a impartir justicia. Actuó como un asistente virtual que predijo las soluciones de los casos (basándose en casos y soluciones anteriores) y ayudó a proporcionar la información necesaria para reunir los archivos de los casos. Cuando la Corte Constitucional anunció por primera vez el proyecto en 2019, provocó la participación ciudadana y el diálogo con muchos actores debido a las preocupaciones sobre la opacidad y el efecto de caja negra de este sistema, especialmente cuando se trata de un proceso hecho para garantizar los derechos fundamentales. Luego, la participación ciudadana llevó a la Corte a transformar todo el proyecto en lo que ahora conocemos como PretorIA, un sistema que utiliza tecnología de modelado de temas en lugar de redes neuronales, haciéndolo más explicable, interpretable y rastreable.

¿Qué es un enfoque de IA ”confiable y centrado en el ser humano” y en qué se diferencia de los usos tradicionales? ¿Cómo se clasifica Colombia en el uso de la IA centrada en el ser humano?
Nuestro marco de referencia para evaluar enfoques confiables y centrados en el ser humano son los Principios de IA de la OCDE, que pretenden promover el desarrollo de IA innovadora que respete los derechos humanos y los valores democráticos. Viniendo de una institución como la OCDE dedicada a compartir las mejores prácticas, establecer estándares internacionales y mejorar las políticas públicas en economías democráticas y orientadas al mercado, el informe busca interrogar cómo los sistemas de IA del sector público están integrando estos valores. Creo que es difícil decir qué es un enfoque tradicional, lo que destacaría es que la tecnología no es neutral en cuanto al valor, por lo que cada desarrollo incorpora una visión de cómo debería ser el mundo. Muchos sistemas que conocemos hoy se han centrado en la eficiencia, el beneficio o el control. Por ello, como ciudadanos e instituciones debemos preguntarnos permanentemente cómo queremos que sea la tecnología y qué valores queremos que refleje.

En este sentido, Colombia ha hecho un gran esfuerzo emitiendo el Marco Ético de IA, alineándose con los Principios de IA de la OCDE. Nuestro informe profundiza más y analiza aspectos particulares del enfoque responsable, confiable y centrado en el ser humano, por lo que analizamos la equidad y la mitigación de sesgos, la transparencia y la explicabilidad, la seguridad y la responsabilidad. En todos ellos, el Marco Ético de IA de Colombia le otorga al país buenas capacidades para promover este tipo de enfoque. Donde vemos margen de mejora es en el establecimiento de orientación y métodos para comprender las necesidades de los usuarios y para crear diversos equipos de IA. Por supuesto, todo esto atañe a la existencia de marcos de políticas, lo que en sí mismo es un gran avance, por lo que su aplicación e impacto será materia de futuras investigaciones.

¿Cómo podría la IA centrada en el ser humano ayudar a las personas a coexistir mejor en las ciudades? ¿Podrías dar un ejemplo de cómo se podría utilizar esta tecnología en una intervención de planificación urbana o de seguridad pública?
Las ciudades son un contexto donde los proyectos de gobierno digital pueden tener un impacto más tangible y visible para los ciudadanos. La implementación de una IA confiable y centrada en el ser humano en dominios como la seguridad, donde nos ocupamos de la privacidad y la integridad de las personas, podría permitir que la sociedad confíe en las aplicaciones correctas de la tecnología y responsabilizar a los actores responsables por sus resultados. También podría ayudarnos a decidir dónde no queremos aplicarlo, lo cual es una elección completamente válida. Hablamos mucho sobre los beneficios de la IA, pero a veces un enfoque basado en el riesgo puede decir: estos dominios deben permanecer libres de tecnología. Por ejemplo, el reconocimiento facial, que ha sido prohibido en algunos lugares y sigue siendo un tema debatido. También podría ayudarnos a descubrir que la IA no es la mejor solución, como sucedió con Predpol en Montevideo.

A nivel urbano, muchas autoridades en América Latina están utilizando sistemas de inteligencia artificial para analizar las enormes cantidades de datos de movilidad históricos y en tiempo real, para mejorar la gestión del tráfico, detectar riesgos o modelar escenarios futuros. Algunos también utilizan cámaras y dispositivos de vigilancia junto con algoritmos de inteligencia artificial para rastrear actividades delictivas, identificar personas y analizar datos históricos. Nuestro informe destaca que todavía existen dos desafíos principales en esta última área: establecer las salvaguardas necesarias cuando se procesan datos personales confidenciales (por ejemplo, datos biométricos) y definir marcos claros para el uso de estas tecnologías para prevenir posibles abusos como la elaboración de perfiles y la persecución. de opositores políticos o manifestantes.

Ciertamente necesitamos una discusión más activa para dar forma a las tecnologías de vigilancia urbana. Todavía queda mucho por hacer. Al final, ese es uno de los puntos clave para incorporar valores democráticos en el desarrollo de la IA, para que podamos dar forma colectivamente a estas tecnologías y sus aplicaciones.

Ricardo Zapata es analista en el OCDE y uno de los coautores del reporte “El uso estratégico y responsable de la inteligencia artificial en el sector público de América Latina y el Caribe.





edgelands.institute
rue de candolle, 20
1211 geneva 
switzerland


contacto
info@edgelands.institute