Archive < Accessible & Inclusive < Magnum x Edgelands <

Diálogos para una política ética en materia de inteligencia artificial en Colombia

Aunque los algoritmos que se ejecutan en los programas de inteligencia artificial son eficaces a la hora de procesar miles de variables y calcular millones de datos, su funcionamiento es, por naturaleza, opaco.

Fernando Botero, The Street, 2013, óleo sobre lienzo. Galerie Gmurzynska

La IA está en todas partes: desde las redes sociales y los servicios de streaming hasta los controles de inmigración con sistemas biométricos, pasando por las herramientas de diagnóstico médico y las aplicaciones de nuestros teléfonos inteligentes. De hecho, los algoritmos y programas basados en la inteligencia artificial (IA) han alcanzado tal capacidad cognitiva que, en algunos ámbitos, superan nuestras capacidades humanas (por ejemplo, en el ajedrez o en la detección de tumores). El uso de estas tecnologías se ha vuelto indispensable, transformando nuestra relación con la tecnología y la forma en que nos relacionamos con la administración pública y convivimos en nuestras ciudades. El potencial de transformación en materia de economía, innovación, desarrollo y formas de trabajo es tal que esta transformación digital ha sido denominada la Cuarta Revolución Industrial. Por lo tanto, no es de extrañar que el mundo mire hacia la IA como una nueva frontera económica con potencial de crecimiento para los países. En los últimos años, las principales economías del mundo (Unión Europea, Estados Unidos, China, etc.) han desarrollado estrategias y planes nacionales para fomentar e innovar en IA. Los beneficios potenciales son enormes.

La IA tiene el potencial de transformar la economía, atraer inversiones, generar empleos cualificados, prestar servicios a millones de personas y facilitar el acceso a la información y a los beneficios de la tecnología. En Colombia, por ejemplo, los sistemas de vigilancia biométrica, como el reconocimiento facial, han mejorado la seguridad en los espacios públicos y los servicios de control de inmigración en los aeropuertos. Durante la pandemia de la COVID-19, en algunos países se implementaron sistemas de IA con tecnología biométrica para detectar a personas con síntomas de la enfermedad. Los beneficios son, sin duda, muchos, pero no están exentos de riesgos.

Si bien los algoritmos que se ejecutan en los programas de IA son eficientes a la hora de procesar miles de variables y calcular millones de datos, su funcionamiento es, por naturaleza, opaco. Es decir, es imposible que los usuarios, e incluso los programadores, comprendan o obtengan explicaciones sobre el proceso que emplea el algoritmo para tomar decisiones (¿por qué A y no B?). Por otra parte, las bases de datos utilizadas para alimentar el programa corren el riesgo de ser incompletas y de contener sesgos ocultos, por lo que se corre el riesgo de replicar y perpetuar los sesgos existentes y las situaciones discriminatorias entre determinadas poblaciones.

Desde 2019, Colombia cuenta con una política pública sobre transformación digital e inteligencia artificial que busca crear las condiciones propicias para promover la inversión y el desarrollo de las tecnologías digitales y la transformación digital. Del mismo modo, en 2021 el Gobierno elaboró el Marco Ético para la Inteligencia Artificial, que incluye recomendaciones y herramientas para garantizar el uso ético de los algoritmos y, de este modo, mitigar los riesgos asociados a su uso. Además, desde 2021, se creó la Misión de Expertos en Inteligencia Artificial con el mandato de formular recomendaciones sobre cómo Colombia debería promover e implementar la IA para el futuro del trabajo (empleo) y la protección del medio ambiente.

Pero la inteligencia artificial, en teoría una herramienta infalible y que aporta valor añadido a la economía, no está exenta de riesgos. Los posibles perjuicios causados por las decisiones algorítmicas incluyen, por ejemplo, prácticas de contratación discriminatorias y condenas sesgadas en los procesos penales. Los gobiernos y las empresas deben sopesar los beneficios del uso de la IA (por ejemplo, las ganancias en eficiencia y productividad) frente a los riesgos de institucionalizar de forma permanente procesos de toma de decisiones opacos que impidan un desarrollo inclusivo y socialmente consciente. A su vez, nos corresponde a nosotros, como ciudadanos, exigir mecanismos institucionales y ciudadanos que fomenten el desarrollo y el uso de tecnologías de IA con salvaguardias y medidas correctivas que prevengan o minimicen el daño a la sociedad.

Todos tenemos un interés legítimo en el uso ético y responsable de esta tecnología y todos somos partes interesadas; por lo tanto, ¿cómo podemos exigir a los desarrolladores y a quienes la implementan una responsabilidad social que vaya más allá de los intereses comerciales? Ante esta fuerza potencialmente transformadora, se requieren un diálogo abierto y debates participativos en los que los responsables de la toma de decisiones tengan en cuenta las preocupaciones de los ciudadanos.

Durante la primera edición de los «Almuerzos virtuales» organizados por el Instituto Edgelands, pudimos facilitar un espacio de diálogo y participación esencial para debatir estas cuestiones. Uno de nuestros objetivos en Edgelands es crear espacios de diálogo y tender puentes para acercar a la gente a los debates que tienen lugar en los círculos de poder y de las políticas públicas. Con este fin, mantuvimos un diálogo directo y abierto con Sandra Cortesi, directora de la Misión de Expertos. Tras su intervención, en la que explicó el mandato y la labor de la misión, se abrió un espacio para que los sectores de la sociedad civil y las universidades dieran a conocer sus posiciones y, de este modo, alimentaran el diálogo y el trabajo de la misión. En Edgelands aspiramos precisamente a eso: fomentar el diálogo, facilitar el intercambio, la participación y los debates sobre cuestiones que nos afectan.

Las nuevas tecnologías siempre han encontrado resistencia en la sociedad: la máquina de vapor, la electricidad, los ordenadores e Internet fueron en su momento rechazados de plano, tachados de moda pasajera, y se destacaron más sus riesgos que sus beneficios. La desconfianza hacia lo desconocido es natural. Resulta más complicado abordar estas tecnologías con espíritu crítico, comprender sus dimensiones y sopesar sus costes y beneficios. Hacerlo en espacios como los que proponemos en Edgelands nos brinda la posibilidad de influir en la toma de decisiones y garantizar que las tecnologías beneficien y no perjudiquen. En medio de la cacofonía de posturas y argumentos, en Edgelands queremos armonizar y recabar opiniones fundamentadas, basadas en la ciencia y en la evidencia, y socialmente responsables.

Referencias

Kim, H., Giacomin, J., & Macredie, R. (2014). A qualitative study of stakeholders’ perspectives on the social network service environment. International Journal of Human-Computer Interaction, 30(12), 965-976.

O'Neil, C. (2017). Weapons of math destruction: How big data increases inequality and threatens democracy. Broadway Books.