MinCiencia elige a plataforma “Algoritmos Públicos” para representar a Chile en Premio de Unesco a la Ética en IA

Iniciativa liderada por la UAI y cofinanciada por ANID es pionera en Latinoamérica en auditoría de algoritmos, una pieza clave de la Inteligencia Artificial y competirá con proyectos de todo el mundo en la primera edición del premio que se entregará en noviembre. “Esta nominación reafirma el compromiso de nuestro gobierno con una IA centrada en las personas y basada en principios éticos”, destacó la ministra Aisén Etcheverry.

Un chatbot que incita a la violencia, un vehículo autónomo que causa un accidente o una herramienta automatizada que deja sin un bono a un ciudadano. Son casos denunciados a diario que evidencian la necesidad de que los algoritmos usados por la Inteligencia Artificial (IA) sean revisados y auditados.

A nivel internacional, los países ya se están organizando para que exista una gobernanza global sobre auditoría de datos, algoritmos éticos y ética de la inteligencia artificial. Chile lleva camino adelantado a través de distintas iniciativas, entre ellas el Proyecto de Ley de Usos de Inteligencia Artificial, que se discute en el Congreso, y la Plataforma Algoritmos Públicos, liderado por el GobLab de la Universidad Adolfo Ibáñez.

Hoy, en el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación, la ministra Aisén Etcheverry anunció que ese último proyecto representará a Chile en la primera edición del Premio Internacional UNESCO-Uzbekistán Beruniy, que reconoce investigaciones científicas, iniciativas prácticas y cooperación internacional que contribuyen a la ética de la IA.

“El sector público se pone un estándar muy alto a la hora de incorporar IA en términos de protección de derechos y de empoderamiento ciudadano. Es lo que está detrás de esta nominación, que reafirma el compromiso de nuestro gobierno con una inteligencia artificial centrada en las personas, basada en principios éticos, y desarrollada desde el sector público y la academia con una mirada latinoamericana. Nos proyectamos al mundo desde la convicción de que la tecnología debe estar al servicio del bien común”, resaltó la ministra Aisén Etcheverry.

La Plataforma Algoritmos Públicos, liderada por el laboratorio de innovación pública GobLab UAI de la Universidad Adolfo Ibáñez, es una iniciativa pionera en América Latina que desarrolla y despliega herramientas prácticas para evaluar, monitorear y documentar el funcionamiento de sistemas automatizados de decisión en los servicios públicos. Cuenta con fondos de investigación de la Agencia Nacional de Investigación y Desarrollo (ANID), con el patrocinio del Ministerio de Ciencia, Tecnología, Conocimiento e Innovación, y han puesto en práctica sus herramientas en algoritmos de ChileCompra, Gobierno Digital, el Consejo para la Transparencia, SUSESO e IPS, entre otros. Además, ha contado con apoyo de organismos internacionales como el BID Lab.

El rector de la UAI, Francisco Covarrubias, destacó: “Cuando hay herramientas que pueden tener sesgos, o no son transparentes, o pueden producir problemas, hay personas perjudicadas detrás. Lo que tenemos que procurar, a través de una visión ética, es llevar allí la concepción de justicia. Esta nominación nos llena de orgullo y esperamos representar de la mejor forma a Chile en esta nominación, que este proyecto se conozca, porque tal vez no vamos a cambiar el curso de la IA, pero sí podemos cambiar cómo las personas reciben la irrupción de esta nueva tecnología”.

A la fecha, la Plataforma ha realizado 13 proyectos piloto para revisar algoritmos en 9 servicios públicos que usan IA: el Instituto de Previsión Social utiliza IA para avisar a sus beneficiarios cuando sospechan que no cobrarán un bono o no postularon a la PGU. La Subsecretaría de Prevención del Delito usa algoritmos que le sugieren al patrullero municipal los puntos y horarios donde hay mayor probabilidad de ocurrencia de delito. El Hospital del Salvador ha logrado liberar 12.500 horas de atención al público y con ello, disminuir un 9% sus listas de espera desde la creación de la asistente virtual “Laura”. Ante un ACV, la Posta Central ya no tiene que suponer cuánto tiempo tiene para traer a un paciente desde regiones, ya que implementó un software con IA que analiza los exámenes, la situación de cada paciente y da un cálculo exacto de la ventana de tiempo para trasladar y salvar esa vida. La Contraloría General de la República usa un robot llamado “Jarvis” para detectar anomalías patrimoniales u operaciones sospechosas. Conaf etiqueta especies invasoras con un sistema que ha sido entrenado con más de 40 mil fotografías para monitorear la fauna nativa con mayor eficacia y cuidar nuestra biodiversidad. En el Hospital de Rancagua los pacientes pueden confirmar y suspender citas a través de una aplicación de mensajería instantánea.

“Si queremos que los algoritmos, la inteligencia artificial se use a nuestro favor, debemos preocuparnos de que se haga de manera responsable y es posible hacerlo. Lo hemos demostrado con el proyecto Plataforma Algoritmos Públicos”, indicó María Paz Hermosilla, directora del GobLab UAI.

Sobre el Premio

El Premio Internacional UNESCO-Uzbekistán Beruniy para la Investigación Científica sobre la Ética de la Inteligencia Artificial es una nueva distinción creada por la UNESCO y el Gobierno de Uzbekistán, cuyo objetivo es reconocer y promover investigaciones científicas, iniciativas prácticas y formas de cooperación internacional que impulsen el desarrollo ético de la inteligencia artificial (IA).

El galardón se inspira en el legado intelectual de Abu Rayhon Al-Beruniy, erudito del siglo XI destacado por sus contribuciones en astronomía, matemáticas, filosofía y ciencia. Su figura simboliza el compromiso con el conocimiento interdisciplinario, el diálogo intercultural y el progreso ético de la ciencia, valores que la UNESCO busca proyectar hacia los desafíos contemporáneos de la inteligencia artificial.

Cada premiado/a recibe una medalla Beruniy, un diploma y un premio en dinero de 30 mil dólares. Las postulaciones deben ser presentadas por Estados Miembros, Comisiones Nacionales de UNESCO, o por organizaciones asociadas oficialmente a la UNESCO que trabajen en los ámbitos cubiertos por el premio. El premio se entregará de forma bienal a tres ganadores (personas, instituciones u organizaciones) cuyas contribuciones se destaquen en al menos una de las siguientes áreas: investigación científica que aborde desafíos éticos en IA; cooperación científica internacional sobre ética de la IA; o iniciativas que demuestren la aplicación práctica de principios éticos en sistemas de inteligencia artificial.

La ceremonia oficial en la que se dará a conocer al ganador de esta primera versión del premio, se realizará en noviembre de este año en la ciudad de Samarcanda, Uzbekistán.