Avanza Plan de Acción de IA: SERNAC define límites para resguardar los derechos de los consumidores en el uso de estas herramientas

La iniciativa es parte del cumplimiento del Plan de Acción de la Política Nacional de Inteligencia Artificial del Ministerio de Ciencia que busca resguardar que el comercio digital sea transparente, no discriminatorio y respetuoso de las normas de protección de datos personales. Además, esta semana el Senado despacha a segundo trámite proyecto que regula la protección de datos personales.

“Fomentar un uso de IA transparente, no discriminatorio y respetuoso de las normas de protección de datos personales en el comercio digital”, fue uno de los objetivos que se trazó la Política Nacional de Inteligencia Artificial presentada el pasado mes de octubre por el Ministerio de Ciencia. Para cumplir con esa tarea, el documento incorporó la misión de desarrollar una Circular con los principios rectores y buenas prácticas a implementar en los sistemas de IA que se relacionan con consumidores, una acción que fue recientemente ejecutada por el Servicio Nacional del Consumidor (SERNAC).

Según explicaron las autoridades del Servicio Nacional del Consumidor, la evidencia comparada sostiene que la IA es una herramienta que hoy es parte de la vida cotidiana, incluso, sin que los consumidores se percaten, por ejemplo, cuando una aplicación de streaming recomienda nuevo contenido, se autocompleta un texto que estamos escribiendo, o cuando recibimos notificaciones en redes sociales que, a veces, parecen “adivinar el pensamiento”.

El trabajo en torno a la Circular consideró que los sistemas que se basan en estas tecnologías, si son bien implementados, pueden ser beneficiosos para los consumidores, al permitir la automatización de ciertas tareas o la atención personalizada. No obstante, advierte también que existen riesgos relacionados con las asimetrías de información y de poder de negociación, que podrían traer como consecuencia amenazas de abuso y manipulación; la generación de resultados discriminatorios, la ausencia de transparencia o el inadecuado manejo de los datos personales.

Las claves de la Circular 

Haciéndose cargo de todos estos efectos, la Circular instruye a las empresas a respetar la Ley del Consumidor en cuanto a la entrega de información efectiva y transparente; el resguardo de la libertad de elección y la seguridad en el consumo; la prohibición de toda discriminación arbitraria, y la protección de los datos personales de los consumidores.

En este sentido, las empresas deben presentar a los consumidores información clara y comprensible respecto al objetivo o finalidad de sus sistemas de IA; su injerencia en el proceso de contratación o de ejecución del contrato; las condiciones mínimas bajo las cuales funciona, y la naturaleza de la interrelación del sistema de IA con el consumidor, en caso que corresponda. 

Asimismo, -establece el documento- las empresas deben informar de forma transparente y oportuna si el consumidor está interactuando con un sistema de IA y no con un ser humano y los datos personales que son tratados por el sistema. Además, como práctica general, las empresas no pueden usar esta tecnología para manipular y perjudicar a los consumidores.

Respecto de la protección de datos personales, la Circular dice que todo tratamiento de información de carácter personal debe sustentarse en una base legal y contar con el consentimiento del titular, pudiendo este revocar esa autorización. Los datos personales deben ser exactos y estar actualizados, así como ser eliminados y cancelados cuando su almacenamiento carezca de fundamento legal o cuando hayan caducado. Por último, los datos erróneos, inexactos, equívocos o incompletos deben ser modificados.

Protección de datos personales

Otra de las iniciativas que ha presentado avances esta semana y que está contemplada en el Plan de Acción de IA es el proyecto que modifica la Ley 19.628 sobre Protección de la Vida Privada que fue recientemente despachado desde el Senado y que pasará prontamente a ser discutido en la Cámara de Diputados. Esta iniciativa de ley, establece nuevas normas sobre el tratamiento de datos personales y busca crear la Agencia de Protección de Datos Personales.