Autor: Pablo Contreras U. Autónoma de Chile Pablo Trigo Vrije Universiteit Brussel -U. de Chile
Un marco ético para la IA
Uestro Congreso se encuentra IN discutiendo la aprobación del Digital Economy Partnership Agreement(DEPA), un instrumento suscrito por Chile, Singapur y Nueva Zelanda para generar un marco de regulación en materia de economía digital, incluyendo aspectos como el flujo de datos, la prohibición de discriminación y la identidad digital de usuarios.
Este tratado, en el art. 8.2, menciona expresamente a la inteligencia artificial (IA). Las partes reconocen la necesidad de "desarrollar un entendimiento mutuo”, de forma de avanzar a marcos éticos “armonizados internacionalmente” para facilitar la introducción de estas tecnologías. En términos muy generales, los Estados se “esforzarán” por promover estos marcos éticos y de gobernanza, con el objetivo que “apoyen el uso fiable, seguro y responsable” de la l A. En el detalle, se establece que deberán tener en cuenta cuatro elementos: explicabilidad, transparencia, equidad y valores centrados en el ser humano.
Se trata de un enfoque soft, vía estándares o principios éticos generales, lo que plantea problemas de ejecutabilidad o exigibilidad, en especial en lo que respecta a la generación de riesgos (por ejemplo, la amplificación de sesgos) y ala responsabilidad que puede derivarse a partir del uso de sistemas autónomos que interactúan con los usuarios (pensemos en los individuos que se ven sometidos a decisiones automatizadas que lesionan sus derechos). Con todo, podría sostenerse que este enfoque flexible permite abordar de mejor manera ciertos problemas de anticipación (la dificultad que tiene el derecho para adaptarse al cambio tecnológico). Las reglas contenidas en el DEPA debiesen interactuar con los lineamientos contenidos en la Politica Nacional de Inteligencia Artificial, que en su eje 3 aborda los aspectos éticos y normativos de reconociendo que esta tecnología presenta ciertos riesgos a la dignidad humana, la privacidad, la libertad de expresión y la no discriminación arbitraria.
Este escenario debiese guiar a la creación en Chile de un ecosistema regulatorio adecuado para el desarrollo o uso de la l A, especialmente en materia de gobernanza y tratamiento de datos personales, lo incluye las transferencias seguras de datos, la regulación de las decisiones individuales automatizadas y el perfilamiento de individuos.