Autor: BÁRBARA PEZOA

Etica e inteligencia artificial: los desafíos que enfrenta el futuro digital
Etica e inteligencia artificial: los desafíos que enfrenta el futuro digital La acelerada integración de la inteligencia artificial en diversos sectores plantea interrogantes cruciales sobre moral, privacidad y responsabilidad. ¿Está preparado Chile para abordar los dilemas éticos que acompañan esta revolución tecnológica? ¿ Se puede regular y supervisar una tecnología que evoluciona tan rápidamente? Ética e inteligencia artificial: los desafíos que enfrenta el futuro digital BÁRBARA PEZOA n un mundo donde la inteligencia artificial (1A) está cada vez más presente, los desafíos éticos que esta tecnologíaimplica son ineludibles. La capacidad de la lA para analizar grandes cantidades de datos y tomar decisiones autónomas, tiene el potencial de transformar industrias y mejorar vidas, a decir de los expertos.
No obstante, esta misma capacidad también trae consigo riesgos que no pueden serignorados. ¿Cómo se protege la privacidad en un entorno dominado digitalmente? ¿ Cómo se evita quela integridad de niños, niñas y adolescentes no se vea afectada por el uso indebido de esta tecnología? ¿ De qué manera se garantiza que los algoritmos sean justos y no perpetúen sesgos? Según el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación, Chile ostenta hoy el primer lugar en Latinoamérica en capacidades para desarrollar inteligencia artificial. Uno de los elementos clave para ello fue haber publicado su primera Política Nacional de ÍA en 2021, de modo que fenómenos como Chat GPT y la IA generativa no tomaron al país por sorpresa.
Además, detallan desde esa cartera, hoy se cuenta con una segunda versión actualizada de la Política Nacional de IA, con foco en los aspectos éticos y de gobernanza, mediante un proceso que recogió los resultados de la metodología RAM de la Unesco.
Gabriela Arriagada, académica UC e investigadora del Centro Nacional de Inteligencia Artificial (Cenia) y autora del libro Los sesgos del algoritmo, explica que para empezar a conversar sobre ética e 1A, lo primero esentender por qué esta tecnología no puede regularseen símisma. "Es una tecnología abierta, de rápido desarrollo, en constante cambio y además tiene muchas especificaciones, por lo tanto, tratar de regular la tecnología en sí misma es casi contraproducente", señala. Lo que síse puede regular, dice ella, son sus impactos, sus riegos y su manejo, es decir, el rol que cumplen los seres humanos en el desarrollo de la lA.
El enfoque que plantea esta investigadora se alinea con prácticas internacionales como las de Estados Unidos y la Unión Europea, que apuntan a regular los procesos de diseño y creación de la IA, asícomo las políticas públicas asoasícomo las políticas públicas asociadas, para limitar usos inaceptables y proteger el impacto social negativo. Uno de los principales desafíos en la implementación de la IA es la falta de educación, tanto tecnológica como ética.
Arriagada indica que en Chile hay una falta profunda y transversal de contenidos curriculares en educación básica, rriculares en educación básica,. Etica e inteligencia artificial: los desafíos que enfrenta el futuro digital Etica e inteligencia artificial: los desafíos que enfrenta el futuro digital Etica e inteligencia artificial: los desafíos que enfrenta el futuro digital media y universitaria sobre esos temas. "Identificamos una falta transversal no solo de contenidos, sino también de la articulación de la ética dentro de carreras que son estratégicas para el desarrollo del país", comenta.
La académica enfatiza en la importancia de integrar la ética enla educación como una acción crucial para formar una masa crítica de profesionales capacitados para abordar estos desafíos. "La ética debe ser vista no como un agregado, sino como parte fundamental del desarrollo transversal de los profesionales que vamos a tener en nuestro país". Cuando se habla de ética e lA, enfatiza la investigadora del Cenia, el problema base es la falta de educación y no solo en las capas más altas de la educación, sino desde las etapas más tempranas, la ensefñanza básica y media.
Pero al mismo tiempo, para implementarla desde el inicio de la escolaridad, es esencial tener evidencia clara sobre el impacto de la IA en los aprendizajes antes de escalar su uso, explica Marcela Colombres, directora de Aprendizaje para el Futuro de Fundación Chile. "También hay desafíos éticos que la implementación de la IA enfrenta en la educación", plantea Colombres.
Estos incluyen la privacidad de datos, la ciberseguridad, los sesgos y la discriminación, asícomo la autonomía. "Ante esta realidad, hay que tener claras las reglas deljuego, hay una necesidad de regular en tiempos adecuados, que existan leyes claras", expresa.
Para mitigar algunos de estos desafíos como el sesgo y la discriminación en los sistemas de [A utilizados en la educación, es positivo que Chile cuente hoy con una Política Nacional de Inteligencia Artificial, que enmarca ciertos ámbitos de acción y prioridades, aseguran desde Fundación Chile. También tener una propuesta de ley lo ven como un avance significativo, pero puntualizan que es clave avanzar en un marco regulatorio específico para el sectoreducacional. Ética y sesgos Uno de los grandes desafíos de la 1A, plantean las expertas consultadas, son los sesgos intrínsecos que trae consigo esta tecnología. Gabriela Arriagada detalla que hay varias medidas que se pueden tomar para que no se amplifiquen desigualdades existentes, pero advierte que estas deben funcionar de manera ecosistémica y sinérgica.
La ciencia no se ha quedado de brazos cruzados en este aspecto, afirma Arriagada, porque se ha hecho bastante esfuerzo para no seguir perpetuando desigualdades existentes. "Por un lado, se han tomado medidas en cuestiones técnicas, generando nuevas prácticas para monitorear, minimizar y entender los sesgos.
Pero también hay otro aspecto que tiene que ver con cuestiones cognitivas, con posiciones científicas, con los sesgos propios de losinvestigadores, de las instituciones, y para mitigarlos hay que buscar puentes de comunicación, lenguas comunes, un vocabulario que entregue resultados realmente representativos", manifiesta.
Proyecto de ley En mayo de este año, el Ministerio de Ciencia ingresó un proyecto de ley de inteligencia artificial que busca promover la creación, desarrollo, innovación e implementación de sistemas de IA que garanticen la protección de la salud, la seguridad y los derechos fundamentales de la personas, protegiendo así a los consumidores frente a los peligros que ciertos usos poco éticos de la lA puedan provocar. Desde el ministerio explican que este proyecto busca permitir y promover la innovación y crecimiento delos usos positivos de esta tecnología. La propuesta de ley promueve acciones de autorregulación y regulación basadas en riesgos, clasificándolos entre sistemas de lA de riesgo inaceptable, de alto riesgo, de riesgo limitado, y sin riesgo evidente.
Conforme a ello, el proyecto plantea una serie de principios éticos internacionalmente aceptados que deberán observar los sistemas de IA desarrollados, comercializados y/o utilizados en el territorio nacional y establece una serie de reglas, dependiendo del nivel de riesgo aplicable.
Asimismo, se determina un mecanismo de gobernanza basado en la creación de un Consejo Asesor Técnico de IA, además del fortalecimiento de las capacidades del ministerio en lA y el ejercicio dela función fiscalizadora y decumplimientoa cargo de la Agencia Nacional de Protección de Datos Personales. Por último, se crea un régimen de sanciones administrativas y civiles por incumplimiento de las disposiciones de esta ley. Q nes de esta ley. Q nes de esta ley. Q nes de esta ley. Q Sin Asignar Sin Asignar.