Expertos advierten que contenido falso generado por inteligencia artificial podría ser un riesgo para las elecciones en la región
Expertos advierten que contenido falso generado por inteligencia artificial podría ser un riesgo para las elecciones en la región POR MARCO ZECCHETTO La rápida evolución de la Inteligencia Artificial (A) generativa, que permite crear nuevos contenidos de texto, imagen o video a partir de información existente, ha permitido reducir tiempos y aumentar la productividad en el trabajo. Pero al mismo tiempo, ha posibilitado la creación y divulgación de noticias falsas y deep fakes (fotos o videos ficticios a partir de intercambio de rostros) en las redes sociales.
Estas técnicas de desinformación han sido empleadas en diferentes contextos sociales y políticos, afec tando a personajes públicos, como el caso de la imagen falsa del Papa Francisco vistiendo una chaqueta de marca Balenciaga, y también han sido parte de las estrategias de promoción de campañas políticas, como la foto que circuló de Donald Trump rodeado y apoyado por comunidades afroamericanas.
De hecho, el Global Risks Report 2024, informe realizado por el Foro Económico Mundial (WEF, por su sigla en inglés) en colaboración con Marsh McLennan y Zurich Insurance Group para medir los riesgos más graves que enfrenta el planeta y los que se vislumbran para la próxima década, situó en segundo lugar a la información falsa (misinformación) y engañosa (desinformación) generada a través de IA, en relación a los procesos eleccionarios.
Ell reporte, que posicionó a la información falsa y engañosa como el riesgo más grave para los próximos dos años, señala que se espera que cerca de tres mil millones de personas acudan a urnas de votación en diferentes países en los próximos dos años, y que el uso de la desinformación, asícomo las herramientas para difundirla, puede socavar la legitimidad de los gobiernos recién elegidos.
Bajo ese contexto, la periodista y coordinadora del área de Educación del Proyecto Desconfío ativa argentina que busca capacitar y entregar herramientas para com batir la desinformación Soledad Arréguez, dijo que el ambiente eleccionario que enfrentarán diferentes países está llevando a una mayor preocupación de "poder mantener preocupación de "poder mantener preocupación de "poder mantener preocupación de "poder mantener Expertos advierten que contenido falso generado por inteligencia artificial nodría ser un riesgo para nodría ser un riesgo para r E El Global Risks Report 2024, del WEF, situó la misinformación y desinformación generada con IA como el segundo riesgo más grave en la actualidad.
El La proliferación de noticias falsas y deepfakes a nivel regional impacta principalmente a las elecciones y temas de salud, medioambiente y migración. los espacios democráticos lo más limpios, en el sentido de que no haya campañas desinformantes o ruido en el proceso". También dijo que la desinforma= ción, yen particular, los contenidos generados a partir de lA, como deep fakes, han traído nuevos desafíos al periodismo y a la sociedad democrática. "La posibilidad de hacer publicaciones abiertas en las redes sociales, que sea tan sencillo generar mensajes y la velocidad que tienen estos en línea, hace que la proliferación sea mucho más rápida. Además, hoy con la IA no es necesario partir de una imagen que sea real para poder generar otra. Esto trae muchas dificultades para detectar la falsedad y el engaño", comentó.
En el caso de Latinoamérica, sostuvo que los principales tipos de desinformación generada con IA suelen ser imágenes falsas de políticos en períodos eleccionarios, políticos en períodos eleccionarios, Francisco La imagen falsa del Pa vestido con chaqueta de Balenciaga. pero también para crear y divulgar contenido falso en temáticas medioambientales, migratorias y de salud.
De acuerdo a datos de Transparencia Electoral, en 2024 cinco países de la región -México, El Salvador, Panamá, Venezuela y Uruguay tienen elecciones generales, y tres -Chile, Brasil y República Dominicana tienen elecciones municipales, lo que podría elevar la circulación de noticias falsas.
En tanto, el profesor asociado y director de investigación y creación de la Facultad de Comunicaciones de la Universidad Católica (UC), Sebastián Valenzuela, explicó que, en América Latina, la comunicación política es un fenómeno "fundamentalmente de carácter visual", porque las personas leen poco y consumen contenido con poco texto, mucho de Tiktok e Instagram, y por lo mismo, "es el modo prevalente en que la mayoría de las personas consume contenido político en la región, y la desinformación tiende a tener ese esquema, con predominio visual", afirmó. Donald Trump apoyado por personas de origen afroamericano y el Presidente de Ar na, Javier Milei, de rodillas ante el líder chino, son imágenes falsas que han circulado por redes sociales. circulado por redes sociales.
Impacto y regulación Valenzuela señaló que, si bien no existe ninguna evidencia robusta que indique que la desinformación cambia el voto de las personas, sí genera un impacto en la confianza que tienen los votantes. "A medida que la desinformación va corroyendo la fe en el sistema y la legitimidad de las elecciones, por ese lado sí tiene un impacto finalmente en la elección", comentó.
A nivel regional, Valenzuela dijo que los gobiernos se están enfocando más en regular la IA y las nuevas tecnologías hacia un enfoque económico o "de aumento en la productividad a través de su uso", por sobre la desinformación. Noobstante la Unión Europea (UE) está liderando hacia una regulación más íntegra en la materia, a través de la Ley de Inteligencia Artificial que aprobó el Parlamento Europeo. Las redes sociales hanjugado un papel protagónico en la divulgación de desinformación.
Ante esto, Alemania cuenta con la NetzDG o ley alemana de redes sociales (vigente desde 2017), la cual permite retirar contenido ilegal como discursos de odio y otras expresiones tipificadas como delito porel código penal del país de estas.
Por otro lado, en 2018 el parlamento francés aprobó la ley contra la manipulación de la información (ley 1202-2018), que busca ampliar la transparencia en los anuncios a través de plataformas digitales durante los períodos electorales.
Valenzuela dijo que será responsabilidad de los gobiernos, los servicios electorales y las plataformas digitales hacer frente a la desinformación en las elecciones que enfrentará la región, especialmente ante el auge de las herramientas de IA. Agregó que será necesario contar conuna "infraestructura de datos" para poder identificar y mitigar el impacto de la información falsa, acompañado de una alfabetización digital para los mismos usuarios.*. - - -