"La IA llevará a un cambio cuyo orden de magnitud puede igualar o superar la Revolución Industrial"
"La IA llevará a un cambio cuyo orden de magnitud puede igualar o superar la Revolución Industrial" `` La privacidad de los datos es crucial para proteger a la gente de sesgos algorítmicos; por ejemplo, evitar que a la hora de contratar para un puesto de ingeniero prefiera un hombre y no una mujer". U na serie de investigaciones en el área de inteligencia artificial (IA), buscando abordar temas como los desafíos de la colusión algorítmica y la gobernanza corporativa; cómo regular la privacidad de los datos o evitar el sesgo en la selección de personal en las empresas, son parte de los temas que durante dos años contempla realizar Nicolás Figueroa González, profesor titular del Instituto de Economía de la Universidad Católica, quien lidera la Cátedra de Economía e IA creada por dicha institución. Se trata de un fondo dedicado a la investigación cuyo donante es el exministro de Hacienda Felipe Larraín Bascuñán, en memoria de sus padres. Ingeniero civil matemático por la U. de Chile y doctor en Economía por la Universidad de Minnesota, Figueroa se ha especializado en teoría de juegos, diseño de mecanismos, diseño de mercados y organización industrial. Habla con "El Mercurio" vía telemática desde París. --Si los algoritmos se basan en una selección previa de los datos, ¿por qué no son responsables quienes los seleccionaron? "Esto no es ciencia ficción. En la vida cotidiana ya existen decisiones tomadas por un algoritmo y no por personas. Por ejemplo, los precios online de los supermercados o de las grandes tiendas o el caso de Amazon.
Quizás una de las primeras cosas que nos tiene preocupados ahora es que las empresas pueden comprar o contratar un algoritmo dando una instrucción tratando de maximizar las ganancias, lo cual es completamente legítimo, y al mismo tiempo instruir para no comunicarse con ningún otro algoritmo. Pero pueden terminar poniendo precios iguales a los de otra empresa.
Si las instrucciones las dieran sus jefes, esto está tipificado en la ley sobre libre competencia, son acciones que pueden ser sancionadas cuando las toman las personas". "Las empresa no pueden meramente comprar un software de IA" Una pregunta muy importante, dice Figueroa, es qué pasará cuando las empresas, usando esos algoritmos sin instrucción de una jefatura, terminen dañando la libre competencia.
La interrogante "aún no está respondida en la Unión Europea y tampoco en EE.UU. ". --¿ Hay un rol implícito en la gobernanza de las empresas? "Es un desafío muy importante, porque las empresas no pueden meramente comprar un software de IA, pasarle unos parámetros y dejar que sencillamente opere.
La gobernanza va a tener que incluir un monitoreo del comportamiento de la inteligencia artificial, realizar hacia adentro una especie de cross check". "En el ámbito periodístico, podemos imaginar el caso de una empresa que genera noticias y utiliza la IA. Al final del día es la empresa la responsable y lo hace de la mejor manera posible.
Pero, ¿en qué medida cambia la gobernanza para hacerse cargo de que la IA no esté entregando contenido sesgado, por ejemplo, contra una minoría?". --¿ Qué ocurre con las empresas que ya ocupan IA al fijar precios y recomendar? "La IA ha subido de nivel de distintas maneras. Netflix utiliza algoritmos para saber qué películas recomendar y Amazon lo mismo en el caso de los libros.
Esta es una pregunta abierta para la investigación. ¿Hasta qué punto regular o sobrerregular?, porque eso puede terminar siendo pernicioso". "Subirse limitando los efectos perniciosos" "En general", agrega el investigador, "la percepción en economía es que la IA llevará a un cambio cuyo orden de magnitud potencialmente puede igualar o superar lo que fue la Revolución Industrial. Va a cambiar la productividad de las personas, la manera de organizar las empresas e incluso la manera que tenemos de organizarnos como sociedad. Un país que se quedó fuera de la Revolución Industrial al considerarla perniciosa por su impacto para los trabajadores se quedó fuera del mundo. Lo mismo pasa ahora con la apuesta por la IA.
El tema es subirse limitando los efectos perniciosos, ese es el tema a investigar". --¿ Qué indaga respecto a la privacidad de los datos si persistentemente son pasados a llevar? "La situación es que un cliente envía su e-mail para recibir mensajes de una empresa que le provee de servicios, la cual termina empaquetando la historia de todos esos datos, los vende a otra empresa que a su vez los vuelve a vender y las transacciones de datos continúan. Esto permite a las compañías extraer mucha renta.
La Comunidad Europea ha regulado fuertemente el uso de los datos personales que el consumidor entrega a una empresa proveedora de servicios". "A estas alturas hay mucho más consenso en que hay que regular fuertemente, y que tiene que haber un nivel en el cual se puedan anonimizar los datos. No es solo en el ámbito económico, también en el mercado laboral. Por ejemplo, una empresa abre la contratación de personal y recibe 500 currículums q u e n o p u e d e procesar. Entonces, contrata un servicio para que seleccione a cinco personas y eso lo hace en 10 segundos.
El punto es que hay un montón de datos que se comunican a través del currículum con los cuales la IA puede decir con una probabilidad de 95% de qué región proviene el postulante; si es hombre o mujer; el colegio donde estudió, las características etarias, etc.
Deduce estos antecedentes, incluso, sin que la persona los haya entregado, sencillamente porque tiene una base de d a t o s e n o r m e d o n d e p u e d e consultar currículums parecidos.
La privacidad de los datos es crucial para proteger a la gente de sesgos algorítmicos; por ejemplo, evitar que a la hora de contratar para un puesto de ingeniero, prefiera un hombre y no una mujer, o favorecer más a la gente del sur o del norte o del centro del país". "La IA llevará a un cambio cuyo orden de magnitud puede igualar o superar la Revolución Industrial" LINA CASTAÑEDA NICOLÁS FIGUEROA, PROFESOR TITULAR DEL INSTITUTO DE ECONOMÍA UC: La inteligencia artificial (IA) altera profundamente la productividad y exige que la política pública supere los eslóganes y aborde los retos reales. El país debe formar capital humano capaz de navegar una realidad en permanente evolución, dice el académico. Nicolás Figueroa sostiene que la inteligencia artificial va a cambiar la productividad de las personas, la manera de organizar las empresas e incluso la manera que tenemos de organizarnos como sociedad. INSTITUTO DE ECONOMÍA UC `` Esto no es ciencia ficción, en la vida cotidiana ya existen decisiones tomadas por un algoritmo y no por personas. Por ejemplo, los precios online de los supermercados". `` Un país que se quedó fuera de la Revolución Industrial al considerarla perniciosa por su impacto para los trabajadores se quedó fuera del mundo.
Lo mismo pasa ahora con la apuesta por la IA". n "Desde el colegio a la universidad, todo va a tener que reinventarse" --¿ Ve más o menos ventajas en la educación por el uso de la IA? "En la educación presenta muchos dilemas, pero obviamente no se puede tapar el sol con un dedo. Cuando a un alumno no le quedaba claro lo que explicó su profesor, tenía que esperar una semana para la siguiente clase, levantar la mano y preguntarle al profesor. Si era muy tímido o el profesor muy pesado, entonces igual perdía la explicación. Hoy día puede resolver sus dudas consultando a ChatGPT que se lo aclara. Si tiene que estudiar para una prueba, puede pedir que le invente algunos problemas para practicar. Entonces es una herramienta que potencialmente aumenta mucho la productividad. La IA democratiza, permite aprender cosas nuevas que a lo mejor en el país nadie sabe, porque provienen de otros países". "La pregunta es cómo vamos a adaptar las instituciones de educación a la IA. Creo que nos va a tomar un buen tiempo el cómo utilizar la parte buena de una muleta que permite caminar más rápido y no termine invalidando el que podamos caminar.
Desde el colegio a la universidad, todo va a tener que reinventarse". REGULACIÓN Una fuerte regulación ha implementado la Comunidad Europea por el uso de los datos personales que el consumidor entrega a una firma de servicios. n El atropello de un gato --¿ Cuán necesaria será la adaptación de la justicia y de la salud? "Voy a poner un caso que se dio en San Francisco, EE.UU. en que un auto que se conduce solo, atropelló y mató un gato. ¿Quién se hace responsable? Es un tema que excede mis competencias como economista. Podría suponerse que los autos que se manejan solos matan un gato por cada 1 billón de gatos y las personas que conducen autos matan a 10 gatos por cada 1 billón. El tema se está estudiando, pero no es de mi área.
Otro caso es la prisión preventiva que determinan los juzgados de garantía y que hoy es una decisión de los jueces, pero los jueces de garantía también se equivocan y hay miles de otros ejemplos con equivocaciones de uno y otro lado, también en las cirugías en el caso de la salud. La pregunta es cómo diseñar algoritmos que se equivoquen menos, a los cuales también poner una restricción para que no sean sesgados.
No crucificamos a alguien porque se equivocó una vez, el tema es qué hacemos con los algoritmos, ¿pasar multas o comprar un seguro para las veces que se equivoquen? --¿ Cómo evitar que una persona presente una denuncia contundente usando solo la descripción que hace la IA., aunque el hecho denunciado sea falso? "En esto hay como una especie de `carrera armamentista'. Cuando uno mira las postulaciones a proyectos de investigación científica, se han multiplicado por cinco con el uso de la IA. Pongamos el caso de proyectos que ingresan al sistema de evaluación ambiental.
Una persona que acostumbraba enviar grandes proyectos, entregaba un informe de 300 páginas rellenadas con gráficos, tablas y antecedentes que hacían difícil analizarlos y de alguna manera buscaba `pasar algunos goles'. Ahora le puede pedir a ChatGPT que haga un informe parecido con 900 páginas. La persona al otro lado en la revisión le puede pedir a la IA que resuma el documento en 90 páginas y así empieza una guerra de algoritmos, un uso improductivo de la IA.
Con el ChatGPT hay una capacidad de producir textos que no dicen nada pero que aparentemente son coherentes y eso puede pasar con las demandas judiciales, con los proyectos de investigación, con los escritos para el sistema de evaluación ambiental, llenando de basura que es difícil de procesar, de la cual hay que deshacerse de alguna manera.
Esto tiene mucho que ver con la teoría de juegos, el otro sabe que yo soy inteligente y como también él es inteligente, trata de aprovecharse de las cosas que yo estoy haciendo, ocupa las mismas herramientas. Es una `carrera armamentista' que Chile enfrenta en distintas áreas, en el derecho, el sector financiero, el narcotráfico. El punto es que el gobierno también tiene que ocupar esta herramienta y en esto hay una batalla, no hay soluciones fáciles. El país debe formar capital humano capaz de navegar una realidad en permanente evolución"..