Autor: DANIELA TORÁN
Cómo usar la tecnología sin que los sesgos afecten el resultado
Cómo usar la tecnología sin que los sesgos afecten el resultado "ómense unos segundos y persona líder dibujada por la inteligencia artificial (IA)". Con esa invitación, María José Martabit dio inicio a su exposición en Congreso Futuro, abriendo una reflexión sobre cómo la tecnología, la inteligencia artificial, lejos de ser neutral, reproduce los prejuicios de quienes la construyen. El primer resultado fue revelador: la IA generó la imagen de un hombre blanco, de entre 45 y 50 años, vestido con un impecable traje, serio y con la bandera de Estados Unidos de fondo.
Cuando la pregunta se trasladó a un líder de Chile o Latinoamérica, el retrato cambio radicalmente: un hombre mayor, moreno, con poncho de colores y rodeado de indígenas. "Nosotros nos reímos porque sabemos que eso no es así, pero alguien que investiga desde Australia o Japón podría creer que esa imagen representa el liderazgo en nuestra región", advirtió. Nace Theodora María José Martabit es chilena, abogada de la Pontificia Universidad Católica de Chile, máster en Derecho por la Universidad de Washington y PhD en Ingeniería Civil Industrial de la Universidad de Texas A&M. Es fundadora y CEO de Theodora AI, una legal tech chilena que desarrolla tecnología anti sesgos para fortalecer la toma de decisiones en empresas e instituciones, además de ayudar a proteger la reputación corporativa. Su trabajo parte de una premisa clara: la inteligencia artificial cc piensen cómo sería una Bloque 7. Ideas para un nuevo mundo (10:00 a 11:15 horas) 7.1. Donación y trasplante, estamos en el camino, pero ¿ a dónde nos dirigimos? 7.2 El desafío existencial de los robots humanoides. 7.3 Cultura oceánica para una ciudadanía consciente. 7.4 Revolución óptica en la industria alimentaria. Bloque 8. Direcciones para un futuro digital (11:15 a 12:15 horas) 8.1 Reprogramando la realidad: entre la adopción tecnológica y la creatividad ilimitada. 8.2 Un futuro vivible, niñeces trans, reconocimiento y DAVID VELASQUEZ hereda los sesgos humanos. Durante su charla, explicó que los sesgos son atajos mentales que permiten tomar decisiones rápidas, pero que muchas veces operan de manera inconsciente y terminan nublando las decisiones. Para ejemplificarlo, utilizó el conocido Efecto Kiki y Bouba. En solo segundos, la audiencia debió asociar dos figuras -una puntiaguda y otra redondeadacon esos nombres. La respuesta fue unánime: Kiki era la puntiaguda. "Este experimento se ha repetido en todo el mundo y el resultado es el mismo", explicó.
Martabit detalló que en su laboratorio comprobaron que los sesgos activan zonas específicas del cerebro asociadas al rechazo o al asco. "Imaginen el impacto que esto puede tener en una campaña política, una publicidad o un discurso", señaló, enfatizando que nuestras decisiones están influidas mucho antes de que seamos conscientes de ellas. Tras varios intentos fallidos, encuestas y experimentos, el equipo logró crear el primer dataset en español sobre sesgos, gracias a un "mundial de datos" que convocó a participantes de más de 20 países.
Los resultados mostraron que cerca del 50% de los sesgos detectados a nivel global son de género, seguidos por etnia, edad y religión, información clave para entrenar su tecnología. "La percepción importa y hoy está siendo moldeada por la tecnología", agregó. ¿Qué la llevó a crear Theodora? "Cuando estudiaba siempre se nos enseñó que Justiniano era el padre del derecho romano, pero ya de profesora, con mis alumnos descubrimos a la emperatriz Theodora, una figura clave en la creación de leyes hace más de 1.500 años, aunque invisibilizada por la historia jurídica. Esa reflexión me llevó a preguntarme por qué una corte puede fallar distinto frente a un mismo caso en días consecutivos.
De ahí nació la idea de crear una tecnología capaz de detectar y corregir los sesgos en personas, instituciones y empresas". Parecía imposible, pero lo lograron. "La idea nació hace 4 años, pero lleva menos de un año funcionando con clientes. Trabajamos en El frágil imperio del hielo', la primera película que revisó su guión y hasta el título de la película lo cambió Theodora". ¿En qué otra área se puede usar Theodora? "En la banca. Hoy nuestros principales clientes son bancos, especialmente por el tema del riesgo crediticio: a quién le entrego un préstamo y a quién no". LUN Programa martes 13 DDHH en Chile. 11.2. Sistemas de agricultura en ambiente controBloque 9. Transferir conocimiento (12:15 a lado. 13:30 horas) 11.3 Lo que no ves en tu plato. 9.1 Educación e IA, el humano y la máquina, una tra11.4 Vigilar el agua para proteger la salud. Bloque 12. Investigar los sentidos (16:15 ma existencial. 9.2 ¿Cómo pueden las universidades servir mejor a a 16:45 horas) 12.1 Cómo percibimos el tacto y otras fuerzas físicas. CEDIDA la sociedad? Bloque 13. Vínculos con los espacios 9.3 El poder oculto de los datos. (16:45 a 18:00 horas) 9.4 ¿Pueden las máquinas ayudarnos a encontrar 13.1 Preservar el pasado para comprender el futuro. innovación? Nobel de Medicina. Bloque 12. Bloque 10.
Sistemas de salud (13:30 a 13.2 Áreas marinas protegidas en Chile y el desafío 14:00 horas) de la altamar. 10.1 La prestación de servicios de salud está teniendo 13.3 Vortex. su momento Netflix. 13.4 De la cordillera al mar: comunicar las culturas Bloque 11. La observación como brújula y patrimonios de Chile. (15:00 a 14:15 horas) Bloque 40. Pensar el futuro (19:00 a 22:00 horas) 11.1 Transporte con empatIA como política pública. Más detalles en https://n9. cl/ktsg5. Autor: DANIELA TORÁN. "La percepción importa y hoy está siendo moldeada por la tecnología", dijo. María José Martabit fundó Theodora, tecnología que detecta y reduce prejuicios en la toma de decisiones Programa martes 13 DDHH en Chile. 11.2. Sistemas de agricultura en ambiente controBloque 9. Transferir conocimiento (12:15 a lado. 13:30 horas) 11.3 Lo que no ves en tu plato. 9.1 Educación e IA, el humano y la máquina, una tra11.4 Vigilar el agua para proteger la salud. Bloque 12. Investigar los sentidos (16:15 ma existencial. 9.2 ¿Cómo pueden las universidades servir mejor a a 16:45 horas) 12.1 Cómo percibimos el tacto y otras fuerzas físicas. CEDIDA la sociedad? Bloque 13. Vínculos con los espacios 9.3 El poder oculto de los datos. (16:45 a 18:00 horas) 9.4 ¿Pueden las máquinas ayudarnos a encontrar 13.1 Preservar el pasado para comprender el futuro. innovación? Nobel de Medicina. Bloque 12. Bloque 10.
Sistemas de salud (13:30 a 13.2 Áreas marinas protegidas en Chile y el desafío 14:00 horas) de la altamar. 10.1 La prestación de servicios de salud está teniendo 13.3 Vortex. su momento Netflix. 13.4 De la cordillera al mar: comunicar las culturas Bloque 11. La observación como brújula y patrimonios de Chile. (15:00 a 14:15 horas) Bloque 40. Pensar el futuro (19:00 a 22:00 horas) 11.1 Transporte con empatIA como política pública. Más detalles en https://n9. cl/ktsg5. María José Matabit es CEO de Theodora IA. Ardem Patapoutian, Premio