Autor: POR A. RIVERA, R. OLMOS Y M. ZECHETTO

Las preguntas, aprendizajes y reflexiones en torno a la IA que dejó la cumbre de Singularity
Las preguntas, aprendizajes y reflexiones en torno a la IA que dejó la cumbre de Singularity en torno a la IA que dejó la cumbre de Singularity Expertos abordaron el potencial de la inteligencia artificial para transformar las industrias, la ciencia y la sociedad; los desafíos de la adaptación al cambio tecnológico; y los riesgos asociados a la ciberseguridad y a la antropomorfización de las máquinas. POR A. RIVERA, R. OLMOS Y M.
ZECHETTO La inteligencia artificial se tomó la agenda este miércoles en la última jornada del Summit de Singularity Chile 2025, que organiza la filial chilena de la casa de estudios no tradicional que se creó con apoyo de la NASA y que forma líderes "para el futuro" en Silicon Valley, California.
Porel escenario del Teatro CA 660 del CorpArtes, desfilaron expositores de diversos países, varios de los cuales abordaron el potencial transformador de la inteligencia artificial, para las industrias, las personas y la sociedad, con nuevas tecnologías como los agentes de IA. También se refirieron a las oportunidades y a los riesgos, como la asignación de características humanas a las máquinas y otros asociados a ciberseguridad.
Pilar Manchón: "Estamos en una metamorfosis, la cuestión es si sale una mariposa o una polilla" La directora senior de Ingeniería y Estrategia de Investigación en IA de Google, Pilar Manchón, señaló que la IA no es una tecnología emergente más, sino un eje vertebrador de muchas otras y la única capaz de optimizarse a sí misma y empoderar a todos los campos del conocimiento. "Estamos en medio de una metamorfosis. La cuestión es si sale una mariposa o una polilla.
Vamos a intentar que salga una mariposa, pero somos nosotros los que podemos tomar decisiones hoy que nos encaminen en la dirección que queremos (... ) es el momento de hacernos preguntas ¿ Qué papel jugamos? ¿ Hacia dónde vamos? ¿ Estamos haciendo lo correcto? Si puedo hacerlo, ¿debo hacerlo?", dijo.
Para Manchón es clave hacer una tecnología "al servicio de la humanidad y centrada en el humano". Destacó el potencial transformador de la IA para las industrias y la ciencia, y dijo que los agentes de IA, que asistirán alos humanos en sus tareas personales o profesionales, "van a hacer nuestra vida muchísimo más fácil". Agregó que hay que despejar riesgos, como la asignación de características humanas a la inteligencia artificial -antropomorfismo sobre todo aquella que tiene cuerpo, como un robot, ya que la IA "no piensa, procesa" (datos) y "en un futuro lleno de agentes", podría darse el caso de tener que definir aspectos como sintiencia, conciencia o si estos agentes tienen derechos. "Tenemos que definirlo de una manera muy clara". Aaron Frank: IA física y reconversión laboral El investigador y profesor titular de Singularity University, Aaron PILAR MANCHÓN DE INVESTIGACIÓN EN lA DE GOOGLE AARON FRANK INVESTIGADOR Y PROFESOR DE SINGULARITY UNIVERSITY UNIVERSITY UNIVERSITY UNIVERSITY JAYA BALOO CHAIR DE CIBERSEGURIDAD DE SINGULARITY UNIVERSITY Frank, abordó el "punto de inflexión histórico" del desarrollo de la inteligencia artificial física, es decir, tecnología que interactúa con el mundo físico a través de sistemas como robots, vehículos o drones.
Hizo énfasis en que el salto no está solo en el hardware, sino en DIRECTORA SENIOR DE INGENIERÍA Y ESTRATEGIA DIRECTORA SENIOR DE INGENIERÍA Y ESTRATEGIA DIRECTORA SENIOR DE INGENIERÍA Y ESTRATEGIA cómo la IA y los modelos de lenguaje grande (LLM, en inglés) están diseñando el código por sí mismos, aprendiendo a través de técnicas como aprendizaje por refuerzo y por imitación, en entornos simulados.
También destacó cómo esto impactará en industrias como la BRAULIO GAMPUY DE SINGULARITY SINGULARITY agricultura, minería, logística y retail, y relevó que aunque la tecnología avanza rápido, el gran desafío es cómo las empresas, sistemas educativos y modelos operativos se adaptan ante estos cambios. "Vamos a ver un gran impacto en nuestros mercados laborales. Y, por lo tanto, en los tipos de trabajo que realizamos. Esto ha sido un tema de conversación durante muchos años (... ) Y, como sociedad, nos enfrentamos a una enorme necesidad de capacitación de la fuerza laboral global", dijo.
Jaya Baloo: brechas en ciberseguridad y amenazas futuras La neerlandesa Jaya Baloo, chair de ciberseguridad de Singularity University, en su charla "Ciberseguridad: Blindar tu Negocio o Entregarlo a Otros", se refirió a temas como la evolución del cibercrimen y las brechas existentes, al espionaje y la ciberguerra y a las amenazas vinuladas a los dispositivos inteligentes, la IA y la computación cuántica.
La también exchief information security officer de Avast, dijo que "los atacantes son muy buenos para explotarnos en cosas que ya deberíamos haber sabido en 2023", porque persisten brechas de seguridad ya conocidas -como el mal uso de credenciales de acceso, la falta de autenticación multifactor y sistemas sin "parches" (actualizaciones) de seguridad-, pero que aún no se corrigen. "Las principales razones por las que nos siguen hackeando siguen siendo las mismas estupideces", afirmó. "Cuando los atacantes hackean por diversión y beneficio y se vuelven realmente buenos, a veces empiezan a hackear por política o para una ideología en particular y los llamamos hacktivistas. (... ) Ahora premiamos a las personas que hacen esto, a civiles que en tran en conflictos militares y son designados como combatientes en el campo de la guerra", dijo Baloo. Además, alertó sobre los riesgos asociados a los dispositivos inteligentes: "Básicamente estamos trayendo nuestros propios ataques (al hogar) cuando los conectamos. Solo porque algo se pueda conectar a internet, no significa que deba hacerse", señaló.
Baloo también advirtió de los peligros futuros, como el uso de herramientas capaces de crear documentos de identificación personal falsos y modelos grandes de lenguaje que pueden generar "malware polimórfico" (software malicioso que puede modificar su código para evitar ser detectado por sistemas y antivirus); y el potencial de los computadores cuánticos para desencriptar los sistemas criptográficos tradicionales..