La IA generativa ayuda a resolver tareas simples y complejas, pero se advierten riesgos
La IA generativa ayuda a resolver tareas simples y complejas, pero se advierten riesgos El 96% de los desarrolladores de software utiliza inteligencia artificial generativa (GenAI) en su día a día.
La estadística fue revelada por un reciente informe de la empresa de ciberseguridad Snyk, el que asegura que esta tecnología se ha convertido en una herramienta imprescindible en este campo, desde la generación de código hasta la automatización de pruebas. La GenAI usa un modelo de aprendizaje automático para aprender los patrones y las relaciones de un conjunto de datos de contenido creado por personas. Así, a través del uso de algoritmos, se enfoca en la producción de contenido nuevo, como imágenes, música, texto o códigos. Tanto la GenAI como el aprendizaje profundo tienen el potencial de ayudar a estos profesionales a complementar su trabajo y a resolver problemas complejos.
HERRAMIENTAS USADAS John Atkinson, profesor titular y director del Magíster en Inteligencia Artificial de la Facultad de Ingeniería y Ciencias, de la Universidad Adolfo Ibáñez, asegura que actualmente existen varias herramientas que utilizan los principios de la IA generativa (GenAI) para ayudar en el ciclo del desarrollo de software. · Cumplimiento y propiedad intelectual: Los modelos de GenAI se entrenan sobre código propietario públicamente disponible, exponiéndolos a código de baja reputación o de dueños desconocidos.
Así, existe el riesgo de infringir inadvertidamente los derechos de autor o licencias al generar nuevos códigos a partir de estos modelos. · Falta de visibilidad: El código generado por herramientas de GenAI puede ser complejo y desafiante. Incluso si el código funciona como se esperaba, puede resultar difícil comprender su lógica, pues la herramienta determinó qué enfoque utilizar.
Esta falta de visibilidad puede dificultar el cumplimiento de los estándares de codificación y las mejores prácticas de la industria. · Necesidad de supervisión humana: Aunque los modelos de GenAI pueden producir buenos resultados, usualmente requieren supervisión humana para garantizar la calidad y corregir posibles errores.
CIERTAS DESVENTAJAS El académico de la UAI advierte que se pueden identificar varias desventajas en el uso de algunas herramientas de GenAI para el desarrollo de software: · Calidad del código: El tipo de código generado no siempre podría satisfacer los estándares de seguridad de la organización.
Esto se debe a que muchas herramientas dependen de patrones y prácticas aprendidas automáticamente desde datos de entrenamiento, como GitHub, StackOverflow, etc., los cuales pueden contener código no-óptimo o ineficiente. · Vulnerabilidades de seguridad: Los modelos de GenAI se entrenan sobre grandes repositorios de código, que pueden contener patrones explotables o vulnerabilidades conocidas.
Por ello, estas tecnologías podrían introducir potenciales problemas de seguridad a través de validación de entradas incorrectas, encriptación débil o controles de acceso inseguros. reducen las tareas de codificación de software más repetitivas y entregan sugerencias de código, logrando que los desarrolladores se centren en tareas más creativas. · Diseño automatizado : En el contexto de interfaces usuarias y experiencias de usuario, GenAI puede ayudar a explorar diferentes diseños automáticamente, ahorrando tiempo y recursos en la fase de prototipado. · Optimización de código: Ciertas herramientas de GenAI pueden aplicarse para optimizar automáticamente el código, mejorando su eficiencia y rendimiento. · Testing: Sistemas de GenAI pueden ayudar en la generación automática de casos de prueba, así como en la identificación de errores de código. · Prototipado rápido: Algunas herramientas de GenAI pueden ayudar a generar prototipos funcionales, de modo que los desarrolladores avancen probando e iterando ideas más rápidamente, reduciendo así el tiempo de transferencia al mercado.
Bajo esta premisa, el doctor en inteligencia artificial detalla que las siguientes herramientas de GenAI para desarrollo de software ofrecen varios beneficios: · Generación de código: Los modelos de GenAI pueden ayudar a producir automáticamente códigos de computación simple para tareas repetitivas. · Eficiencia: Estas tecnologías Algunas de ellas incluyen Codex, AlphaCode, Replit, Codex, CodeWhisperer, Tabnine, CoPilot y ChatGPT. "En su corazón, estas son posibles gracias al entrenamiento de grandes modelos de lenguaje (LLM). Sin embargo, se debe destacar que este tipo de tecnología debe ser supervisada por humanos y su aporte no es en todo el proceso de desarrollo de software", precisa.
EXPERTO COMENTA SOBRE LAS HERRAMIENTAS MÁS USADAS: La IA generativa ayuda a resolver tareas simples y complejas, pero se advierten riesgos Esta tecnología tiene el potencial de ayudar a los desarrolladores de software a complementar su trabajo; por ejemplo, en la generación, depuración y revisión de código, o la asistencia en programación. Los modelos de GenAI requieren supervisión humana para corregir posibles errores o resultados indeseados. EL MERCURIO Algunas herramientas que utilizan los principios de la IA generativa en el desarrollo de software son Codex, AlphaCode, Replit, Codex, CodeWhisperer, Tabnine, CoPilot y ChatGPT. AFP.