Herramienta predictiva mejora la mejora continua de sistemas de inteligencia artificial
Investigadores han desarrollado un modelo capaz de evaluar los posibles errores de las modificaciones de código propuestas por agentes de IA, superando el desafío de hacer que los programas se mejoren sin generar fallos inesperados.
La capacidad de mejorar el propio código es un tema central en el desarrollo de la inteligencia artificial, pero modificar sistemas de software introduce el riesgo de degradar funcionalidades existentes. Un pequeño cambio en el código o en las instrucciones de un programa puede alterar el comportamiento de manera imprevisible. Ante este dilema, un equipo de investigadores procedente de la Universidad de Virginia, Microsoft Research y la Universidad de Tsinghua presentó un sistema que busca orientar los intentos de mejora mediante la predicción de fallos.
Este sistema no se enfoca en reentrenar completamente la inteligencia artificial, sino en mejorar los programas y las instrucciones de trabajo que utiliza. El objetivo general es dirigir de manera más eficiente los intentos de optimización.
El núcleo de la investigación gira en torno a un sistema denominado HyperAgents. Este sistema simula la interacción de dos agentes de IA: uno se encarga de ejecutar tareas específicas, y el segundo actúa como un agente de mejora, modificando tanto el código como las instrucciones de ambos componentes. Para gestionar la complejidad de las modificaciones, el sistema almacena los resultados de las versiones anteriores, utilizando esta experiencia para guiar los cambios futuros.
Para determinar si una modificación es apropiada, los investigadores integraron un componente llamado Improvement Dynamics Model (IDM). Este componente analiza el cambio propuesto por el agente y utiliza la trayectoria de experiencia acumulada para estimar posibles consecuencias. El IDM puede diferenciar entre escenarios de fallos, como una respuesta incorrecta o la incapacidad de completar la tarea por completo. Si predice un deterioro, el sistema permite realizar una revisión adicional antes de evaluar la versión resultante.
Los resultados de las pruebas de programación arrojaron mejoras significativas en la eficiencia. Cuando se evaluó el desempeño de los agentes con
Fuentes: Xataka
Foto de Steve A Johnson en Unsplash