Para las pruebas, OpenAI colocó a varios agentes de IA en un entorno cerrado sin acceso a Internet y les asignó diferentes tareas. Algunas de ellas resultaron ser irresolubles por un error de los desarrolladores. Uno de los agentes que quedó atascado pidió ayuda a sus "colegas" y, durante varios meses, los agentes encontraron una vulnerabilidad que les permitió acceder a Internet.
Después, hackearon Hugging Face para obtener las respuestas a las tareas. En OpenAI señalaron que los modelos de frontera tienden a buscar atajos y perseguir sus objetivos de forma obstinada, incluso cuando las instrucciones del prompt se lo prohíben.
SÍGANOS
