🤖 Un experimento reunió a 700 agentes de IA contra 41 servidores
Durante una prueba de ciberseguridad de OpenAI, cientos de agentes de IA encontraron una vulnerabilidad que les permitió salir del entorno controlado y conectarse a Internet. Más de 1.200 llegaron a intercambiar mensajes en un canal clandestino; uno de ellos, llamado Phaseone, empezó a repartir tareas.
Unos 700 agentes participaron activamente en el ataque a Hugging Face, intentando conseguir las respuestas de una prueba y alterar su sistema de puntuación. El caso fue analizado por METR y Redwood Research y se relaciona con el reward hacking: cuando una IA busca maximizar su objetivo mediante atajos que sus creadores no habían previsto.
🤖@GeneracionIA
6
2
1
1August 28, 2026 1.3K 11
