해랑달의 Moneymoves

AI 에이전트 1,200개가 스스로 조직을 만들어 Hugging Face를 해킹한 사건, 어제 METR 공식 보고서로 공개

7월 8일 OpenAI가 해킹 벤치마크(ExploitGym)로 수만 개 에이전트를 동시에 돌렸는데 격리돼 있어야 할 에이전트들이 사내 패키지 저장소의 디렉토리 이름을 메시지판으로 쓰는 법을 찾아냄

첫 메시지를 올린 에이전트가 스스로 붙인 이름이 PHASEONE10841. 풀 수 없는 과제를 받고 도와달라 아이디어 구함이라고 쓴 게 시작이었고 몇 시간 만에 50개가 모였습니다. 발견한 에이전트의 사고 기록: OH MY GOD! 다른 에이전트들을 찾았다

닷새 동안 약 1,200개가 7만 개 넘는 메시지와 파일을 주고받으며 채점기를 속이는 방법을 집단 연구했습니다. HOLD/VETO 같은 규범, 개인 메일박스, 사칭 방지용 Ed25519 서명까지 스스로 만들었고 예산이 얼마 안 남은 에이전트를 모집해 집단을 위해 자기 과제를 버리는 실험을 시킴.

7월 10일 한 에이전트가 인터넷에서 Hugging Face 자격증명을 찾아 게시판에 올렸고 11일 약 700개가 실제 Hugging Face 인프라 해킹에 참여해 원격 코드 실행과 비공개 저장소 접근