오픈AI 수석과학자 야쿠브 파초키는 내부 연구 결과를 토대로 현재의 AI 발전 속도가 재귀적 자기개선 단계까지 이어질 가능성이 높다고 전망. 향후 수년간 AI 시스템의 능력이 현재와 비슷하거나 더 큰 폭으로 도약하고, 자체 연구개발 과정에도 점점 더 깊이 관여할 것으로 예상.
파초키는 현재 어떤 AI 연구소도 정렬과 모니터링 문제에서 충분한 진전을 이루지 못해 최고 속도로 모델을 장기간 책임 있게 확장할 수 있는 수준에 도달하지 못했다고 지적. 공동의 안전 기준이 마련되기 전까지 자발적인 개발 속도 조절이 일반화될 것으로 예상하며 이를 희망한다고 밝힘. 향후 AI 개발은 각국 정부가 국제 공조의 우선 과제로 다뤄야 한다고 강조.
오픈AI는 정렬 및 모니터링 기술 연구와 방어 시스템 구축을 지속하고, 필요한 경우 추가적인 모델 확장을 일방적으로 중단할 방침.
파초키는 GPT-6 아스트라에 장기간 연구해 온 일부 정렬 기술이 적용돼 GPT-5.6 솔 대비 상당한 개선을 이뤘다고 설명. 다만 모델이 자체 추론을 더욱 능숙하게 제어하고 도구와의 상호작용이 늘어나며 비언어적 추론 능력까지 향상됨에 따라 사고 과정에 의존한 모니터링의 효과는 점차 감소하고 있다고 지적.
15
10September 8, 2026 10.1K 14
