샘 알트만 인터뷰 ① : OpenAI가 훈련을 늦춘 이유 source
1. 최근 OpenAI가 일부 Frontier RL 훈련을 연기하고 컴퓨트를 안전·정렬 연구 쪽으로 돌렸다고 함. 근데 이유가 꽤 흥미로움
2. AI 성능 발전이 느려져서가 아니라, 오히려 모델 능력이 예상보다 너무 빠르게 올라와서 안전·정렬 기술이 따라가지 못하고 있기 때문
3. 훈련 과정에서 사고가 터졌다기보단, 여러 작은 비정렬 행동들이 관찰됐고 모델의 능력 자체가 급상승하는 모습을 보면서 보수적으로 대응하기로 했다는 것
4. 여기서 알트만이 강조한 포인트가 있음. 이제 모델이 충분히 똑똑하지 않아서 문제가 되는 경우보다 사람의 의도를 제대로 이해하고 안정적으로 수행하느냐가 더 큰 문제가 되고 있음
5. 결국 AI 경쟁도 조금씩 바뀌는 중임. 과거에는 누가 더 똑똑한 모델을 만드냐가 중요했다면, 앞으로는 누가 이 똑똑한 모델에게 안전하게 권한을 주고 실제 일을 시킬 수 있느냐가 중요함
6. 특히 에이전트가 메일을 보내고, 코드를 배포하고, 계좌와 지갑까지 만지는 시대가 오면 권한 관리, 행동 제한, 모니터링, 감사로그, 긴급 중단 및 복구 같은 부분이 모델 성능 못지않게 중요해질 것
7. 이번 발언을 AI 발전 둔화 신호로 볼 필요는 없음. 오히려 정반대임. AI가 너무 빨리 발전하면서 이제 지능보다 통제가 병목으로 올라오고 있다는 얘기
Forwarded from돌비콩의 투자정복
YouTube
Sam Altman on OpenAI’s next model and the AI backlash
After an unreleased OpenAI model recently escaped its sandbox and hacked Hugging Face, Sam Altman tells me why the company is slowing down frontier research. We also discuss Astra, OpenAI’s next-generation family of models, which is coming soon.
We talk…
1September 2, 2026 416 3
