이번에 그렉 브룩만이 GPT-6 아스트라를 출시하며 'Welcome to the AGI era'를 선언했는데, 이에 대한 그의 자세한 생각을 한번 살펴보자.
---
(Q. 제 생각에 에이전트의 시대가 혁명적인 이유는 실제로 무언가를 적어둘 수 있다는 능력입니다. 그래서 코덱스와 ChatGPT의 전환이 필요했던 거죠. 적어둘 수 있는 능력을 얻었으니까요. 적어두면 기억할 수 있습니다. 기억할 수 있으면 온갖 방식으로 엄청나게 더 유용해질 수 있죠. 질문은 이것이 최종 상태인지, 아니면 지속적으로 학습할 수 있는 LLM이 나올 것이고 그게 AGI인지입니다. 제가 완전히 잘못 생각하고 있는 건가요? 아니면 튜링이 제기했던 질문의 두 번째 부분과 맞아떨어지나요?)
"GB: 네, 이것도 논쟁하기에 아주 흥미로운 분야라고 생각합니다. 사람마다 AGI에 대한 정의가 있어서, 거의 흐릿한 개념이 되어 있거든요. 처음에는 모두가 ‘이게 AGI다’라고 동의하는 특정 시점이 있을 거라고 생각했습니다. 하지만 전혀 그렇게 전개되지 않았어요."
"저는 기술의 구체적인 구현에서 한발 떨어져 추상화된 관점으로 보는 편입니다. 기억이 반드시 가중치에 녹아들어야 하느냐? 이게 트랜스포머냐, 다른 무언가냐? 그런 질문은 세부사항이라고 생각해요. 진짜 질문은 실제 AI에 기대하는 방식으로 작동하는 시스템이 있느냐는 것입니다. 학습하고, 사용자에게 배우고, 사용자의 필요에 적응할 수 있는 무언가가 있느냐는 거죠."
"그게 기억을 적어두는 메모장으로 구현되느냐? 소프트 토큰으로 구현되느냐? 다른 방식으로 구현되느냐? 제게는 그 모두가 이 질문에 대한 가능한 답처럼 느껴집니다. (= 상관 없다는 뜻)"
"분명한 것은 ‘메모장에 적어두기’만으로도 거의 합리적으로 예상할 수 있는 수준을 넘어설 만큼 멀리 왔다는 점입니다. 얼마나 성공적인지 보면 정말 놀랍습니다. 그동안 다른 방향을 강조하는 목소리가 많았거든요. 2년 전이라면 “맞아, 엄청나게 긴 컨텍스트가 필요해. 필요한 건 바로 그거야”라고 했을 겁니다. 그런데 실제로는 ‘메모장에 적어두기’와 더 짧은 컨텍스트만으로도 말도 안 될 만큼 멀리 갈 수 있다는 사실이 드러났어요."
---
(Q. 그러면 방금 아스트라를 출시하셨습니다. 드디어 여기까지 왔네요. 새로 사전학습한 모델인가요?)
"GB. 내부 세부사항이나 아키텍처 같은 것에 대해서는 이야기하지 않고 있습니다. 하지만 엄청난 진전입니다. 저희가 공개하는 사실 중 하나는, 이번이 10만 개 이상의 GPU로 학습한 첫 번째 실행이라는 점입니다. 쉽게 말할 수 있는 숫자지만, 그 규모를 한번 생각해보세요. 어떤 면에서 이 데이터센터들은 AI 기술을 만들어 제공하기 위해 저희가 구축한 거대한 기계입니다. 그만한 컴퓨팅을 활용해 저희가 얻은 수준의 결과를 만들어낸다는 건 실제로 거대한 공학적 과제이자 경이로운 성취입니다."
"그중 일부는 모델의 능력을 높이는 데 쓰이지만, 컴퓨팅의 아주 많은 부분은 안전성과 정렬에 투입됩니다. 그 주변에는 엄청나게 많은 보안 작업도 이루어졌습니다. 이 모델을 안전하게 제공하기 위해 막대한 작업을 했다고 생각합니다. 지금까지 저희가 만든 모델 중 가장 잘 정렬된 모델입니다. 제게는 절대적으로 핵심적인 부분이고, 언제나 그래왔습니다. 하지만 능력이 너무 강력해졌기 때문에, 모두의 업무에서 정렬과 안전성이 한층 더 중심에 서게 됩니다."
---
(Q. 그러면 이건 모델 출시인가요, 제품 출시인가요? 아니면 둘 사이에 차이가 있기는 한가요?)
"GB: 둘은 실제로 경계가 흐려집니다. 우선적으로는 모델 출시라고 말씀드리겠습니다. 하지만 모델의 능력이 질적으로 더 뛰어납니다. 가장 눈에 띄는 것은 아마 컴퓨터 사용일 거예요. 제게는 정말 문턱을 넘어섰습니다. (~) 저희에게는 이런 비전이 있었습니다. 화면의 픽셀, 키보드, 마우스를 다루는 AI를 처음부터 끝까지 통합해서 학습시킬 수 있다면, 실제로 어떤 종류의 과제든 수행할 수 있을 것이다. 사람들이 도움받고 싶은 어떤 일이든 이 AI가 할 수 있을 것이다."
"지난 2년간의 시대를 보면 커넥터의 시대였습니다. 어떤 소프트웨어가 있고, 인간은 아무 문제 없이 사용할 수 있는데, AI는 접근할 방법이 없는 겁니다. 그러면 어떻게 하죠? API에 연결되는 아주 특정한 커넥터를 작성해야 합니다. 그런데 모든 기능이 공개되어 있는 건 아니기 때문에, 원래 할 수 있는 모든 일을 할 수는 없어요. 게다가 API가 없는 소프트웨어도 아주 많습니다. 그런 것들은 완전히 접근 불가 영역이죠. 그러니 AI가 우리를 돕는 데 너무나 많은 제약을 받는, 제한된 세계에 있는 겁니다."
"저는 이제 거의 범용 커넥터에 해당하는 기술을 갖게 됐다고 생각합니다. 물론 모든 문제가 해결됐다는 뜻은 아닙니다. AI가 하는 일에 기업 차원의 안전장치를 어떻게 둘 것인지 생각해야 합니다. 적절한 감독과 관리, 추적, 관측 가능성을 어떻게 확보할 것인지도요. 저희는 그 모든 것을 작업하고 있습니다."
"그래서 저는 이것을 이 능력을 활용할 수 있도록 제품을 보급해나가는 연속적인 과정으로 보겠습니다. 하지만 이미 OpenAI 내부에서 사람들이 일하는 방식을 바꾸고 있습니다. 그리고 정말 수많은 기업과 개인의 역량을 끌어올릴 것이라고 생각합니다."
---
(Q. 결국 AI가 통제 가능할 것이라고 말씀하시면서, 동시에 “규칙을 너무 많이 두지 마라. 알아서 해결할 것이다”라고 하시는 거죠. 그걸 충분히 먼 미래까지 펼쳐보면, 궁극적으로 통제 불가능해진다는 이야기 아닌가요?)
"GB: 바로 그게 지금 이 순간, 우리가 들어선 새로운 단계의 핵심이라고 생각합니다. 어떤 면에서는 이제 AGI 시대에 들어섰다고 말하고 싶습니다. 지금 이 순간의 핵심은 바로 그것이라고 생각해요. 이전 모델이었을 수도 있고, 아스트라일 수도 있고, 다음 모델일 수도 있지만, 그 어딘가에서 대부분의 사람이 생각하는 AGI의 문턱을 넘게 될 거라고 봅니다."
https://stratechery.com/2026/an-interview-with-openai-president-greg-brockman-about-astra-and-alignment/
Forwarded from전종현의 인사이트
Stratechery by Ben Thompson
An Interview with OpenAI President Greg Brockman About Astra and Alignment
An interview with OpenAI President and Co-Founder Greg Brockman about the history of OpenAI, Astra and alignment, and the weight of building the future.
September 5, 2026 1.9K 32
