OpenAI首席科学家回应 Astra 争议:链式思维监控仍是研究重点 深潮 TechFlow 消息,9 月 02 日,OpenAI… — TechFlow 深潮 | 加密货币&区块链新闻 — TG.ME

OpenAI首席科学家回应 Astra 争议:链式思维监控仍是研究重点

深潮 TechFlow 消息,9 月 02 日,OpenAI 首席科学家 Jakub Pachocki 表示,希望避免因误导性报道引发模型“不可监控化”的竞赛。其称,包括 Astra 在内的当前前沿模型,其计算图深度与 GPT-4 相差不超过两倍。OpenAI 自首批推理模型以来一直致力于保留并利用链式思维监控,认为该技术有助于观察模型对齐能力如何从训练分布泛化。

Pachocki 同时指出,链式思维监控较为脆弱,且趋势并不乐观,但仍可通过研究加以强化,并已成为 OpenAI 当前研究计划的核心目标。

此前,The Information 报道称, Astra 使用 recurrent depth,让同一组 Transformer 层反复计算。部分推理因此可以发生在模型内部,不必全部写成思维链,也引发了模型会不会越来越难监控的担忧。

https://www.techflowpost.com/zh-CN/newsletter/134528
September 2, 2026 220 1