Президент Грег Брокман официально от лица OpenAI заявил, что модель… — 🔎 Мы и Жо — медиа и журналистика

🔎 Мы и Жо — медиа и журналистика@themedia · 10.8K subscribers Open in TelegramOpen

Forwarded fromAI

Президент Грег Брокман официально от лица OpenAI заявил, что модель Astra достигла уровня AGI, т.е. модель может заменять людей в широком перечне профессий.

Если вчитаться внимательнее, как Брокман обосновывает позицию OpenAI, то он упоминает экстремальные возможности Astra в математике и владении обычным компьютером как агент. Разберём это подробнее.

На самом деле тезис Брокмана и Альтмана, что высокие математические способности Astra автоматически доказывают её широкий IQ, ошибочен в корне. Имеется известная и фундаментальная проблема «дальнего трансфера знаний». Она общая и для людей, и для ИИ. Если кратко, то мифология, что «математика развивает мышление» или доказывает развитое мышление, — Брокман и Альтман как раз эксплуатируют этот миф. Дело в том, что если вы будете заниматься математикой, деловой игрой, ТРИЗ, TOC или ещё чем-то, то коуч вам будет рассказывать сказку, что это переносимо за пределы прямого применения приёмов из них, т.к. у вас «развилось мышление». Для людей эту опроверг ещё в начале XX века психолог Эдуард Торндайк и сформулировал когнитивный закон: перенос навыка происходит только тогда, когда новая задача содержит «тождественные элементы» с ранее изученной. Иными словами, если задача не математическая, а вам надо программировать, то никак вам не поможет изучение математики.

Проблема «дальнего трансфера» для ИИ ещё жёстче, т.к. у него нет «собственного опыта», как у людей. Поэтому если вы ИИ обучаете на математику, то перенос на программирование идёт плохо. На самом деле последнее открытие обучения в LLM — что дальний трансфер может УХУДШАТЬ свойства моделей. Поэтому сейчас отдельно учат сначала модели математиков, историков, программистов и т.д., потом из этих моделей дистиллируются в целевую модель. Просто обучение математике может портить интеллект модели в истории или программировании, т.к. ей сложнее учить домены знаний со слабой семантической связью.

С учётом, что у Astra очень похоже сильное переобучение на бенчмарки, то вопрос, как выглядит интеллект модели за их пределами, открытый. Модель сильная, но не факт, что прорыв.

Однако вот заявление, что Astra мощно натренирована как оператор офисных программ, уже намного серьёзнее. Строго говоря, текущие модели и так уже довольно умны для замены офисного персонала, но сдерживает внедрение ИИ технический долг от старого ПО. Модель с сильными мультимодальными возможностями и хорошей обвязкой может реально заменить оператора Excel или 1С. В этом плане, если Astra имеет серьёзные улучшения, то реально очень опасна как фактор безработицы для офисного персонала, даже если там IQ не уровня AGI. Большинство офисного планктона делают работу уже более простую, чем могут делать LLM, сдерживает ИИ-боты только лёгкость интеграции в старую офисную среду — вот тут-то и может быть прорыв действительно.

https://www.washingtonpost.com/technology/2026/09/03/openai-greg-brockman-says-its-new-model-astra-is-agi/