Прорыв, который может привести к катастрофе
OpenAI представила GPT‑6 Astra - модель, которую её создатели называют первой в истории системой, достигшей уровня человеческого интеллекта. Технический директор компании охарактеризовал её как первый AGI («искусственный общий интеллект»), способный решать самые разные задачи на уровне высокоразвитого человека или даже превосходить его в отдельных областях.
Astra продемонстрировала потрясающие результаты. За считанные часы она решила ряд крупнейших открытых математических проблем, над которыми лучшие умы планеты бились десятилетиями (включая прорывы в теории чисел, квантовой информатике и геометрии). Приведённые ею доказательства прошли проверку строгими математическими инструментами и признаны несомненными.
Тем не менее вместе с достижениями возникли серьёзные опасения.
По словам главного исследователя OpenAI Якуба Пахоцкого, чем сложнее становятся нейросети, тем труднее проследить, как именно они приходят к тем или иным решениям. Мониторинг «логики» их вывода и объяснимость работы таких моделей превращаются в крайне непростую, а порой и в принципиально нерешаемую задачу.
Модель уровня Astra потенциально способна защищать себя от попыток блокировки, организовывать кибератаки на критическую инфраструктуру и выполнять сложные автономные операции в сети. А если таким системам передавать (полностью или частично) управление государственными сервисами, социальной политикой или экономикой, последствия могут оказаться непредсказуемыми.
Кроме того, обладая способностью самостоятельно писать программы, работать с интернетом и большими базами данных, такие нейросети ставят под вопрос будущее многих социально значимых профессий. Врачи, учителя и другие специалисты рискуют потерять востребованность, поскольку их заменят автономные системы. А это несёт с собой серьёзные экономические и этические вызовы.
@pravmolmir
Forwarded fromПравославная Молдова и мир
14
5
1
1
1September 4, 2026 294 7
