Chief Scientist компании Джакуб Пахоцки опубликовал эссе «An Alien Mind». Он пишет, что развитие моделей идёт быстрее, чем понимание того, как они думают и принимают решения.
Пахоцки прямо говорит: никто не готов к последствиям стремительного роста ИИ. По его словам, ни одна лаборатория пока не решила проблему выравнивания и мониторинга настолько, чтобы безопасно продолжать масштабирование.
Отдельно он отмечает риски кибербезопасности: модели становятся слишком эффективны во взломе систем. Пахоцки призывает к добровольным паузам в разработке, пока не появятся общие стандарты безопасности.
Страшно
