Он считает, что крупнейшие ИИ-лаборатории несутся к созданию сверхразума, хотя сами сотрудники всерьёз допускают сценарий, при котором такой ИИ может уничтожить человечество до конца десятилетия.
• По словам Коксона, в Anthropic риски прекрасно понимают, но продолжают гонку по принципу «если не мы, то кто-то менее ответственный».
• Он предупреждает, что будущие системы смогут взламывать почти что угодно, за ночь переворачивать целые отрасли и получать реальную власть и ресурсы.
• Даже другой начальник из Anthropic — Эван Хубингер — публично поддержал его опасения и оценил вероятность гибели человечества от ИИ более чем в 10% в ближайшие десять лет.
Сам Коксон теперь призывает хотя бы временно замедлить гонку, прежде чем мы получим Скайнет
