Бывший исследователь OpenAI и Anthropic уволился из-за страха, что AI может уничтожить человечество.Джейкоб Коксон, занимавшийся предварительным обучением AI-моделей, заявил, что ведущие лаборатории фактически участвуют в гонке за создание самоулучшающегося сверхинтеллекта:
«Люди, создающие AI, искренне верят, что он может убить нас всех к концу десятилетия».
По его словам, в Anthropic риски понимают особенно хорошо, но продолжают гонку, опасаясь, что сверхинтеллект первой создаст другая компания.
Самое интересное, что с ним публично согласился действующий специалист Anthropic по AI-безопасности Эван Хубингер.
Он оценивает вероятность того, что AI уничтожит человечество в течение следующего десятилетия более чем в 10% и признает, что готового решения проблемы безопасности сверхинтеллекта пока нет.
Crypto Headlines
