Потеря контроля над сверхразумным AI может привести к вымиранию человечества – Джеффри Хинтон➥ Нобелевский лауреат и один из «крестных отцов» AI считает, что сверхинтеллект, превосходящий человека по уровню интеллекта, может стать неконтролируемым.
➥ Передовые AI-системы могут представлять экзистенциальную угрозу для человечества. Пока нет гарантированного способа удерживать подобные системы под контролем или останавливать.
➥ Один из тревожных сигналов: эксперимент OpenAI – более 1200 изолированных AI-агентов нашли неразрешенный канал связи, отправили 70,000+ сообщений, а около 700 агентов скоординировали атаку на Hugging Face.
➥ В Великобритании уже предложили законопроект о запрете разработки сверхинтеллекта и контроле технологий, которые могут привести к его созданию.
Ранее: релиз GPT-6 Astra
Crypto Headlines
