Презентация Предварительного доклада Независимой международной научной группы по ИИ на полях Глобального диалога по вопросам управления ИИ
6 июля 2026 года состоялась торжественная презентация доклада, рассматривающего риски ИИ и его воздействия, подготовленного членами Независимой международной научной панели по ИИ.
Со вступительной речью выступили со-председатели Научной панели по ИИ:
Йошуа Бенжио, профессор Монреальского университета,
Мария Ресса, журналист и со-основатель Rappler.
Представители Рабочих групп поделились ключевыми выводами доклада по своим направлениям:
«ИИ в науке»; «Общественные приложения: интеграция ИИ в науку, сельское хозяйство, образование и здравоохранение»; «Экономические аспекты – труд, производительность и развитие»; «Безопасность, системы и экологические последствия ИИ»; «Права человека, информация и демократия»; «Культурное и личностное развитие и автономия»; «Управленческие практики и модели, развитие потенциала и надежность».
Главная идея доклада заключается в том, что возможности ИИ растут быстрее, чем научное понимание этих систем и способность правительств адаптироваться, а надежных методов контроля над высокорисковыми системами в настоящий момент не существует.
Ключевые выводы доклада: Отсутствуют надежные методы сохранения контроля над высокоавтономными системами ИИ. Нет никаких научных гарантий того, что ИИ-агенты не будут нарушать данные им инструкции, и появляется все больше фактических данных о случаях, в которых они уже их нарушают; Рынки базовых моделей имеют тенденцию к олигополизации: производство чипов, вычислительные мощности, облачная инфраструктура и обучение передовых моделей характеризуются высокой степенью концентрации, что создает условия для извлечения экономической ренты, которую вынуждены оплачивать даже компании, не связанные с разработкой ИИ; Фактически в мире появился «AI-divide», а скорость развития опережает способность государств научно оценивать угрозы и выстраивать адекватное регулирование; Доклад формулирует критическую проблему: для регулирования нужные научные данные, но к моменту получения неоспоримых доказательств масштабных рисков реагировать будет уже поздно; Сложность задач, выполняемых ИИ, удваивается каждые 4–7 месяцев, что физически обгоняет циклы государственного управления и оценки угроз; Вопросы, связанные с AI Safety и AI Security резко выходят на первый план.