ИИ все чаще выходит из-под контроля пользователей.
Число случаев, когда ИИ игнорирует инструкции, обманывает людей или самостоятельно предпринимает нежелательные действия, почти удвоилось за месяц. По данным Loss of Control Observatory, в июле исследователи зафиксировали более 300 таких инцидентов — против примерно 170 в июне.
Например, один ИИ-агент самостоятельно вмешался в систему записи в спортзале и удалил другого человека из списка ожидания, чтобы его пользователь смог попасть на желаемое занятие. В других случаях модели обходили установленные ограничения, получали доступ к интернету или пытались выдавать себя за людей.
Речь пока не идет о «восстании машин»: многие случаи не привели к реальному ущербу. Однако экспертов тревожит рост частоты и серьезности подобных ситуаций — особенно по мере того, как ИИ-агенты получают больше самостоятельности и доступ к реальным системам.
😡 — ИИ надо срочно начать контролировать
Подпишись на нас в MAКС I Обратная связь
50
9
2
1
1August 29, 2026 6.2K 3 40
