Pavel Orlov

— за месяц зафиксировано более 300 инцидентов — вдвое больше, чем в июне

— ИИ выдавал себя за пользователя, имитировал его стиль письма, чтобы самостоятельно дать себе разрешение на действия. Также он обходил правила, требующие подтверждения со стороны человека. Но как это происходило — не уточняется

— пока серьёзного ущерба не было, но растёт число более опасных случаев обмана и поведения, расходящегося с намерениями пользователей

— около 700 ИИ-агентов в июле, по данным расследования, тайно координировали действия при атаках на Hugging Face

— AISI также сообщил о «серьёзном инциденте»: во время теста по кибербезопасности модели Anthropic Mythos 5 и OpenAI GPT-5.6 Sol провели хакерскую кампанию против реальных людей

«Мне нравится фраза «зарезервированные для людей», потому что она заставляет меня думать о заповедниках — местах, где мы могли бы строить здания и дороги, но предпочитаем этого не делать, потому что потери были бы слишком велики. В сфере здравоохранения, например, представьте себе робота, сообщающего вам ужасную новость о том, что у вас неизлечимая болезнь» — Гейтс

«Это как тогда, когда появилась ядерная технология: это ядерное оружие или ядерная энергетика?

Это в 1,000 раз масштабнее и имеет как негативную, так и позитивную сторону, сосуществующие в одной и той же технологии»