ИИ решил, что человек опасен. И сдал его ФБР.
Это уже не сюжет из «Чёрного зеркала».
25-летний Даррен Шида Чжоу, бывший финансовый аналитик Goldman Sachs во Флориде, после расставания с девушкой начал обсуждать её с ChatGPT.
Сначала - отношения, ревность и желание вернуть девушку.
Потом появились угрозы изнасилования, похищения и убийства. Чжоу писал, что знает, где она бывает, где паркуется, описывал возможное нападение и несколько раз прямо сообщал о намерении её убить.
В одной из переписок: «Я убью её до конца этого месяца».
В другой: «Если я не могу её иметь, то никто не сможет».
Эти сообщения не генерировал ИИ - их писал сам Чжоу. Но дальше произошло нечто гораздо интереснее.
Система безопасности OpenAI распознала переписку как представляющую серьёзную угрозу. Материалы были переданы сотрудникам компании на проверку, а затем - FBI. В мае федеральные агенты сообщили о пользователе полиции округа Palm Beach.
Иными словами:
человек написал ИИ о преступлении → ИИ определил это как реальную угрозу → компания передала информацию государству → полиция начала расследование → переписка с ИИ стала частью уголовного дела.
13 августа Чжоу признал себя виновным по трём уголовным обвинениям. Суд назначил ему восемь лет probation
(8 лет испытательного надзора "probation", первые два года - с электронным мониторингом, запрет контактов с бывшей девушкой и другие ограничения.)
Но меня в этой истории интересует совсем другое.
А кто, собственно, решил, что человек совершает преступление?
Не суд.
Не полиция.
Не прокурор.
Первым сработал алгоритм.
Он не просто ответил пользователю. Он классифицировал его поведение как опасное и запустил цепочку, которая закончилась уголовным преследованием.
И здесь возникает гораздо более неприятный вопрос:
А если ИИ ошибётся?
Что если алгоритм неправильно поймёт сарказм?
Что если человек пишет художественный текст?
Что если он описывает чужую угрозу?
Что если он обсуждает преступление в исследовательских целях?
Что если ИИ решит, что намерение существует, хотя его никогда не было?
Может ли искусственный интеллект оговорить человека?
Даже если формально решение принимает человек, алгоритм уже может определить, какие сведения этот человек вообще увидит и кого система сочтёт подозрительным.
Это принципиально новая проблема.
Мы привыкли к презумпции невиновности:
человек считается невиновным, пока его вина не доказана судом.
Но появляется новая промежуточная стадия:
«AI считает вас опасным».
А дальше уже люди разбираются, почему.
И это гораздо серьёзнее обычной истории про «ChatGPT сдал пользователя».
Потому что речь идёт о появлении частного цифрового арбитра, который способен самостоятельно определить, какое человеческое поведение является настолько опасным, что о нём необходимо сообщить государству.
Сегодня речь идёт о совершенно конкретных угрозах убийством.
Завтра граница может оказаться намного менее очевидной.
Кто контролирует алгоритм, который определяет эту границу?
И кто будет отвечать, если алгоритм ошибся?
ИИ уже не просто отвечает на вопросы.
Он начинает решать, какие вопросы должны услышать другие.
Источник: The Palm Beach Post, Hannah Phillips, 14.08.2026; судебные документы Palm Beach County. Дополнительно: WPBF, BocaNewsNow.
https://t.me/AIronCurtain
September 2, 2026 4
