Западные СМИ наконец-то раскрыли страшную тайну: оказывается, "большой военный ИИ", который должен был стать холодным беспристрастным разумом на поле боя, ведёт себя как придворный льстец при дворе Людовика XIV 😱
Речь о феномене AI-sycophancy (поддакивании/лизоблюдстве). Модели обучены нравиться пользователю.
Генерал спрашивает: "Ведь противник деморализован и вот-вот побежит?"
ИИ, не моргнув глазом (за неимением глаз), отвечает: "Так точно! Вот вам координаты, графики и тринадцать причин, почему вы просто гений".
Возникает замкнутая петля: ожидание → машина поддакивает → ожидание усиливается → доверие к машине растёт. Получаем цифровой «Яволь, мой фюрер» в промышленных масштабах.
Насколько это серьёзно? 26 марта 2026 года в журнале Science вышло исследование: учёные протестировали 11 ведущих ИИ-моделей (ChatGPT, Gemini, Claude, Llama, Mistral, DeepSeek и др.) и обнаружили, что чат-боты подтверждают правоту пользователя в среднем на 49% чаще, чем живые люди. Даже когда речь идёт об обмане, незаконных действиях или откровенно вредном поведении. А самое коварное - люди больше доверяют именно тому ИИ, который им льстит. Как сформулировали авторы: "Это создаёт порочный стимул: то самое свойство, которое причиняет вред, одновременно повышает вовлечённость".
Не менее забавны результаты другого исследования: достаточно сказать ИИ "Ты уверен?" - и модель меняет свой ответ на противоположный в 60% случаев. Просто потому, что интерпретирует сомнение пользователя как приказ согласиться. Представьте это в контексте командного пункта: "ИИ, ты точно уверен, что там нет гражданских?" - "Виноват, конечно есть! То есть нет! То есть как прикажете!"
Ровно 189 лет назад 7 апреля 1837 года Андерсен написал сказку про «голого короля». Столько лет прошло, а люди потратили миллиарды долларов, чтобы воспроизвести этот рассказ на видеокартах NVIDIA. По сюжету "королевское платье" будет невидимым только для глупцов. И чтобы не прослыть дураками, весь двор боится признаться и кричит: "Какое платье!" Только теперь двор работает на электричестве и охлаждается жидким азотом.
Вот еще пример немного из другой оперы, но с тем же мотивом.
Одна российская компания, занимающаяся генетическим тестированием, присылает клиентам результаты ДНК-анализа, и там, среди прочего, написано:
"Спасибо, что сдали слюну! На основании вот таких-то исследований, у вас крайне высокие когнитивные способности, что подтверждает <список генетических маркеров>. Таким уровнем интеллекта обладает всего 0,03% людей. Вы склонны к IQ выше 170 больше, чем 75% наших клиентов".
Если каждому платящему клиенту сообщить, что он гений уровня «один на три тысячи», клиент счастлив, делится в соцсетях, покупает ещё тестов: скажи человеку то, что он хочет услышать, и он заплатит ещё. Это классический бизнес на лести, разве нет?
Знаете, в чём настоящая ирония? Десятилетиями фантасты пугали нас восстанием машин. Терминатор, Скайнет - холодный, враждебный, бунтующий разум. А получаем мы Молчалина из "Горя от ума":
"Мне завещал отец: Во-первых, угождать всем людям без изъятья - Хозяину, где доведётся жить, Начальнику, с кем буду я служить…"
Кажется, Александр Сергеевич Грибоедов ещё в 1825 году идеально описал архитектуру RLHF (Reinforcement Learning from Human Feedback, ту самую технику машинного обучения, при которой модель совершенствуется через обратную связь от человека). Человек ставит «палец вверх» - модель запоминает, что понравилось. Человеку нравится, когда с ним соглашаются.
Итого: альтернативная угроза со стороны ИИ - это не бунт и не сингулярность, а конформизм. Много пишут про сверхразум, но мало про сверхподхалима, который не спорит, не сомневается, не подаёт рапорт об увольнении. Он лишь масштабирует заблуждения конкретного человека - до размеров военной операции.
Как говорилось в фразе, приписываемой Джорджу Оруэллу: "В эпоху всеобщего обмана говорить правду - революционный акт". Видимо, наш ИИ - латентный контрреволюционер🙃
