Вы замечали, что уверенному человеку больше хочется верить? Складная речь, выраженные интонации, широкий словарный запас, структурированное послание... Так и хочется поставить лайк.
Это широко известный феномен. Называется "презвдятость доверия".
- Ясно написанный текст кажется глубже, а его автор - умнее.
- Два раза повторённый тезис выглядит более правдивым. Действительно, просто повторив уже сказанное, мы склоняем людей к тому, чтобы они с нами согласились.
- Читаемый шрифт тоже увеличивает вероятность, что написанное примут на веру.
Всё описанное выше касается... нет, не моего поста... о чем вы? Искуственного Интеллекта.
Скорость и чистота его речи заставляют людей систематически переоценивать его способность к мета-когниции.
Выражаясь проще: ИИ говорит слишком изысканно для своего уровня способностей.
Нейронки не так хороши, как многим показалось. В 45% случаев они неверно интерпретируют новости, на которые ссылаются, вне зависимости от языка или модели, а "глубокий поиск" буквально у всех компаний просто не способны производить результат без серьёзных ошибок.
Однако, это не самая большая опасность. Действительно пугаться стоит своих собственных мыслей: нейронки охотно и красиво их подтверждают.
В недавней работе учёные заметили занятную штуку: все 11 протестированных моделей соглашались с пользователем на 50% чаще, чем другие люди.
Причём даже в самых неприятных обстоятельствах:
- когда пользователь собирался кем-то манипулировать
- наносить вред
- обманывать
В ответ было подбадривание и одобрение.
Затем учёные провели эксперимент: заставили испытуемых обсуждать личные конфликты с чат ботами.
Результат: люди заметно реже захотели извиниться. При этом, именно льстящие модели нравятся испытуемым.
Простой способ убедиться в своей правоте? Спросить мнения ИИ. Он выдаст такую аргументацию, что сам удивишься, насколько хорошим оказался человеком.
Кому в современном мире хватит сил преодолевать уверенную лесть превосходящего интеллекта?
Наше Сообщество | Наши БАДы
369
116
61
27
18
12
11March 13, 2026 24.5K 54 532
