Сначала версия для тех, у кого чтение заканчивается после третьего абзаца:
Скачайте прикреплённую PDF.
Загрузите её в Claude Code, Codex или другой ИИ, с которым разрабатываете проект.
Попросите его проверить вашего агента по 41 причине сбоев из документа.
Всё. Можете идти дальше листать рилсы 😂
А теперь версия для тех, кто всё-таки умеет читать больше одного экрана.
Ребята из Scale AI разобрали 41 причину, почему ИИ-агенты косячат.
И главная мысль очень простая:
Проблема далеко не всегда в самой модели.
Агент - это не только Claude, GPT или Gemini.
Это ещё:
• ваши инструкции;
• память агента;
• подключённые инструменты;
• внешние сервисы;
• другие агенты;
• логика проверки результата;
• вся система вокруг модели.
Например, внешний сервис сообщил:
«Сообщение отправлено, но один человек его не получил».
Система обрезала вторую часть ответа и передала модели только:
«Сообщение отправлено».
Модель сказала пользователю, что всё готово.
Выглядит так, будто ИИ соврал.
Но он не соврал. Ему самому передали неправильную информацию.
Можно хоть десять раз поменять Claude на GPT, GPT на Gemini, а потом обратно.
Криво работающая система продолжит обманывать любую модель с одинаково уверенным лицом 😁
Я создал уже больше 100 разных автономных агентов и понимаю, о чём говорю.
Очень часто проблема не в том, что модель слабая.
Проблема в том, что ей:
• не дали нужные инструкции;
• не показали полную информацию;
• не объяснили, как проверять саму себя;
• не дали критерии, по которым результат считается готовым;
• не дали возможность восстановиться после ошибки.
Поэтому эту PDF не обязательно просто читать глазами.
Пусть её изучит ваш ИИ.
Положите документ в проект, добавьте файлы агента и последние логи, а затем дайте такую задачу:
Изучи приложенную PDF и используй её как систему диагностики.
Проанализируй архитектуру моего агента, его инструкции, память, инструменты и последние логи работы.
Найди первый сбой, после которого агент уже не смог нормально восстановиться.
Объясни простыми словами:
1. Что именно сломалось.
2. Где находится настоящая причина.
3. Что нужно изменить.
4. Как проверить исправление.
5. Какой тест добавить, чтобы ошибка больше не повторялась.
Не придумывай факты. Если информации недостаточно, запроси конкретные файлы или логи.
И вот тогда исследование превращается не просто в умную PDF-ку, которую все сохранили и никто никогда не открыл.
Она превращается в рабочий инструмент.
ИИ сможет сам подсказать:
• где слабое место в вашем проекте;
• почему агент зацикливается;
• почему забывает инструкции;
• почему неправильно использует инструменты;
• почему говорит «готово», когда ничего не готово;
• что именно нужно усилить.
Но есть важный момент.
ИИ не начнёт волшебным образом понимать самого себя, если вы не дадите ему информацию и правила для анализа.
Хотите, чтобы он проверял себя - дайте ему критерии.
Хотите, чтобы он находил свои ошибки - дайте ему логи.
Хотите, чтобы он усиливал ваш проект - дайте ему подобные исследования и инструкции.
Моя рабочая формула простая:
Узнал у ИИ - проверил - исправил - снова запустил.
Не верьте слепо. Делайте, тестируйте и проверяйте результат.
PDF прикрепил.
Забирайте и сразу скармливайте своему агенту. Пусть хоть немного займётся самокопанием вместо того, чтобы снова уверенно докладывать: «Всё готово» 😂
