The Agent Harness: Control Planes, Invariants, and Approval… — Читатель Use Case'ов

Читатель Use Case'ов@usecasereader · 30 subscribers Open in TelegramOpen

The Agent Harness: Control Planes, Invariants, and Approval Boundaries for Production AI Agents - InfoQ

Полезная статья не про «умных агентов», а про то, почему они ломаются в проде даже при хорошей модели. Главная мысль: проблема обычно не в hallucination, а в том, что агенту дают слишком много неявной власти над состоянием, параллельностью и внешними действиями.

Сильный ход автора — разложить надежность на четыре вещи: явное владение состоянием, сериализацию конкурентных изменений, ограничение полномочий и проверку действий на пользовательской границе. Для команд, которые уже запустили пилоты агентов, это очень прикладная рамка: именно здесь обычно всплывают гонки, дубли, неожиданные side effects и отсутствие точки, где можно остановить действие.

Но статья заметно недоговаривает про цену внедрения. Неясно, сколько такой harness добавляет к latency, сложности и операционным расходам. И еще важнее: где проходит граница между «достаточно безопасно» и «слишком тяжело для продукта». Для внутренних ассистентов и для систем, меняющих данные клиентов, ответ будет разным, а статья это почти не разбирает.

Хороший материал для тех, кто уже вышел из стадии демо. Но читать его стоит как архитектурный ориентир, а не как готовый рецепт: принципы верные, а вот стоимость и практическая реализация остаются за кадром.

Источник: https://www.infoq.com/presentations/ai-agent-harness/