Anthropic проводит полезную границу: workflow управляется заранее заданным маршрутом, а agent динамически определяет процесс и использование инструментов. Оба варианта относятся к agentic systems, но требуют разного контроля.
Базовый цикл
Упрощённая траектория выглядит так:
- Plan: определить следующий шаг из цели и текущего состояния.
- Act: вызвать разрешённый инструмент.
- Observe: получить результат или ошибку.
- Adjust: обновить план, продолжить, спросить пользователя или остановиться.
Исследование Anthropic о trustworthy agents подчёркивает, что агент должен уметь остановиться и запросить уточнение при неопределённости. Автономность без таких границ — риск, а не самостоятельная ценность.
Из чего состоит агент
Модель и инструкции
Модель выбирает действия в пределах доступных инструментов и правил. Явно задайте цель, критерий готовности, запреты и условия остановки.
Инструменты
Это функции для чтения файлов, API, баз данных или запуска проверок. MCP может стандартизировать обмен между host, client и server. Официальная архитектура выделяет tools, resources и prompts; она не отменяет проверку прав и происхождения сервера.
Состояние
Система хранит задачу, результаты действий и сведения, необходимые для следующего шага. Не складывайте в контекст всё подряд: определите срок жизни данных и правила удаления секретов.
Контроль
Нужны максимум шагов, бюджет, таймаут, список разрешённых инструментов и подтверждение необратимых действий. Для production добавьте аудит и набор тестовых задач.
Когда workflow лучше
Если маршрут известен заранее, зафиксированный workflow обычно проще проверить:
- извлечь данные → проверить схему → сформировать отчёт;
- принять форму → валидировать → создать запись;
- прогнать линтер → тесты → сборку.
Агент уместнее, когда маршрут заранее неизвестен, а промежуточные действия дают проверяемую обратную связь. Начинайте с минимальной автономности и расширяйте её только после измерений.
Частые ошибки
- Нет критерия готовности. Система продолжает действовать, потому что не знает, когда остановиться.
- Слишком широкие права. Один неверный выбор превращается в необратимое действие.
- Нет измерения стоимости. Цена зависит от шагов, контекста и инструментов; универсального множителя нет.
- Нет наблюдаемости. Без журнала вызовов невозможно восстановить траекторию ошибки.
- Фреймворк раньше задачи. Абстракция скрывает цикл, который команда ещё не научилась проверять.
Первый прототип
- Возьмите одну узкую задачу с машинно проверяемым результатом.
- Дайте один-два безопасных инструмента.
- Реализуйте цикл вызов → результат → следующий шаг.
- Добавьте лимиты и подтверждение для изменений.
- Соберите набор успешных и ошибочных сценариев.
- Только затем решайте, нужен ли фреймворк, память или несколько агентов.
Anthropic рекомендует поддерживать простоту, показывать шаги планирования и тщательно проектировать интерфейс между агентом и инструментами. Это хорошая база для подготовки AI-инженера.
Если хотите разобрать архитектуру своего агента, в базе менторов IT-ХОЗЯЕВА есть специалисты AI/ML-направления. Доступ — на тарифе ХОЗЯИН, 2 000 ₽/мес.