[Balun.Courses] Иженерия AI-агентов: с нуля до запуска в prod. Тариф Стандарт (Дмитрий Антипов)

​

Преподает Lead разработки AI-агентов, Группа Сбер (АБТ)
Научимся с нуля создавать и внедрять в процессы сложных AI-агентов на примере pet-проекта — мультиагентной системы с production-архитектурой: памятью, стейтом, автономностью и мониторингом. Без low-code решений

Подойдет разработчикам, которые:

1. Внедряют AI-агентов в существующую инфраструктуру компании или хотят научиться делать это для себя
2. Уже писали агентов и получили неуправляемую «систему» с галлюцинациями, зацикливанием и сжиганием бюджета

Также Будет полезно:

• Tech/Team-лидам
  Узнаете лучшие практики проектирования архитектуры AI-агентов
  
  
• AI-продактам
  Увидите процесс разработки AI-агентов изнутри и будете лучше понимать свою команду

Ограничей по грейду нет, но нужно знать:

• любой backend-язык
• базовые принципы API
• сети и БД на базовом уровне

На практике будем писать агентов с помощью LLM, но в теории покажем примеры кода на Python.
Конструкции будут простыми - проблем с пониманием не возникнет​

В рамках курса научимся:

1. Проектировать архитектуру реального AI-агента с учетом best practices
2. Получать от него предсказуемые и структурированные ответы вместо безумной генерации
3. Обучать агента учитывать и сохранять контекст, не повторяться и вести задачу как процесс
4. Внедрять в агента observability и мониторить качество ответов
5. Безопасно останавливать работу агента, не «сжигать» бюджет и запрещать деструктивные действия
6. Создавать мультиагентную систему с координацией их поведения и взаимодействия

И все это - на примере реального проекта
С нуля напишем своего AI-агента, который будет анализировать GitHub-репозиторий и извлекать бизнес-инсайты из названий коммитов, pr и issue

Но важно, этот AI-агент про:

• источник инсайтов, а не замену всех людей вокруг проекта
• демонстрацию возможностей, которые ты можешь делать с ИИ, а не идеальное open-source решение

Вместо нашего агента можно создавать своего
Если у тебя есть своя идея или реальный проект на работе, можно заниматься своей задачей и по ходу задавать вопросы преподавателю
​

Спойлер: Программа

Урок 1: Введение в концепцию агентов

AI-агенты - самая хайповая концепция, но именно поэтому этим словом
называют все подряд: и простого чат-бота с промптом, и любой скрипт с
 вызовами LLM.
Агенты гораздо глубже и сложнее. В этом модуле разбираемся, что такое агент на самом деле, почему это не фреймворк и не SDK, и закладываем архитектурный фундамент, на котором будет стоять все остальное

Что такое агент и что им не является:

• как мы вообще здесь оказались и почему перестало хватать просто LLM
• агент vs чат-бот vs pipeline vs workflow
• decision framework: когда агент действительно нужен, а когда это оверинжиниринг
• анатомия агентов и agent loop

Паттерны:

• Реагируйте, планируйте → выполняйте (Планируйте и решайте)
• критерии выбора + антипаттерны

Бонусом:

• кратко пройдемся по внутреннему устройству популярных агентов: Cursor, Claude Code, Deep Research
• разберемся, что у них общего архитектурно

Упражняться:

• разбираем архитектуру реального агента по слоям
• собираем наивный прототип Projects Health Agent, который постарается навести порядок в вашем GitLab

Результат:

• понимаешь, где кончается «чат» и начинается агент
• есть рабочий и простой прототип, который будем прокачивать

​

Урок 2: Как агент думает и действует

«Агент работает, но так себе» — мы не уверены, что задача вообще закончится успехом. В этом уроке строим когнитивный и execution-слой как инженерные компоненты

Когнитивный слой:

• основы инференса LLM как рычаги: на что мы можем влиять
• как выбрать модель под задачу
• context engineering: как не впихивать все, что у вас есть
• structured outputs: заставляем модель ответить так, как нам надо

Execution-слой:

• tools: разбираем из чего они состоят
• проблемы дизайна инструментов: «слишком мало/слишком много»
• коротко про MCP: как стандартизировать доступ к тулзам

Упражняться:

• подключаем GitLab API как tools
• вводим строгие схемы output + валидацию/repair loop
• делаем стратегию чтения: агент сам решает, какие MR раскрывать глубже

Результат:

• предсказуемые структурированные инсайты вместо безумной генерации
• агент умеет выбирать контекст и инструменты, а не пихать все в промпт

​

Урок 3: Автономность: память, стейт и контроль поведениях

Добавляем агенту все, чтобы отправить его в свободное плавание: память, состояние и контроль. Здесь мы превращаем реактивную систему в управляемую и автономную

Память:

• краткосрочная / долгосрочная / эпизодическая
• history management и компактизация: хранить / сжимать / забывать

Инженерия состояний и обеспечение устойчивости:

• жизненный цикл состояния
• персистентность: падение / рестарт без потери
• параллелизм и консистентность

Идемпотентность и детерминизм:

• повторяемость действий и политики
• идемпотентность операций
• детерминизм, где возможно

Контроль автономности:

• HITL (Human-in-the-Loop): когда действуем сами, а когда спрашиваем
• confidence как уровни автономности
• саморефлексия как адаптация

Упражняться:

• добавляем память и реализуем state-машину
• вводим idempotency keys и учимся не повторяться
• учимся адаптироваться к суровому окружению

Результат:

• агент не забывает, не повторяется, ведет задачу как процесс
• автономность становится более управляемой

​

Урок 4: Катим в прод: надежность, безопасность и остановка

Демо прощает все, а прод — нет. В этом уроке делаем агента, которому можно доверять: ошибки, безопасность, наблюдаемость, стоимость, измеримость и обязательные stop conditions

Error handling:

• API 500 / таймауты: retry / backoff / fallback / graceful degradation
• ошибки LLM: отказ, галлюцинации, невалидный output → repair / abort

Ограждения:

• запрет деструктивных действий без подтверждения
• политика алертов и настройка порогов
• работа с мгновенным внедрением / враждебными входными данными

Stop conditions или когда агент обязан остановиться:

• контроль затрат/времени/инструментов
• mistools и другие ошибки инструментов
• низкая уверенность, отсутствие HITL … и другие

Наблюдаемость и оценка:

• строим трейсинг и health check
• что такое evals, как их строить и почему в агентах это так важно

Упражняться:

• добавляем guardrails + запреты + политики алертов
• внедряем stop conditions (бюджеты, circuit breaker, abort правила)
• пишем минимальный eval suite

Результат:

• агент безопасно останавливается и сжигает бюджет маленькой страны
• есть наблюдаемость и постоянная оценка качества

​

Урок 5: Сложные задачи: мультиагентность и координация

Когда один агент не тянет по широте своей души функциональности, появляется мультиагентность (несколько агентов сразу). Как следствие - неизбежность координации и взаимодействия внутри команды агентов

Когда мультиагентность нужна / когда нет:

• компетенции, параллелизм, сложность решений
• цена координации

Топологии и роутинг:

• руководитель / иерархический, равный коллеге
• роутинг: статический / динамический / условный

Многоагентное состояние:

• общий против изолированного
• конфликтность состояний и findings + dedup / merge-политики

Упражняться:

• финализируем нашу систему

Результат:

• понимаешь, когда мультиагенты оправданы
• умеешь проектировать их координацию и целеполагание

​