-
Введение. Общие принципы разработки ИИ-агентов и tool calling.
-
MCP (Model Context Protocol). Стандарт подключения моделей к внешним источникам данных, инструментам и сервисам через единый протокол.
-
RAG (Retrieval-Augmented Generation). Основы расширения знаний агента релевантными материалами внешней базы знаний.
-
Память агента. Хранение текущего диалога, промежуточных результатов и состояния задачи.
-
Управление контекстом. Сжатие истории, суммаризация, удаление нерелевантных сообщений и приоритизация важной информации.
-
Планирование и декомпозиция задач.
Методы разделения сложных задач на последовательность мелких шагов. -
Оркестрация и циклы выполнения. Методы построения промптов, определения лимитов шагов, условий остановки, повторных попыток и передачи задач между несколькими агентами.
-
Наблюдаемость и оценка качества. Методы логирования промптов, вызовов инструментов, действий агента, задержек, стоимости и ошибок.
Дополнительная информация
Задачи освоения дисциплины
Цель дисциплины — сформировать у обучающихся системное представление о принципах проектирования, разработки, эксплуатации и оценки качества ИИ-агентов, использующих большие языковые модели, внешние инструменты, базы знаний и механизмы памяти.
Задачи освоения дисциплины:
– Освоить аппарат проектирования ИИ-агентов и инструментальных вызовов (tool calling).
– Освоить аппарат построения агентных систем, основанных на протоколе MCP, RAG-подходе, памяти, управлении контекстом, планировании и оркестрации выполнения задач.
– Научиться применять понятийный аппарат агентных систем и генеративного искусственного интеллекта для решения практических задач профессиональной деятельности.
– Научиться проектировать взаимодействие языковой модели с внешними сервисами, API, файловыми системами, базами данных и другими источниками данных.
– Научиться разрабатывать RAG-системы для поиска, отбора и использования релевантной информации из корпоративных или предметных баз знаний.
– Научиться выбирать и реализовывать механизмы краткосрочной и долговременной памяти агента.
– Научиться управлять контекстом модели, выполнять суммаризацию истории, выделять существенную информацию и предотвращать переполнение контекстного окна.
– Научиться декомпозировать сложные пользовательские запросы на последовательность подзадач и формировать планы их выполнения.
– Научиться организовывать циклы работы агента, задавать условия остановки, лимиты итераций, стратегии повторных попыток и обработку ошибок.
– Научиться проектировать многоагентные системы с распределением ролей, передачей задач и контролем результатов.
– Научиться обеспечивать наблюдаемость агентных решений: логировать действия, промпты, обращения к инструментам, ошибки, задержки и стоимость выполнения запросов.
– Научиться оценивать качество, безопасность, надёжность и экономическую эффективность ИИ-агентов.
Результаты обучения по дисциплине:
После освоения дисциплины обучающийся должен знать архитектуру современных ИИ-агентов, назначение MCP, RAG, памяти, механизмов планирования и средств наблюдаемости.
После освоения дисциплины обучающийся должен уметь разрабатывать прототипы агентных систем, подключать инструменты и источники данных, строить цепочки обработки задач и тестировать качество работы агентов.
После освоения дисциплины обучающийся должен владеть практическими навыками применения Python и библиотек для разработки LLM-приложений, проектирования промптов, работы с API, векторными базами данных и системами мониторинга.
Входные требования для освоения дисциплины
Для успешного освоения дисциплины требуются компетенции, сформированные в ходе освоения образовательных программ предшествующего уровня образования. Обучающийся должен обладать базовыми знаниями в области программирования, алгоритмов, обработки естественного языка, структур данных, баз данных, компьютерных сетей и технологий веб-разработки.
Для успешного освоения дисциплины требуются результаты обучения по следующим дисциплинам или их содержательным аналогам:
– «Программирование».
– «Объектно-ориентированное программирование».
– «Алгоритмы и структуры данных».
– «Обработка естественного языка».
– «Базы данных».
– «Компьютерные сети и интернет-технологии».
– «Основы искусственного интеллекта» или «Машинное обучение».
Минимальные практические входные навыки:
– Уверенное владение одним языком программирования, предпочтительно Python.
– Умение работать с переменными, функциями, классами, исключениями, файлами, пакетами и виртуальными окружениями.
– Умение выполнять HTTP-запросы и работать с REST API.
– Понимание форматов JSON, CSV, YAML и Markdown.
– Базовые навыки работы с Git и удалёнными репозиториями.
– Понимание SQL-запросов и принципов хранения данных в реляционных базах данных.
– Базовое понимание клиент-серверной архитектуры.
– Навыки чтения технической документации на русском и английском языках.
При отсутствии части указанных навыков дисциплина может быть освоена, но обучающемуся рекомендуется предварительно пройти вводные материалы по Python, API, Git, SQL и основам работы с языковыми моделями.
Экзамен будет устный?
Оптимальной формой промежуточной аттестации по данной дисциплине является устный экзамен с практической составляющей. На экзамене обучающийся отвечает на теоретические вопросы по темам курса и демонстрирует понимание архитектурных решений, принятых в лабораторных работах или итоговом проекте. Устная форма позволяет проверить не только знание терминов, но и способность аргументированно выбирать подходящую архитектуру агента, объяснять ограничения выбранных технологий и анализировать ошибки.
Рекомендуемая структура экзамена может быть следующей:
– Один теоретический вопрос по архитектуре ИИ-агентов, MCP, RAG, памяти, контексту, планированию, оркестрации или наблюдаемости.
– Один практико-ориентированный вопрос с разбором конкретного сценария разработки.
– Ответы на уточняющие вопросы преподавателя.
Обучающийся должен продемонстрировать знание принципов построения ИИ-агентов и умение применять изученные методы для решения прикладных задач.
Рекомендуемая литература, электронные курсы и программное обеспечение
-
Russell S., Norvig P.
Artificial Intelligence: A Modern Approach.
Pearson.
Классический учебник по искусственному интеллекту, полезный для изучения поиска, планирования, представления знаний и интеллектуальных систем. -
Jurafsky D., Martin J.
Speech and Language Processing.
Электронная версия доступна на официальном сайте авторов.
Рекомендуется для понимания методов обработки естественного языка и современных языковых моделей. -
Alammar J.
Hands-On Large Language Models.
O’Reilly Media.
Практическое введение в трансформеры, эмбеддинги, RAG и разработку приложений на основе LLM. -
Huyen C.
Designing Machine Learning Systems.
O’Reilly Media.
Полезна для изучения жизненного цикла ML-систем, мониторинга, оценки качества и эксплуатации моделей. -
Kleppmann M.
Designing Data-Intensive Applications.
O’Reilly Media.
Рекомендуется для понимания надёжности, хранения данных, распределённых систем и интеграции сервисов.
Дополнительная литература и документация
-
Документация Model Context Protocol.
Официальный сайт: https://modelcontextprotocol.io
Материалы по устройству MCP-серверов, клиентов, инструментов, ресурсов и промптов. -
Документация OpenAI API.
https://platform.openai.com/docs
Материалы по tool calling, structured outputs, агентным сценариям и оценке качества. -
Документация Anthropic.
https://docs.anthropic.com
Материалы по использованию инструментов, построению агентов и безопасной разработке LLM-приложений. -
Документация LangChain.
https://python.langchain.com/docs
Инструменты для построения цепочек, агентов, RAG-пайплайнов и интеграций с внешними сервисами. -
Документация LangGraph.
https://langchain-ai.github.io/langgraph
Материалы по графам состояний, управлению циклами, устойчивому выполнению агентных процессов и многоагентным системам.
Электронные курсы
-
Hugging Face Course.
https://huggingface.co/learn
Бесплатный курс по трансформерам, NLP, эмбеддингам и практической работе с моделями. -
Microsoft Learn — материалы по Azure AI Foundry и агентным приложениям.
Подходят для знакомства с промышленными сценариями развёртывания и мониторинга AI-решений.
Необходимое программное обеспечение
Обязательное ПО:
– Операционная система Windows, Linux или macOS.
– Python версии 3.10 или выше.
– Редактор кода Visual Studio Code, PyCharm Community Edition или аналогичная IDE.
– Git.
– Браузер с доступом к документации и облачным сервисам.
– Средство управления зависимостями Python: pip, Poetry, uv или Conda.
– Docker Desktop или Docker Engine для запуска локальных сервисов, баз данных и MCP-серверов.
Библиотеки и фреймворки:
– OpenAI SDK, Anthropic SDK или SDK другого выбранного провайдера моделей.
– LangChain и LangGraph.
– LlamaIndex или Haystack.
– Pydantic для валидации структурированных данных и схем инструментов.
– FastAPI для создания API и сервисов.
– httpx или requests для HTTP-взаимодействия.
– sentence-transformers для локального вычисления эмбеддингов при необходимости.
Хранилища и базы данных:
– SQLite для учебных прототипов.
– PostgreSQL для хранения состояния, истории, метаданных и долговременной памяти.
– Redis при необходимости реализации кэша, очередей или краткосрочной памяти.
Лабораторные работы
Лабораторные работы рекомендуется выполнять последовательно, поскольку каждая следующая работа расширяет агентную систему, созданную в предыдущей.
Лабораторная работа № 1. Базовый ИИ-агент и tool calling
Цель работы — разработать простого ИИ-агента, способного отвечать на запросы пользователя и вызывать внешние инструменты.
Содержание работы:
– Настроить окружение разработки и подключение к API языковой модели.
– Реализовать системный промпт для агента.
– Описать не менее двух инструментов с формальной схемой входных параметров.
– Реализовать обработку вызова инструментов моделью.
– Добавить обработку ошибок и ограничение числа шагов агента.
Примеры инструментов:
– Калькулятор.
– Получение текущего времени.
– Поиск информации во внутреннем наборе данных.
– Конвертер валют при наличии внешнего API.
Результат работы — консольное или веб-приложение, демонстрирующее корректный цикл «пользовательский запрос — решение модели — вызов инструмента — итоговый ответ».
Лабораторная работа № 2. Подключение MCP-сервера
Цель работы — освоить Model Context Protocol и подключить агента к внешнему MCP-серверу.
Содержание работы:
– Изучить сущности MCP: клиент, сервер, tools, resources и prompts.
– Развернуть готовый MCP-сервер или реализовать собственный учебный сервер.
– Подключить MCP-клиент к серверу.
– Предоставить агенту доступ к инструментам MCP-сервера.
– Проверить обработку недоступности сервера и ошибок вызова инструментов.
Возможные сценарии:
– MCP-сервер для работы с файлами учебного каталога.
– MCP-сервер для доступа к базе данных.
– MCP-сервер для получения сведений о погоде, расписании или товарах.
Результат работы — агент, использующий как минимум один инструмент, полученный через MCP.
Примеры вопросов к экзамену
Теоретические вопросы
-
Что такое ИИ-агент и чем агент отличается от обычного чат-бота?
-
Какие основные компоненты входят в архитектуру агентной системы на основе LLM?
-
Что такое tool calling и зачем необходимо описание схемы параметров инструмента?
-
Какие риски возникают при предоставлении агенту доступа к внешним инструментам?
-
Что такое MCP и какую проблему решает Model Context Protocol?
-
В чём различие между MCP tools, resources и prompts?
-
Чем MCP отличается от прямой интеграции с REST API?
-
Что такое RAG и какие этапы включает типичный RAG-пайплайн?
-
Зачем необходимо разбиение документов на фрагменты при реализации RAG?
-
Какие факторы влияют на выбор размера фрагмента и перекрытия между фрагментами?
-
Что такое эмбеддинги и как они применяются в семантическом поиске?
-
Чем семантический поиск отличается от поиска по ключевым словам?
-
Что такое гибридный поиск и в каких случаях он предпочтителен?
-
Какие причины могут приводить к галлюцинациям в RAG-системе?
-
Как организовать цитирование и проверяемость источников в ответах RAG-ассистента?
-
Какие виды памяти могут использоваться в ИИ-агенте?
-
Чем краткосрочная память отличается от долговременной памяти?
-
Какие данные не следует безусловно сохранять в долговременной памяти агента?
-
Для чего необходимо управление контекстом?
-
Какие методы сжатия истории диалога ты можешь назвать?
-
В чём преимущества и недостатки суммаризации истории сообщений?
-
Что такое планирование в агентной системе?
-
Какие задачи требуют декомпозиции и почему однократного ответа модели может быть недостаточно?
-
Что такое перепланирование и в каких случаях оно необходимо?
-
Что понимается под оркестрацией агентной системы?
-
Какие условия остановки необходимо предусмотреть в цикле работы агента?
-
Для чего нужны лимиты числа шагов и повторных попыток?
-
Какие архитектуры многоагентных систем существуют?
-
Какие преимущества и недостатки имеет многоагентный подход?
-
Что такое наблюдаемость применительно к LLM- и агентным системам?
-
Какие события и метрики необходимо логировать в агентном приложении?
-
Как измерять задержку, стоимость и качество выполнения агентной задачи?
-
Какие виды ошибок характерны для агентных систем?
-
Какие методы используются для оценки качества работы RAG-систем?
-
Какие меры безопасности следует применять при разработке агентов с доступом к файлам, базам данных и внешним API?