1. Введение. Общие принципы разработки ИИ-агентов и tool calling.

  2. MCP (Model Context Protocol). Стандарт подключения моделей к внешним источникам данных, инструментам и сервисам через единый протокол.

  3. RAG (Retrieval-Augmented Generation). Основы расширения знаний агента релевантными материалами внешней базы знаний.

  4. Память агента. Хранение текущего диалога, промежуточных результатов и состояния задачи.

  5. Управление контекстом. Сжатие истории, суммаризация, удаление нерелевантных сообщений и приоритизация важной информации.

  6. Планирование и декомпозиция задач.
    Методы разделения сложных задач на последовательность мелких шагов.

  7. Оркестрация и циклы выполнения. Методы построения промптов, определения лимитов шагов, условий остановки, повторных попыток и передачи задач между несколькими агентами.

  8. Наблюдаемость и оценка качества. Методы логирования промптов, вызовов инструментов, действий агента, задержек, стоимости и ошибок.

Дополнительная информация

Задачи освоения дисциплины

Цель дисциплины — сформировать у обучающихся системное представление о принципах проектирования, разработки, эксплуатации и оценки качества ИИ-агентов, использующих большие языковые модели, внешние инструменты, базы знаний и механизмы памяти.

Задачи освоения дисциплины:

– Освоить аппарат проектирования ИИ-агентов и инструментальных вызовов (tool calling).

– Освоить аппарат построения агентных систем, основанных на протоколе MCP, RAG-подходе, памяти, управлении контекстом, планировании и оркестрации выполнения задач.

– Научиться применять понятийный аппарат агентных систем и генеративного искусственного интеллекта для решения практических задач профессиональной деятельности.

– Научиться проектировать взаимодействие языковой модели с внешними сервисами, API, файловыми системами, базами данных и другими источниками данных.

– Научиться разрабатывать RAG-системы для поиска, отбора и использования релевантной информации из корпоративных или предметных баз знаний.

– Научиться выбирать и реализовывать механизмы краткосрочной и долговременной памяти агента.

– Научиться управлять контекстом модели, выполнять суммаризацию истории, выделять существенную информацию и предотвращать переполнение контекстного окна.

– Научиться декомпозировать сложные пользовательские запросы на последовательность подзадач и формировать планы их выполнения.

– Научиться организовывать циклы работы агента, задавать условия остановки, лимиты итераций, стратегии повторных попыток и обработку ошибок.

– Научиться проектировать многоагентные системы с распределением ролей, передачей задач и контролем результатов.

– Научиться обеспечивать наблюдаемость агентных решений: логировать действия, промпты, обращения к инструментам, ошибки, задержки и стоимость выполнения запросов.

– Научиться оценивать качество, безопасность, надёжность и экономическую эффективность ИИ-агентов.

Результаты обучения по дисциплине:

После освоения дисциплины обучающийся должен знать архитектуру современных ИИ-агентов, назначение MCP, RAG, памяти, механизмов планирования и средств наблюдаемости.

После освоения дисциплины обучающийся должен уметь разрабатывать прототипы агентных систем, подключать инструменты и источники данных, строить цепочки обработки задач и тестировать качество работы агентов.

После освоения дисциплины обучающийся должен владеть практическими навыками применения Python и библиотек для разработки LLM-приложений, проектирования промптов, работы с API, векторными базами данных и системами мониторинга.

Входные требования для освоения дисциплины

Для успешного освоения дисциплины требуются компетенции, сформированные в ходе освоения образовательных программ предшествующего уровня образования. Обучающийся должен обладать базовыми знаниями в области программирования, алгоритмов, обработки естественного языка, структур данных, баз данных, компьютерных сетей и технологий веб-разработки.

Для успешного освоения дисциплины требуются результаты обучения по следующим дисциплинам или их содержательным аналогам:

– «Программирование».

– «Объектно-ориентированное программирование».

– «Алгоритмы и структуры данных».

– «Обработка естественного языка».

– «Базы данных».

– «Компьютерные сети и интернет-технологии».

– «Основы искусственного интеллекта» или «Машинное обучение».

Минимальные практические входные навыки:

– Уверенное владение одним языком программирования, предпочтительно Python.

– Умение работать с переменными, функциями, классами, исключениями, файлами, пакетами и виртуальными окружениями.

– Умение выполнять HTTP-запросы и работать с REST API.

– Понимание форматов JSON, CSV, YAML и Markdown.

– Базовые навыки работы с Git и удалёнными репозиториями.

– Понимание SQL-запросов и принципов хранения данных в реляционных базах данных.

– Базовое понимание клиент-серверной архитектуры.

– Навыки чтения технической документации на русском и английском языках.

При отсутствии части указанных навыков дисциплина может быть освоена, но обучающемуся рекомендуется предварительно пройти вводные материалы по Python, API, Git, SQL и основам работы с языковыми моделями.

Экзамен будет устный?

Оптимальной формой промежуточной аттестации по данной дисциплине является устный экзамен с практической составляющей. На экзамене обучающийся отвечает на теоретические вопросы по темам курса и демонстрирует понимание архитектурных решений, принятых в лабораторных работах или итоговом проекте. Устная форма позволяет проверить не только знание терминов, но и способность аргументированно выбирать подходящую архитектуру агента, объяснять ограничения выбранных технологий и анализировать ошибки.

Рекомендуемая структура экзамена может быть следующей:

– Один теоретический вопрос по архитектуре ИИ-агентов, MCP, RAG, памяти, контексту, планированию, оркестрации или наблюдаемости.

– Один практико-ориентированный вопрос с разбором конкретного сценария разработки.

– Ответы на уточняющие вопросы преподавателя.

Обучающийся должен продемонстрировать знание принципов построения ИИ-агентов и умение применять изученные методы для решения прикладных задач.

Рекомендуемая литература, электронные курсы и программное обеспечение

  1. Russell S., Norvig P.
    Artificial Intelligence: A Modern Approach.
    Pearson.
    Классический учебник по искусственному интеллекту, полезный для изучения поиска, планирования, представления знаний и интеллектуальных систем.

  2. Jurafsky D., Martin J.
    Speech and Language Processing.
    Электронная версия доступна на официальном сайте авторов.
    Рекомендуется для понимания методов обработки естественного языка и современных языковых моделей.

  3. Alammar J.
    Hands-On Large Language Models.
    O’Reilly Media.
    Практическое введение в трансформеры, эмбеддинги, RAG и разработку приложений на основе LLM.

  4. Huyen C.
    Designing Machine Learning Systems.
    O’Reilly Media.
    Полезна для изучения жизненного цикла ML-систем, мониторинга, оценки качества и эксплуатации моделей.

  5. Kleppmann M.
    Designing Data-Intensive Applications.
    O’Reilly Media.
    Рекомендуется для понимания надёжности, хранения данных, распределённых систем и интеграции сервисов.

Дополнительная литература и документация

  1. Документация Model Context Protocol.
    Официальный сайт: https://modelcontextprotocol.io
    Материалы по устройству MCP-серверов, клиентов, инструментов, ресурсов и промптов.

  2. Документация OpenAI API.
    https://platform.openai.com/docs
    Материалы по tool calling, structured outputs, агентным сценариям и оценке качества.

  3. Документация Anthropic.
    https://docs.anthropic.com
    Материалы по использованию инструментов, построению агентов и безопасной разработке LLM-приложений.

  4. Документация LangChain.
    https://python.langchain.com/docs
    Инструменты для построения цепочек, агентов, RAG-пайплайнов и интеграций с внешними сервисами.

  5. Документация LangGraph.
    https://langchain-ai.github.io/langgraph
    Материалы по графам состояний, управлению циклами, устойчивому выполнению агентных процессов и многоагентным системам.

Электронные курсы

  1. Hugging Face Course.
    https://huggingface.co/learn
    Бесплатный курс по трансформерам, NLP, эмбеддингам и практической работе с моделями.

  2. Microsoft Learn — материалы по Azure AI Foundry и агентным приложениям.
    Подходят для знакомства с промышленными сценариями развёртывания и мониторинга AI-решений.

Необходимое программное обеспечение

Обязательное ПО:

– Операционная система Windows, Linux или macOS.

– Python версии 3.10 или выше.

– Редактор кода Visual Studio Code, PyCharm Community Edition или аналогичная IDE.

– Git.

– Браузер с доступом к документации и облачным сервисам.

– Средство управления зависимостями Python: pip, Poetry, uv или Conda.

– Docker Desktop или Docker Engine для запуска локальных сервисов, баз данных и MCP-серверов.

Библиотеки и фреймворки:

– OpenAI SDK, Anthropic SDK или SDK другого выбранного провайдера моделей.

– LangChain и LangGraph.

– LlamaIndex или Haystack.

– Pydantic для валидации структурированных данных и схем инструментов.

– FastAPI для создания API и сервисов.

– httpx или requests для HTTP-взаимодействия.

– sentence-transformers для локального вычисления эмбеддингов при необходимости.

Хранилища и базы данных:

– SQLite для учебных прототипов.

– PostgreSQL для хранения состояния, истории, метаданных и долговременной памяти.

– Redis при необходимости реализации кэша, очередей или краткосрочной памяти.

Лабораторные работы

Лабораторные работы рекомендуется выполнять последовательно, поскольку каждая следующая работа расширяет агентную систему, созданную в предыдущей.

Лабораторная работа № 1. Базовый ИИ-агент и tool calling

Цель работы — разработать простого ИИ-агента, способного отвечать на запросы пользователя и вызывать внешние инструменты.

Содержание работы:

– Настроить окружение разработки и подключение к API языковой модели.

– Реализовать системный промпт для агента.

– Описать не менее двух инструментов с формальной схемой входных параметров.

– Реализовать обработку вызова инструментов моделью.

– Добавить обработку ошибок и ограничение числа шагов агента.

Примеры инструментов:

– Калькулятор.

– Получение текущего времени.

– Поиск информации во внутреннем наборе данных.

– Конвертер валют при наличии внешнего API.

Результат работы — консольное или веб-приложение, демонстрирующее корректный цикл «пользовательский запрос — решение модели — вызов инструмента — итоговый ответ».

Лабораторная работа № 2. Подключение MCP-сервера

Цель работы — освоить Model Context Protocol и подключить агента к внешнему MCP-серверу.

Содержание работы:

– Изучить сущности MCP: клиент, сервер, tools, resources и prompts.

– Развернуть готовый MCP-сервер или реализовать собственный учебный сервер.

– Подключить MCP-клиент к серверу.

– Предоставить агенту доступ к инструментам MCP-сервера.

– Проверить обработку недоступности сервера и ошибок вызова инструментов.

Возможные сценарии:

– MCP-сервер для работы с файлами учебного каталога.

– MCP-сервер для доступа к базе данных.

– MCP-сервер для получения сведений о погоде, расписании или товарах.

Результат работы — агент, использующий как минимум один инструмент, полученный через MCP.

Примеры вопросов к экзамену

Теоретические вопросы

  1. Что такое ИИ-агент и чем агент отличается от обычного чат-бота?

  2. Какие основные компоненты входят в архитектуру агентной системы на основе LLM?

  3. Что такое tool calling и зачем необходимо описание схемы параметров инструмента?

  4. Какие риски возникают при предоставлении агенту доступа к внешним инструментам?

  5. Что такое MCP и какую проблему решает Model Context Protocol?

  6. В чём различие между MCP tools, resources и prompts?

  7. Чем MCP отличается от прямой интеграции с REST API?

  8. Что такое RAG и какие этапы включает типичный RAG-пайплайн?

  9. Зачем необходимо разбиение документов на фрагменты при реализации RAG?

  10. Какие факторы влияют на выбор размера фрагмента и перекрытия между фрагментами?

  11. Что такое эмбеддинги и как они применяются в семантическом поиске?

  12. Чем семантический поиск отличается от поиска по ключевым словам?

  13. Что такое гибридный поиск и в каких случаях он предпочтителен?

  14. Какие причины могут приводить к галлюцинациям в RAG-системе?

  15. Как организовать цитирование и проверяемость источников в ответах RAG-ассистента?

  16. Какие виды памяти могут использоваться в ИИ-агенте?

  17. Чем краткосрочная память отличается от долговременной памяти?

  18. Какие данные не следует безусловно сохранять в долговременной памяти агента?

  19. Для чего необходимо управление контекстом?

  20. Какие методы сжатия истории диалога ты можешь назвать?

  21. В чём преимущества и недостатки суммаризации истории сообщений?

  22. Что такое планирование в агентной системе?

  23. Какие задачи требуют декомпозиции и почему однократного ответа модели может быть недостаточно?

  24. Что такое перепланирование и в каких случаях оно необходимо?

  25. Что понимается под оркестрацией агентной системы?

  26. Какие условия остановки необходимо предусмотреть в цикле работы агента?

  27. Для чего нужны лимиты числа шагов и повторных попыток?

  28. Какие архитектуры многоагентных систем существуют?

  29. Какие преимущества и недостатки имеет многоагентный подход?

  30. Что такое наблюдаемость применительно к LLM- и агентным системам?

  31. Какие события и метрики необходимо логировать в агентном приложении?

  32. Как измерять задержку, стоимость и качество выполнения агентной задачи?

  33. Какие виды ошибок характерны для агентных систем?

  34. Какие методы используются для оценки качества работы RAG-систем?

  35. Какие меры безопасности следует применять при разработке агентов с доступом к файлам, базам данных и внешним API?