1. LLM: архитектура, сценарии использования и выбор моделей
- архитектура LLM (autoencoders, transformers);
- сценарии использования LLM, промт-инжиниринг;
- основные параметры LLM, критерии выбора.
Этот модуль поможет:
- получить представления о том, как устроены LLM под капотом;
- получить навык использования LLM и понимание какие задачи могут быть решены с их помощью;
- сориентироваться в параметрах LLM, на которые необходимо обращать внимание при выборе большой языковой модели.
2. RAG: генерация с расширенным доступом к данным
- технология RAG (Retrieval-Augmented Generation) и точки ее приложения в бизнесе
- анализ возможной архитектуры RAG системы, выбор компонентов
- CJM создания RAG системы на кастомных данных
Этот модуль поможет
- получить представление что такое RAG и для чего эта технология может быть полезна;
- получить практический навык построения RAG систем.
3. Создание чат-бота на основе LLM
- архитектура чат-ботов на основе LLM
- реализация кастомного чат-бота на основе LLM
Этот модуль поможет:
- понять возможности LLM для построения чат-ботов;
- получить практический навык разработки чат ботов на основе LLM.
4. AI-ассистенты для разработчиков
- разработка в IDE, установка плагинов с AI-ассистентом;
- основные задачи, которые можно автоматизировать на цикле разработки программного обеспечения (SDLC) с помощью copilot;
- пример разработки приложения.
Этот модуль поможет:
- понять, где может быть полезны AI-агенты на цикле разработке программного обеспечения
- получить практический навык использования AI-агентов
5. Разработка кастомного AI-ассистента (8 часов)
- архитектура кастомных AI-агентов;
- обзор платформенных open-source и проприетарных решений для разработки AI-агентов;
- инструменты langgraph, langchain для разработки AI-агентов;
- реализация AI-агента на основе langgraph
Этот модуль поможет:
- получить представления об архитектуре кастомных AI-агентов и существующих платформ их разработки;
- получить практический навык построения кастомных AI-агентов
6. Векторные СУБД в архитектуре AI-ассистентов
- обзор возможностей векторных СУБД;
- встраивание векторной СУБД в архитектуру кастомного AI- агента на примере milvus.
Этот модуль поможет:
- получить представление о функциональности векторных СУБД
- получить практический навык использования векторных СУБД
7. Эксплуатация AI-ассистентов в производственном развертывании
- эксплуатация LLM в проде, фреймворк sglang/ollama;
- развертывание, мониторинг, версионирование LLM в проде
Этот модуль поможет: