Полный цикл LLM-инженерии: данные, архитектура, агенты, RAG, fine-tuning, мультимодальность и LLMOps. Кому адресована программа: Python-разработчикам, DevOps-, Data- и ML-инженерам и архитекторам.
Обучение охватывает следующие темы: Фундамент нейросетей и подготовка данных; Анатомия и обзор современных LLM; Начало работы с LLM; Промпт-инжиниринг и интеллектуальные агенты; RAG: Интеграция внешних знаний. Далее изучаются: Fine-tuning и оптимизация моделей; Мультимодальные системы (VLM и Audio); Деплой, Serving и LLMOps; Проектная работа.
Чему научитесь
Создавать LLM-приложения с внешними знаниями
Проводить адаптацию и оптимизацию моделей
Развёртывать и сопровождать LLM-сервисы
Кому подходит
Python-разработчикам, DevOps-, Data- и ML-инженерам и архитекторам.
Основы Deep Learning; Фундамент NLP; Работа с данными и подготовка для LLM.
02Анатомия и обзор современных LLM
Алгоритмы токенизации; Encoder-архитектуры и эмбеддинги; Decoder-архитектуры и механизм Attention; Ландшафт современных LLM.
03Начало работы с LLM
Yandex Cloud и YandexGPT; Экосистема Hugging Face.
04Промпт-инжиниринг и интеллектуальные агенты
Промпт-инжиниринг и управление выводом; Архитектура диалоговых систем в LangChain; Агентские системы и LangGraph; LLM Observability (Langfuse).
05RAG: Интеграция внешних знаний
Векторные базы данных; LlamaIndex и базовый RAG; Advanced RAG и оптимизация поиска; Оценка качества (RAGAS).
06Fine-tuning и оптимизация моделей
Подготовка данных и синтетическая генерация; Fine-tuning через LoRA/QLoRA; Квантование и сжатие моделей; Метрики и бенчмарки (Evaluation).
07Мультимодальные системы (VLM и Audio)
Vision-Language Models и поиск по изображениям; Audio AI: Речевые интерфейсы.
08Деплой, Serving и LLMOps
Локальный инференс и легкий деплой; Высокопроизводительный Serving с vLLM; Промышленный деплой: NVIDIA Triton Inference Server; Нагрузочное тестирование и мониторинг (SRE для LLM).
09Проектная работа
Выбор темы и организация проектной работы // Проектная работа; Консультация по проектам и домашним заданиям; Защита проектных работ; Защита проектных работ 2.
OTUS специализируется на онлайн-образовании в ИТ. Направления школы включают разработку, тестирование, инфраструктуру, информационную безопасность, управление и Data Science. Программы рассчитаны на разные уровни подготовки — от начальных до профессиональных.