LLM-инженер

Полный цикл LLM-инженерии: данные, архитектура, агенты, RAG, fine-tuning, мультимодальность и LLMOps.

OTUSОнлайн-школа
ИИ в разработке ПО

О курсе

Полный цикл LLM-инженерии: данные, архитектура, агенты, RAG, fine-tuning, мультимодальность и LLMOps. Кому адресована программа: Python-разработчикам, DevOps-, Data- и ML-инженерам и архитекторам.

Обучение охватывает следующие темы: Фундамент нейросетей и подготовка данных; Анатомия и обзор современных LLM; Начало работы с LLM; Промпт-инжиниринг и интеллектуальные агенты; RAG: Интеграция внешних знаний. Далее изучаются: Fine-tuning и оптимизация моделей; Мультимодальные системы (VLM и Audio); Деплой, Serving и LLMOps; Проектная работа.

Чему научитесь

  1. Создавать LLM-приложения с внешними знаниями
  2. Проводить адаптацию и оптимизацию моделей
  3. Развёртывать и сопровождать LLM-сервисы
Кому подходит

Python-разработчикам, DevOps-, Data- и ML-инженерам и архитекторам.

Что внутри курса

Полная программа
01Фундамент нейросетей и подготовка данных

Основы Deep Learning; Фундамент NLP; Работа с данными и подготовка для LLM.

02Анатомия и обзор современных LLM

Алгоритмы токенизации; Encoder-архитектуры и эмбеддинги; Decoder-архитектуры и механизм Attention; Ландшафт современных LLM.

03Начало работы с LLM

Yandex Cloud и YandexGPT; Экосистема Hugging Face.

04Промпт-инжиниринг и интеллектуальные агенты

Промпт-инжиниринг и управление выводом; Архитектура диалоговых систем в LangChain; Агентские системы и LangGraph; LLM Observability (Langfuse).

05RAG: Интеграция внешних знаний

Векторные базы данных; LlamaIndex и базовый RAG; Advanced RAG и оптимизация поиска; Оценка качества (RAGAS).

06Fine-tuning и оптимизация моделей

Подготовка данных и синтетическая генерация; Fine-tuning через LoRA/QLoRA; Квантование и сжатие моделей; Метрики и бенчмарки (Evaluation).

07Мультимодальные системы (VLM и Audio)

Vision-Language Models и поиск по изображениям; Audio AI: Речевые интерфейсы.

08Деплой, Serving и LLMOps

Локальный инференс и легкий деплой; Высокопроизводительный Serving с vLLM; Промышленный деплой: NVIDIA Triton Inference Server; Нагрузочное тестирование и мониторинг (SRE для LLM).

09Проектная работа

Выбор темы и организация проектной работы // Проектная работа; Консультация по проектам и домашним заданиям; Защита проектных работ; Защита проектных работ 2.

Автор курса

Онлайн-школа

OTUS

OTUS специализируется на онлайн-образовании в ИТ. Направления школы включают разработку, тестирование, инфраструктуру, информационную безопасность, управление и Data Science. Программы рассчитаны на разные уровни подготовки — от начальных до профессиональных.

17курсов по ИИ
Все курсы автора

Другие курсы по теме