LLM Driven Development Разработка и эксплуатация AI: полный курс для профессионалов [OTUS] [Владимир Елфимов]

Для кого этот курс? Этот курс для вас, если вы хотите внедрить AI на основе LLM в свой проект или сервис, но не знаете, как это сделать. Python-разработчики, желающие выйти за рамки классического программирования и освоить прикладное AI DevOps-инженеры, которым важно понять, как разворачивать и поддерживать крупные AI-системы Data-инженеры, аналитики данных и специалисты по Data Science, стремящиеся глубже интегрировать языковые модели в пайплайны и сервисы Необходимые знания Желательно базовое знание Python. Многие темы курса на курсе не требуют знания языков программирования, но отдельные примеры работы будут именно на Python Что даст вам этот курс Курс охватывает полный цикл разработки и внедрения больших языковых моделей — от основ архитектуры AI и подготовки данных до тонкостей MLOps, мониторинга и оптимизации. Программа основана на реальных кейсах и инструментах, которые уже сейчас востребованы в индустрии. На курсе вы Изучите фундаментальные принципы AI-архитектуры и трансформеров Освоите практики LLMOps: от развёртывания и автоматизации до мониторинга и обновления крупных моделей Разберётесь в токенизации, контекстных окнах и научитесь эффективно управлять памятью для больших LLM Освоите фреймворки для интеграции LLM (LangChain, LlamaIndex, vllm и другие) и научитесь работать с мультиагентными системами Научитесь применять retrieval-augmented generation (RAG) вместе с векторными базами данных и внедрять AI-функциональность в классические backend-проекты Поймёте, как проводить fine-tuning и оптимизацию LLM, включая вызов внешних функций Узнаете о когнитивных архитектурах, принципах мультимодальных моделей и методах тестирования AI-решений После курса вы будете готовы внедрять LLM-сервисы в реальные продукты: разрабатывать, тестировать, поддерживать и оптимизировать AI-приложения на продвинутом уровне. В этом модуле вы научитесь строить когнитивные системы на базе Retrieval-Augmented Generation (RAG), проектировать архитектуры AI-приложений с учётом профилирования производительности и обеспечением надёжности, а также оптимизировать отклик и мониторинг. Тема 1: Основы RAG, онтологические графы, LangGraph Тема 2: Проектирование когнитивных архитектур (QA, чат-боты, документооборот) Тема 3: Архитектуры AI-приложений, профилирование inference Тема 4: Тестирование AI-приложений (мониторинг, оптимизация задержек) Продвинутые архитектуры и паттерны В этом модуле вы изучите современные подходы к построению эффективных и масштабируемых LLM-систем: от сжатия и оптимизации моделей до внедрения мультимодальности и реализации семантического поиска. Тема 1: Сжатие моделей: квантование (GGUF, AWQ), дистилляция, pruning Тема 2: Семантический поиск и мультимодальность (текст + изображение/аудио) // ДЗ Тема 3: Продвинутое обучение (contrastive fine-tuning, in-context learning), интерпретируемость (SHAP, LIME) Проектная работа Заключительный месяц курса посвящен проектной работе. Проект – это самая интересная часть обучения. Вы будете разрабатывать его на основе полученных на курсе навыков и компетенций. В процессе работы над проектом можно получить консультацию преподавателей. Тема 1: Выбор темы и организация проектной работы // Проект Тема 2: Консультация по проектам и домашним заданиям Тема 3: Защита проектных работ Тема 4: Подведение итогов курса Старт занятий 26 июня