Senior DataScience: Введение в устройство LLM и Transformers [Stepik] [Вячеслав Рыльков]

Перестаньте смотреть на ИИ как на «черный ящик». Этот курс — ваш пропуск в мир глубокого понимания больших языковых моделей. Мы разберем архитектуру Transformer по винтикам: от превращения слов в векторы до магии механизма Attention. Никакой сухой академической теории — только то, что нужно разработчику, чтобы понимать, управлять и эффективно использовать современные нейросети. Чему вы научитесь: После прохождения этого курса вы сформируете инженерное понимание технологии. Разбирать «под капотом» архитектуру современных нейросетей. Вы поймете, как именно работает легендарный Transformer, и в чем разница между Энкодером (BERT) и Декодером (GPT). Понимать механику «Внимания» (Self-Attention). Вы разберетесь, как модель выстраивает контекстные связи между словами и зачем ей нужны векторы Query, Key и Value. Выбирать правильную стратегию обучения. Вы научитесь различать Pre-training, Fine-tuning и RLHF, понимая, когда стоит дообучать модель, а когда достаточно правильного промпта. Управлять генерацией текста (Inference). Вы сможете осознанно настраивать параметры Temperature, Top-k и Top-p, чтобы балансировать между точностью фактов и креативностью ответов. Ориентироваться в зоопарке моделей. Вы научитесь подбирать правильную архитектуру под конкретную бизнес-задачу (классификация, перевод или генерация), не тратя ресурсы впустую. Видеть ограничения ИИ. Вы будете четко понимать природу «галлюцинаций» и предвзятости моделей, что позволит вам проектировать более надежные и безопасные приложения. Искусственный интеллект развивается с такой скоростью, что учебники устаревают еще до выхода в печать. Этот курс — ваша возможность остановить бесконечную гонку за хайпом и построить фундаментальную базу, которая останется актуальной, даже когда выйдет GPT-5, 6 или 10. Глобальная цель Моя задача — провести вас за кулисы хайпа. Я хочу, чтобы вы перестали воспринимать нейросети как «волшебную палочку» и начали видеть в них понятный инженерный инструмент. Мы разберем сложные архитектурные концепции (Attention, Embeddings, Tokenization) на таком уровне, чтобы вы могли объяснить их даже ребенку, но при этом использовать в серьезной разработке. Почему стоит выбрать именно этот курс? На рынке полно курсов. Одни — это скучные университетские лекции с зубодробительной математикой. Другие — поверхностные сборники «промптов для ChatGPT». Я предлагаю «Золотую середину»: От практика, а не теоретика. Я — действующий ML-разработчик. Я рассказываю не то, что написано в старых статьях, а то, как это работает в реальных продакшн-системах сегодня. Уникальный формат сторителлинга. Мы отказались от сухого языка. Весь курс построен как живой диалог между автором и стажером Максом. Макс — это голос вас, слушателей. Он задает «глупые», каверзные и неочевидные вопросы, которые помогают вскрыть суть сложных вещей. Читать курс так же интересно, как технический блог. Визуализация смыслов. Минимум формул, максимум схем, аналогий (библиотека, сломанный телефон, кулинария) и примеров кода. Что вы приобретаете? Системное мышление. Разрозненные термины (BERT, T5, LLM, RAG) сложатся в четкую картину мира. Интуицию инженера. Вы будете понимать причину ошибок модели, а не просто слепо перебирать параметры. Профессиональную уверенность. Вы сможете поддерживать разговор об ИИ на одном уровне с Senior-разработчиками и техническими директорами. Для кого этот курс Этот курс спроектирован как «мост» между поверхностным использованием чат-ботов и глубокой ML-разработкой. Он будет полезен трем категориям специалистов: 1. Разработчики (Backend / Fullstack / Python) Вы уже используете API от OpenAI или Anthropic, но чувствуете, что работаете с «черным ящиком». Польза: Вы получите глубокое понимание механики. Вы перестанете гадать и начнете инженерно управлять поведением модели. 2. Data Scientists и ML-инженеры (Junior / Middle) Вы работали с классическим ML (табличные данные, регрессия), но NLP и Трансформеры прошли мимо вас или остались на уровне теории. 3. Технические менеджеры и Product Owners Вы управляете продуктами, где внедряется ИИ, и вам нужно говорить с разработчиками на одном языке. Вам нужно оценить стоимость и сроки внедрения LLM-фичи. Вы слышите термины «токены», «контекстное окно», «галлюцинации», «RLHF», но не до конца понимаете их влияние на бюджет и качество продукта. Вы разберетесь в «физике» процесса. Вы поймете реальные ограничения технологии (что ИИ может, а что — нет), сможете отсеивать хайп от реальности и принимать взвешенные продуктовые решения. Начальные требования 1. Базовое знание Python Мы будем смотреть на примеры кода (используя библиотеки transformers, pytorch). Вам не нужно быть сеньором, но вы должны уметь читать код: понимать, что такое переменные, списки, функции и циклы. 2. Школьная математика Мы будем говорить о векторах и матрицах. Вам не нужно уметь перемножать их на бумажке или брать интегралы. Но вы должны интуитивно понимать: Что такое вектор (набор чисел / координаты). Что такое вероятность (от 0 до 1). Что такое график функции. Этого будет достаточно. Всю остальную «магию» мы объясним на пальцах. 3. Общее понимание IT Курс будет полезен, если вы знаете, что такое API, база данных или JSON. Мы будем использовать эти термины для аналогий. Наши преподаватели Вячеслав Рыльков .Data Scientist в Сбере, образование: МГТУ им. Баумана. Веду канал об AI, пишу статьи с десятками тысяч просмотров. Двукратный победитель форума «Шаг в будущее». Data Scientist | Образование: МГТУ им. Баумана Являюсь выпускником ведущего технического вуза страны — МГТУ им. Н.Э. Баумана. Параллельно с образованием работаю на позиции Data Scientist в Сбере. Как проходит обучение Мы ценим ваше время, поэтому отказались от многочасовых видео, в которых «льют воду». Курс построен так, чтобы вы могли осваивать материал в своем темпе — в метро, за утренним кофе или в перерыве на работе. Каждый урок — это увлекательная статья с примерами кода, схемами и аналогиями