«Трансформеры в NLP и приложениях [stepik]» [Елена Кантонистова]

Трансформеры в NLP и приложениях [stepik] [Елена Кантонистова]​ Этот курс посвящен трансформерам, ключевой архитектуре нейронных сетей, активно применяемой в NLP и соответствующих приложениях. Курс дает глубокое понимание работы трансформеров на теоретическом уровне, предлагает множество практических заданий на Python и проектную работу: сервис, использующий трансформер для решения конкретной NLP-задачи. Обучаемые навыки Понимание теории механизма внимания Знакомство с функционалом трансформеров Самостоятельное обучение трансформеров с помощью PyTorch Освоение библиотеки huggingface Разработка приложений с использованием streamlit Данный курс детально изучает как механизм внимания, так и разнообразие архитектур трансформеров. Помимо теории, учебный материал содержит множество практических задач, требующих применения PyTorch. В процессе обучения студенты будут работать над проектом - обучением трансформера для решения определенной NLP-задачи и созданием на его основе веб-приложения. Курс также охватывает различные NLP-задачи, решаемые с помощью архитектур трансформеров. Целевая аудитория курса Этот курс будет полезен слушателям, углубленно интересующимся NLP и Deep Learning. Предполагается, что студенты знакомы с основными ML- и DL-моделями и имеют опыт обучения этих моделей на Python. Необходимый уровень знаний Для эффективного прохождения курса от слушателей ожидается понимание базовых алгоритмов машинного обучения и DL-архитектур, а также навыки обучения ML- и DL-моделей на Python. Рекомендуется предварительно пройти первые два курса из этой серии: "Основы нейронных сетей и NLP" и "Применение рекуррентных сетей в NLP и соответствующих приложениях". Контент курса Обзор курса NLP: краткий обзор Введение в PyTorch Механизм внимания Трансформеры: теория Трансформеры: практика Использование библиотеки Huggingface для решения NLP-задач Решение разных задач в области NLP Проектный модуль Ведущий преподаватель: Елена Кантонистова Она является кандидатом физико-математических наук и выпускницей школы анализа данных Яндекса. Ссылка скрыта}