Обработка естественного языка с помощью глубокого обучения на Python [Udemy] [Lazy Programmer Inc.]

Язык: Английский Полное руководство по получению и реализации word2vec, GloVe, вкраплений слов и анализа настроения с помощью рекурсивных сетей Чему вы научитесь: Понять и реализовать word2vec Понять метод CBOW в word2vec Понять метод пропусков в word2vec Понять оптимизацию отрицательной выборки в word2vec Понимание и реализация GloVe с использованием градиентного спуска и чередования наименьших квадратов Использование рекуррентных нейронных сетей для тегирования частей речи Использование рекуррентных нейронных сетей для распознавания именованных сущностей Понимание и реализация рекуррентных нейронных сетей для анализа настроения Понимание и реализация рекурсивных нейронных тензорных сетей для анализа настроений Использовать Gensim для получения предварительно обученных векторов слов и вычисления сходства и аналогий Понимание важных основ OpenAI ChatGPT, GPT-4, DALL-E, Midjourney и Stable Diffusion Вы когда-нибудь задумывались, как на самом деле работают такие технологии искусственного интеллекта, как OpenAI ChatGPT, GPT-4, DALL-E, Midjourney и Stable Diffusion? В этом курсе вы узнаете об основах этих революционных приложений. В этом курсе мы рассмотрим НЛП (обработку естественного языка) с помощью глубокого обучения. Ранее вы узнали о некоторых основах, например о том, что многие проблемы НЛП - это обычные проблемы машинного обучения и науки о данных, а также о таких простых и практичных методах, как пакет слов и матрицы "термин-документ". С их помощью мы можем делать довольно крутые вещи, например, обнаруживать спам в электронной почте, писать стихи, верстать статьи и группировать похожие слова. В этом курсе я покажу вам, как делать еще более удивительные вещи. В этом курсе мы изучим не 1, а 4 новые архитектуры. Первая - word2vec. В этом курсе я покажу вам, как именно работает word2vec, от теории до реализации, и вы увидите, что это всего лишь применение уже известных вам навыков. Word2vec интересен тем, что он волшебным образом отображает слова в векторное пространство, в котором можно найти аналогии, например: король - мужчина = королева - женщина Франция - Париж = Англия - ЛондонДекабрь - ноябрь = июль - июнь Для новичков, которым алгоритмы кажутся сложными и которые просто хотят использовать библиотеку, мы продемонстрируем использование библиотеки Gensim для получения предварительно обученных векторов слов, вычисления сходства и аналогий и применения этих векторов слов для построения текстовых классификаторов. Мы также рассмотрим метод GloVe, который также находит векторы слов, но использует технику, называемую матричной факторизацией, которая является популярным алгоритмом для рекомендательных систем. Удивительно, но векторы слов, полученные GLoVe, не уступают векторам, полученным с помощью word2vec, а обучать его гораздо проще. Мы также рассмотрим некоторые классические проблемы НЛП, такие как тегирование частей речи и распознавание именованных сущностей, и используем рекуррентные нейронные сети для их решения. Вы увидите, что практически любая задача может быть решена с помощью нейронных сетей, но также узнаете об опасностях, связанных с чрезмерной сложностью. Наконец, вы узнаете о рекуррентных нейронных сетях, которые в итоге помогут нам решить проблему отрицания в анализе настроения. Рекурсивные нейронные сети используют тот факт, что предложения имеют древовидную структуру, и мы наконец-то можем отказаться от наивного использования мешков слов. Все материалы, необходимые для этого курса, можно скачать и установить БЕСПЛАТНО. Большую часть работы мы будем выполнять в Numpy, Matplotlib и Theano. Я всегда готов ответить на ваши вопросы и помочь вам на пути к науке о данных. Этот курс посвящен тому, как создавать и понимать, а не только тому, как использовать. Любой может научиться использовать API за 15 минут после прочтения документации. Речь идет не о том, чтобы "запомнить факты", а о том, чтобы "увидеть все своими глазами", экспериментируя. Это научит вас визуализировать то, что происходит в модели изнутри. Если вы хотите получить не просто поверхностный взгляд на модели машинного обучения, этот курс для вас. Увидимся на занятиях! Требования: Установите Numpy, Matplotlib, Sci-Kit Learn и Theano или TensorFlow (теперь это должно быть очень просто). Понять, что такое обратное распространение и градиентный спуск, уметь самостоятельно вывести и закодировать уравнения Создайте рекуррентную нейронную сеть из базовых примитивов в Theano (или Tensorflow), особенно функцию сканирования Кодирование нейронной сети с обратной связью в Theano (или Tensorflow). Полезно иметь опыт работы с древовидными алгоритмами Подробная информация: Продолжительность: 12 ч. Последние обновление курса: 07.2024 Язык: Английский + Английские субтитры. Lazy Programmer Inc. Ленивый программист - опытный онлайн-педагог с непоколебимой страстью к распространению знаний. Имея более чем 10-летний опыт работы, он произвел революцию в области науки о данных и машинного обучения, покорив аудиторию по всему миру своими комплексными курсами и учебными пособиями. Обладая многопрофильным образованием, Ленивый программист имеет замечательный дуэт магистерских степеней. Его первая попытка попасть в академические круги привела его к изучению компьютерной инженерии со специализацией на машинном обучении и распознавании образов. Не зная границ, он отправился в сферу статистики, изучая ее применение в финансовом инжиниринге. Признанный первопроходцем в своей области, "Ленивый программист" быстро освоил возможности глубокого обучения, когда оно еще находилось в зачаточном состоянии. Будучи одним из первопроходцев, он бесстрашно взялся за преподавание одного из первых онлайн-курсов по глубокому обучению, что вывело его на передовые позиции в отрасли. Помимо образования, Ленивый программист обладает бесценным практическим опытом, который сформировал его знания. Его деятельность в сфере онлайн-рекламы и цифровых медиа принесла поразительные результаты, подняв показатели кликов и конверсии на новую высоту и увеличив доходы на миллионы долларов в компаниях, в которых он работал. Как полнофункциональный инженер-программист, он может похвастаться глубоким знакомством с целым рядом бэкэнд- и веб-технологий, включая Python, Ruby on Rails, C++, Scala, PHP, Javascript, SQL, большие данные, Spark и Redis. Хотя его достижения в области науки о данных и машинного обучения поражают воображение, интеллектуальное любопытство Ленивого программиста выходит далеко за рамки этих областей. Его рвение к знаниям заставляет его исследовать такие разнообразные области, как открытие лекарств, биоинформатика и алгоритмическая торговля. Вникая в сложности и хитросплетения этих предметов, он стремится раскрыть их потенциал и внести свой вклад в их развитие. Благодаря непоколебимой преданности своим студентам и склонности к упрощению сложных концепций, Ленивый программист является влиятельной фигурой в сфере онлайн-образования. Благодаря своим курсам по науке о данных, машинному обучению, глубокому обучению и искусственному интеллекту он дает возможность начинающим студентам уверенно ориентироваться в запутанных ландшафтах этих дисциплин. Как автор, наставник и новатор, Ленивый программист оставил неизгладимый след в мире науки о данных, машинного обучения и не только. Благодаря своей способности разъяснять самые запутанные концепции он продолжает формировать следующее поколение специалистов по изучению данных и вдохновляет бесчисленное множество людей отправиться в собственное интеллектуальное путешествие. Ever wondered how AI technologies like OpenAI ChatGPT, GPT-4, DALL-E, Midjourney, and Stable Diffusion really work? In this course, you will learn the foundations of these groundbreaking applications. In this course we are going to look at NLP (natural language processing) with deep learning. Previously, you learned about some of the basics, like how many NLP problems are just regular machine learning and data science problems in disguise, and simple, practical methods like bag-of-words and term-document matrices. These allowed us to do some pretty cool things, like detect spam emails, write poetry, spin articles, and group together similar words. In this course I’m going to show you how to do even more awesome things. We’ll learn not just 1, but 4 new architectures in this course. First up is word2vec. In this course, I’m going to show you exactly how word2vec works, from theory to implementation, and you’ll see that it’s merely the application of skills you already know. Word2vec is interesting because it magically maps words to a vector space where you can find analogies, like: king - man = queen - woman France - Paris = England - London December - Novemeber = July - June For those beginners who find algorithms tough and just want to use a library, we will demonstrate the use of the Gensim library to obtain pre-trained word vectors, compute similarities and analogies, and apply those word vectors to build text classifiers. We are also going to look at the GloVe method, which also finds word vectors, but uses a technique called matrix factorization, which is a popular algorithm for recommender systems. Amazingly, the word vectors produced by GLoVe are just as good as the ones produced by word2vec, and it’s way easier to train. We will also look at some classical NLP problems, like parts-of-speech tagging and named entity recognition, and use recurrent neural networks to solve them. You’ll see that just about any problem can be solved using neural networks, but you’ll also learn the dangers of having too much complexity. Lastly, you’ll learn about recursive neural networks, which finally help us solve the problem of negation in sentiment analysis. Recursive neural networks exploit the fact that sentences have a tree structure, and we can finally get away from naively using bag-of-words. All of the materials required for this course can be downloaded and installed for FREE. We will do most of our work in Numpy, Matplotlib, and Theano. I am always available to answer your questions and help you along your data science journey. This course focuses on "how to build and understand", not just "how to use". Anyone can learn to use an API in 15 minutes after reading some documentation. It's not about "remembering facts", it's about "seeing for yourself" via experimentation. It will teach you how to visualize what's happening in the model internally. If you want more than just a superficial look at machine learning models, this course is for you. See you in class! "If you can't implement it, you don't understand it" Or as the great physicist Richard Feynman said: "What I cannot create, I do not understand". My courses are the ONLY courses where you will learn how to implement machine learning algorithms from scratch Other courses will teach you how to plug in your data into a library, but do you really need help with 3 lines of code? After doing the same thing with 10 datasets, you realize you didn't learn 10 things. You learned 1 thing, and just repeated the same 3 lines of code 10 times... Suggested Prerequisites: calculus (taking derivatives) matrix addition, multiplication probability (conditional and joint distributions) Python coding: if/else, loops, lists, dicts, sets Numpy coding: matrix and vector operations, loading a CSV file neural networks and backpropagation, be able to derive and code gradient descent algorithms on your own Can write a feedforward neural network in Theano or TensorFlow Can write a recurrent neural network / LSTM / GRU in Theano or TensorFlow from basic primitives, especially the scan function Helpful to have experience with tree algorithms WHAT ORDER SHOULD I TAKE YOUR COURSES IN?: Check out the lecture "Machine Learning and AI Prerequisite Roadmap" (available in the FAQ of any of my courses, including the free Numpy course) UNIQUE FEATURES Every line of code explained in detail - email me any time if you disagree No wasted time "typing" on the keyboard like other courses - let's be honest, nobody can really write code worth learning about in just 20 minutes from scratch Not afraid of university-level math - get important details about algorithms that other courses leave out Бонус от Организатора: Русские субтитры + Русские аудио дорожки машинный перевод + для удобства воспроизведения добавлена отдельная папка с сшитыми видео файлами (Русская аудио дорожка + видео файл) [Premium Ai]. *Аудио перевод произведён с синхронизацией таймингов.