Рекуррентные блоки GRU. Пример их реализации в задаче сентимент-анализа | #25 нейросети на Python

Как работают блоки GRU (Gated Recurrent Units) рекуррентных нейронных сетей. Подробный анализ их архитектуры. Пример реализации слоя GRU в пакете Keras для задачи сентимент-анализа коротких высказываний. Управляемые рекуррентные блоки.
Телеграм-канал: t.me/machine_l...
Инфо-сайт: proproprogs.ru
lesson 25. GRU sentiment analysis.py: github.com/sel...
Фильтр Калмана: • ЦОС Python #5: Фильтр ...
GRU: ru-keras.com/r...

[@86Blind]

Когда за 2 часа не могут объяснить и сотой доли того, что в этом ролике за 13 минут. Талант !

[@Tera2Space]

еще можно в ускорении смотреть, так вообще моментально (и кстати все понятно)

[@stasdavydov2833]

Спасибо! Это в 100 раз понятнее, чем мне это объясняют на платных курсах УИИ

[@doxyvan6770]

Я тут заметил, что с каждым уроком все меньше и меньше просмотров, видимо, по мере прохождения выживают сильнейшие 🤔 Однако уроки о-о-очень понятные, прям вообще. Для человека, который только-только окончил школу (меня, например), все достаточно доступно. Начал изучать глубокое обучение по книге "Глубокое обучение на Python" Франсуа Шолле. Первая половина с ознакомительной информацией зашла на ура, но вот уже на начале второй (практической и углубленной) начались проблемы. Нашел ваши видео-уроки и всё, все вопросы отпали (Причем как только я задаю вопрос в голове "А почему то-то..?" сразу же в видео такой вопрос поднимается и решается. Сделано человеком для человека, спасибо!)

[@romandeveloper7720]

естественный отбор

[@onemasterlomaster1829]

спасибо за полезные уроки, очень хорошая подача!

[@romandeveloper7720]

лучший!

[@AcCeHu3aToP]

Огромное спасибо за уроки. Будете дополнять плейлист? Очень было бы интересно посмотреть про такие архитектуры как attention, transformer, yolo...

[@selfedu_rus]

Спасибо! Пока нет в планах.

[@alexandersavitski2831]

Я не понял, а почему на 25 уроке уже так мало лайков? Надо исправлять

[@igorvozjen9170]

Спасибо за урок, но немного сбивает с толку обозначение "+" на пути от h_t-1 к h_t, потому что в других пересечения векторов тоже по сути происходит сложение, если не указано "*" (умножение).

[@VenatoresnamIgnotis]

Почему-то при использовании строки "это шедевр изобразительного" у меня распознается только слово "ЭТО", а если ставить другую строку, например из прошлого занятие " я люблю позитивное настроение", он распознает [ 'я', 'позитивное', 'настроение'], т.е. почему-то не все слова распознаны, хотя это фразы из обучающей выборки

[@mad_cup_of_tea]

Потому что в файле train_data_true на github этой фразы нет.

[@YbisZX]

С обозначениями узлов полная каша. Там везде стрелки надо проставлять.

[@Synteger1]

Спасибо большое! Немного с обозначениями непонятно в случае пересечения, конкатенация или какая-то другая операция: вектор r получен от конкатенации h и x, как потом можно снова умножить r на h ? ведь размер r > размер h. На отметке времени 8-30 это явно в формулах прописано.

[@boost_456]

Если мы делаем нейросеть, которая классифицирует высказывания как положительные и отрицательные, почему бы не использовать в качестве функции потерь binary_crossentropy и не задать 1 нейрон на последнем слое с функцией активации sigmoid?

[@selfedu_rus]

можно поэкспрементировать, согласен

[@ravenalbatros]

Узлы объединения и копирования векторов на схеме иногда можно спутать

[@RodyChannel]

Здравствуйте, спасибо за урок!! Интересно узнать, откуда Вы берёте информацию для уроков? (статьи, видео, книги...) Буду очень благодарен, если порекомендуете какой-нибудь из этих источников)

[@selfedu_rus]

Спасибо! По книгам: С. Николенко Глубокое обучение, Bishop (про НС), Хайекин Нейронные сети (полный курс). Начните с этого, например.

[@RodyChannel]

@@selfedu_rus Большое спасибо!

[@nbndanzo3685]

здравствуйте Сергей ,не подскажите пожалуйста ,когда мы прописываем струкутру нейронки в 10:22,то128 ячейки слоя GRU это первый параметр units?так как units это число нейронов в полносвязанных слоях в одном GRU ячейки 9:16,то число 128 и 64 слоя GRU это нейроны одной ячейки GRU?тоисть вы подразумеваете под ячейками нейроны ?

[@selfedu_rus]

128 и 64 - это число нейронов (в каждом полносвязном слое) внутри ячейки GRU соответствующего слоя.

[@tomli1092]

Добрый день! А почему вы сказали, когда запустили сеть заново, что сеть ещё раз обучается? Разве при запуске не инициализируются заново объекты?

[@selfedu_rus]

мы состояние сети не запоминаем, поэтому при повторном запуске программы сеть начнет обучаться заново