Сверточные нейронные сети | Глубокие нейронные сети на Python

Краткий обзор архитектуры сверточных нейронных сетей. Страница курса - www.asozykin.ru....
Принципы сверточных нейронных сетей (convolutional neural networks):
- Локальное восприятие.
- Разделяемые веса.
- Уменьшение размерности.
Сверточная сеть состоит из чередующихся слоев свертки и подвыборки.
Нейроны сверточного слоя подключаются не ко всем нейронам предыдущего слоя, а к ограниченной области размером 3х3 или 5х5 нейронов (иногда больше). На этой области выполняется операция свертки с использованием так называемого ядра свертки - матрицы такой же размерности, как и область входных сигналов.
В нейронных сетях ядра свертки определяются автоматически в процессе обучения.
Слой подвыборки выполняет уменьшение размерности. Раньше использовалось усреднение, а теперь чаще применяется выбор максимального значения.
Рассматривается пример сверточной сети LeNet-5, которую разработал Ян Лекун для распознавания рукописных цифр индекса на почтовых отправлениях.
Для обучения сверточных сетей используется алгоритм обратного распространения ошибки с ограничением на веса.
При реализации проекта используются средства поддержки, выделенные в качестве гранта на основании конкурса, проведенного Общероссийской общественно-государственной просветительской организации «Российское общество «Знание».
Мой канал с краткими и понятными объяснениями сложных тем в ИТ и компьютерных науках:
goo.gl/kW93MA

[@user-hm4tl3hy4u]

Андрей, было очень интересно, спасибо!

[@T1railleuR47]

спасибо) только у вас в видео услышал про ядро свёртки, до этого я думал там происходит магия)

[@AndreySozykin]

Никакой магии, только математика!

[@evgeniylepikov6185]

Спасибо, первый источник в котором говорится о том откуда берутся значения ядра

[@AndreySozykin]

Пожалуйста! Кажется, это вещь, без которой нельзя понять остальное :-)

[@evgeniylepikov6185]

@@AndreySozykin Именно. Но видимо многие авторы не считают важным об этом упоминать.

[@AndreySozykin]

На самом деле это большая проблема при составлении курсов. Профессионалам часто сложно представить себя на месте новичка и оценить, что имеет смысл рассказывать, а что нет. Для профессионалов очевидно, что значения ядер определяются в процессе обучения (ведь это же глубокое обучение :-). Поэтому они не считают нужным об этом говорить. Но для новичков такие вещи далеко не очевидны и о них нужно подробно рассказывать.

[@dmitrychernyak4397]

Отличный курс. Спасибо!

[@AndreySozykin]

Пожалуйста!

[@inbuckswetrust7357]

Это я хорошо зашел, а то с керасом сейчас как раз балуюсь, и вообще только залез в NN очень доходчиво излагаешь и без излишней сложности.

[@AndreySozykin]

Спасибо!

[@leonidpopovski2727]

только полезная информация по теме: Горячее лето-2020: то потоп, то засуха. Ученые обещают планете новый рекорд tinyurl.com/y3o4x9eq

[@romarizkov]

Чесно говоря непонятно, чем локальное восприятие свёрточной нейронной сети отличается от подсчёта обычной взешенной суммы входов нейрона - ведь там и там сумма произведений входов и весов. Далее, непонтяно где в ядре свёртки разделяемые веса? Что это такое? Чем от обычных весов отличаются

[@user-ro3qo7wd8h]

что то с распознаванием лиц непонятно, на вход какое изображение поступает? Потому что на выходе получается множество лиц, а на входе тогда что было?

[@annatarasova4052]

Очень понятный курс, спасибо))

[@AndreySozykin]

Пожалуйста!

[@janavonm4376]

ochenj krutoj kurs. spasibo :)

[@AndreySozykin]

+Jana von M, пожалуйста!

[@AutoFightify]

Очень классное видео

[@AndreySozykin]

Спасибо!

[@user-km4mn4wo9y]

Андрей, спасибо большое Вам за познавательные уроки! Возник следующий вопрос про слои в LeNet-5: В первом сверточном слое рассматривается 6 ядер свертки, затем на этапе подвыборки(второй слой) каждый из полученных подслоев первого слоя уменьшается в размерности. На третьем слое(второй сверточный) определяется 16 ядер свертки. Вопрос: Какая связь между 6 подслоями второго слоя и 16 подслоями третьего слоя(16 и 6 же не кратны друг другу. Если бы было, скажем 12 ядер свертки, то было бы ясно, что, например, к каждому подслою применяется 2 ядра) Спасибо!

[@AndreySozykin]

+Никита Лазарев, прямой связи между количествами ядер на разных слоях нет. Обычно оказывается эффективно использовать больше ядер свертки на более глубоких уровнях сети. Однако конструктивного способа построения сети с нужными качествами нет.

[@kraamisChannel]

Andrey Sozykin но как именно они идут? К двумя применяется по два ядра, а к другим по три?

[@KArdiNaL458]

Спасибо, но у меня возник вопрос по поводу датасетов. Как можно создать свой? Точнее говоря, в каком виде изображения подаются в программу. Например, если я хочу использовать для обучения сети, файлы формата .dcm где по факту пиксель по факту есть информация о градации серого в изображении. Просто не совсем понятно, как правильно подать в сеть данный тип изображения.

[@Dima67574]

Спасибо большое, прекрасная тема. ждем еще !

[@AndreySozykin]

Пожалуйста! До нового года планирую выложить еще три видео.

[@AlexNirt12]

спасибо за видео, но нужна нейронная сеть на php))

[@elizathestranger8542]

Спасибо за полезное видео. У вас замечательный канал. Лайк, подписка 👍🏻👍🏻👍🏻👍🏻

[@AndreySozykin]

Спасибо!

[@4spam2no]

Неплохо конечно для 10 минут, но все, что там можно было перепутать он успешно перепутал :)

[@HPMuwa]

1:12 и 2:05 противоречат пункты друг другу. Полносвязная сеть не видит изображение как массив, а видит как набор (set), потому что каждый входной нейрон подключен ко всем нейронам следующего слоя и не зависит от порядка или последовательности.

[@knkn5049]

Рассуждая о распознавании машин разных размеров, что признак важнее чем его координаты. Я согласен, но роботы, которые перекладывают кубики, они по картинке определяют положение, у них нету усредняющих слоев? Как они ищут конкретные Точки на знакомом объекте (чтобы потом по их положению определить положение объекта) ?

[@imedasheriphadze1145]

Здравствуйте Андрей

[@maximkononov7216]

Андрей, здравствуйте! Я новичок в вопросах сверточных сетей, но имеется опыт в обработке изображений с использованием различных фильтров. Мой вопрос очень простой, возможно даже глупый... ) Подскажите, после "прохождения" входного изображения шестью фильтрами, мы получаем шесть карт признаков. Что происходит дальше, правильно ли я понимаю, что каждую из полученных шести карт признаков мы проходим новой матрицей для получения новых признаков? Другими словами, мы используем шесть "независимых" потоков с различными ядрами сверток для получения новых карт признаков? Если это так, то правильно ли я понимаю, что сеть "растет" в ширину на количество потоков в прогрессии равной каждому новому ядру свертки? Или где-то происходит суммирование карт признаков для уменьшения числа потоков? Спасибо

[@olegatormega]

Здравствуйте, у вас очень качественный материал по всему курсу, огромное спасибо за то что вы делаете. Скажите каким образом подбирается необходимое количество слоев свертки, слоев подвыборки, и в целом слоёв нейронной сети, не только сверточной, но и линейной. Есть ли какая то зависимость, от признаков, от объема выборки либо же от других параметров? Заранее спасибо.

[@AndreySozykin]

Сложность в том, что пока нет работающей методики подбора типов слоёв и их количества. Каждый раз приходится экспериментировать. Зависимость от объёма данных есть - чем больше данных, тем больше слоёв и нейронов в них может быть в сети. Если данных мало, а параметров в сети много, то будет переобучение.

[@samsonovG]

Подскажите пожалуйста новичку, я использую pycharm как среду разработки, что мне нужно догрузить помимо python, чтоб хотя бы повторить то, что вы в уроках даёте, или может надо как-то специально настроить что-то в данной среде? Спасибо

[@AndreySozykin]

Нужно установить Tensorflow 2 - www.tensorflow.org/install

[@samsonovG]

@@AndreySozykin спасибо!

[@letYourMoneyGrowcom]

Спасибо, Андрей! Особенно поравилось, что канонический пример сети из работы LeCun et al разобран полностью. А то когда я знакомился с темой - авторы многих тьториалов как попки его копипастили, но от и до не разобрал никто. А есть у Вас лекция в которой рассказывается, как сверточная сеть в процессе самообучения выбирает оптимальные ядра свертки?!

[@AndreySozykin]

+letYourMoneyGrow.com, сверточная сеть использует такой же алгоритм обратного распространения ошибки, как и другие нейронные сети. Об этм есть видео: kzbin.info/www/bejne/gabRfGCHmNaahck Но в сверточной сети есть дополнительное ограничение: веса во всех ядрах свертки должны быть одинаковыми. Это учитывается в процессе изменения весов.

[@whatsonot9363]

Здравствуйте, Андрей! А как можно написать сверточную нейронную сеть, чтоб она не только распознавала объект, но и выделяла его?

[@AndreySozykin]

Да, можно. Такой тип задач называется сегментацией. Вот ссылка на русскоязычную статью на хабре - habrahabr.ru/company/recognitor/blog/277781/. Также можно посмотреть англоязычную статью - people.eecs.berkeley.edu/~jonlong/long_shelhamer_fcn.pdf

[@whatsonot9363]

Andrey Sozykin спасибо большое!)

[@sergeyufimtsev711]

А для распознавания цифр мы свёрточную нейросеть можем применить?

[@AndreySozykin]

Да. Сеть LeNet-5 как раз была сделана для распознавания цифр. Но цифры хорошо распознает и обычная неглубокая полносвязная сеть. Обучить такую сеть гораздо быстрее, чем глубокую сверточную.

[@mclotos]

А если мы умножили значение пикселей на 0, как нам вернуть первоначальное значение чтобы воссоздать изначальную картинку?

[@AndreySozykin]

Если умножили на 0, то никак.

[@mclotos]

@@AndreySozykin значит 0 можно не использовать? Просто у меня идея в том чтобы обучить нейросеть находить цифры, буквы и геометрические фигуры и отправлять эту инфу дальше

[@mclotos]

Вот например сеть нашла треугольник, мне теперь нужно чтобы я в итоге получил от нее картинку, в которой будет этот же треугольник (прямоугольный/равносторонний/равнобедренный, того же цвета, под тем же углом, в том же месте где и в оригинале), только уже в новой картинке - очищенной от всего остального. и при этом я не могу быть уверен, что картинки, на которых нужно искать треугольник или круг или квадрат, будут четко определенного размера, скорее наоборот - размеры входящих картинок будут всегда разные - от 250х250 до 2048х1024

[@trasheskit]

Курс классный, большое спасибо! Но... Почему это "мы анализируем соседние пиксели по горизонтали, но не по вертикали"? При использовании Dense (когда нейроны соседних слоёв соединяются по принципу "все со всеми") это не имеет значения же. Нейросеть сама определяет степень влияния разных пикселей подбором весов. Или имелось ввиду, что мы используем не Dense?

[@AndreySozykin]

+kit-brain, если использовать Dense, то мы теряем информацию, что пикселы находятся рядом по вертикали. Во-первых, как правило есть несколько вариантов преобразовать одномерные данные в 2D. Во-вторых, мы можем преобразрвывать в 3D, и сверточные сети такое допускают. Конечно, Dense и без этой информации имее теоретическую возможность восстановить зависимости в данных. Но для этого потребуется гораздо больше данных для обучения, т.к. нужно будет настроить больше весов. При этом шанс переобучения гораздо выше.

[@trasheskit]

Andrey Sozykin, я со всем этим согласен. Только не понятно как Dense не теряет информацию по горизонтали? Все входы можно перемешать и на качество работы и обучения сети это влиять не должно. Я просто ставлю под сомнение, что есть какая-то асимметрия в учёте информации по вертикали и горизонтали. По-моему её просто нет. Я не прав?

[@user-qr3ix2yo5n]

На странице "Популярные ядра свертки" ядро "Выделение границ" указано неверно. Пожалуйста, поправьте.

[@AndreySozykin]

Что именне не верно в ядре "Выделение границ"? Попробовал его на сайте setosa.io/ev/image-kernels/, все работает.

[@leonidpopovski2727]

Мальчику Пете на семилетие подарили барабан, а Дмитрию Ивановичу, живущему за стенкой, на тилетие подарили ружье. Внимание, вопрос. Через сколько дней они узнают, что кому подарили?

[@smirnov-49]

Мозг Пикассо, видимо, обладал возможностью переключаться и между скрытыми слоями？!

[@AndreySozykin]

Возможно :-)

[@pie4928]

А где phyton ?

[@404Negative]

короче говоря свёртка - это часный случай нормирования входных векторов.

[@valle8336]

Дайте письменные тексты

[@leonidpopovski2727]

гарантия качественной информации в фактах: Горячее лето-2020: то потоп, то засуха. Ученые обещают планете новый рекорд tinyurl.com/y3o4x9eq

[@Qwerty0.1]

нужно больше инфы подробнее тут все поверхностно ниочом видос

[@runningbathattendantprogra9582]

Откуда получает данные ядро свертки? Нельзя так просто придумать свое ядро. Должны же быть какие-то правила. Или я что-то не понял? Ну хорошо. Пусть нейросеть сама придумала свое ядро свертки. В каждом языке программирования свои правила?

[@AndreySozykin]

Ядра свертки обучаются с помощью алгоритма обратного распространения ошибки. Сеть сама определяет, какие ядра лучше всего подходят для решения задачи. От языка программирования это не зависит, а только от данных, которые доступны в процессе обучения.

[@runningbathattendantprogra9582]

Понял. Спасибо за ответ. Очень доволен вашим курсом. Коротко, по сути для начала и доступно.