Учимся обучать нейронные сети, за 30 минут от теории до практики.

Поговорим о там как можно обучить сеть методом обратного распространения ошибки. В данном видео затронуты (но не раскрыты) такие темы как:
- производная • 02. Что такое производ...
- число е • Число e.
• Discord-чат академии: bit.ly/2K6XQQ2
• Поддержать проект можно вот тут: / b0noi
Notebook: s3-us-west-1.amazonaws.com/yo...

[@EXPBET]

смотрю второе видео по данной теме.... сложилось четкое нейронное убеждение, что друг который все время говорит что ему понятно... на самом деле нихуа не понимает))))

[@elxanelxanov258]

U MENA TAKOYE JE OSUSENIYE

[@user-fg3bz5wt5s]

@@elxanelxanov258 Alt + Shift и Caps Lock

[@donrumata5299]

@@user-fg3bz5wt5s Win+Space

[@gleb_bro8710]

@@donrumata5299 alt + f4 или ctrl + w

[@danya151mail]

++, мог бы много хороших вопросов позадавать

[@kotnetrezviy]

import numpy as np import sys class PartyNN(object): def __init__(self, learning_rate=0.1): self.weights_0_1 = np.random.normal(0.0, 2 ** -0.5, (2,3)) self.weights_1_2 = np.random.normal(0.0, 1, (1, 2)) self.sigmoid_mapper = np.vectorize(self.sigmoid) self.learning_rate = np.array([learning_rate]) def sigmoid(self, x): return 1 / (1 + np.exp(-x)) def predict(self, inputs): inputs_1 = np.dot(self.weights_0_1, inputs) outputs_1 = self.sigmoid_mapper(inputs_1) inputs_2 = np.dot(self.weights_1_2, outputs_1) outputs_2 = self.sigmoid_mapper(inputs_2) return outputs_2 def train(self, inputs, expected_predict): inputs_1 = np.dot(self.weights_0_1, inputs) outputs_1 = self.sigmoid_mapper(inputs_1) inputs_2 = np.dot(self.weights_1_2, outputs_1) outputs_2 = self.sigmoid_mapper(inputs_2) actual_predict = outputs_2[0] error_layer_2 = np.array([actual_predict - expected_predict]) gradient_layer_2 = actual_predict * (1 - actual_predict) weights_delta_layer_2 = error_layer_2 * gradient_layer_2 self.weights_1_2 -= (np.dot(weights_delta_layer_2, outputs_1.reshape(1, len(outputs_1)))) * self.learning_rate error_layer_1 = weights_delta_layer_2 * self.weights_1_2 gradient_layer_1 = outputs_1 * (1 - outputs_1) weights_delta_layer_1 = error_layer_1 * gradient_layer_1 self.weights_0_1 -= np.dot(inputs.reshape(len(inputs), 1), weights_delta_layer_1).T * self.learning_rate def MSE(y, Y): return np.mean((y-Y)**2) train = [ ([0, 0, 0], 0), ([0, 0, 1], 1), ([0, 1, 0], 0), ([0, 1, 1], 0), ([1, 0, 0], 1), ([1, 0, 1], 1), ([1, 1, 0], 0), ([1, 1, 1], 1), ] epochs = 5000 learning_rate = 0.05 network = PartyNN(learning_rate=learning_rate) for e in range(epochs): inputs_ = [ ] correct_predictions = [ ] for input_stat, correct_predict in train: network.train(np.array(input_stat), correct_predict) inputs_.append(np.array(input_stat)) correct_predictions.append(np.array(correct_predict)) train_loss = MSE(network.predict(np.array(inputs_).T), np.array(correct_predictions)) sys.stdout.write(" Progress: {}, Training loss: {}".format(str(100 * e/float(epochs))[:4], str(train_loss)[:5])) for input_stat, correct_predict in train: print("For input: {} the prediction is: {}, expected: {}".format( str(input_stat), str(network.predict(np.array(input_stat)) > .5), str(correct_predict == 1))) for input_stat, correct_predict in train: print("For input: {} the prediction is: {}, expected: {}".format( str(input_stat), str(network.predict(np.array(input_stat))), str(correct_predict == 1)))

[@user-ep5oc5wt3v]

Лучший. Спасибо.

[@alyukovnet]

Делаю проект, связанный с нейронными сетями. Этот ролик всё понятно поясняет. Пока не нашёл аналогов в русском Ютубе. Большое спасибо

[@KovalevskyiAcademy]

Спасибо!

[@spawn1411]

привет. как успехи с проектом? тоже заинтересовался этой идеей. сейчас собираю крупицы знаний в русскоязычных источниках. интересно было бы пообщаться с человеком, который уже через все это прошел)

[@danyalmugutdinov7283]

Отличная идея с математикой. Просто изучать математику довольно скучно и если вы будете делать уроки по ML , оставляя ссылки на видео с объяснением применных математических терминов , то это будет просто изумительно. В общем я считаю, что имеет место делать уроки по математике в контексте ML

[@KovalevskyiAcademy]

Думаем начать с урока о чем то простом вроде операций над векторами и том как numpy это упрощает а то возможно код может показаться немного непонятным при первом изучении.

[@KlimKovalenko]

Пожалуй это лучшее толкование на русском языке, спасибо большое)

[@KovalevskyiAcademy]

И вам спасибо большое!

[@MrGerser]

Пожалуй лучше было бы слышать монолог. Глеб тут явно лишний.

[@MisterKoK22]

@@MrGerser ничуть не лишний. Он как индикатор. Раз головой кивает, значит и другие слушатели будут понимать.

[@jonueflbana6864]

Поддерживаю - самое толковое видео.

[@KiraLis39]

@@MisterKoK22 да ничерта не понятно никому, и ему самому, похоже. херовый индикатор либо просто бесит.

[@user-xm8zt8ru1z]

Большое спасибо. Очень помогает разобраться с основными принципами.

[@mirlaniusUMK]

Отличнейший урок про нейросеть! Спасибо большое

[@Mar_chella]

Супер! Очень понятный и полезный контент . Благодарю автора

[@danyalmugutdinov7283]

Поделюсь, расскажу друзьям, покажу девушкею. Что угодно, только продолжай , прошу тебя =)

[@KovalevskyiAcademy]

Спасибо большое, чем больше просмотров тем больше у нас стимула продолжать делать видео на эту тему =)

[@Xpect1337]

Potryasayusheye video!! Ogromnoe spasibo!

[@drimeF0]

Лучший курс в мире, все понятно и ясно. Спасибо за курс

[@IT_business_in_Russia]

Спасибо за Ваш труд, все очень подробно и понятно

[@alexeykonyagin9916]

Отличный урок, спасибо!

[@slysuslik]

Просто супер и все понятно! Спасибо за такие интересные и понятные видео!

[@user-dk8zi8mg4f]

Ну наконец-то я увидел и услышал про функцию активации в понятной форме, спасибо автору. Для новичков супер! 3 месяца искал нормальное толкование!

[@taraun5258]

Очень подробное и самое лучшее описание нейросетей что я смог найти. Немного непривычно читать питон, и не люблю видео, ибо когда пытаешься сам что то сделать проще работать с текстовой информацией. Огромное Вам спасибо за курс. Надеюсь он будет продолжаться.

[@KovalevskyiAcademy]

+Александр Петров и Вам спасибо ! Будем признательны за помощь с распространением:)

[@ilyakiselev113]

Впервые вижу такой качественный контент по нейронным сетям! Я пошел учить питон...

[@sticktogether2326]

Переписал эту нейронку (пришлось потратить немало времени на понятие синтаксиса Python) на С++. При тех же вводных (5000 поколений и 0.08 learning_rate) ошибка сети на выходе 0.003. Спасибо огромное тебе за очень понятное объяснение. В ру сигменте найти человека, который так подробно может разжевать что и как делается - как иголку в стоге сена искать.

[@vitalikvitalik9765]

Вот это я понимаю, понятно и с примерами!!! пойду смотреть дальше и показывать всем =)

[@vadimpervouralsk]

Спасибо чувак, первый раз нормальное объяснение нашёл

[@alexpaskal8345]

Спасибо огромное! Это поистине самое понятное объяснение

[@sergeykorshunov9508]

Самые толковые примеры из того, что мне до сих пор доводилось видеть. Спасибо!

[@KovalevskyiAcademy]

и вам спасибо, будем очень благодарны если поможете распространить =)

[@silentnight.official4261]

Хороший формат, формирует интуиции для дальнейшего углубления в тему. Детали лучше понимаешь на родном языке, как ни крути.

[@sergeychaban3321]

Благодарю за доходчивое изложение и реальный пример обучения нейросети. Повторил всю методологию обучения нейросети из Вашего примера, но на Delphi 7. Правда, писал более универсальный и "тяжелый" код, под свои собственные задачи. Нейрон был описал отдельным классом, дабы потом можно было создавать произвольный массив из нейронов. В результате программа на Delphi те же 4000 эпох из примера "отработала" за 15 секунд (в Вашем примере на Питоне около 6 секунд). Оно может дело и в железе (у меня Celeron G1820 2.7GHz), но не думаю, что "причесывая" делфийский код, мне удастся сократить время выполнения в 2.5...3 раза. Т.е. налицо имеет место быть факт "заточенности" Питона под нейросети.

[@Riderwin]

Очень интересно, огромное спасибо ! , надеюсь это не последнее видео )

[@1stface]

Спасибо парням за видео. Пожалуй , изложение материала понятней чем здесь , я нигде не видел. Возможно , в силу своей восприимчивости. Наконец-то бахнул свою первую нейронку для игрового бота, счастью нет предела))

[@user-gk4nu1ic3w]

Отличное видео, не скажу что все объясненно досконально но разобраться очень помогло. Спасибо!

[@sergeydemidov1112]

Ребят, спасибо вам большое. Я около десяти видео просмотрел, что бы это найти. Обучение нигде не объясняют. Все или в магию готовых библиотек уходят или просто молча опускают. Очень понятно. Даже если не понимать что такое сигмоида и производная :)

[@LS-oh6po]

У меня тоже все получилось!!!! Как интересно. Я правда очень простую программку на Питоне написал (только неделю назад изучил как на нем программировать), но все получилось. . 5000 итераций и learning rate 0.05. Огромное спасибо авторам за такое простое и гениальное объяснение непростого материала!!!

[@nurlannurmash4155]

Спасибо вам за видео, лучшие!

[@egormarkin858]

Объясняет очень сложную вещь как на духу!! Спасибо

[@SKYDELSTV]

Nice, с удовольствием смотрю!!!)

[@vladimirleonenko6284]

Одно из лучших демо нейросети, еще есть несколько других уроков, которые вместе позволяют хорошо усвоить тему

[@YasnaKo]

Спасибо большое, очень интересно!

[@1000milliwatt]

Лучшее видео, чтобы понять что такое нейросеть, и как работает метод с нуля. Краем глазом просматриваю подобные видео давно, но именно понял как работает это метод только с этим виде.

[@user-lv1ll2ql8c]

Круто!Нечасто можно найти такой полезный контент.Однозначно лайк

[@KovalevskyiAcademy]

Спасибо!

[@NoodLez0000]

Пока что, лучшее обьяснение метода обратного распространения ошибки, которое встречал в интернете.

[@user-gz6cr1tp9q]

Спасибо! Наконец-то понял про нейронные сети

[@HellbringerOnline]

А зачем нужен чувак, которому всё понятно и всегда говорит да? =) Хотя бы поспрашивал мол веса что такое поподробнее можно?.

[@user-ie2kx2uw6x]

Спасибо большое, очень доходчиво рассказано) Лайк, подписка)

[@KovalevskyiAcademy]

+Батончик Сникрес спасибо:)!

[@user-ep5oc5wt3v]

Было бы неплохо продолжить данную тему, очень хороший спрос.

[@mr.goldenman2403]

спасибо вам большое, у вас самое понятное объяеснение, которое я нашел

[@dmitriytyurnin4605]

Браво! Отправил друзьям!

[@KovalevskyiAcademy]

+Dmitry Tyurnin спасибо!

[@alexandr7426]

Спасибо! Всё понятно!

[@user-gg5rf6md3k]

Спасибо большое. Очень подробно обьяснили... лайк+подписка

[@user-gg5rf6md3k]

Если еще не трудно, можете запилить видео с предсказаниями в нейронных сетях？

[@kirylkudrautsau896]

Господа, сегодня знаменательный день. Стало понятно! Огромное спасибо за материал.

[@IT_business_in_Russia]

Спасибо! Просто супер

[@torbokovsanat]

респект за видео, отдельно за юмор ))) 8:45 - запихиваем незапихуемое )))

[@alexk5636]

Мега круто . Хочу еще . Больше примеров . Тема зашла, было интересно.Спасибо большое. Интересен был бы пример с определением того что находится на изображении. P.S. Жаль в универе мне не так статы и кванты объясняли.

[@KovalevskyiAcademy]

Спасибо большое. А в какомы вы универе?

[@alexk5636]

Одесский национальный университет, физический факультет . Уже окончил. Решил расширить горизонты и изучить Java в чем ваши курсы несомненно помогают, а тут еще и тема интересная.

[@clanwarexperiment2397]

А так спасибо тебе большое. Классное видео. Глеб умница тоже)

[@user-yc7pg2jk9y]

Шикарная тема!

[@user-gu1sv3ct4f]

Спасибо огромное!!!

[@retret4538]

ДА ТЫ ПРОСТО БОГ АЛО СТОЛЬКО САЙТО И ВСЁ НЕПОНЯТНО КАК ТЫ ДОЛЖЕН ЗАПИСАТЬ ЭТИ ФОРМУЛЫ, А ТЫ ПРЯМ ПО ПАЛЬЦЕМ НА ПАЛЬЦАХ В 100 СТЕПЕНИ РАСФОРМУЛИРОВАЛ СПАСИБО МОЛОДЕЦ АЛЛО ЛУЧШИЙ

[@fedorchernolutsky146]

Чего-то голова уже не работает. Видео супер!)

[@filinsstudio7530]

Вобщим зацепила меня эта тема сильно, так как я сам начал писать алгоритм обратного распространения ошибки для многослойной сети. Чтож, понятное дело, я увидел множество неоднозначных проблем для себя, решение которых к стате я вижу по своему. Поэтому я сам ухожу на некоторое время в глубокое обучение, начинаю подымать литературу по этому вопросу, дабы повысить свой интелект для решения этой задачи.

[@KovalevskyiAcademy]

Очень хороший ход =)

[@theomi8633]

11:15 sigmoid(x)dx = f'(x)dx, в такой записи сигмоида - уже производная при дифф. 1- форме. Правильно так - sigmoid'(x)dx=sigmoid(x)(1-sigmoid(x))dx

[@lekkaverhovcev6334]

Лайк поставлен. Пошел рекомендовать друзьям.)

[@vadimzaytsev7176]

перечитал кучу литературы и видео но только после вашего понял что к чему одним словом супер!

[@KovalevskyiAcademy]

+Vadim Zaytsev спасибо :)!

[@user-ud2nz8ir4z]

Видео очень понравилось! Никогда не думал, что с помощью математических формул можно делать такие выкрутасы с обучением. Было бы идеально, если бы код был бы ещё и на других языках вроде С++, если это, конечно сильно не затруднит. Спасибо.

[@Roman_Gennadevich]

А смысл??? Тут суть есть, осталось только переписать через нужный язык.

[@syntes5681]

Мне бы такого друга, который может слушать рассказ в течение получаса и более )

[@user-tb4pk3lf8r]

огромное вам спасибо это лучшее что я видел по нсхоть и не люблю питон но вам все равно огромное спасибо

[@ukratitelkisok9726]

Определённо лучшие видео в русском ютуб, спасибо

[@user-mk5ie3ob8p]

Я себе так и представлял нейросеть, но вот обратный анализ это круто, можно сделать ещё интересней, но это на примере другом разбирать нужно, где больше трёх вариантов.

[@hikkarion]

Отличные уроки, было бы вообще круто, если бы это вылилось в полноценный курс с разбором современных библиотек глубокого обучения и реальными кейсами! Пока самые понятные объяснения, которые я слышал, ну и Ng конечно тоже хорош, но у него Octave( , а тут сразу на актуальном языке было бы вообще отличной.

[@KovalevskyiAcademy]

На это пока что времени нету, но когда то на базе Хекслета возможно появиться =)

[@easyelectronicsru]

ну хотя бы простенький примерчик, вроде шняги которую можно было бы обучить отличать круг от квадрата, например.

[@victorbasanets2939]

Да ну и конечно видео полезное и интересное

[@konstantin7899]

Грамотно!

[@DrLugaro]

Боже мой, дня 3 не мог понять почему сеть не сходится, столько всего перечитал, а это видео вообще по секунде помню.. Один мать его символ!! При подсчете весов первого слоя в цикле проходил не по 3 элементам, а по 2вум, банальная опечатка... и самое забавное что сеть ошибалась примерно на 90% Автору видео большое спасибо, из того что я видел, это пожалуй лучшее вводное видео для понимания "Как это работает"

[@tehhasrussian5714]

Спасибо за подробный обзор работы сети и формул! Но возникли вопросы: - как проводить обучение нейросети,если ожидаемое значение неизвестно,например при прогнозировании погоды? - где можно увидеть ваш код нейронки?

[@user-oz6nl6pd1s]

Тебе нужно рассмотреть все возможные варианты и добавить их на выход. Входные нейроны это условия/среда за которыми нейросеть наблюдает, что бы понять какой будет погода

[@biohobby]

Супер!

[@VirtualSUN]

Фух-х-х... Спасибо. Пересмотрел это видео до "дыр". Уже несколько дне ничего не получалось. НС не хотела учится... Сделал так, чтоб можно было указывать количество слоёв и нейронов в них. Только, что нарисовал все эти "пути" обучения... Ну, короче, Я морознул малость еще в самом начале. :) Но все получилось! Даже может предсказывать значения не из выборки. :)

[@N1nemaN]

Лучшее на русском, что смог найти. Благодарю. Продолжайте!

[@KovalevskyiAcademy]

Спасибо!

[@ThA891]

просто охренеть! Автора в рай!

[@user-rv3hh7le6b]

Блин, по такому хорошему рассуждению можно даже нейронку в Scratch забацать! Классно)

[@KovalevskyiAcademy]

want to record this and upload on this channel;)?

[@user-rv3hh7le6b]

@@KovalevskyiAcademy When i will can - i will)

[@user-cg5mg1id3g]

Здравствуйте! Большое спасибо за очень интересный и понятный материал! Почти все усвоил с первого просмотра)) Но пожалуйста, подскажите каким образом считать ошибку если например в выходном слое несколько нейронов? Как я понял выходной слой считается так-же как и у вас, а вот что делать со скрытыми/входным? Пока на уме крутится мысль в цикле считать ошибку для нейронов текущего слоя на основании каждого нейрона следующего, но интуиция подсказывает что из этого получится что-то некорректное. Подскажите пожалуйста, как будет правильно?

[@slavas9200]

Спасибо огромное! Наконец, по теме, а то везде сплошная реклама облаков с черными ящиками.

[@user-bf9ze3ms5u]

наконец то нормальное видео по нейронным сетям

[@Hunter6745]

а какую дельту брать? ну например у нас несколько выходных нейронов

[@rolandasterminas7232]

SUPER!!!!

[@ashwhwhdh]

Подскажите, а данный алгоритм подходит для обучения нейросети распознаванию цифр ? В случае если несколько выходных нейронов, схема таже самая ?

[@svlasiuk]

сетка написана на 3 питоне? её можно где-то по заимствовать для своих тестов?

[@vazgenmkrtchyan9390]

классное видео! а скажите пожалуйста как расчитать ошибку если выходной слой более 1 -ого нейрона?

[@incinerate5401]

Приветствую, Вячеслав! Отличные видео! Можете подсказать материалы, по которым можно разобраться основательнее и подробнее с темами нейронных сетей и машинного обучения? Я знаю про курсы на stepic, coursera, EdX, может ещё что-то? Что-то, что может сделать из меня джедая deep learning'a?)

[@KovalevskyiAcademy]

www.deeplearningbook.org =)

[@incinerate5401]

Спасибо, с нетерпением жду новых видео!)

[@dimalektor]

Доброго времени суток! Подскажите, пожалуйста, по поводу нахождения ошибки. В видео говорится, что ошибка находится из разности текущего результата и ожидаемого. Покопавшись в интернете и прочитав книгу Создаем нейронную сеть - Рашид Тарик, пишут, что ошибка это разница между желаемым(тренировочным) результатом и текущим. Может, я что-то не так понимаю?

[@eduardmart1237]

А в чем делаешь презентации?)

[@user-ob2xn1bq4e]

Есть подобные материалы по методу обучения генетическим алгоритмом?

[@zhannashangitova]

Добрый день! Я только начала изучать нейросети. Программа на Jupyter Notebook обучила сеть , какой результат нужно выдавать в конце при определенных входных данных. Т.е. мы обучили сеть для того чтобы после введения новых данных предсказывать результаты с максимальной точностью. Правильно я поняла? Теперь у меня есть вопрос, как вводить данные для предсказания новых результатов?

[@andreybudnikov5920]

Я правильно понимаю, в массиве train должны быть только 0 и 1? На нем и тренируется сеть. А при использовании, другим массивом/обьектом вставляются уже искомые данные? Запутался просто. У меня есть набор данных, на которых нужно натренировать сеть, правильно ли их вставлять в train?

[@vahagnadunc8852]

super!

[@AllpowerfulAndrew]

Вячеслав, а что если вместо Python использовать Scala? Это же не так больно, как Java, нет?

[@user-ue8bh7tj5k]

Хотел спросить. Weight_delta это локальный минимум (градиент) функции?

[@dosxanzada]

Так круто объясняешь, первое видео совсем улёт, то что я не мог понять за один семестр понял всего лишь за пол часа. А здесь у меня вопрос, откуда появился 0.5 и 0.52? Это тоже рандомно?

[@eduardsukhavenka9750]

Yes

[@orthodox_channel]

Добрый день, дайте пожалуйста ссылку на материал по производным.

[@danildanilov843]

Сразу говорю спасибо авторам этого ролика, но у меня возник вопрос, что делать если кол-во нейронов на скрытом уровне тысячи? я имею ввиду как код писать? если я один хочу написать такую сеть, то я должен строчить день и ночь? или есть другой вариант?

[@Const.Kharkiv]

отлично

[@user-gw9zc7pw2s]

Спасибо за материал. Кто-нибудь, объясните что такое "дифференциал производная сигмоиды" в расчете дельты весов... В уравнении показано произведение функции сигмоиды на приращение её аргумента. Не понимаю.

[@blacktechnology6496]

Я тоже не понял сначала, по-моему это просто производная сигмоиды по х. Ошиблись при записи, видимо.

[@ratrat2056]

Добрый день! Играюсь с данным кодом, подскажите - как можно уже на этой обученной сети задать новый вход без известного исхода, чтоб она показала результат исходя из обучения?... :) Заранее спасибо!

[@Roman.Butsenko]

Спасибо. Калькулятор для метеостанций.

[@simplex1233]

Почему при вычислении output1 вы указываете 0.77? Тогда что под этим параметром для вычисления весов первого слоя необходимо брать ? Остаются только нули и единицы (входные сигналы)

[@simplex1233]

Надо было бы пояснить этот момент в конце

[@ddrdeveloper]

Наверное так и есть, просто брать входные сигналы. Нужно, конечно было бы объяснить на рисунке все до конца, так как лично я на PHP все это реализовываю и Питон для меня просто абракадабра..)))

[@gentleNES]

Выложите, пожалуйста, исходный код сети с обучением. В видео предлагаете самим пройти по строчкам и все разобрать, чтобы было понятнее!

[@KovalevskyiAcademy]

s3-us-west-1.amazonaws.com/youtube-channel/nn_training_2_layer_network.ipynb - готово =)

[@murikoz5399]

а куда это нужно "запихать" чтобы было в читабельном виде? а за видосы большие пальцы вверх. спасибо

[@alyukovnet]

Это формат jupiter notebook. Закидываешь сюды try.jupyter.org

[@MrAkvalar]

я так понимаю это для линукса?

[@IgorAherne]

ребята, много вопросов в коментариях по-поводу того "как распространять ошибку на болеее глубокие уровни" Вот на простом языке: Будет проще если абстрагировать механизм; Финальная ошибка всей сети это огромная функция, которая зависит от множества параметров (всех весов и всех активаций наших нейронов) Чтобы минимизировать ее, нам нужно понять куда подкрутить ее параметры, найдя специально значение для каждого такого параметра. Допустим у нас 3 слоя в которых 2,2,1 нейронов соответственно. То есть (2 + 2*2 + 2)весов и (2+2+1)активаций самих нейронов = 8 весов и 5 нейронов Легко предположить что Финальная Ошибка зависит от 8 + 5 параметров. Однако это неверно. Вместо этого, нам лучше представить Финальную ошибку как функцию зависящую только от 1го параметра. Она зависит от активации последнего нейрона и не от чего более. После этого важно понимать, что этот финальный нейрон - это тоже функция. Она зависит от 4х параметров. От активации нейрона1 с предыдущего слоя и его веса, а также активации нейрона2 и его веса. *"как распространять ошибку на болеее глубокие уровни"* На этом история не заканчивается, нейрон1 это функция зависящая от субНейрона1 и субНейрона2, которые со слоя ниже. тоесть нейрон1 зависит от 4 параметров (из 2 весов и 2х активаций) нейрон2 (собрат нейрона 1) это функция зависящая от субНейрона1 и субНейрона2, которые со слоя ниже. тоесть нейрон2 зависит от 4 параметров (из 2 весов и 2х активаций) заметь, что нейрон1 и нейрон2 вроде-бы зависят от одинаковых параметров (из 2 весов и 2х активаций субНейрона1 и субнейрона2), однако это обманчиво. вес и активация субНейрона1 изначально влияла отдельно на нейрон1 и отдельно на нейрон2. Та же ситуация и с субНейроном2, который тоже влиял отдельно на нейрон1 и отдельно на нейрон2. *Поэтому, мы их расцениваем как 8 отдельных параметров, а не как 4 shared. Иными словами, нейрон1 зависит от 4х параметров, и нейрон2 зависит от своих 4х параметров)* Вобще, со всеми этими вложенными функциями, лучше всего нарисовать диаграмму-дерево, где каждый параметр (даже если это функция) это веточка *ответ: советую нарисовать диаграмму* Внимание на цифры, тут никакой опечатки нет: ошибка для активации к субнейрону1 = (ошибка пропихнутая через производную сигмоида нейрона1)*весНейрон1Субнейрон1 + (ошибка ошибка пропихнутая через производную сигмоида нейрона2)*весНейрон2Субнейрон1 После этого пропихиваем ее через производную сигмоида СубНейрона1 (как показанно в видео) и пихаем до весов под субНейроном1 (как показано в видео) *ключевая фраза* Это так потому что активация субНейрона1 (будучи одним и тем же значением) отдельно повлияла на исход (на результат Финальной Ошибки в стадии предугадывания), через нейрон1 и через нейрон2 (став параметром для каждого из них)

[@user-sc2cy5gh5l]

никогда больше не берись ничего объяснять, не твое это. Тебя поймут только те, кто и так уже без тебя разобрался, а те кто не в теме, тебя не поймут. Не учитель ты