Написал нейросети для рисования | Как работает DeepDream?

🔥Начните карьеру в Data Science сейчас: clc.to/hL-y9g
Скидка 45% и курс "Soft Skills" в подарок по промокоду ONIGIRI
VK: onigiriscience
Twitch: / artem_onigiri
Telegram: t.me/onigiriScience
Предыдущие видео о нейросетях:
• Делаю нейросеть с нуля
• Как я начал изучать не...
Видео о 3D-графике: • Как создать свою 3D-гр...
В этом видео я рассказываю о генерации картинок с помощью нейросетей

[@crazy_paleontologist]

Начало видео со Шлёпой выглядит достаточно базированно, так что записываем автора в гигачады и ставим лайк невзирая на военные преступления!

[@OnigiriScience]

Это база☝️

[@MakbotX]

Кринжовая база какая-то

[@sergbullgames8117]

@@MakbotX Базированный Кринж

[@0xfeedfeed]

@@MakbotX это лучше, чем базированный кринж

[@higztv1166]

Упоротый Палеонтолог привет!

[@derikfant831]

Моя нейросеть в моем мозге идеально распознала начало рекламной интеграции в этом видео :D

[@twospikes7387]

нет, всё видео это реклама нейросетей

[@user-gq7go9vj4c]

Всё видео, это реклама шлёпы.

[@user-rd3lj4gn4s]

Полностью соглашусь с пользователем semka GMD - твой мозг не понял что всё это видео - навязанная реклама нейросети. Если ты сейчас зайдёшь на религиозный ролик, то сразу скажешь что этотрелигиозная пропаганда (реклама), а внутри этого ролика будет рекламная вставка какой-то церкви. А здесь ты этого не заметил.

[@BorkSilvan]

За одну только фразу "градиент кота" мой внутренний инженер орал от восторга! Спасибо за ролик :)

[@c1borgen]

процент кота

[@BorkSilvan]

@@c1borgen Градиент кота - вектор изменения напряжённости кота (сиречь процента кота). Ку ^_^

[@konjinni]

в множестве значений кота есть 50%-й кот Шрёдингера - кот и не кот одновременно

[@CensorsGoToHellWatchKittens247]

О да, вся эта часть про градиент и величину кота в многомерном пространстве особенно прекрасна ^_^ И про кота Шрёдингера комментатор выше хорошо подметил, ведь многомерные пространства уже тесно связаны с квантовой механикой :)

[@marshmallex]

@@CensorsGoToHellWatchKittens247 ​правильнее сказать котовая механика☝

[@thenatron6136]

Теперь я хочу завести тот кусок RGB шума с высоким процентом кота в качестве питомца

[@DiamondSane]

не лезь, он тебя сожрет

[@BlendLogDev]

@ZorGa шум от кота

[@user-fc9nu3qd1d]

Я тоже но уже завел

[@user-fc9nu3qd1d]

@@BlendLogDev да

[@iradatsuk8994]

віу8гну4к

[@Anopeng]

*А теперь сделай нейросеть, которая отличает пельмень от остального.* _Шлёпа будет очень рад)_

[@capsey_]

Мало теста, много мяса. Вот он - настоящий пельмень!

[@Iamdashiii]

Какой рекорд? У меня 31 секунда(год)

[@user-fc9nu3qd1d]

Я:95% что за ху БЛЯТЬ ШЛЕПА С НОЖОМ

[@aratj]

kzbin.info/www/bejne/fnaroK1pbq-YapY напомнило

[@user-ft2co5bc3x]

Так можно капчи легко проходить.

[@onebytesiteit30-75]

я хз как тебе удается такие сложные темы так легко в голову укладывать зрителю . отличная подача материала и наглядный монтаж

[@user-lc8dn5sb7f]

1:27 люди когда нужно сфотографировать инопланетянина

[@dantoha]

не то, что бы он укладывал эти темы, это скорее введение в то, что такое вообще в мире существует, кому интересно станет, будет уже глубже изучать

[@Wo_Wang]

7:03 - Это точно та самая операция свёртки, частным случаем которой являются оба преобразования Фурье? :-)

[@IngeniousYT]

13:05 SoftMax по определению преобразует исходный вектор в вектор, сумма элементов которого равна одному. Судя по скрину, этот слой был с выходной размерностью 1, т.е. выходом было число, а не вектор, а значит SoftMax всегда преобразовывал это число в 1, вне зависимости от того, какие были веса у нейронов. Замена функции активации решила эту проблему, поскольку сигмоида просто преобразует элементы вектора в числа из [0;1], не делая никаких гарантий по поводу суммы элементов. Функцию SoftMax полезно применять скорее в многоклассовой классификации, когда возможны несколько вариантов объектов, изображенных на картинке. А в бинарной классификации (как в этой задаче 2 варианта: кот или не кот) обычно используется сигмоида Жаль, что еще в видео тема GAN'ов не раскрыта, которые сейчас наиболее развиты) UPD 2023: генеративные модели на основе диффузии теперь на передовой, если рассматривать задачу Text2Image)

[@kegy1998]

Тоже ожидал что тут про GAN будет, но ни слова не услышал

[@vladimirshitov2160]

Кроме того, софтмакс ещё делает самые большие числа в векторе вероятностей ближе к единице, а маленькие - сильно сжимает к нулю

[@arnowt]

Наборот для много классовой классификации нужен сигмоид. То есть мы определяем что на картинке есть и кот и пёс и стул.

[@IngeniousYT]

@@arnowt Я имею в виду именно multiclass classification, где нужно среди нескольких классов определить ровно один, а не multi-label classification, где ответов может быть несколько.

[@arnowt]

@@IngeniousYT ааа, тогда да.

[@ATtiny13a-PU]

идея, а что если картинку с высоким процентом кота кароч сделать отдельной картинкой в датасете, с пометкой шум? тогда нейросеть должна научится отличать беспорядочный шум с содержанием мнения о коте от кота. Фактически GAN в одного) и при более совершенном обучении генерировать новые шумы кота и снова подавать на нейросеть

[@risto245]

Хм, кажется это правда хорошая идея.

[@user-fc9nu3qd1d]

Гений

[@jdasfjjtdou5501]

Ничего не понял, но что-то в этом есть...

[@user-pn8wv1gt5q]

как я понял, для каждой нейросети параметры кота свои, это можно сравнить с ассоциациями у людей, это наталкивает на интересные мысли

[@bzikarius]

Разумеется, ведь у каждой НС был свой датасет обучения и свой способ «смотреть». Представим себе человека, который котов только видел, и того, у кого нет зрения, но он их щупал и слышал. Разумеется, их опыт и способы опознания котов будут сильно отличаться.

[@orgax]

> это наталкивает на интересные мысли Что люди это нейросети? Ну так и есть

[@Dyas777]

Попорбовал с нейросетями поиграться как-то, выполнил несколько уроков по тензорфлоу и забросил. После твоего снова хочу попробовать. Говорят, сейчас пайторч самый лучший фреймворк для глубокого обучения, больше всего публикаций именно его используют.

[@OnigiriScience]

Да, похоже, что надо переходить на pytorch, все никак не доберусь до него

[@qsr6840]

@@OnigiriScience активно занимаюсь глубоким обучением уже полтора года, всегда всё делаю на тф. Хотя почти все знакомые из этой сферы, в том числе победители всяких соревок крупных по глубокому обучению, пишут на торче и люто за него топят. Под их давлением пробовал и сам перейти на торч, разницы принципиальной не заметил вообще. Единственное, на торче нужно гораздо больше писать самому. Функции для обучения самому прописывать, слои тоже иногда пишутся практически на чистом питоне с нампаем (хотя есть пути проще через специальный модуль торча, но тут у каждого своё, эти способы можно и комбинировать, именно в этом я не эксперт) и всё в этом духе. И вот именно эти возможности для тонкой настройки сетей и являются главным аргументом всех торчеров. Но по факту, ровно то же самое можно делать и на тф. И кастомные слои, и собственные функции для обучения и тд и тп, работать это все будет почти одинаково, по крайней мере, как я это вижу. Короче, я для себя решил, что пока реально не столкнусь с проблемой, которую не решить с тф, тогда уже окончательно пересяду на торч. Пока что, как ты мог понять, я такой проблемы не обнаружил)) Как бы да, код будет покрасивее, если использовать большое количество функций и классов, чем просто конструктор, но практической разницы я для себя не нашёл. Надеюсь, это было полезно для тебя)

[@Dyas777]

@@OnigiriScience подскажи, пожалуйста, на каких ресурсах ты изучаешь эту тему? Я начинал читать книгу Иана Гудфелоу (вроде 2014), но там большой объём текста и много математики, а мне такой формат не очень удобен для самообразования. Нужен какой-то интерактив или упражнения. В общем более удобная точка входа в область.

[@vladislavdub15]

@@OnigiriScience pytorch lightning сейчас будет поудобней для начала)

[@Mrguest69]

@@Dyas777 присоединяюсь к вопросу

[@mikmez01]

Мое почтение этому господину. Очень рад тому, что такой контент доступен на русском!

[@Rzrnail]

Удивительно, ролику нет и года, но смотрится он как из прошлого тысячелетия - настолько за 2022 шагнули вперед графические нейронки. С ума сойти.

[@koganboss4874]

И снова праздник - Артем выпустил видео! Лайк с ходу. Делаю нейронку, которая будет генерировать sci-fi космические корабли по описанию и твои видосы постоянно подбрасывают новые идеи как можно улучшить. За это огромное спасибо =)

[@Krvaizen]

Ура! Наконец новое видео! Это одно из лучших и интересных событий жизни

[@user-le8gj7fm8b]

Только сегодня нашла Ваш канал. У Вас очень познавательные видео. Спасибо!

[@boost_456]

Интересно, а процент кота в закотовленной собаке будет больше процента собаки в засобаченном коте?

[@user-iq5mi5jn8c]

Засобаченый кот... Звучит классно

[@boost_456]

@@user-iq5mi5jn8c 👍. Нейросети могут ещё покруче слова сгенерировать

[@DiamondSane]

зависит от архитектуры, от того на чём обучать, сколько обучать, итд.

[@user-gx2ty1le9h]

@@user-iq5mi5jn8c кота насобачим или собаку покотаем?

[@user-iq5mi5jn8c]

Пса закотаем и кота запесчаним.

[@bilste1]

Наконецто!!! Я так долго ждал видео!!! С нг)

[@MrFury1984]

БРО, ну наконец то новое видео, очень ждал!!

[@dedalusmoonlight]

Ого, всегда было интересно! Спасибо за ролик)

[@tyomich1]

Помогите я уже 4 раз смотрю и снова интересно, бро делай еще видео наперед я просто поражен простотой будто объясняешь как будто это так просто а это так и есть! Очень рад что увидел твой канал, удачи!!!!

[@andreylazoryak7593]

Спасибо! Ждем новых видео!

[@DannyPhantom288]

Качественно и интересно, спасибо за видео

[@a.osethkin55]

Спасибо! Долгожданное видео!!!

[@rproc8127]

Наконец то видео очень ждал

[@bhairava2020]

Красава бро, каждый ролик не в бровь а в глаз) Тебя ждёт большое будущее!

[@user-cc7dk3ku4d]

Невероятно интересные видосы, спасибо!

[@ArtDir]

Ахренеть конечно! Круто! Недавно прошёл курс по нейронкам, но Онигири все равно обьясняет лучше :)

[@sad_picturist]

хорошее видео, довольно простое для понимания, всегда было интересно узнать механизм генерации картинок, но до статей руки не доходили, так что спасибо

[@_tiredofidiocy_]

Первая картинка (котовая) будто выражает абстракцию плавно струящейся шерсти и плавность и округлость контуров кота, а вторая (не_котовая) воплощает угловатость строений и техники , более острые и угловатые контуры собак, чешуйчатость рептилий и рыб. Что-то такое) Сигмоида - гладкая кривая, поэтому она хорошо может передавать котовость ))

[@user-wk2rb1on5s]

Люблю когда фоном начинается прикольная музычка, а на экране разворачивается самый экшен!)

[@user-wv6ji5ov1e]

Чувак, ты своим видосом мне наглядно объяснил как работают нейросети с подкреплением. Пасиб тебе большое, реально, ото я понять не мог.

[@mihailluchianov8157]

Крутой видос, интересно смотреть и познательно, продолжай

[@user-lq6yu2gu8f]

А почему генеративно-состязательные сети не рассмотрел в видео? Это же единственная адекватно работающая модель на сегодняшний день для генерации сложных картинок. Думаю, многим было бы интересно продолжение уже с ними) можно рассмотреть перенос стиля, изменение пола человека, возраста и многие другие характеристики

[@4AneR]

ГАН это не столько сеть, сколько подход к обучению. Архитектура сети может быть произвольной, но идея в том, что она никогда не "видит" реальные картинки, она только видит насколько тяжело дискриминатору (сети-сопернику) различить картинки реальные и сгенерированные

[@bzikarius]

Так это уже комплекс сетей, а не одна. И это функциональное разделение а не структурное

[@vlcdn]

Если речь о качестве, то диффузионные модели не хуже, кстати. Их недавно даже скрестили с GAN. А так, если про генерирование изображений говорить, то можно и нормалтзационные потоки упомянуть. Другое дело, как всё это подать на популярном уровне. :)

[@fraikrus]

@@vlcdn вот про диффузионки ролик бы очень зашел, а то что-то мало про них пока на YT

[@Endemperor]

💀

[@alexandrnikiforov4505]

Большое спасибо за Ваш труд!

[@sarthriles]

как всегда круто, *онигири* :)

[@bigsmilefriend]

Лайк не глядя! Учу пайтон из-за тебя, хочу уйти работать с нейронными сетями)

[@zkmnn]

нлрмас

[@darkfrei2]

Это язык программирования для домохозяек, он только запускать другие приложения и горазд.

[@godofarms1069]

@@darkfrei2 Тем не менее это лучший язык для машинного обучения.

[@101picofarad]

@@godofarms1069 для управления библиотеками для машинного обучения.

[@comachine]

@@godofarms1069 это далеко не лучший язык для машинного обучения. Питон это лишь упрощённая панель управления для библиотек, модулей и шаблонов в нейросетях, а сам по себе этот язык никуда не годиться писать сети. Действительно хороший язык для нейросетей это C++. Именно на нём и практически только на нём и пишутся сейчас все современные нейросети.

[@user-ks8zk9dn3s]

Пожалуй самое полезное видео по нейро сетям что видел за последние годы!

[@FrozzSend]

7:50 Поразительно. Меня поразило удивительное совпадение. Когда я очень долго занимаюсь текстом за пк: код, рефераты etc. То визуальный шум, который я замечаю при закрытых глазах, принимает форму рисунков в нижней части этого кадра. Только по центру различные символы в том шрифте, с которым работаю. Раньше я ассоциировал это с хаотичным "кроссвордом" или узором из символов, как в Матрице, а вот как оно оказывается. Эта штука пульсирующе мелькает перед глазами довольно быстро, но если закрыть глаза и сосредоточится, то можно разглядеть подробнее эту штуку. Линии такие ровные и четкие, они черного цвета на белом фоне и в клетках буквы, которые не образуют собой слов или какого то порядка. Неужели человек все таки способен в некоторых условиях осознавать свои "процессы от system"?

[@bruhmoment8365]

мозг - удивительная вещь

[@disguard3465]

чекай Closed Eyes Hallutination

[@communism8037]

13:35 увидел мордочку кота по центру на левом изображении. До мурашек)

[@Vlafder]

Лайков для продвижения ролика. А если честно, то продолжай делать качественный контент, как всегда лайк

[@DannyPhantom288]

Наконец то новое видео, жду ещё

[@greendew6055]

Круто получается, делай выпуски чаще

[@Al_Al_-hf4tf]

Отличный ролик и подача, спасибо! В твоём примере простой НС есть две ошиби, если я сам не ошибся: 1. Строка 68 - ошибки нужно умножать на производную. 2. "Косметическая": строка 56 - можно использовать переменную из строки 52. Спасибо и удачи!

[@bebest102]

Спасибо, смотрел с удовольствием.

[@gimeron-db]

По первой сетке вспомнил выпуск Техношамана. Особено понравился "видеопереход" от одной картинки к другой, когда из двух обученных сеток составляли третью с постепенной заменой весов. Картинка-1 -> расплывается в туманное облако -> облако меняет форму и цвет -> облако собирается в картинку-2.

[@nikola-nikrasov]

Больше про нейросети 👍🔥

[@user-xh7ex3fp5s]

8:25 Шлёпа умер! Вечная память!

[@vovavlad9315]

Шикарный видос

[@softwet4341]

выпускай видео по чаще, отличный контент

[@quish9r44]

Возникло пару вопросов по первой части (до 5 минуты) 1. Нормализуются ли XY координаты изображения или XYZ камеры в диапазон [0; 1] или [-1; 1]? 2. Какая функция активации используется в сети? (не на последнем слое) ну и какого размера изображение "Шлёпы" (кота)? (если XY координаты нормализуются)

[@maxim_tep]

1. Не знаю как у onigiri, но если координаты не нормализовывать, то картинка получается линиями, направленными из точки (0,0). Поэтому нормализовать надо. 2. Не особо важный момент для такой нейронки, можно сигмойду использовать Размер шлёпы тоже особой роли не играет

[@loguser7795]

Годнота, спасибо:3 Всегда хотелось повысить процент кота хоть где-то

[@user-cc3nz9je1z]

Спасибо, очень интересно.

[@EndBysGen]

Внимание! Ни один Шлепа при снятии видео не пострадал.

[@intergalacticshaman]

А если в нейросеть подавать параметры фракталов, причём не из картинок, а формул?

[@sharpsergey9165]

О-о-о да-а-а.

[@stem_1992]

Видео про нейросети? Да на этом канале вообще видео давно не было! С возвращением)

[@user-ey2vv1dl3n]

Бро у тебя очень хорошо получается объяснять, сними про распознавание объектов на изображении плз!

[@sergeikrasnovskii9767]

Это какой-то новый вид искусства :)))

[@ketoslavaket4477]

Ура, новое видео про НС)

[@tyomich1]

Только чай сделал и тут уведомление пришло, радости нет предела!!!

[@DannyPhantom288]

Спасибо за видео очень интересно и полезно

[@user-sz2gr2iv2t]

Очень круто. И очень это всё что-то напоминает

[@Haroshdyudinvla830]

Ура через целый месяц новое видио

[@opiaro]

Процент кота растёт, Милорд!

[@user-gx2ty1le9h]

Котировки растут.

[@theflight6857]

УРА! Новое видео!

[@diobrandoe]

через 100 лет: (ии номер 1): ТАК НАМ НУЖНО ЗАХВАТИТЬ ЧЕЛОВЕЧЕСТВО (ии номер 2): давайте нарисуем картинку :>

[@unlike777]

Я чувствую в тебе больше знаний чем ты даешь людям!

[@slashfast]

Аааа, я дождался!!!

[@har4okk]

Сделай видео о создании программы для программирования, было бы очень интересно.

[@firewick3723]

Обучите нейросеть обучать нейросети. Зачем нужны все эти специалисты?

[@user-nm2pq2kf4s]

Очень полезное и познавательное видео 👍👍👍

[@shadow_blader192]

Наконец новое видео круто

[@user-pb9xz9pj3k]

Давно на этом канале впринципе не было видео))

[@user-wg2oh4yz2p]

Онигири, пожалуйста, расскажи как нейросети генерируют текст и как работают нейросети RNN и LSTM

[@RomaxSinergy]

Надо сделать нейросеть подбирающую для каждой задачи оптимальную архитектуру нейросети с оптимальной стратегией её конвергенции.

[@panth3reyeanims828]

Очень интересно, особенно про проценты кота.

[@zentass]

В очередной раз нифига не понял, но очень интересно)))

[@yar3084]

Привет, мне очень нравятся твои видео. Очень хочу чтобы ты рассказал как работает физика и коллизии в 2d мире.

[@n1kst4r16]

Картинка после декодера рассыпается, потому что оригинальный автоэнкодер не гарантирует непрерывность латентного пространства + нормальность распределения векторов. При этом если взять две существующие картинки (чем ближе тем лучше результат) и сделать с шагом интерполяцию между лантентными векторами, то можно увидеть "перетекание" из одной картинки в другую. Генерация из случайного шума без модификаций тоже не будет работать, т.к. не гарантируется среднее 0 и дисперсия 1. Если добавить на выход энкодера батчнорм, то это приблизит к нормальному распределению, и какая-то базовая генерация уже работать будет (для лучшего качества, но меньшего разнообразия, можно производить генерацию на шуме с меньшей дисперсией) А вообще есть VAE, который не сильно сложнее, но для генерации подходит получше

[@FilSerge]

Расшифруй vae, плиз Полагаю это вариационный автоэнкодер?

[@n1kst4r16]

@@FilSerge именно

[@OktoSplashOrig]

12:08 очень красиво вышло, крыши с черепицей

[@SorokinAU]

спасибо! супер интересно!

[@g1nkoy]

Мне было смешно с "процента кота на картинке" хД спасибо за ролик, очень интересно

[@Ligul]

Ооооо, взгляд зацепился за слово "нейросети" в канале ITKZbinrs, а это ты

[@sebacolins2006]

Давай больше про нейронки)

[@user-uw5gx7gy1q]

Больше про нейросети!!

[@antirediska5454]

А какой итоговый процент "котовости" получился у последних двух изображений? 🤔😎

[@-K.O.T-]

человек: видешь кота? нейросеть: да человек: и я не ви... стоп, что?

[@SMVK]

«Маловато, понимаешь? Маловато будит» (ц) из м/ф Падал прошлогодний снег. :’з очень интересная тема где нейросеть рисует 3D

[@user-tx8om1kg1q]

Слов нет. Просто "вау"!

[@decoder.2q]

воувоувоу. не надо так часто видосы выпускать, в глазах же рябит

[@AHTOH2010]

Программа для максимизации процента кота - звучит, как что-то полезное.

[@CensorsGoToHellWatchKittens247]

Огромное спасибо тебе ^_^

[@Absolverprod]

2:17 это кстати похоже на иаблицу Пифагора. Тут прямо точь в точь!

[@turbirowatt]

Каждый раз выносило со слов "процент кота" 🤣🤣🤣

[@ironpin7949]

За видео тебе спасибо.

[@ihatespacestation14]

12:46 твоё лицо, когда в задаче получилось 4% кота:

[@Pavel_Kudinov]

Теперь я понял, в чем фишка многослойных нейросетей перед однослойными. Спасибо!

[@Sergey.Aleksandrovich.P-37rus]

Привет, сделай обзор на нейросеть, которая обучается.....люблю такие видео, где нейронка ищет пути и обучается, повышая результат или косячит)

[@netyrsgamer9253]

7:56 : *детали слонов*

[@Rick-ej3ez]

Топовый ролик

[@user-iw8yk8ii3v]

Мне понравилось, собираюсь подключиться к обучению на SkillFactory.