PyTorch | Урок #8 | Transfer Learning | Эту технику используют в +95% проектах

Поддержать меня рублем: www.tinkoff.ru...
Наше сообщество в Telegram: t.me/+EzeAPkue...
Сервер в Discord: / discord
Github: github.com/mag...
Ссылка на датасет Animals-10: www.kaggle.com...
Полезные материалы:
1. 3Blue1Brown Neural Networks: • Neural networks
2. Перевод 3B1B: • DeepLearning
3. Красивое объяснение с визуализацией: towardsdatasci...
4. Мой плейлист по нейронным сетям и PyTorch: • PyTorch и нейросети

[@AlexanderLeontiev-v9g]

Приходилось применять предобученные модели раньше, но для меня стало откровением, что нормализация на моих данных должна быть такой же как и та, что была в процессе обучения предобученной сетки. Теперь когда об этом узнал это кажется очевидным, но раньше об этом не задумывался и ни в каких других видео про это не было сказано. В очередной раз большое спасибо автору!

[@georgevonfloydmann1797]

Ну не знаю, может я что то делаю не так, но resnet50 показывает себя гораздо лучше с нормализацией по моему датасету

[@magorokhoov]

В чем вопрос?

[@georgevonfloydmann1797]

@@magorokhoov как можно адаптировать модель под маленький датасет? Я в глубоком обучении новичек, сейчас принимаю участие в контесте по классификации. Перепробовал разные модели, такие как resnet34, resnet 50, resnet101, efficient net, из них resnet50 показал лучшую метрику, 96 аккураси. Я просто изменил кол-во выходных нейронов в последнем слое модели. Что стоит попробовать еще? Есть ли какие то общие подходы/пайплайны по использованию предобученных моделей на маленьком датасете?

[@ИгорьКрысов-р8ь]

За секрет успеха отдельный лайк!

[@levran4ik]

Формула огонь! 👍

[@richardrgb6086]

спасибо за классные уроки

[@justyar5781]

Было бы классно еще рассмотреть pytorch lightning в боевом примере =)

[@magorokhoov]

Никогда его не использовал. Теперь у меня есть повод его рассмотреть, изучить и записать урок)

[@МаксимПершин-н9о]

Спасибо, сделай урок по семантической сегментации и Unet

[@magorokhoov]

Сделаю. Будет в следующей серии

[@ИванИванов-у6ъ3н]

Ждём ролик по gan!

[@magorokhoov]

Будет 🙏🏻