Как моделируется обучение больших ML‑моделей на суперкомпьютере

Конференция GoCloud
Расскажем, какие инструменты мы развиваем, используя свой опыт построения суперкомпьютеров. Поделимся наработками в области моделирования процесса обучения больших ML-моделей. Поговорим о математическом моделировании потребления аппаратных ресурсов и симуляции работы GPU-кластера. Разберем, где эти подходы применимы на практике, какие преимущества и недостатки они имеют, а также какие результаты мы получили.
Спикеры:
Артемий Вишняков, ведущий разработчик Cloud.ru
Руслан Андреев, ведущий разработчик Cloud.ru
Таймкоды:
00:40 - Вступление
03:30 - Ключевые задачи и подходы к решениям
06:17 - Концепция математической модели
16:11 - Результат формирования математической модели
19:43 - Выводы
21:29 - Как пишется код для ML‑модели
27:35 - Сколько нужно патчить код
29:23 - Визуал и применение прототипа симулятора
34:43 - Как выглядит проектирование суперкомпьютера
36:37 - Результаты и планы
39:37 - Ответы на вопросы
Подписывайтесь на Cloud.ru:
Telegram t.me/cloudruprovider
Хабр habr.com/ru/companies/cloud_r...