Большие языковые модели. Как ими пользоваться? // Курс «Machine Learning. Professional»

Обсудим что такое большая языковая модель, какие есть предобученные модели.
Поработаем с API ChatGPT, запустим предобученную RuGPT3.
Посмотрим примеры работы с подходами Zero-shot, Few-shot.
Обсудим, как можно дообучать LLM на небольших видеокартах с помощью LORA модификаторов.
Кому подходит этот урок:
- IT-специалистам, которые хотят внедрить ChatGPT в бизнес-процессы
- Тем кто хочет познакомиться с LLM моделями в экосистеме HuggingFace
- Тем кто хочет понять, как можно адаптировать большие предобученные модели к собственным задачам
Результаты урока: Вы узнаете как работать с API ChatGPT, запускать собственную LLM, представленную на HuggingFace, работать с LORA модификаторами моделей.
«Machine Learning. Professional» - otus.pw/NsSB/
Преподаватель: Александр Брут-Бруляко - Ds инженер в СБЕР Neurolab
Пройдите опрос по итогам мероприятия - otus.pw/JrT0/
Следите за новостями проекта:
- Telegram: t.me/Otusjava
- ВКонтакте: otus.pw/850t
- LinkedIn: otus.pw/yQwQ/
- Хабр: otus.pw/S0nM/
Эпизоды:
00:00 - Начало записи
01:28 - Знакомство с преподавателем и Otus
04:52 - О чем будет открытый урок (Open AI, Hugging face, Lora модификатор)
06:16 - Токенизация в больших языковых моделях
10:10 - Трансформеры построенные на механизмах внимания
13:00 - Архитектура трансформеров (енкодер, декодер)
15:55 - Эмбеддинг для разных языков
21:15 - Как обучать? Как предсказывать следующий токен по предыдущему токену (loss-функция)
25:52 - Зоопарк LLM
36:18 - Как работает ChatGPT на примерах
47:16 - Как наложить корпоративную базу знаний поверх ChatGPT
53:41 - Что есть в OpenSource ( Hugging face)
1:17:06 - Что такое fine tuning
1:17:58 - Коротко о карьерных перспективах

[@irinakrivichenko7824]

Благодарю, очень полезно и интересно.

[@sergeyhbst7266]

Спасибо. Хороший урок. Здорово было бы прикладывать ссылки на ноутбуки к уроку, чтобы их можно было покрутить людям потом в колабе самостоятельно а не набивать с экрана.

[@user-qq9uw5ub3d]

Продолжение про техники промптинга языковых моделей kzbin.info/www/bejne/hoLaeYmfYtl9mrs

[@user-qq9uw5ub3d]

продолжение вебинара - использование языковых моделей для ИИ чат ботов kzbin.info/www/bejne/Z4fZeaKjnJ18kM0

[@romanbogachev6147]

оч слабо, можно было ужать в 20 минут

[@user-qq9uw5ub3d]

А почему слабо? Это не доклад на отраслевой конфе для тех кто в теме, это открытый урок к курсу - те материал для тех, кто этого не знает и хочет узнать. Поэтому рассказ без лишних усложнений и деталей, но с общей логикой и примерами.