Запуск Llama 405b на своем сервере. vLLM, docker.

  Рет қаралды 14,422

Виталий Кулиев

Виталий Кулиев

Күн бұрын

Пікірлер: 152
Компьютер для нейросетей. 5x3090ti, 48cpu, 512gb ram.
8:08
Компьютер для нейросетей. 5x3090ti, 48cpu, 512gb ram.
Виталий Кулиев
Рет қаралды 8 М.
Using Clusters to Boost LLMs 🚀
13:00
Using Clusters to Boost LLMs 🚀
Alex Ziskind
Рет қаралды 74 М.
If people acted like cats 🙀😹 LeoNata family #shorts
00:22
If people acted like cats 🙀😹 LeoNata family #shorts
LeoNata Family
Рет қаралды 18 МЛН
Кто круче, как думаешь?
00:44
Кто круче, как думаешь?
МЯТНАЯ ФАНТА
Рет қаралды 6 МЛН
一碗水真的能端平吗？不能也得能！#四小只吖 #日常 #搞笑 #搞笑家庭 #姐弟 #家庭生活
00:19
一碗水真的能端平吗？不能也得能！#四小只吖 #日常 #搞笑 #搞笑家庭 #姐弟 #家庭生活
四小只吖
Рет қаралды 7 МЛН
Accompanying my daughter to practice dance is so annoying #funny #cute#comedy
00:17
Accompanying my daughter to practice dance is so annoying #funny #cute#comedy
Funny daughter's daily life
Рет қаралды 15 МЛН
Тест 6 ИИ программистов
32:33
Тест 6 ИИ программистов
Senior Software Vlogger
Рет қаралды 18 М.
vLLM on Kubernetes in Production
27:31
vLLM on Kubernetes in Production
Kubesimplify
Рет қаралды 3,8 М.
ВТОРОЙ МОЗГ: Obsidian простым языком для НЕ технарей. Как вести заметки и упорядочить жизнь
1:13:25
ВТОРОЙ МОЗГ: Obsidian простым языком для НЕ технарей. Как вести заметки и упорядочить жизнь
Владилен Минин
Рет қаралды 19 М.
Fine-tuning, RAG, Llama, prompt-engineering, LLM-арены | Что происходит в LLM
13:42
Fine-tuning, RAG, Llama, prompt-engineering, LLM-арены | Что происходит в LLM
DeepSchool
Рет қаралды 6 М.
Llama 3 - лучшая открытая нейросеть. Узнай как использовать эту модель.
13:29
Llama 3 - лучшая открытая нейросеть. Узнай как использовать эту модель.
Виталий Кулиев
Рет қаралды 14 М.
LLaMA 405b Fully Tested - Open-Source WINS!
10:02
LLaMA 405b Fully Tested - Open-Source WINS!
Matthew Berman
Рет қаралды 82 М.
Всё, что нужно знать о Docker | Уроки Docker
20:22
Всё, что нужно знать о Docker | Уроки Docker
Egor Repnikov
Рет қаралды 14 М.
Как остановят YouTube | ТСПУ и DPI | Cоздатель GoodbyeDPI
27:30
Как остановят YouTube | ТСПУ и DPI | Cоздатель GoodbyeDPI
Мой Компьютер
Рет қаралды 682 М.
15 причин, почему не стоит поднимать свой VPN / Proxy сервер
18:53
15 причин, почему не стоит поднимать свой VPN / Proxy сервер
CyberYozh
Рет қаралды 25 М.
Основы Docker | Docker И Python
1:09:54
Основы Docker | Docker И Python
PyLounge - программирование на Python и всё о IT
Рет қаралды 56 М.
If people acted like cats 🙀😹 LeoNata family #shorts
00:22
If people acted like cats 🙀😹 LeoNata family #shorts
LeoNata Family
Рет қаралды 18 МЛН