Шестопалов Егор - Как мы сервинг на Triton переводили

  Рет қаралды 1,414

ML Trainings

ML Trainings

Күн бұрын

История о том, чем полезен Nvidia Triton Inference Server для медицинского стартапа, и как плавно на него перейти.
Data Fest 2023:
ods.ai/events/...
Трек "MLOps":
ods.ai/tracks/...
Наши соц.сети:
Telegram: t.me/datafest
Вконтакте: datafest

Пікірлер
Алексей Горбунов.Работа с ML моделями в условиях высоких нагрузок на примере Triton Inference Server
38:54
Алексей Горбунов.Работа с ML моделями в условиях высоких нагрузок на примере Triton Inference Server
Видео с мероприятий {speach!
Рет қаралды 183
NVIDIA Triton Inference Server and its use in Netflix's Model Scoring Service
32:27
NVIDIA Triton Inference Server and its use in Netflix's Model Scoring Service
Outerbounds
Рет қаралды 4,4 М.
Their Boat Engine Fell Off
0:13
Their Boat Engine Fell Off
Newsflare
Рет қаралды 15 МЛН
Ful Video ☝🏻☝🏻☝🏻
1:01
Ful Video ☝🏻☝🏻☝🏻
Arkeolog
Рет қаралды 14 МЛН
СПОРИМ ТЫ НЕ ЗНАЕШЬ ТРИ ЖИВОТНЫХ НА БУКВУ С #shortsvideo
0:37
СПОРИМ ТЫ НЕ ЗНАЕШЬ ТРИ ЖИВОТНЫХ НА БУКВУ С #shortsvideo
Katya Klon
Рет қаралды 2,7 МЛН
Как Ходили родители в ШКОЛУ!
0:49
Как Ходили родители в ШКОЛУ!
Family Box
Рет қаралды 2,3 МЛН
Сиракан Багдасарян | ML-платформа: что это за зверь и как его приготовить?
29:44
Сиракан Багдасарян | ML-платформа: что это за зверь и как его приготовить?
ODS AI Ru
Рет қаралды 840
Профессор Илья Стребулаев о том, как заработать на своих идеях и ценить свои неудачи
1:07:37
Профессор Илья Стребулаев о том, как заработать на своих идеях и ценить свои неудачи
Редакция
Рет қаралды 485 М.
Mentor in Tech 6.0: Взаимодействие со стейкхолдерами
2:21:46
Mentor in Tech 6.0: Взаимодействие со стейкхолдерами
Women in Big Data Russia
Рет қаралды 17
Лучший Гайд по Kafka для Начинающих За 1 Час
1:15:01
Лучший Гайд по Kafka для Начинающих За 1 Час
Vlad Mishustin
Рет қаралды 256 М.
Что такое gRPC и Protobuf?
8:37
Что такое gRPC и Protobuf?
Merion Academy
Рет қаралды 64 М.
Nvidia Triton Inference Server L08| MLOps 24s | girafe-ai
53:13
Nvidia Triton Inference Server L08| MLOps 24s | girafe-ai
girafe-ai
Рет қаралды 930
Exploring the Latency/Throughput & Cost Space for LLM Inference // Timothée Lacroix // CTO Mistral
30:25
Exploring the Latency/Throughput & Cost Space for LLM Inference // Timothée Lacroix // CTO Mistral
MLOps.community
Рет қаралды 18 М.
Lightning Talk: Triton Compiler - Thomas Raoux, OpenAI
16:13
Lightning Talk: Triton Compiler - Thomas Raoux, OpenAI
PyTorch
Рет қаралды 10 М.
Что такое Rest API (http)? Soap? GraphQL? Websockets? RPC (gRPC, tRPC). Клиент - сервер. Вся теория
57:31
Что такое Rest API (http)? Soap? GraphQL? Websockets? RPC (gRPC, tRPC). Клиент - сервер. Вся теория
Ulbi TV
Рет қаралды 719 М.
Deploying and Scaling AI Applications with the NVIDIA TensorRT Inference Server on Kubernetes
31:48
Deploying and Scaling AI Applications with the NVIDIA TensorRT Inference Server on Kubernetes
NGINX
Рет қаралды 7 М.
Their Boat Engine Fell Off
0:13
Their Boat Engine Fell Off
Newsflare
Рет қаралды 15 МЛН