Алерон Миленкин | RAG и как его правильно готовить

[@shandi1241]

отличный доклад, а в итоге где ссылка то на ноутбук?

[@arturvartamonov]

Спасибо за доклад. Не работает ссылка на презентацию. И хотелось бы воркбук. Заранее спасибо.

[@MichaelDeCo]

Алерон, смотрел ваш канал, интересный и полезный контент. Но ваше выступление разочаровало, ожидания были большими, а увидел уровень студента бакалавра. Без метрик, без диаграмм, без подготовленной речи. Один ноутбук, без презентации. Стандартный и простейший RAG, который уже все обсосали, эффективность под вопросом, особенно, когда база знаний часто обновляется.

[@DmitriyShuvalov]

Чисто о внешке - обычный крутой прогер выглядит слегка не так, тут скорее человек к творческому профилю готов, речь поставлена - вперёд, артист.

[@viktormatush]

ой а чего недоступна? аааа? ойой, что случилась?

[@Максим-р5р3щ]

Все LLM модели не идеальны и часто выдают чушь, т.к. само машинное обучение лишь стремится минимизировать ошибки но не может обнулить их. Кроме того, модели не думают как люди, а просто выдают наиболее статистически значимые паттерны из обучающей выборки. То есть работают также как и сервисы поисковики. Всё это значительно ограничивает возможные прикладные области таких решений только вспомогательными не критичными процессами. Ну а уж хранить приватные данные в облаках, как советует автор - это вообще чистый маркетинг и прямое мошенничство, направленное на кражу данных.

[@MichaelDeCo]

Никто не заставляет вас хранить приватные данные в облаке. Скачивайте открытые модели (embedding, LLM), делайте свой, локальный RAG. Сравнивать LLM с поисковиком - сильное заявление. Много поисковик вам кода написал?