Как создавать AI‑ассистентов

[@aceracer5556]

А еще нужно подумать над маркетингом. Мои попытки дозвониться и описать задачу, что мне нужен чат бот который будет брать данные из локальной базы и озвучивать их клиенту - потерпели фиаско. Менеджер ответил - ну мы можем вам предложить решение, но для этого нужны созвоны и индивидуально все обговаривать. Еще и ценник конский зарядил. Хотя тоже самое делается в GPT за пару вечеров и достаточно бюджетно. Резюмируя: бизнесу нужны простые и эффективные решения. Мне очень не хватало связки телефонии и чат бота на линии на отечественных ресурсах

[@vashukov]

Работа с внешней базой данных не обязательно требует RAG. В OpenAI (и не только) есть Вызов функции (Function calling), который позволяет модели обращаться к внешним системам и использовать актуальные данные. А если по теме доклада, то я не понял в чем уникальность вашего решения, учитывая, что есть сотни схожих платформ. Хотя конечно круто, что в копилке появится еще один инструмент.

[@yourygorelyj2014]

Да, к примеру из коробки CHAT RTX NVIDEA имеет RAG уже из коробки, более полугода как.

[@YandexCloudPlatform]

Здравствуйте, Олег! По нашему опыту, сейчас клиенты в основном используют RAG для работы с внешней базой. Но вы абсолютно верно заметили, что такую задачу можно решать и вызовом функций. Мы с командой сейчас работаем над добавлением поддержки Function calling. Следите за обновлениями👌

[@ЮрийКовтунов-п6ф]

Добавьте вызов функции в асистента. Будет очень полезно

[@YandexCloudPlatform]

Здравствуйте, Юрий! Команда уже работает над этим💪

[@oknd__07]

А есть официальная страничка с описанием что делает Yandex , а что должна делать компания на своей стороне? Допустим компания подготовила документы для базы знаний, кто будет их разделять на чанки? Что если есть текстовая информация с которой идут фото? Что если при поиске информации должно выходить релевантное фото из базы знаний? Сколько времени это займет при учете генерации голоса? Кто будет создавать эмбеддинги? Кто будет заниматься построением поискового индекса? Нужно ли самостоятельно дообучать модель в Yandex DataSphere или Яндекс с этим помогает?

[@vashukov]

Обычно подготовкой документации занимается бизнес, так как он имеет понимание предметной области. Но в случае технической адаптации должны исходить требования и предложение о помощи со стороны тех кто интегрирует ИИ в бизнес. Таких специалистов называют промпт-инженерами. Они работают в паре с разработчиком и/или используют готовые платформы (о которой идет речь в видео). По моему мнению бизнес на своей стороне отвечает за: - ожидания/цели - бюджет - подготовку документации - разработку API (если нет) - анализ эффективности Это то что на поверхности лежит.