Как создавать AI‑ассистентов

[@aceracer5556]

А еще нужно подумать над маркетингом. Мои попытки дозвониться и описать задачу, что мне нужен чат бот который будет брать данные из локальной базы и озвучивать их клиенту - потерпели фиаско. Менеджер ответил - ну мы можем вам предложить решение, но для этого нужны созвоны и индивидуально все обговаривать. Еще и ценник конский зарядил. Хотя тоже самое делается в GPT за пару вечеров и достаточно бюджетно. Резюмируя: бизнесу нужны простые и эффективные решения. Мне очень не хватало связки телефонии и чат бота на линии на отечественных ресурсах

[@736939]

Llamaindex это вообще кайф, очень легкий фреймворк, на котором можно колдовать, что хочешь. А если вы еще можете создавать крутые Uİ на typescript и React, то бросайте всё нафиг и начните разрабатывать крутой RAG софт - Дохрена стартапов ))

[@oknd__07]

А есть официальная страничка с описанием что делает Yandex , а что должна делать компания на своей стороне? Допустим компания подготовила документы для базы знаний, кто будет их разделять на чанки? Что если есть текстовая информация с которой идут фото? Что если при поиске информации должно выходить релевантное фото из базы знаний? Сколько времени это займет при учете генерации голоса? Кто будет создавать эмбеддинги? Кто будет заниматься построением поискового индекса? Нужно ли самостоятельно дообучать модель в Yandex DataSphere или Яндекс с этим помогает?

[@vashukov]

Обычно подготовкой документации занимается бизнес, так как он имеет понимание предметной области. Но в случае технической адаптации должны исходить требования и предложение о помощи со стороны тех кто интегрирует ИИ в бизнес. Таких специалистов называют промпт-инженерами. Они работают в паре с разработчиком и/или используют готовые платформы (о которой идет речь в видео). По моему мнению бизнес на своей стороне отвечает за: - ожидания/цели - бюджет - подготовку документации - разработку API (если нет) - анализ эффективности Это то что на поверхности лежит.

[@YandexCloudPlatform]

Здравствуйте! Функционал на данный момент находится в private preview. При переходе в public preview будет опубликована документация по использованию. Ответим на ваши вопросы по порядку: 1. Разделение на чанки, создание эмбедингов и построение поискового индекса выполняется сервисом автоматически. 2. Фотографии на данный момент не используются при ответе ассистента. 3. Дообучение происходит автоматически, пользователь собирает выборку в определённом формате.

[@vashukov]

Работа с внешней базой данных не обязательно требует RAG. В OpenAI (и не только) есть Вызов функции (Function calling), который позволяет модели обращаться к внешним системам и использовать актуальные данные. А если по теме доклада, то я не понял в чем уникальность вашего решения, учитывая, что есть сотни схожих платформ. Хотя конечно круто, что в копилке появится еще один инструмент.

[@yourygorelyj2014]

Да, к примеру из коробки CHAT RTX NVIDEA имеет RAG уже из коробки, более полугода как.

[@YandexCloudPlatform]

Здравствуйте, Олег! По нашему опыту, сейчас клиенты в основном используют RAG для работы с внешней базой. Но вы абсолютно верно заметили, что такую задачу можно решать и вызовом функций. Мы с командой сейчас работаем над добавлением поддержки Function calling. Следите за обновлениями👌

[@igorgerasimovsid]

@@YandexCloudPlatformэто мы ждём 🎉

[@ЮрийКовтунов-п6ф]

Добавьте вызов функции в асистента. Будет очень полезно

[@YandexCloudPlatform]

Здравствуйте, Юрий! Команда уже работает над этим💪

[@redkapitalist7005]

Меня как предпринимателя в первую очередь напрягает способность нейросетей галлюцинировать)) то есть он в чате может сказать клиенту одно, а по факту это не так или совсем, и когда уже клиент приедет к тебе или сделает заказ, то ты можешь такого говна и истерик хапнуть от клиента… к тому же есть каверзные вопросы на которые даже опытный человек менеджер сходу не сможет дать ответ, а возьмет паузу. Если исходить еще из того, что этот ай агент будет также теряться в ходе длинного диалога как и Алиса, то вообще гроша цена ему. В общем резюмирую: мы конечно рады, что технологии развиваются, но внедрять не будем ибо еще все сырое и к реальным боевым действиям не готово.

[@vashukov]

Это решается тем, что вы просто сообщаете ассистенту не придумывать ничего лишнего. Нет такой проблемы