Llama 3 языковая модель для разработчика

Посмотрим на новую языковую модуль Llama 3 для разработчиков.
Обучение разработке: purpleschool.ru/
#ai #shorts

[@PurpleSchool]

Курсы по разработке: purpleschool.ru/

[@kephec6233]

Это бред. Какие данные страшно потерять программеру при работе с моделью? А бесплатный Gemini это вообще тупое убожество, которое даже для кулинарии и рецептов использовать страшно, потому что вообще пишет оно что попало.

[@ericborder5996]

А какие требования к железу?

[@rikishihiradate2922]

Тоже хотел спросить. Слышал, что инстанс GPT-3 требует минимум 40 Гб видеопамяти.

[@mkgs210]

Смотря какая версия ламы 8B или 70B. Размер стоит умножать на 2 и мы примерно получим необходимое количество оперативки. Но также есть возможность запускать квантованые версии моделей 4 или 8 bit, что уменьшит потребление памяти. Для русского языка оригинальная модель настроена плохо, пока что лучше всего работает тюн suzume

[@PurpleSchool]

Память хотя бы 16 для версии 8b для комфортной работы. Но с русским языком работает не очень

[@no_drama808]

Вы про оперативную память говорите, или про видеопамять? Если 16 Гб видеопамяти, то это видео вообще не имеет смысла (:

[@mekbect]

​@@rikishihiradate2922 Как я знаю, это требования к серверам а не к одиночному использованию а так, даже если у вас слабый то можно использовать Google colab

[@user-hruser]

Полностью локально? А данные для ответа где она берет

[@PurpleSchool]

При запуске скачивается модель размером 5GB

[@wowlikon]

Ответ генерируется на основе данных, на которых обучалась нейросеть

[@Shorttrip1]

А что если процессор поддерживает только AVX ?

[@luppi2865]

Будет работать

[@KinoGuruHD]

На самом деле фигня полная, мб только у меня так но макбуке м1 про (достаточно хорошее железо) отвечает он очень медленно и часто хуже чем github copilot, хотя как будто модель сильнее. Хотел попробовать старшую модель ламы которая весит больше, так она вообще не стала мне отвечать ))) Жду кстати devin

[@user-rl8fy6xe1t]

на 4090 старшая модель летает и норм отвечает, железо норм нужно прост

[@KinoGuruHD]

@@user-rl8fy6xe1t видишь как, лагает даже 4090, тогда вообще грустно так как когда работаешь ждать некогда, так поиграться если только

[@SiberFrost]

Бро, отличные видео, мне очень нравятся Хотел дать совет со стороны, возможно будет лучше если ты будешь погромче и поуверенней говорить Сейчас прям слишком мягко звучишь, как будто с детьми общаешься, чуть ли не сюсюкаешься Не принимай на свой счет, просто со стороны говорю как это звучит

[@user-nt5ee3uo4t]

Зачем ты им рассказал

[@PurpleSchool]

Кому им и почему не рассказывать?)

[@truedivan]

​@@PurpleSchoolони это все остальные😂

[@siddxartxa]

Не ЭЛ лама 3, а просто лама 3... Лама по английски пишется с 2 L.

[@PurpleSchool]

Лама по английски пишется Lama

[@agilkerimov]

А Lloyd наверное Эл Лойд 😂😂😂

[@D11ND1]

что если это испанский. и перевод такой как "позвони", или "позови", или "набери", или "я здесь, только свистни". и произносится тогда как "яма".

[@D11ND1]

llámame