Нейро-БУМ!!! Open Source LLM. Лучшие локальные и веб-модели нейросетей.

Рет қаралды 6,992

ABILITY | 2049

Күн бұрын

Пікірлер: 47

@alexusfreee 6 ай бұрын

ollama это ядро для нее нужно GUI отдельно. WEB UI например. это самое лучшее решение для self hosting LLM

@KonAVas 9 ай бұрын

Молодец! Очень познавательно! Ждем подробный гайд по LM Studio с запуском локального сервера и т.д :)

@CyberBrain362 9 ай бұрын

Спасибо автору.ролик огонь🔥 может следующий на тему все варианты моделей без цензуры? Или работающие варианты джеилбрейков и т.п. Такой ролик залетит в реки 100%👍

@SEE.YOU.ROUND. 9 ай бұрын

Спасибо. И спасибо за идею про джеилбрейки, если хватит сил реализую

@Cyberdiver999 9 ай бұрын

@NoilWhite 9 ай бұрын

Автор просто молодчина, такой отличный ликбез по инструментам и указание всех ссылок в описании ролика - это безумно круто, спасибо за заботу о смотрящих!

@SEE.YOU.ROUND. 9 ай бұрын

Спасибо за мотивацию!!!!♥

@Cyberdiver999 9 ай бұрын

Полезно! Благодарю за труд, продолжай!

@SEE.YOU.ROUND. 9 ай бұрын

Спасибо

@another-pain 9 ай бұрын

Благодарю за видео! Наконец то нашел нейросеть для веселья)

@Igor-qd6ou 15 күн бұрын

Думаю,что преимущество локального запуска не только в конфиденциальности, а и в тонкой и расширенной настройке. Например, при фри онлайн использовании модели нам могут ограничивать как контекст модели так и количество токенов на ответ, не говоря уже об общем количестве токенов. Что обосновано потреблением ресурсов моделей. А на локальной модели мы ограничены исключительно мощностью и терпением)

@SEE.YOU.ROUND. 9 ай бұрын

Задавайте вопросы если остались, постараюсь ответить

@temuriosebadze 8 ай бұрын

Большое спасибо.

@SEE.YOU.ROUND. 8 ай бұрын

Всегда пожалуйста

@true_rus364 9 ай бұрын

Ollama просто сделана как базовый инструмент, без всевозможных наворотов, но с API. И тут как раз раскрывается потанцевал. Для неё есть отличная вебморда - open webui, практически один в один копирующая chatgpt, с кучей ещё своих возможностей. Там тебе и распознавание речи, и картинок, и даже немного упоротая генерация картинок, через stable diffusion, например. В общем, ollama это в первую очередь API, а lmstudio просто имеет графический интерфейс из коробки. А, ну и можно так же подключить в vscode, например, через это API. И графический интерфейс не будет болтаться, неприкаянный. Больше для таких целей, и для использования как бэк энд, при разработке собственного продукта на базе нейросетей.

@SEE.YOU.ROUND. 9 ай бұрын

Ого, ну видите я не до конца осведомлен в теме поэтому когда чего не знаю просто подсвечиваю инструменты. Спасибо за такое развернутое объяснение. Просто сейчас многим людям сразу хочется пользоваться готовым продуктом и мало кто хочет копаться и разбираться в этом. ((А канал ABILITY вообще про все и про копание и про "легкие" нейросети -- я скоро об этом выпущу видео ролик. )) Пока работаю на широкую аудиторию, и у меня просто знаний нет раскрыть потецевал всех программ. Спасибо что мне в этом помогаете!

@dmitrysmirnov6095 9 ай бұрын

@@SEE.YOU.ROUND. по сути все проги работающие в "командной строке"(bash,PoSh) можно использовать для сложных конструкций в любых скриптах, перенаправляя результаты исполнения каждого кусочка, в другой инструмент итд.

@nicivanov5135 7 ай бұрын

Мне нужна локальная сеть, чтобы обучить её по нужной мне теме. На выходе получать файл типа интелектульной карты Xmind со ссылками на видио картинки, заметки. Эдакий помошник для состовления карты со множоеством связей но если мне понадобится нужна возможность упаковать все по выбранной теме одной кнопкой в архив и отправить. Следующим этапом будет возможность выдават разрешения на использование софта локального пк так, как если бы это делал человек.

@SEE.YOU.ROUND. 7 ай бұрын

звучит конечно амбициозно, но я не понял ) в любом случае, надеюсь, что вам хоть чем то помог данный ролик🦾

@nicivanov5135 7 ай бұрын

@@SEE.YOU.ROUND. Есть такой софт Xmind в нем создают интилектуальные карты. Что то типа спикеров со связями. Связи могут быть на локальные ссылки. Да на все что может быть полезно в теме которую человек визуализирует при помощи этого софта. Так вот локальную нейронку нужно подружить с этим или подобным софтом. С возможностью обмениваться темами. Это будет круче, чем любой самый прокаченный ИИ.

@SEE.YOU.ROUND. 7 ай бұрын

@@nicivanov5135 прикольно я вообще не знал об этом 🧐

@Dryg-o5c 9 ай бұрын

Ооо, наконецто , выложили , понятным языком на болезненые темы ) сразу большой лайк и колокольчик с сеня , спасибо ! Буду ждать дальнейших развитий )

@SEE.YOU.ROUND. 9 ай бұрын

Спасибо

@aapugin 9 ай бұрын

Где можно скачать исходники нейросетей обученных, чтобы себе на комп поставить. Чтобы разобраться как они работают. Нормально оаботающую, чтобы себе на комп поставить и у себя получить тот же результат. Напоимер интересует поиск определенных объектов на видео или фото. Но для начала подойдет любая работающая и с исходниками, на любом языке

@arsen_ask 9 ай бұрын

Здравствуйте, посмотрите ролик хауди хо нейросети + Пайтон за час возможно та найдете ответ на данный вопрос. Я к сожалению более точно сказать не могу

@aapugin 9 ай бұрын

@@arsen_ask не пойму, вроде название с ошибкой написали, не могу найти. Можете точнее название ролика написать или ссылку дать ? Плиз

@SEE.YOU.ROUND. 9 ай бұрын

@@aapugin kzbin.info/www/bejne/Z6LYfKScaZyJbNU

@SEE.YOU.ROUND. 9 ай бұрын

@@aapugin возможно это вообще не то что вы имели ввиду, может я не так вас понял ) поэтому не обессудьте

@ocifrovka 6 ай бұрын

вышел с запроса *openrouter обзор*

@SEE.YOU.ROUND. 6 ай бұрын

даже не знаю что это такое )

@RA-lo1vy 9 ай бұрын

Наверное, нейросети генерирующие изображение, будут интересны многим, на них наверное неплохо бы сделать обзор.

@SEE.YOU.ROUND. 9 ай бұрын

Я думаю таких обзоров уже вроде как много, ну что нибудь по этому поводу. Спасибо за наводку

@RA-lo1vy 9 ай бұрын

@@SEE.YOU.ROUND. У меня уже на 50 % gligen/gligen-generation-text-image-box скачена, на LM Studeo, на 6.79 ГБ Не знаю что это будет в итоге.

@RA-lo1vy 9 ай бұрын

@SEE.YOU.ROUND. Не знаю что это будет в итоге gligen/gligen-generation-text-image-box Качаю 50 % уже

@RA-lo1vy 9 ай бұрын

на МЛ студия

@RA-lo1vy 9 ай бұрын

На Студии, той что от Майкрософт и которую здесь писать нельзя.

@Evgeni953 9 ай бұрын

Пытался поиграться с локальными сетями. Ничего разумного нет. Пока не будет реализована возможность переобучения нейронных сетей на основе текста, документов и т.д. практического смысла не будет, максимум это ответы на детские вопросы

@SEE.YOU.ROUND. 9 ай бұрын

я пока еще не скачивал себе большие модели на ПК, но по идеи они должны выдавать хорошие ответы. Вы какие модели устанавливали?

@Evgeni953 9 ай бұрын

@@SEE.YOU.ROUND. уже не помню, но самая большая была на 13 биллионов связей, все свободные нейронки так или иначе являются модификациями ламы, но когда в них загружаешь текстовый документ достаточного объема они сыпятся в ответах.

@SEE.YOU.ROUND. 9 ай бұрын

@@Evgeni953 понятно, ну будем пробовать пока не получится, если что нибудь годного найду обязательно сообщу об этом в новых видеороликах. Спасибо за отзывчивость