GPT БОЛЬШЕ НЕ НУЖЕН! Разворачиваем Нейросеть локально за 10 минут

[@gambid98]

Интересны самые мощные модели, которые доступны. Некий топ. Да, некоторые компьютеры и сервера не вытянут, но увидеть самый топ, что доступно для личного пользования - было бы шикарно!

[@zproger]

Насколько я знаю есть модельки 70b и вроде даже 150+, там уже мощности сопоставимы с коммерческими версиями openai, но запустить их у себя дома не представляется возможным, оборудование будет стоить около 200к$ для запуска. Llama3.3 есть на 70b: ollama.com/library/llama3.3 А DeepSeek на 671b: ollama.com/library/deepseek-r1 Вот 671b это уже даже помощнее GPT4 будет, ибо среднее его потребление это 450млрд параметров. Но если брать полную мощность, то gpt4o дотягивает до 2трлн параметров.

[@sergo5918]

> Интересны самые мощные модели, которые доступны. > Некий топ. Да, некоторые компьютеры и сервера не вытянут фигня вопрос, ставишь: deepseeker 3.0 и все в ажуре! но для локальной работы нужна видеокарта NVIDIA H100 80GB примерно за $27,549

[@Toondra128]

Берёшь Phi-4 или Deepseek R1 Distill qwen 7b или 14b, квантование Q4_K_M. Готово (температуру инференса в 0). Уровень GPT-4o +- обеспечен.

[@vladhanov1530]

дистиллят deepseek

[@blin_dog2793]

@@zproger Насколько я знаю, для хорошей работы модели нужно, чтобы количество миллиардов параметров было ниже, чем у тебя Гб видеопамяти. Грубо говоря, на моей 3060Ti ничего лучше 8B Лламы не поставить. Ну, могу, конечно, но производительность будет падать. Какое у вас железо, что 13B тянет нормально? Отдельно также хотел добавить, что есть очень интересные решения по типу AutoGPT, которые позволяют управлять компьютером(как точно не знаю, довольно давно этим интересовался) и, в теории, её можно использовать как интерфейс для других нейронок. Если вас заинтересует эта тема и вы попробуете реализовать такое, буду благодарен, если сделаете видео на этот счёт

[@Sharoplet]

Напиши код который имитирует женскую логику... - АХАХАХАХАХ ты сделал мой день (на месте нейронки я бы просто обиделся и отказался бы работать)

[@lunaraim_project]

Действительно годный контент! Сам начал пользоваться моделями LLM локальными когда про LM Studio узнал. А вот для генерации изображений можешь попробовать нейронки новее чем sd 1.5. Лично я пользуюсь недавно вышедшей Flux в Forge WebUI. Качество генерации на несколько порядков выше SD 1.4 или SDXL, понимает сложные промпты. Советую попробовать :)

[@al77ex1]

Спасибо большое! Ценнейшая инфа! Сейчас использую Сонэт по подписке. Спросил у нейронки какая нейронка будет лучше - локальная или Сонэт по подписке: "Хотя локальная модель может показаться менее мощной по сравнению с Claude 3.5 Sonnet в общем контексте, она может быть полезной в специфических сценариях или при необходимости работы офлайн. В большинстве случаев Claude 3.5 Sonnet будет обеспечивать более высокое качество и скорость генерации кода. Если ваша работа требует высокой точности и быстроты ответов, то использование Claude 3.5 Sonnet будет более предпочтительным выбором."

[@Yuriy-prog]

Спасибо за инфу! Все у тебя нормально с подачей. Молодец! Продолжай в том же духе.

[@zproger]

Благодарю

[@niyazleushkin]

<a href="#" class="seekto" data-time="375">6:15</a> Так просто используй vision модель. Просто загружаешь картинку, добавляешь attachment, file_id и все. Модель "видит" картинку. Т.е тебе надо ЗАГРУЗИТЬ картинку сначала, потом к ней обратиться в контексте, мол: content = [ { "type": "text", "text": "What's in this image?" }, { "type": "image_file", "image_file": { "file_id": file_id, "detail": "auto" } } ] Вот и все.

[@Amandinscorner]

Привет! Спасибо за видео, это очень интересно! Скажите, а насколько этот интерфейс быстрый? Просто тот же Forge для SD сейчас активно оптимизируют, с него не слезаю...)

[@Geleon_1984]

Подскажите, пожалуйста, какое окружение вы используете для арча?

[@zproger]

Приветствую, здесь подробней: kzbin.info/www/bejne/fGbVYnSsatRqqJYsi=5R9gCxKUGHeH-ZGT kzbin.info/www/bejne/b6vIqJx9m5ydY6Msi=5lQjaBTbWFfcXjTZ

[@smetamobi8806]

Пинокио побывали проверить?) по отзывам говорят что она как ОС, а как по вашему мнению?

[@3run911]

привет у меня 4060 ti , и не в одном линуксе не могу управлять фанами видюхи как решить проблему, ставлю галочку управлять фанами видюхи и галочка отменяется

[@ВолодимирОлексієвич]

Сколько времени ты уже занимаешься программированием ?

[@zproger]

Примерно 5 лет

[@TRX_144]

Попробуй модели Ollama - тоже довольно легко ставится на пк плюс там можно использовать тот же мистраль и прочеее и более того можно модели несколько переделывать под себя и делать чтобы они работали с тобой отыгрывая определенную роль - в целом довольно большое поле для познания если ты такое любишь исследовать, Правда сравнивать эти модели с Чатом GPT а тем более заявлять что он теперь не нужен - это несколько некорректно - скажем так ими можно дополнить его и использовать для тех задачь где не особо можно использовать чат GPT но вот на полную замену понятно что эти модели не потянут - не тот размах. А в целом пытаешься зачем то изобретать велосипед - хотя уже все давно изобретено - если тебе нужен генератор картинок обрати внимание на Стейбл Дифьюжен там куча моделей и возможностей и на порядок выше качество твоих поделок)

[@kirillkolotovkin516]

Полностью согласен со stable Diffusion. У sd есть огромное комьюнити, а помимо хагинфейса многие публикуют свои модельки, примеры и прочее на civitai. Прекрасный ресурс для создания чего-то уникального

[@Toondra128]

Ollama, LM Studio и т.п. почти одно и тоже, работают на API llama.cpp. А то, что вы называете "переделать под себя" в LM Studio тоже можно задать system промпт, настраивать фильтры инференса. Ollama больше удобен для хоста модели на локальной сети. Касаемо того, что нельзя полностью отказаться от ChatGPT тоже немного заблуждение(если конечно устройство тянет). Недавно Microsoft сделали отличную LLM, у которой MMLU, HumanEval и MATH соперничает с современными моделями по типу того же ChatGPT, а сама модель Phi-4(в ней всего 14b (это даже меньше, чем у показанного в видео Gemma-2 27b), и она отлично подходит для домашнего мощного пк, скорость генерации лично у меня приятная (20 токенов в секунду среднем) и качество замечательное).

[@misterfox3464]

Все трзе самое можно и тут сделать... Меня бесят такие каналы как этот. Он рассказал самую базу базу, но выдал это так, будто это какие то тайные знания. Видос - чисто чтение документации на офф сайте.

[@Human738a]

А почему данные модельки в общий доступ попадают? Ведь чтобы их обучаться нужно не мало ресурсов вложить.

[@zproger]

Это опенсурс модельки

[@АнтонВебсайтовский]

верно, они как бы пустышки

[@itzJustAAlex]

<a href="#" class="seekto" data-time="468">7:48</a> айй тигр

[@zproger]

:)))

[@Ввёлназваниеканала]

Спасибо за контент!

[@zproger]

Благодарю

[@WB_OZON_YANDEX_BOX]

какой у тебя пк ?

[@АнтонВебсайтовский]

Все бы ничего, но то что мы используем с офф, там база более крупная и развивается всегда и с каждым запросом пополняется. а на локалке, ну такое себе, для генерации фОТО, еще можно юзать.

[@roman352]

Согласен. Да хайп на названии видоса . Уже бесит это, gpt не нужен. Gpt самый лучший на рынке точка. За это автору 10 сек просмотра и дизлайк 😁

[@ToNNaG]

​@@roman352 а как же claude 3.5?

[@e-acomics]

зато не нужны премиум аккаунты и сидеть в очередях вот бы кто-нибудь сделал локальную luma ai

[@Creepfall]

А как называется шрифт который ты используешь в linux?

[@zproger]

JetBrains Mono

[@Creepfall]

@@zproger Спасибо большое:) А какой именно от JetBrains их там очень много и я запутался:)

[@HiroPuko]

Интересно было бы узнать, какая конфигурация ПК у автора. Я так понимаю, требуется видеокарта от "зелёных" (серии RTX 4000) с поддержкой CUDA-ядер для вычислений нейросетевых запросов в базе моделей? Или существуют модели, работающие только на CPU? Автору большое спасибо за хорошее видео, а также за подкинутую идею! 😊

[@bogdanminko2245]

На CPU можно поднять с llm studio который тут автор для себя открыл спустя несколько лет как она вышла. Но на cpu долго ждать ответа с llm, особенно если закинуть в нее большой контекст

[@bogdanminko2245]

Да и в принципе на чем угодно можно поднять открытые модельки (хоть на CPU, хоть на GPU) просто качество будет напрямую зависеть от ваших ресурсов (объеме памяти). Чем больше моделька, тем больше она требует памяти, но при этом лучше работает

[@OddBit22]

мне кажется для моего ноута с 4гб оперативы лучше всего использовать chat gpt...

[@zproger]

Можно еще попробовать mistral либо llama3.1:8b чисто ради теста

[@ПавелМаркачев]

Llama 3.1:8b не идет даже на 8 гигах оперативки, проверено, а вот 3.1:3b пошла, но конечно отвечает она не сказать , что супер, но пользоваться можно

[@loonatik_official]

Круто! ждём полную раскладку на сплит клаву (хотя бы на гитхаб плзз) 🙌 видос про linux life hacks?

[@zproger]

Можно сказать что и лайфхаки линукс) Под раскладкой вы подразумеваете corne? Так как Lily58 Pro уже давно на гитхабе

[@loonatik_official]

@ ага corne. после твоего видоса заказал, вот пару дней назад пришел. сейчас раскладку выбираю. думаю может colemak или sturdy попробовать. у вас qwerty? лайфхаки линукс да))

[@zproger]

Постараюсь найти в ближайшее время и опубликовать в готовый репозиторий

[@loonatik_official]

@@zproger легенда! спасибо!

[@BOOsT13]

А можно не заниматься гемороем и просто установить Jan с открытым исходным кодом🤡

[@zproger]

Впервые о таком слышу) Благодарю за подсказку, потестирую в ближайшее время.

[@mk88vvv]

@@zproger было бы интересно видос по Jan посмотреть кстати от тебя)

[@MyNameIsRishat]

Ну, если честно, не вижу смысла использовать локальные модели для кодинга, deepseek или chatgpt неплохо справляются. На счет картинок, видео и звука не знаю, нужно попробовать, только железо слабовато.

[@Spersonal77777]

Можно ли такие локальные модели обучать самому локально. Например скармливать им книги и получать выжимку из каждой гдавы или обучающего курса которые он тебе розжует и переделает под тебя. Или допустим какие-то краткие лекции с видео семинаров и других выступлений? Спасибо за ответ

[@zproger]

Да, по идее можно, нужно только знать как) Можно у чат гпт попросить готовый код и скормить ему нужные данные для обучения.

[@Spersonal77777]

@zproger Интересно делал ли кто-то подобное. Ведь можно обучить его тому что тебе нужно)

[@zproger]

Проблема в том, что это не так просто как кажется) Обучить то можно, но чтобы он прям корректно отвечал, это нужно хорошенько попотеть.

[@warmybo]

ты опаздал уже есть такой сервис от яндекс 360 ии

[@jetbrain9115]

Если вам получить выжимки то не нужно обучать, нужно только правильный промпт составить + большой контекст передать (вашу книгу или главу..). Подобрать сетку с большим контекстом, qwen2.5 очень хорошие сетки (по сравнению с llama ми), deepseek r1 хороша, также архитектура вроде, пробовал 32b из репы ollama, работает на уровне mistral по генерации кода на python.

[@zzzzz-nj9cv]

Как ты пользуешься браузером, если инкогнито не сохраняет пароли? Используешь обычный браузер для работы, а инкогнито для серфинга?

[@zproger]

Инкогнито чисто для серфинга, чтобы не забивать историю миллиардами запросов, которые потом не удобно выбирать в предложениях из поиска

[@EmoTilt]

​@@zproger историю чистить надо

[@ВладБалашов-э1г]

Не знаю как объяснить... Но говоришь прерывисто, неестественно. Советую поработать над плавностью речи. А так очень классное видео!

[@zproger]

Благодарю за комментарий, буду работать над этим.

[@jetbrain9115]

DeepSeek r1 на 32b парамеироа в ollama - модель размышления, у себя зарускал, сравнивал с mistral на генерацию кода, очень неплохо получилось, все сгенерировало и разжевало качество практически такое-же как у mistral.(железо - ноут, i5 12поколения, 64 озу, 3060 мобильная на 6 gb, примерно 2-4 токена в секунду.

[@zproger]

Очень круто, тоже потестирую в ближайшее время, если конечно озу хватит)

[@jetbrain9115]

@zproger не особо прожорлива она, думаю и 32 Гб с лихвой хватит. Сама модель на 32b весит около 20гб.

[@vlad_oga]

Тебе бы 14 б лучше

[@sspace_1337]

Ждём видео про NixOS)

[@defolt163]

зашёл на ру гпт, написано бесплатно, нижу строчка, "похоже у вас закончилось что-то там, оплатите чтоб использовать", такое только в России могли сделать, убожество

[@bogdanminko2245]

По поводу комментов о том что слишком быстро/ непонятно. Это фича автора, каждый раз когда вы будете слышать его голос, вы будете вспоминать о том челе который сидит на арче и делает видосы в своем стиле. Он этому стилю следует уже давно, это что-то уникальное плюс есть такая кнопка, где можно скорость видоса уменьшить

[@taras7844]

А какие свойства вашего ПК? Чтобы понимать какие модели мне светить запустить

[@zproger]

CPU: AMD Ryzen 7 6800H (16) @ 4.79 GHz GPU 1: AMD Radeon RX 6650M [Discrete] GPU 2: AMD Radeon 680M [Integrated] Memory: 32 GiB Но в целом я бы советовал скачать эти модельки из видео и протестировать самостоятельно, так как LM Studio изначально подсказывает какие модельки лучше всего подходят под ваше железо.

[@taras7844]

@@zproger Спасибо

[@gaymdev6144]

А сделай гайд как на вдс запустить цпу модельку и шоб по апи можно было работать с ней.

[@ДанилаМихеев-у5э]

Я так и не смог завести Т банковские нейросетки. Говорят что супер пупер, но не получается у меня ее запустить

[@b.c.2177]

Чтобы развернуть что то локально нужны и соответствующие мощности, а это пока дорого и громоздко. Ждем более продвинутые процессоры с NPU, GPU ..

[@alexandrdeveloper1242]

Да уж, видос абсолютно тупой. Мистрал и лама на 8 или 13 лярдов абсолютно тупые. Я читал как человек ollam'у мучал. Полная шляпа.

[@SMETAverse]

Очень рад и благодарен за ваш труд! четко быстро и содержательно, в первые вижу такой стиль. Есть вопрос, что если у моего ПК 8 Гб ОЗУ но Видеокарта 16 Гб, потянет? или можно перенаправить вычисления на Видео процессор? Благодарю.

[@zproger]

Благодарю. Если использовать тот же Mistral или CodeLamma, то благодаря большому объему видеопамяти должно раскрываться очень хорошо. Насколько помню, в настройках LM Studio можно сделать перенаправление, но это нужно поразбираться в этом.

[@Andrei_Astral]

Если есть запас в пару гигабайт ОЗУ, чтобы запустить саму программу, то можно. А вычисления можно полностью перенаправить на видеокарту (по крайней мере, так работает llama-cpp-python, которая основана на llama-cpp, лежащей в основе LM Studio)

[@GreeN_Noise]

Блин, нужно комп помощнее купить, боюсь у меня не потянет львиную долю всех моделей, может если только самые простые. Можешь примерно сказать сколько нужно минимум ресурсов для работы с этими моделями?

[@zproger]

Я бы советовал скачать LM Studio и потестировать llama и mistral, так как очень сложно прогнозировать результаты. Llama 3.1 вроде от 4гб озу начинает работать.

[@GreeN_Noise]

@zproger спасибо, у меня 8 гб и проц i5 3-его поколения вроде, короче у меня ноут hp folio 9470m, что-нибудь может быть потянет

[@LLuKKen]

Вообще не представляю как мне может помочь ИИ.

[@Interpolated.]

стоитли переходить на линукс на 2025 или сидеть продолжать на винде

[@cleanbaby72]

Смотря какие цели

[@zproger]

Все зависит от цели, можете попробовать для начала на виртуалке, или же купить внешний SSD и поставить на него для тестов.

[@Spersonal77777]

@@zprogerА когда с ssd как вторая ОС, работает также как и вместо основной ОС, или есть нюансы?

[@efoxxi]

Я перешёл ещё в прошлом году полностью. Выбрал EndeavourOS (по сути Arch с графическим установщиком). До этого полностью не давало перейти то сырые Wayland с KDE 6, то недопиленные драйвера NVidia, то глюки с мыльными шрифтами и разнородными DPI на мультимониторной конфигурации. Винда стоит на соседнем разделе, в неё изредка лажу через VMware Workstation используя проброс реального раздела (сразу трёх виндовых) в виртуалку. Виндовые игрушки почти все работают в Linux через Steam или PortProton.

[@result_123]

Дуалбут или виртуальная машинка, если у тебя есть время разобраться в линуксе, никто сразу не переходит с винды, переходят с дуалбута после того как поняли что такое линукс

[@Fokusnik96]

Какой бы гпт не был доступен бесплатно но с о1 пока не сравнятся они и хз когда нагонят судя по развитию опенаи, то насколько он "обдумывает" код это нечто

[@ВладимирМарченко-у7т]

Пока разбирался почему у меня lm studio не видит gpu сломал вывод картинки) пришлось арч заново ставить -_- но зато сейчас всё норм

[@art__dev]

я использую русские модели на 1.5b от Vikhr models и MTSAIR, так как у меня слабый пк. думаю, для чат ботов они в самый раз, если им дать бд.

[@VictoriaJohn-w8h]

Спасибо за это замечательное видео. Не могли бы вы посоветовать мне, как правильно начать инвестировать в криптовалюту? Я готов посоветоваться с опытным инвестором или трейдером.

[@Meowta]

Самурай, ты ведь хотел попробовать посидеть на windows 2-3 дня и сделать ролик, уже не актуально? :(

[@zproger]

Я вот не знаю будет ли это интересно людям) Так как одно дело когда показывают Linux, и людям интересно что это за зверь такой, а тут получается я покажу всем давно известную винду :D

[@Meowta]

@zproger можно сравнить с Linux, рассказать о преимуществах и недостатках обоих систем, можно сделать 1 действие на windows и предположить как бы оно было на linux

[@zproger]

Неплохая идея, может быть что-то придумаю

[@Spersonal77777]

@@zprogerНаоборот будет интересно.Тем более после опыта использования Арча. Честное сравнение + и - каждой ОС

[@leguru]

я после двух месяцев первого опыта линукса вернулся на винду, на которой провел всю жизнь, хочу обратно

[@pechatnik]

Да, отличный видос.

[@zproger]

Благодарю

[@ya.yakushev]

братан людям голову не морочь, локалка это не вариант. И локального чатагпт нету))

[@zproger]

Ну прям копии ChatGPT нет, потому что для GPT4 нужно 800млрд параметров, это надо машину стоимостью 2млн$. Но для чего-то простенького, по типу заметки в obsidian генерить, или отформатировать текст, или в свои ПО внедрить, это вполне достойная вещь как мне кажется :)

[@Toondra128]

Ошибаетесь. В настоящее время есть лёгкие LLM, у которых MMLU, HumanEval, и MATH очень близки к уровню тяжёлых моделей по типу Llama 3.1 405b, GPT-4o. Яркий пример - Phi-4.

[@vlad_oga]

Ollama + web ui намного лучше

[@proKaps]

вот бы ещё с ней можно было бы общаться голосом как с ЧатГПТ

[@zproger]

По идее можно, но с доп.настройками. Надо будет поразбираться с HuggingFace, найти модельку и внедрить ее в LM Studio. Правда тут без кода не обойтись, можно написать на Python распознавание текста, передавать в LM, и оттуда возвращать на другую модельку и этот текст озвучивать.

[@proKaps]

@@zproger я слышал, что есть текст-речь, но как у ЧатГПТ такого ещё нет, ЧатГПТ может менять интонацию голоса и передавать эмоции в речи.

[@vladimirrumyantsev7445]

Слишком быстро? рекомендую медленее все показывать - более понятно будет, а за инфу - спасибо👍

[@zproger]

Благодарю за конструктивный комментарий, буду работать над этим

[@ПавелВеткин-о6щ]

ComfUi то оболочек для генерации изображений

[@zproger]

Видел ролики с этим инструментом, как раз хочу изучить, ибо очень классные возможности :)

[@eugene1640]

@@zprogerвидео сделаешь по нему?

[@Fokusnik96]

<a href="#" class="seekto" data-time="310">5:10</a> такое ощущение как будто за дураков считаешь подписоту, по сути говоришь как сделать свой курс по ООП без запара но предлагаешь купить свой курс, не предьява)))

[@zproger]

Без запары?)) Пройдите штук 10 курсов, прочитай около 10 книг, еще в добавку всю доку. Потом на постоянной основе читайте еще по 1-2 книги в месяц касательно шаблонов, архитектуры, антипаттернов, правил написания кода и т.д и т.п. Потом всю эту информацию проверьте, изучите, отсортируйте, скомпонуйте, сделайте ролики, прикрепите примеры кода, создайте свою платформу и на постоянной основе добавляйте новый и новый материал уже бесплатно для тех людей, которые записались. Проверяйте домашние задания вручную, отвечайте на все вопросы людей, которые идут в лс касательно технологий, которые они не поняли. Вот тогда выйдет мой курс ООП. Точные цифры потраченного времени на него сказать не могу, но это очень и очень долго и дорого. Я покупаю и книги и курсы, и изученную информацию преподношу аудитории, а им уже не нужно покупать этот материал, ибо я его приобрел, отфильтровал, и предоставил в готовом разжеванном виде, так еще и бесплатно.

[@zproger]

На этот курс огромные планы, я не планирую его забрасывать даже спустя 5-10 лет, а только постоянно пополнять материал, а в приват добавлять новый контент для изучения. Поэтому купить курс всего за 115 долларов, который поддерживается и еще предоставляет отборный материал как и в курсе, так и в привате, я считаю это копейки, так как на рынке аналогичные продукты стоят 100-150к.

[@Fokusnik96]

​@@zproger Да я вообще не про это) Да, ты делаешь крутые вещи и рассказываешь доходчиво(иногда), просто я акцент сделал на том, что ты условно говоришь, как сделать ии на машине у себя, который может +- тоже самое делать для обучения ООП, и базы он будет тоже дополнять сам, и фишки новые покажет, и разные библиотеки, которые тебя могут заинтересовать, расскажет в секунды, а чтобы ты реализовал это, потребуется твоё время на ролик или пост, и ты опишешь только то, что сам понимаешь, а он опишет всё, что есть в базе.

[@Fokusnik96]

​@ На счёт "без запара" я имел в виду, что ИИ поможет каждому это сделать без запара, а не то, что ты сделал это без запара, извини, что не так выразился.

[@zproger]

Проблема в том, что прежде чем ИИ выдаст информацию, нужно сформировать необходимый промпт, он не может подметить все тонкости, которые я руками собираю из многих книг и курсов. Бывают темы в разных технологиях, о которых мы вообще не догадываемся. Мы узнаем о них, только когда это предоставят в готовой книжке или курсе, а уже автор вывел это на собственном опыте или опыте других людей. Поэтому когда я не знаю ничего про математику, я не смогу попросить чат гпт дать мне эти фишки, о которых знает человек, который изучает эту сферу 10 лет. Он мне их выдаст, только если я смогу сформировать промпт и четко скажу, что я требую от него, а новичок никак не сможет это сделать, поэтому ИИ в целом помогает разобраться в уже имеющемся материале, но очень трудно изучать новое, а тем более находить полезные сферы применения чисто на генерации текста от ИИ.

[@Олег-б3ц9б]

когда ии учился на цитатах волка...

[@zproger]

Ну а почему бы и нет))

[@MASHINIST_8888]

первый коментарий) спустя 2 недели видео

[@zproger]

😎😎😎

[@MASHINIST_8888]

@@zproger :)

[@neo1647]

короче, всё это пока хрень бесполезная. Ждём 2030 год.

[@bega3]

Хороший ролик

[@zproger]

Благодарю

[@mxmplk2190]

Только вчера deepseek r1 вышел ай ай

[@zproger]

У меня он почему-то не работает) еще не разобрался как его запускать :D

[@Toondra128]

@@zproger Нужно обновить llama.cpp до версии 1.9.2 и выше, установить версию LM Studio 0.3.8.

[@zproger]

Благодарю

[@mxmplk2190]

@ у меня работает на маке, на винде не могу запустить тоже. 1.5B версия что то не сильно блещет крутостью =)

[@wolfgrey3684]

Тут)

[@zproger]

😎😎

[@Wooondeer229]

блин чел, термуху на проце замени! под 80 градусов на рабочем столе для - не нормально!

[@zproger]

Так я просто не показывал другие рабочие столы и фоновые задачи, у меня там на фоне был браузер, obsidian, телега, kdenlive, крутился lm studio с очень жирной моделькой и еще запись видео шла. Просто на рабочем столе у меня 40 градусов примерно :D

[@Maks-vo3uo]

При запущеном Юнити с проектом настоящим, АI вообще думать не хочет, у меня, это к вопросу о нагрузке на железо

[@maz1lovo]

36 секунд назад 0-0

[@zproger]

😎😎😎

[@ronving]

найс

[@zproger]

Благодарю

[@flyofk]

Красавичк. Самый понятный гайд по этой теме.

[@zproger]

Благодарю!

[@helios161]

минус за озвучку. бу-бу-бу, бу-бу-бу

[@zproger]

Согласен, надо исправлять)

[@yastepan]

скажу большее нейросети не нужны

[@zproger]

😎😎

[@aleks_versus]

Нужны и даже выручают. Например, когда сомневаешься, грамотно ли предложение составлено синтаксически, нейронка быстро даст ответ и накидает варианты.

[@KniazObolonsky]

Спасибо. Aide IDE прямо в тему к этим моделям.

[@zproger]

Благодарю!

[@mixiy-virot]

Есть похожая программа для ИИ, которые генерируют изображения. StabilityMatrix

[@zproger]

Благодарю!

[@alexdrake913]

Почему-то мне кажется, что автор куда-то спешит. Именно в этом видео очень скомканная кусками, и обрезанная по два слога речь, из-за этого не успеваешь за ходом мысли автора. Говорит как робот

[@zproger]

Да, я сам удивился когда пересмотрел видео сегодня)) Даже для меня быстро оказалось. Всегда одна и та же история, при озвучке стараюсь говорить как черепаха, на монтаже еще часа 2 трачу, чтобы доп.паузы расставить, пересматриваю и вроде гуд, а потом заливаю на ютуб и у меня тараторка под 200 бпм)

[@alexdrake913]

@@zproger В целом, на 0.8 скорости идеально заходит)

[@aleks_versus]

​@@zprogerя думал, ты наоборот все паузы вырезаешь.

[@mk88vvv]

@@zproger все люди разные. Я на 2х все видосы смотрю почти, твои не исключение, всю информацию схватываю норм

[@dlazder3937]

Говори четче. Ты глотаешь буквы и звуки, интонация и речь у тебя ломанная. Слушать крайне неприятно.

[@zproger]

Такой язык у меня, я каждую фразу повторяю по 10 раз, и потом на монтаже оставляю самые адекватные. Этот ролик был на 1.5 часов, но после того как обрезал фейлы, осталось 8 минут) Дикцию надо фиксить, упражнения помогают, но не настолько сильно, чтобы прям идеально выговаривать слова.

[@aleks_versus]

​@@zprogerчитай стихи. Вслух перед зеркалом с записью на диктофон. Потом переслушивай.

[@adaeffsky]

Мне понравился волк с 4 ноздрями

[@zproger]

:DDD

[@zproger]

Ну там надо допиливать и разбираться с промптами, как-то дойдут до этого руки и покажу нормальный пример

[@wolfiedog5716]

Автор, работай над речью, слушать очень тяжело

[@zproger]

Благодарю, потихоньку работаю над этим

[@loonatik_official]

мне заходит, наоборот нравится.

[@vmenik3888]

или от сюда лингвист лингвист хренов, всё норм у него

[@horlonangel]

Без Интернета будет работать? Сомниваюсь! Сейчас даже пёруть без Интернета нельзя. У меня есть локальные сервера, где безопасность на первом месте, там нет доступа к Интернету (и даже сеть). Сколько всего не пробовал, оно не работает без Интернета, всёравно что-то постоянно докачивает и попробуй отруби ему сеть - оно просто сдохнет. Типо, модули докачивает, ага. Стоит только проанализировать трафик, "точно модули" качает, но у меня и куда-то в сеть. Так что безопаснее пользоваться Chat GPT - он хотябы не у тебя на ПК сидит и ограничен браузером...

[@vlad_oga]

Будет работать. Ведь ты качакшь веса модели локально. А твое объяснкник аж расмеялся. Все мои нейронки и проги локально работают и скопированы на внешний носитель

[@vlad_oga]

Аж до слез... Ты трафик хоть анализировать умеешь, докачка один раз нужна.