Когда размер (нейросети) имеет значение...

Нас заманивают чудесами супер-ботов, якобы знающих и умеющих все. Так ли это? Может ли гигантская универсальная нейросеть удволетворить всех и каждого? Или же небольшие специализированные боты будут лучше?
Поддержка канала, иллюстрации к видео и многое другое (со временем):
/ oleksandrtkachov
#ии #искусственныйинтеллект #artificialintelligence #ai #machinelearning #technology #datascience #deeplearning #robotics #computerscience #data #business #robot #datascientist #automation

[@sergeyron]

Жду-недождусь ИИ, которому можно будет скормить десяток gtp-шек, записать голос и получить на выходе музыкальный альбом в нужном саунде.

[@ExpITW]

Пока сочинить что-то в самом деле творческое эти твари не могут. Тем более оно получается на что-то похожее, и могут прижать за плагиат. Оркестровку лучше, чем у хорошего оркестратора, они не тоже сделают. На запись свести это слышать надо и понимать воздействия. Не зря ремиксы Вилсона выходят отдельными релизами. Я пишу, пою и играю немного, записываю по любительски.

[@Otec320]

Я думаю, сначала появится более подходящая аппаратная архитектура для более эффективного обучения моделей, а потом уже на основе них новые телефоны с возможностью запускать модель и обучаться локально.

[@ExpITW]

Весьма вероятно. Как-то мутно в отношении передачи результатов обучения прямо копией параметров, но если такое возможно, то можно в облаке сделать машины для обучения, там же разместить учебные данные и все это за деньги как сервис. А личную машину такой мощности в любом случае не слишком выгодно, если обучать только для себя. Я думаю, запускать локально будет скоро можно легко, но вот обучать и доучивать будет локально сложно. Хотя все продвигают что-то уровня Микстраля с 8 миллиардами параметров, а мне так кажется, что сгодится и 50 миллионов, то есть 300 миллионов учебных данных. Может, и хорошая видеокарта сгодится. Но с новыми алгоритмами, потому что пока они вроде глуповатые.

[@my-rules]

ай какое красивое начало

[@ExpITW]

Спасибо.

[@user-em5jl8dw4k]

Раскажите про чипы и про видеокарты для нейронов. Будет круто!

[@ExpITW]

Тут придётся как-то так рассказать, чтобы без технических подробностей, а то скучно для многих будет. Это челлендж, но я его принимаю…)))

[@dmitrykukushkin4960]

С точки зрения пользователя, конечно, выгоднее индивидуальный помощник на своей системе. А вот с точки зрения корпораций, которые всем заправляют - все данные о максимальном количестве людей должны быть у них - по этому сейчас даже система email (изначально задумывалась как распределенная) - по большей части в руках нескольких корпораций. Если даже письма ваши хотят читать - то ваши запросы и предпочтения (которые уж точно позволят что-то вам впарить) - их интересуют куда больше и пойдут на все, чтобы не терять ваши данные.

[@ExpITW]

Это и есть главная проблема. Но вот смогут ли они сдерживать предпринимателей, желающих продавать личные решения? Ну уж рекламироваться им будут мешать точно.

[@usertyfoon]

Очень интересно! Даже не сльішал о мальіх нейросетях!

[@ExpITW]

Их придерживают…))

[@mracobes]

А кто будет делать персональный мини-ИИ для каждого человека персонально? Конечно сверхмощный общий ИИ. Так что ждем AGI, уже недолго.

[@ExpITW]

Да, говорят в 2026 году. А потом окажется, что персональные ИИ лепят 1000 программистов из Азии…)) Ну а с действительно реальным AGI есть такая опасность, что он просто не захочет. Он ведь будет осознанный, скажет «мне это не интересно, идите лесом и не мешайте, мыши мелкие…»..))

[@Yert_us]

Сейчас есть много нейросетей в открытом доступе, которые можно дообучить для своих потребностей. Или можно вообще не дообучая, передавать нейросети огромную документацию или статью в качестве контекста и она найдёт нужную информацию из этого контекста.

[@ExpITW]

@@Yert_us Насколько я нашел, для установки и дообучения нужно знать как минимум Питон. Сетей есть много, да, но выбор между ними та еще проблема, потому что в комментариях состязаются разработчики с похвалами и конкуренты с "критикой". Насчет передачи в контексте - у ChatGPT контекст только 8000. В каком чате больше? И потом переданное в контексте живет до конца сессии, то есть знаниями не становится. Можно загрузить embeddings, но опять же нужно знать Питон, только вызовов API чтобы их эффективно сгенерировать и сохранить не хватит. В чем я не прав?

[@Jrh2pb3np3l]

Доступно

[@ExpITW]

Спасибо огромное, Ваш комментарий - как бальзам...))

[@user-li7hi3es1e]

Мой любимый канал

[@ExpITW]

Спасибо!

[@APride83]

Знать столько же, сколько знает гпт4 невозможно. Места в голове нет.

[@ExpITW]

Формально говоря, у нас в голове от 16 до 160 триллионов синапсов, отвечающих именно за когнитивную деятельность. Если считать их аналогом параметров, то у самого крутого GPT меньше 2 триллионов параметров. есть подозрение, что мы используем сичтанные проценты своих возможностей...))

[@APride83]

@@ExpITW Они отвечают за жизнедеятельность. Если заставить их думать за счёт сердцебиения или дыхания, результат будет плачевным.

[@ExpITW]

@@APride83 Нет, вроде как это именно синапсы нейронов, отвечающих за когнитивные функции только.

[@voxyloids8723]

Кстати фильм Чаппи через несколько месяцев станет реальностью 👻🤖

[@ExpITW]

Почему?

[@mr4erk]

скорее пародия на него. в данном случае пока что ты переоцениваешь скорость развития. чет через 5 уже вероятнее

[@ExpITW]

@@mr4erk Я когда лезу глубже, мне кажется, что развитие вокруг ИИ действительно сильно переоценивают. Но я допускаю, что это как прорыв плотины, поток будет расти. Скоро все увидим.

[@mr4erk]

@@ExpITW при любом внезапном резком росте будет пропорциональное сопротивление некоторое время, пока все не устаканится, которе будет замедлять развитие, чтоб не было ничего особо непредсказуемого

[@AnnihilatorRUS]

Жду следующее видео, уже несколько дней думаю что надо собрать себе комп для малой языковой модели. Пока не случилось как с видеокартами во время криптолихорадки. Или пока по Тайвань ракеты не полетели

[@ExpITW]

Ну, следующее видео будет скорее в общем о принципах и видах чипов. А язык Питон Вы знаете?

[@AnnihilatorRUS]

@@ExpITW я знаю того кто знает. ЧатГПТ 4о зовут его

[@ExpITW]

@@AnnihilatorRUS Ну, можно и так…))

[@user-nh1qd8eh6g]

БОЛЬШОЕ ОБНОВЛЕНИЕ АЙ

[@ExpITW]

"АЙ!" - это реакция на слишком большое обновление, подкравшееся сзади?...)))

[@user-nh1qd8eh6g]

@@ExpITW ДА ВСАДИЛ ТЕБЕ ПО ГЛАНДЫ!

[@ExpITW]

@@user-nh1qd8eh6g Скорее тебе, судя по тому, что ты кричишь "АЙ"!...)))

[@user-nh1qd8eh6g]

@@ExpITW С ПЕТУХАМИ НЕ ОБЩАЮСЬ

[@ExpITW]

@@user-nh1qd8eh6g Ну, так или иначе несколько комментов, полезных для продвижения, ты оставил...))) Пиши исчо...)))

[@bicrobot7556]

12:22 ...точно не для гуманитариевь!? Вот тут пожалуйста поподробнее!.

[@ExpITW]

Как я сказал - будет отдельное видео. Даст Бог в эту пятницу как обычно...)))

[@molochnikzero]

Есть приложенька lm studio, в ней можно скачать модель и настроить под себя, но для их работы нужна современная видиокарта, желательно nvidia

[@ExpITW]

Спасибо, посмотрю. Но карточка у меня слабая, 1050...(((

[@ExpITW]

Ну вот на первый взгляд да. А еще увидел такую Ollama, говорят еще проще. Надо будет посмотреть подробнее и наверное рассказать. Я думаю, они скоро посыплются как из ведра, в том числе платные (а значит качественные). Спасибо еще раз.

[@ExpITW]

Посмотрел. LM Studio создает локальный сервер с локальными моделями, с которыми можно работать локально через API. То есть делаете приложение, преобразующее действия с графическим интерфейсом в вызовы API и вперед. То есть нужно быть программистом, и хотя бы представлять процесс преобразования данных (хотя LM Studio его делает) и загружать данные для fine-tuning снова через API. Недавно еще embeddings появились. Версия бета, но блох в ней как в альфе. Есть чат с выбранной моделью. То есть да, что-то вроде бы есть, но это не приложение для любого пользователя - поставил, загрузил файлы и общайся. Пока нет.

[@s.h.a.m.r.i.k]

Очень толковый контент

[@ExpITW]

Спасибо, стараюсь...))

[@Yert_us]

Есть LM-Studio, через неё можно легко скачивать модели и запускать на своём ПК

[@ExpITW]

Да, мне уже подсказали, нужно будет попробовать. Спасибо.

[@ExpITW]

Посмотрел. LM Studio создает локальный сервер с локальными моделями, с которыми можно работать локально через API. То есть делаете приложение, преобразующее действия с графическим интерфейсом в вызовы API и вперед. То есть нужно быть программистом, и хотя бы представлять процесс преобразования данных (хотя LM Studio его делает) и загружать данные для fine-tuning снова через API. Недавно еще embeddings появились. Версия бета, но блох в ней как в альфе. Есть чат с выбранной моделью. То есть да, что-то вроде бы есть, но это не приложение для любого пользователя - поставил, загрузил файлы и общайся. Пока нет.

[@my-rules]

пересмотрел все видео. Слаботато . Не нашел никого опыта.

[@ExpITW]

А какой опыт и в чем Вы искали?