Проблема что они греются и штатная система охлаждения не справляется на 3090 надо ставить воду. Я рисую с помощью нейросетей у меня 3090.

Ты сам как ИИ из фантастических фильмов

Судя по заставке, сервер стоит 7 или 8 тысяч долларов. Номральная цена для сервера.

спасибо за видео, ждем замеров производительности

В начале 21 века Илон Маск был известен как амбициозный предприниматель, который стремился изменить мир. Его компании, такие как PayPal, SpaceX и Tesla, уже начали оказывать влияние на различные отрасли, но его мечты выходили далеко за пределы Земли. Он мечтал о колонизации Марса и создании устойчивого общества на другой планете. Однажды, после успешного запуска ракеты Falcon 9, Илон собрал свою команду в штаб-квартире SpaceX. Он посмотрел на своих сотрудников и сказал: "Мы не просто строим ракеты. Мы создаем будущее для человечества. Наша цель - сделать жизнь многопланетной". Команда была вдохновлена его словами, и они начали работать над проектом, который должен был стать следующим шагом в их миссии - проектом "Марс-2025". Проект включал в себя создание марсианского поселения, которое могло бы поддерживать жизнь. Илон понимал, что для этого необходимо решить множество проблем: от обеспечения кислородом до создания устойчивой системы жизнеобеспечения. Он привлек лучших ученых и инженеров со всего мира, чтобы разработать технологии, которые позволят людям жить на Марсе. В то время как команда работала над проектом, Илон также продолжал развивать Tesla. Он верил, что устойчивый транспорт - это ключ к спасению планеты. Он запустил программу по производству электромобилей, которые были не только экологически чистыми, но и высокопроизводительными. Tesla быстро завоевала популярность, и Илон стал символом новой эры в автомобильной промышленности. Спустя несколько лет, когда проект "Марс-2025" был готов к реализации, Илон объявил о первом пилотируемом полете на Марс. Он сам решил отправиться в путешествие вместе с командой астронавтов. Это событие привлекло внимание всего мира. Люди с нетерпением ждали, когда они увидят, как Илон и его команда сделают первый шаг на красной планете. Полёт прошёл успешно, и вскоре космический корабль приземлился на поверхность Марса. Илон, облачённый в скафандр, первым вышел из корабля. Он посмотрел на пустынный ландшафт и произнёс: "Это только начало". Его слова стали символом надежды для миллионов людей на Земле. Команда начала развертывание оборудования и строительство первых модулей поселения. Они использовали 3D-печать для создания зданий из марсианского грунта, что значительно упростило процесс. Илон был полон энтузиазма, наблюдая за тем, как его мечта становится реальностью. С каждым днём жизнь на Марсе становилась всё более комфортной. Команда научилась выращивать растения в закрытых теплицах, используя гидропонику. Они также разработали систему переработки воды и кислорода, что сделало поселение более автономным. Однако не всё шло гладко. В один из дней произошла непредвиденная буря, которая повредила часть оборудования. Илон и его команда работали круглосуточно, чтобы восстановить системы жизнеобеспечения. Это испытание сплотило их, и они поняли, что только вместе могут преодолеть любые трудности. Спустя несколько месяцев, когда поселение стало более устойчивым, Илон решил провести первую пресс-конференцию с Земли. Он рассказал о своих достижениях и о том, как важно продолжать исследовать космос. Его слова вдохновили людей по всему миру, и многие начали мечтать о том, чтобы стать частью этой новой эры. Вскоре после этого Илон объявил о планах по отправке следующей группы колонистов на Марс. Он понимал, что для создания полноценного общества необходимо больше людей, и начал искать добровольцев. Тысячи людей откликнулись на его призыв, готовые оставить свою жизнь на Земле ради новой мечты. Прошло несколько лет, и "Новая Земля" на Марсе превратилась в процветающее сообщество. Люди работали над новыми технологиями, исследовали планету и создавали уникальную культуру. Илон продолжал вдохновлять их, делясь своими видениями о будущем. В конце концов, его мечта о многопланетном человечестве стала реальностью. Люди научились жить на Марсе, и это стало началом новой эры для всего человечества. Илон Маск, ставший символом этой эпохи, продолжал двигаться вперёд, мечтая о новых горизонтах и новых планетах

и ещё: В одном далеком будущем, когда человечество уже колонизировало Марс, Илон Маск, основатель SpaceX и Tesla, решил осуществить свою давнюю мечту - создать город на Красной планете. Он собрал команду лучших ученых и инженеров со всего мира и отправился в космос. По прибытии на Марс команда начала строить город, который назвали "Новая Земля". Они использовали передовые технологии, чтобы создать устойчивую экосистему, где люди могли бы жить и работать. Илон часто гулял по строительной площадке, вдохновляя своих сотрудников своими идеями о будущем. Однажды, во время одной из таких прогулок, он заметил, что некоторые растения, которые они привезли с собой, начали адаптироваться к марсианским условиям. Это открытие стало настоящим прорывом. Илон понял, что жизнь на других планетах возможна, и это вдохновило его на новые эксперименты. С каждым днем "Новая Земля" становилась все более уютной и живой. Люди начали проводить фестивали, делиться историями и мечтами о будущем. Илон, наблюдая за тем, как его мечта становится реальностью, понял, что главное - это не только технологии, но и человеческие связи. Так, благодаря упорству и видению Илона Маска, на Марсе возникло новое сообщество, где люди могли жить в гармонии с природой и друг с другом, открывая новые горизонты для всего человечества.

вот пример: Илон Маск стоял на крыше своей лаборатории, глядя на звёздное небо. Он был поглощён мыслями о будущем, о том, как изменить мир. Его глаза блестели от энтузиазма, когда он думал о своих проектах - о колонизации Марса, о революции в энергетике, о будущем транспорта. Внезапно, он услышал голос своего помощника, который сообщил ему о новом прорыве в разработке электромобиля Tesla. Илон улыбнулся, чувствуя, что его мечты становятся реальностью. Он спустился в лабораторию, где его команда инженеров и учёных работала над новым проектом. Илон присоединился к ним, и вместе они начали обсуждать детали и решать проблемы. Часы пролетели незаметно, и когда солнце начало заходить, Илон поднялся на крышу снова. На этот раз он чувствовал себя еще более уверенным в том, что его мечты станут реальностью. Он знал, что путь будет трудным, но он был готов к вызову. Илон Маск стоял на крыше, глядя на звёзды, и знал, что будущее будет ярким.

такую х уйню я получаю из DuckDuckGo AI Chat бесплатно

один вопрос-НАХУЯ?

а зачем? какие задачи он выполняет? и какая ос используеся?

Зачем выбираешь видеокарты с 4-я видеокартами 320 Гб видеопамяти 🤯 ? Ты снял видео для больших компаний или для обычных пользователей??? Разве для личного пользования нельзя было выбрать более оптимальный и бюджетный вариант? 😁

как прикрутить этот движок ? точнее как собрать комбайн из инструментов ? kzbin.info/www/bejne/gKnOoalpmrOLg5o&ab_channel=Octopustrade

Подумываю взять видеокарту для llama 3.2 но в память видеокарты вся модель не влезет. Есть ли выигрыш в производительности если половина модели будет в оперативной памяти и остальная половина в памяти видеокарты по сравнению с только оперативной памятью?

это интересно. Получается что можно накупить 1060 по дешевке и в бюджет 300$ вписаться😀 не 512gb памяти конечно,но. 64 или может даже 128gb

майнинг фермы можно адаптировать для решения таких задач ?

Ждем, видосики запуска Llama 3.2

Вот думаю ~ такое же взять, только двухголовых райзенов и 16х слотов памяти ддр4. Через ~ 3-5 лет поставлю туда 2х64/128 из китая по 300 пучок:xD Кстати, если не для обучения долго использовать, имеет смысл обрезать ядра и гпу по прожорливости, а память оставить как есть. Я вижу ухудшение скорости генерации, когда я ставлю больше 4х потоков процессора. Будет крайне интересно посмотреть ваши видео, особенно по скорости работы Llama3.1 406b, все же такое локально иметь это мммм..

красава!

А количество каналов оперативной памяти у процесоров имеет значение? А L3 кеш?

Спасибо за видео 👍👌

Топ контент! Нужно больше туториалов по приватным LLM. Это особенно актуально для гос. компаний и компаний с конфиденциальными данными

Найди 3 отличия от криптофермы🤣🤣🤣Вообще чесно не знал что есть такая тема для часных людей,видел зборки стандартных мощных компьютеров (один топовый процессор+топовая видеокарта) для различных комерчиских целей,фирм(часто пытаются заменить людей искусственным интелектом).

3090 слышал память греется сильно, с этим как обстоят дела?

И сколько этот сервер ламакоинов копает?

Странно - в 2:23 в сравнении например лама 8б в тесте ifeval дает 80,4 а 405б дает88,6 то есть огромная модель обходит маленькую всего на 8 пунктов... я не разбираюсь в этих моментах, только открыл для себя эту тему, получается совсем небольшой отрыв.... Хотелось бы чтобы автор подробнее раскрыл столь малую разницу.

Хах, какой ИИ, кому нужно учить ИИ, они себе строят СВОИ ЦОДы, а не берут у бомжей гавно сборки...

А как видеопамять объединяется? Я слышал только что nvlink так позволяет или есть другие технлогии? В вашем случае вся модель помещает в VRAM если говорить о 70B? Пробовали QWEN 2.5 70B?

Лысый 👨‍🦲 глобус 🌎 сёл

3090 ti разве актуальная видеокарта? Она же слабее, чем 4090 и даже, чем 4080. Извините, если не шарю

У людей в основном игровые пк У Меня AMD 5700g 32gb ddr4 AMD 580 8gb Подскажите, на что обратить внимание, чтобы попробовать?

Я не понял для чего это нужно. Я понимаю в организации допустим юристам нужно договора проверять, умный голосовой секретарь для клиентов. Но зачем это себе, вроде бы ты говоришь, что это себе? Судя по тому что ты в телеге раздаёшь коды для доступа, то ты и сам не нашёл применения?

От танков знатно пукан горит! сам порой не знаю что делать )

Как используешь сие чудо. У меня EPYC 7532 256 GB 3060/12G.

У меня hp priliant 380 gen 8 с двумя камнями по 12 ядер и 512 гиг оперативки, расчет весь на CPU. Гоняю нейронки по 405в

А можно в двух словах как у вас все закреплено на майнинговом риге? глупый вопрос но на видео не очевидно, а идея с использованием рига для своего сервера мне очень понравилась (а то вечные заморочки с поиском корпуса и его продувкой). По картинке такое ощущение что материнка стоит на полу на столбиках или она просто привинчена саморезами к деревянному днищу (суровый русский монтаж )))) ? И как видюхи закреплены если можно пару слов тоже. Спасибо!

Четко, спасибо!

интересный комп получился. подпишусь

Как думаете если я на VPS сервере Zomro крякну винду меня не прищючат ? так как платить нужно со своей банковской карты. Вот описание их виндовс - Обратите внимание: серверы на базе Windows включают только пробный тип лицензии. Для получения лицензии на продукты Microsoft Windows обращайтесь к поставщикам

Звук монетки уж очень громкий, особенно при стоимости проца. Подумал что специально запикано. Но нет, в следующей тоже самое. Надо быть повнимательней при монтаже. Или отсматривать видео после рендеринга.

Жуть. Сколько жто майнит в месяц?

~11 млн машинка будет стоить . Ищу вакансию в той фирме которая купит таких 10 шт. 😊

Моя 3090 под нагрузкой шумит не слабо, а 6 должны капец как шуметь. Они у тебя где, в отдельной комнате?

ГПТ стоит 20$ в месяц, зачем такую лютую сборку поднимать дома, не понятно

По приколу решил закинуть в ламу книгу и ни разу он мне правильно не ответил... Тормоз ещё тот...

оно хоть как-то отбивается или это просто как хобби - вместо машины?

Через 5 лет такая мощность будет стоить в 10 раз дешевле, а нейросети оптимизируют для слабых компьютеров, зачем вы тратитесь сейчас?

крутое железо, а 405ю не запустить?

Спасибо. Давно искал подобное видео. Стыдно признаться даже и не подумал что серверные решение будут эффективнее. Всё время только натыкался на игровые компьютеры. К сожалению всё крутится вокруг индустрии игр Несмотря на то что сейчас в буме нейросети. К тому же нейросети естественно намного более универсальны А главное полезны. Надо будет пересчитать сколько это будет в долларах и в гривнах. Хотя всё равно наверное для меня это будет сумма неподъёмная. Но по крайней мере Понятно В каком направлении двигаться. Искать материнскую плату с возможностью подключить много видеокарт Причём как я понимаю надо nvideo. А я по глупости купил AMD. Хватило денег на бэушную Каких-то 8 ГБ. И то всё Руки не доходят разобраться...