#52 | Сколько стоит натренировать большую языковую модель? Интервью с инженером и ученым из Meta

Получите 10% скидку на любой курс от nFactorial School, используя промо-код turpentine: nfactorialschool.typeform.com...
nFactorial School (www.nfactorial.school) - онлайн-буткамп востребованных ИТ-профессий. 2000+ выпускников с 2013г, сейчас они работают в Google, Meta, Apple и т.д.
Первый эпизод @nfactorialpodcast из Кремниевой Долины. 2-часовой мастеркласс от @arreqe, ученого из Facebook AI Research, и @baur.kr, hardware-инженера в Meta. Сколько стоит тренировка GPT-4, LLaMA (7B-65B)? Что произошло в мире ИИ в 2023г? Как создать ChatGPT для казахского языка? В чем разница A100 и H100? Как произошел дефицит чипов? Спасибо @silkroad_innovation_hub за замечательную подкаст-площадку!
Друзья, новый сезон nFactorial Podcast уже здесь и его можно назвать «IT по-казахски в Америке.
Гостями первого эпизода были Арман Жармагамбетов, исследователь в области ИИ из Meta, и Баур Крыкбаев, разработчик ИИ-чипов из Meta.
Мы поговорили про исследования Армана, процесс тренировки больших языковых моделей и о том, сколько на это уходит денег, и узнали о том, что произошло в области ИИ за последний год.
А ещё Баур рассказал нам о том, как он через загадочную вкладку Google попал на работу в Google и изменил свою жизнь.
Мы не могли отпустить Армана с Бауром, не спросив про Llama и ChatGPT на казахском языке и не попросив у них рекомендаций по изучению ИИ.
Спасибо, что остаётесь с нами и поддерживаете нас просмотрами, комментариями и репостами. Приятного просмотра, друзья!
Арман Сулейменов: / armansu
Арман: / arreqe
Баур: / baur.kr
Подписывайтесь на nFactorial в соцсетях:
Instagram: / nfactorialpodcast
TikTok: / nfactorial_school
nFactorial School: / nfactorial.school
Продюсер: / good.years
Таймкоды:
00:00 Show must go on!
01:55 Сколько стоило натренировать GPT4?
02:26 Сколько стоило натренировать Llama?
04:04 Чем занимается Арман?
07:04 Чем занимается Баур?
12:03 Как Баур случайно устроился в Google?
17:04 Что произошло в AI за последний год?
22:28 Что такое параметр?
24:47 Изменения в hardware за год
28:07 Какие инструменты использовать для стартапа?
35:14 Как зафайнтюнить Llama для казахского языка?
36:37 Как сделать ChatGPT на казахском?
42:39 Как большой компании сделать ИИ инструмент для больших данных?
52:20 Какое нужно железо?
52:31 Что такое CUDA?
56:33 Почему PyTorch победил?
01:02:20 Почему произошел дефицит чипов?
01:09:52 В чем отличие CPU от GPU?
01:15:34 В чем разница между A100 и H100?
01:21:09 Какие существуют Image generation модели?
01:22:23 Open source vs closed source
01:31:46 Мифы общества про AI
01:40:36 Ресурсы для изучения AI
01:49:05 Вопрос для аудитории
#nfactorial #podcast #chatgpt #искусственныйинтеллект #кремниеваядолина #openai

[@nfactorialpodcast]

Вопрос для аудитории. Примеры из жизни, когда ChatGPT сильно "косячил" или сильно вас удивил?

[@TimurIshuov]

Привет! Т.к. пользуюсь бесплатной версией, ChatGPT 3.5 ошибается в определённых понятиях и коде. Но если ее поправлять может выдать хороший результат. Я о том, что человек должен иметь знания в области в которой он спрашивает. Если человек за правду все воспринимает то может наделать дров думая что все верно.

[@bertabouv4969]

Привет, часто использую , иногда ошибается и если указываешь на ошибку, извиняется и признает. Если он накосячил, просишь переписать конкретную фразу, переделать с учетом..., после этого выдает лучший результат. В общем довольна.

[@yaroslavandreyev4246]

@@TimurIshuovсогласен, если поэтапно его поправлять и делать упор на определенные критерии , то выдаст правильный ответ. Прямо в сессии можно натренировать 😂

[@indiraaubakirova4250]

Слушая ребят, чувствуешь себя на передовой развития нашей цивилизации. И как здорово, что парни из Казахстана в Кремниевой долине причастны к построению будущего

[@BluckyOne]

Да! Из всего казахского аула аж целых ДВА казаха😂 это прорыв!

[@ghosteagle583]

@@BluckyOne LOL. Там куча наших ребят, интервью берут только у тех кого знают или смогли организовать встречу...

[@daniyarkosmukhanbetov2442]

Өте әдемі пайдалы сұхбат болды! Көп рақмет! Жарайсыңдар, жігіттер! 👍👍👍

[@sayanomarov5397]

Спасибо Арману и ребятам за интервью 👏

[@gafurzholik6751]

Крутое интервью! Поверхностно четко дали инфу, Арман умеет вытаскивать инфу с людей 😂

[@chingizt3106]

Отличный подкаст, мы все большие везунчики что можем слушать такой подкаст на понятном языке

[@melsbegenov5542]

I like the way Armansu stays humble and modest even though most things he has discovered before and knows beyond what has been written on news about it

[@alibbank]

Good chat! Glad to see Baur!

[@BakitgulLP]

Очень интересное интервью 👏🏻👏🏻👏🏻

[@nofrost8132]

Баур крутой парень получается👍👍👍

[@yenliknurasheva6322]

очень интересное и информативное интервью 🔥

[@MalikaAubakirova]

Полезная и нужная информация!! 🙌 вышло здорово

[@DzmitryZiablau]

Отличное интервью! Спасибо!

[@samzhold817]

Cool interesting interview!👍great job 👏Arman molodec💪

[@Yerkin1209]

Это большой талант понятно и просо объяснять сложные вещи

[@bosya1992]

Өскемен КТЛ ❤

[@valkiriya123]

Круто, очень интересный контент

[@xeno7828]

Огонь !)

[@user-hv9ex2qw9k]

Арман нам преподавал машинное обучение😍👍🏻👍🏻

[@ainurkabylova5944]

Очень интересно, спасибо за интервью! Отдельное спасибо за рекомендации в конце видео, сейчас прохожу AI for Everyone, далее хочу пройти те, курсы о которых ребята рассказали в этом эпизоде👏👏👏

[@user-tp9nq2ei2f]

Очень интересно! Раскрыли подробнее мир искуственного интеллекта. Класс, спасибо! 🔥

[@nurzhanxcom]

Baur tigr!

[@zhanaykassym7807]

Получается, интервью получился крутым🙌💙

[@armansuleimenov]

Получился остроумный коммент!

[@askaryerzhanov8931]

Про интервью гугла интерестно было

[@bekaryssailaubayev7448]

Oskemen Alumni🔥

[@miteuuukhan7259]

Өте қызықты подкаст болды 😍🫶🏻

[@user-ul7rw1iz6e]

Ассалямуалейкум, как можно научиться пользоваться chat GPT чтобы продавать и т.д.?

[@Nurlan_Turganov_only]

Красавчики!

[@english_to-study_1001_attempt]

Қазақша сұқпат болганда күшті болар еди кей бір создерин түсинбей қалады екенсин бирак білімдері жаксы екен табыс тілеймин

[@user-er6tc5lc8j]

OKTL!!

[@nikita7411]

А почему просмотров так мало, где тренды Ютуба

[@ckbeg]

Арман, предлагаю сделать выпуск про наших там за бугром. Почему переехали и собираются ли возвращаться в Казахстан?

[@Alek83]

Круто, очень интересно. Хотя были моменты, когда гости производили непонятные звуки. Но это ничего, тоже так сказать придает свою атмосферу. Думаю у многих сейчас в голове мысли типа «че то надо делать, а че делать, че-то где то рядом витают крутые прорывные идеи, а как их поймать»

[@user-mn1nh6fc4m]

Ребята молодцы. Но в Мете лучше не работать. Ян Лекун не серьезно относится к безопасности ИИ и высмеивает исследователей которые этим занимаются. Вероятно, работая в Мете вы приближаете и увеличиваете шанс конца света.

[@malikasamoilova904]

У гостя Армана крайне запутанная неструктурированная речь🥲 он говорил об очень интересных вещах, но слушать его было невозможно сложно.. Отдушиной было когда второй гость перенимал «микрофон» Спасибо за выпуск, очень информативный

[@user-ti6kz4ss7r]

Ссылка 52☠️

[@QyrBalasy_Invest]

Ақтөбе, 30 орта мектептің түлегі

[@Yerkin1209]

Молодцы! Казахские мозги. Айтишники начали управлять миром. Приезжайте на родину и управляйте Казахстаном

[@BluckyOne]

Да, сидите в родном ауле.

[@user-yl7vu7vz5z]

Си язык низкого уровня? Серьезно ?)) После этого внимательнее прокрутил в голове вышесказанное про становление кодером гостя, и далее интервью слушал как "эти ребята почитали свежие новости в сети интернет и готовы нам об этом рассказать ".

[@Dake1989]

Низкоуровневый язык программирования это такой термин в компьютерной науке. Это не значит, что язык низкокачественный или плохой, а то что он очень близок к железу и поэтому очень быстрый, потому что почти один к одному переводим в машинные инструкции. Си считается самым низкоуровневым из языков третьего поколения. Почитайте википедию :)

[@taraszas]

Си это высокоуровневый язык Низкоуровневый это ассемблер

[@Dake1989]

​@@taraszasНу здесь имеет место относительная градация. Действительно, Ассемблер является языком более низкоуровневым, чем Си. Но и Си, в свою очередь, более низкоуровневый, чем все остальные современные мейнстрим языки, такие как Java, Python и т.д. Но, кстати, Ассемблер к языкам третьего поколения не принадлежит, он более ранний. На практике, если кто-то мне скажет, что он часто пишет на Си на работе, я предположу, что он работает ближе к железу, чем скажем, чел, который пишет на PHP.

[@user-yl7vu7vz5z]

@@Dake1989 мдаааа... Википедия - "ассемблер", цитата: "В отличие от компиляции программ на языках высокого уровня, ассемблирование является более или менее однозначным и обратимым процессом, поскольку в языке ассемблера каждой мнемонике соответствует одна машинная инструкция, в то время как в высокоуровневых языках каждое выражение может преобразовываться в большое число различных инструкций (операция, обратная ассемблированию, называется дизассемблированием)." Конец цитаты. Этим я хотел сказать, что в Си команды именно высокого уровня. За одной командой скрывается множество машинных инструкции, в то время как в ассемблере нет(одна команда- одна инструкция). Разумеется мир не идеален и есть, и будут оговорки . Желаю Вам всего хорошего, и поздравляю с наступающим новым годом!