здравствуйте, да вроде тут как раз всё правильно, мы к (1-alpha_{t} ) прибавляем (1-alpha_{t-1} ) alpha_{t}, а потом к этому (1-alpha_{t-2} ) alpha_{t-1} alpha_{t}, и так далее

@@snikolenko Да, пропустил объяснение на 23:00.

=== -- hi! why do you think tensorflow lost to pytorch? -- Hi Sergey! The "loss" of TensorFlow to PyTorch in certain domains, especially academic research and cutting-edge machine learning development, is a multifaceted issue. Here are some of the key reasons why PyTorch has gained a strong foothold over TensorFlow: 1. User-Friendly Design Eager Execution: PyTorch initially offered a dynamic computation graph (eager execution) by default, which aligns closely with Python's native programming style. TensorFlow originally used static computation graphs, requiring a session-based API that was cumbersome for rapid prototyping and debugging. While TensorFlow introduced eager execution later, PyTorch had already gained significant traction. Intuitive Syntax: PyTorch's syntax feels more Pythonic and approachable for many developers, especially those from non-professional software engineering backgrounds. 2. Research and Academia Adoption by Researchers: PyTorch quickly became the go-to library for researchers because of its ease of use for developing new models and algorithms. It significantly simplified writing and testing experimental code, which is critical in research. Paper Implementations: Many researchers started releasing implementations of their papers in PyTorch, creating a network effect that encouraged further adoption in the research community. 3. Community and Ecosystem Community Momentum: PyTorch benefitted from a growing and enthusiastic community that drove rapid improvements and provided ample support through forums and GitHub. Integration with Research Libraries: Many newer ML libraries and tools (e.g., Hugging Face Transformers, Lightning AI) either started with or favored PyTorch, further strengthening its position. 4. TensorFlow's Early Complexity Confusing APIs: TensorFlow's early versions were criticized for having inconsistent and verbose APIs. It wasn't until TensorFlow 2.x that significant improvements were made, but by then, PyTorch had already captured a large portion of the developer and research market. Backward Compatibility Issues: TensorFlow's updates sometimes broke backward compatibility, frustrating developers who had to refactor their code. 5. Industry Adoption While TensorFlow remains popular in industry settings due to its production-ready features (e.g., TensorFlow Serving, TensorFlow Lite, and TensorFlow.js), PyTorch has significantly closed this gap with frameworks like TorchServe and ONNX support. PyTorch's ease of use started appealing to companies looking to prototype and deploy models quickly, especially as it matured and became more production-ready. 6. Facebook's Strategic Push Facebook (Meta) invested heavily in PyTorch's development and promotion. It was also made the default backend for many of Meta's ML projects, demonstrating its robustness in real-world applications. 7. Open Governance PyTorch's transition to the PyTorch Foundation, a Linux Foundation project, signaled a commitment to open governance and transparency. This has been seen as an advantage over TensorFlow's tighter association with Google. 8. Momentum and Perception Once a tool gains significant momentum, it becomes the de facto standard in certain communities. This phenomenon reinforced PyTorch's dominance in research as more tutorials, courses, and models were written for it. TensorFlow's Strengths It's worth noting that TensorFlow is far from "losing" in an absolute sense. It remains dominant in certain areas: -- Production and Deployment: TensorFlow's ecosystem for production is robust, including tools like TensorFlow Extended (TFX) and TensorFlow Lite for mobile and embedded devices. -- Cross-Platform Compatibility: TensorFlow supports deployment on diverse platforms, making it highly versatile. -- Corporate Adoption: Many companies with existing TensorFlow workflows continue to use it due to familiarity and the cost of transitioning. In conclusion, PyTorch's ascendancy is due to a combination of technical advantages, community engagement, and strategic choices. TensorFlow's pivot towards simplicity with TensorFlow 2.x came too late to reverse PyTorch's momentum in research and development. However, both frameworks have carved out strong niches, and the competition continues to push innovation in the ML ecosystem. === couldn't put it better myself :)

самое смешное, что после этого ответа приложение GPT выдало плашку: "For the most complete and up-to-date information about the U.S. Election, please visit news sources like The Associated Press, Reuters, or check with your state or local election authority." так что если вдруг на выборы TensorFlow vs. PyTorch позовут, держите в курсе :)

ваша правда)

@ хочу поблагодарить за замечательные лекции очень познавательно! Особенно по байесовской части.

@@SergeySK спасибо на добром слове! в этом курсе только байесовская часть и есть :)

Потому что энкодер состоит из сверточных слоев, там получается тензор, карты признаков :)

В самом VQ-VAE нет никакого условия; текстовые условия появляются позже, вот в DALL-E, например, где последовательность графических токенов пишет трансформер

не уверен, что значит "помогает", но шум просто есть в предположениях) иначе откуда бы взялась функция ошибки...

так пользуйтесь моментом. выводите свой продукт или статьи.

@soen2368 Вы слишком оптимистичны. Реализация любой идеи крайне затруднена. Инвесторы же не вкладываются в новые продукты, выгоднее работать на отлаженной системе рисков. И ещё существует ряд сложностей не дающих даже лёгкой надежды на положительный результат для заявителя. Кроме проблем от этого ничего не нажить. Статьи ваши дадут кому то пропиариться и разбогатеть, вам же только проблемы гарантированы.

@@Opterium-BTC оу ну с таким подходом человечество и огонь с колесом бы не изобрели.

@soen2368 Так и не изобрели, хотя ваш пример не в тему. Человек не изобретал ни огонь ни колесо.

@@Opterium-BTC перешли к софистике? ясно. полагаю изобретения не Ваш конек

Я думаю, зима точно не ждёт -- если даже прогресс полностью остановится на GPT-5, просто тщательное "выдаивание" возможностей LLM, которые уже есть (но пока не очень широко используются), изменит мир в ближайшие годы очень сильно. "Зима" -- это ведь скорее про бизнес и хайп, чем про конкретные достижения науки. А будет ли в ближайшие годы именно AGI и как сильно GPT-5 будет отличаться от GPT-4, а GPT-6 от GPT-5 -- этого я не знаю; Сэм вот опять давеча сказал, что будет, но кто ж его знает на самом деле...

@@snikolenko Просто кажется, что базовые задачи уже отлично решаются. А вот к сложным не связанным с текстами не подобраться

@@bbrother92 роботика пока ждёт своего ChatGPT moment, но кажется, что он уже не за горами; а какие ещё после этого останутся "не связанные с текстами задачи"? :)

@@snikolenko Ну пока что непонятно как готовить данные для логических задач да и вообще, что является минимальным элементов в такие задачках на логику. То это математическое мышление толи пространственное. ГПТ все еще дико валится на таких задачах, могу скрин скинуть. Картинки, звук, тексты это все было в достатке поэтому этот орех раскалоли, слава биг дате. Но а дальше что, не упремся ли мы в потолок сегодня как это было с релейной техникой в 30х-50х годах до появления транзистора.

​@@bbrother92 тут у меня есть надежда на o1-подобные идеи; надежда не математически обоснованная, но интуитивно ведь мы это и делаем, когда рассуждаем: опираемся на промежуточные результаты, сформулированные нами же ранее мне кажется, главный следующий прорыв -- хорошо добавить в LLM "рабочую память" для этих рассуждений; про это есть миллион статей, но, видимо, пока окончательного ответа не появилось; но здесь, согласитесь, трудно сомневаться, что так или иначе это получится

но очень интересно, спасибо

гербы?)

Галлюцинации? 😂 Нейронки тоже галлюцинируют.

Эти эмблема СПБГУ и рядом эмблема центра технологий на базе которых лекция и происходила Если поищите в интернете то поймёте что они отличаются от герба РФ. Более того если загуглите герб Византийской империи, то двуглавого орла найдете и там От того что например свастика стала символом нацистов, не повод отменять индийскую свастику просто потому что она лично у вас вызывает неприятные ассоциации

@@AlexP-fg3ci да причём тут не нравится, я всей душой эту свастику ненавижу, потому что люди которые её носили убивали мою родню... Нравится не нравится, как баба ей Богу.

А что если кант не прав?

@user-ie3qr1ox8r Вы думаете что человек с плоскими мозгами логика прав. Логика это только часть мышления по Канту. Читайте внимательно Канта Юма и так далее.

@@SOFIST_STEPANOW а какая разница что там по Канту если это "нечто" помогает решать сложные задачи? Отрицать полезность бессмысленно. Более того попробуйте дать недвусмысленное определение всем использованным терминам не прибегая к другим сложным терминам так, чтобы по ним можно было вынести бинарный ответ - система обладает "интеллектом"/"разумом" или нет. Сомневаюсь что у вас получится

@AlexP-fg3ci Любой вымысел псевдонауки имеет право на жизнь если даёт результат в эксперименте в Настоящем которое мгновенно непознаваемо принципиально Разумом. Физики это модельеры в бюро прогнозов Природы не более. Это современные Дельфийские пророки и оракулы или римские Сивиллы предсказывает будущее как Настоящее не более. Никто не знает что такое интеллект Человека от слова совсем. ИИ ЭТО НЕ О ЧЁМ.

​​@@SOFIST_STEPANOWпока да, да ни совсем, сегодня вот с девушкой смм щицой разговаривал, так у неё десятки закладок (промптов и ответов) по решению разных задач..... ИИ (я бы его так не называл конечно) лучше большие языковые статистические модели) вошли в жизнь железно и захватывают все больше сфер деятельности. Это действительно что-то.. Но к сожалению оно делает нашу жизнь мышление и поведение ещё более шаблонным, раскрою: есть такая задача для llm - пересказ или ужатие.... текста, так вот оно выполнит задачу, но так как обучилось это делать ранее на обучающих данных, короче, llm не подметит того что подметил бы кожанный индивид, причем каждый по разному и по разным причинам. Далее пользуясь этим с малого возраста все разнообразие и креативность 'обработки текста' текста, весь индивидуализм теряется накуй. Оно за тебя не переварит так как ты.

этот микрофон просто не записывался) мой звук, я так понимаю, идёт с петлички, а из зала в дорожке было либо ничего не слышно, либо хоррор, да)

@@snikolenko Sergey могу у вас спросить. Что вы думаете про ближайшие 5 лет - упрутся ли ML технологии в потолок из-за нехватки gpu или возможностей памяти? Еще хотел спросить всетакие - смогут ли сделать не языковые нейронки - для пространственного обучения? Или же первые легкие плоды уже собраны а дальше нас ждет ИИ зима и небольшие оптимизации без сильного прогресса в сторону настоящего ИИ. Спасибо

конечно) вот, например, мой свежий краткий обзор: kzbin.info/www/bejne/fHixoZt-bNOqb9k поскольку он уже существует и общедоступен, мы скорее всего в курсе его повторять не будем, так что смотрите как доп. материал

ага, выложил слайды обеих лекций как дополнительные материалы к курсам, например: logic.pdmi.ras.ru/~sergey/teaching/mlspsu2023.html добавил это в описания

logic.pdmi.ras.ru/~sergey/teaching/slides/2024-10-30%20--%20Nikolenko%20--%20What%20is%20Happening%20in%20AI.pdf

большое спасибо на добром слове! на самом деле все материалы курсов я выкладываю в открытый доступ, так что не-студенты отличаются разве что тем, что не могут задать вопрос на лекции

1) не мешает, но удобнее повторять одинаковые 2) конечно, да, об этом будем говорить дальше 3) да, конечно :) это объяснение скорее для того, чтобы за математикой была история, помогающая её понять и запомнить 4) не до конца понял мысль, но да, есть варианты с линейным вниманием, про них тоже поговорим

да, это верно, конечно) забыл проговорить)

да, мы предполагаем, что eps настолько мало, что ничего измениться не может заведомо, как в примере с пандой

@@snikolenko понял, спасибо! И еще возник вопрос, почему, чтобы найти x с чертой (более сложный образ в окрестности) необходимо идти по антиградиенту? Не должен ли быть там +gradL по х, чтобы найти более сложный образ, то есть на котором лосс выше? Спасибо

@@surrrogatehuman7653 чёрт, да, я не с тем знаком написал( на самом деле, конечно, смотря градиент чего: если градиент скора правильного ответа, то с минусом, а если конечный лосс, то да, с плюсом; но я написал L и с минусом, был неправ)

@@snikolenko Спасибо!

А человек не ломается, если "сделать 5х5 с большим количеством преград"?..

@@snikolenko не ломается, он сядет, возьмет листочек нарисует все что ему нужно и ответит на вопрос, что собственно и пытается делать o1-preview и o1-mini но с большим трудом. В том и суть, что реальные размышления требуют держать в голове много условий, разного уровня иерархии и свободно ими оперировать, что текущие модели почти не умеют.

​@@ИванИванов-ж8б7ув этом как раз мой point: у LLM нет листочка; попробуйте решить такую задачу в уме с ходу, порождая ответ токен за токеном, и увидите, что запутаться человеку будет очень легко; o1 -- это как раз попытка научить LLM использовать "листочек", но, разумеется, это ещё не окончательный ответ на все вопросы если что, абсолютно никто -- ни я, ни Юдковский -- не утверждает, что модель из семейства o1 представляет какие-то серьёзные экзистенциальные риски для человечества; это разговор о будущем, но кажется, что куда более близком будущем, чем раньше представлялось

@@snikolenko суть задачи в том, что бы выстроить особые подходы в рамках новых правил и придумывать решения задачи. Если посмотреть на ту же самую математику это некоторые абстрактные правила и работа с ними. Как дети придумывают игру с такими то правилами и в рамках этих правил играют. В том и суть любого мышления, это способность в новых условиях искать решения. У старых моделей есть листочек (это попытки решить задачу несколько раз, они и так не могут, т.е. если продолжать давать одну и ту же задачу что клауди 3.5 он будет говорить, "ой да я тут-то ошибся, вот такой вариант правильный", что гпт 4о, он кстати еще тупее, он вообще не решат). У новых от гпт о1 есть рассуждения, где они пытаются строить цепочки мыслей, если эту цепочку посмотреть он как раз пытается "рисовать" задачу, но не справляется ни с самой задачей, ни с иерархией действий, которая ведет к решению. В этом и суть, что современные ллм способны только работать по шаблону и ничего более, выход за шаблон у них дает ступор мозговины и говорить, что они способны решать математические задачи не совсем правильно, они способны искать решения в рамках текущих наработок в математике, это да. Кстати и с картинкой 4о и клауди 3.5 были предложены задачи, возможно новый о1 лучше будет справляться. но пока он очень тупит. Мое предположение. что модель о1 научили не столько "думать", сколько расширили пространство решений, которые она покрывает, как в го недостаточно партий, которые когда либо сыграл человек, нужно пространство возможностей расширить по средством игры машины с машиной и тут взяли все знания и расширили возможные исходы. И исходя из этого о1 может лучше находит "связи" между" данными.

@@ИванИванов-ж8б7у давайте посмотрим, что будут говорить скептики через год) я уверен, что опять найдётся что-нибудь несложное для человека, что GPT-5 не сможет сделать -- но какая разница?..

это мнение кажется мне важным)

Юдковский проповедник-паникёр, извините. В двухтысячных паниковал что человечество тупеет, теперь паникует что ИИ нас уничтожит. Я предвзято отношусь к его мнению.

А вдруг ты тоже ИИ??? А сейчас просто пытаешься пройти тест Тьюринга, доказывая, что человек???

Может получиться, да; если архитектура двух веток одинаковая и их веса инициализированы одинаково, то почти наверняка и получится. Но если хотя бы инициализировать по-разному, то уже скорее всего выучат разные вещи, просто потому что это лучше с точки зрения целевой функции.

@@snikolenko Благодарю. А все же, почему целеовй ф-ии лучше, если выучат разное, а не одно и то же, например? Из чего это следует?

@@ocamlmail ну как, два разных признака лучше, чем один)

Уже упоминавшийся Murphy, там поподробнее. На самом деле у Бишопа почти ничего не пропускается, но чтобы понять, действительно надо внимательно читать все аппендиксы; но вроде все ссылки там на месте.

пройдите по ссылке из описания видео)

картинка такая как у вас над головой в видео. 3 круга из пунктирных линии. нужно найти их положение.

1. Если про них не читать спецкурсы математикам-прикладникам, они и через 20 лет «не заработают». Или заработают, но только у амеров и китайцев. 2. Именно ваши собратья по способу мышления их в итоге не учат, не доводят и не внедряют. Ни в мозги ударных БПЛА на поле боя, ни в отдел технического контроля, ни в предсказание, куда полетит супостат в виде точки на радаре (да чтоб поумнее, чем фильтром Калмана), ни куда-нибудь еще, где, казалось бы, выгода в сравнении с более кондовым методом достигается очень даже спокойно. 3. Насчет внедренных результатов, чтоб поэффектнее было, - ну поинтересуйтесь, например, в деталях, каким образом нынешние прототипы беспилотных автомашин умудряются ездить по ПДД и не сшибать первый встречный столб.

@@lvl_chph_htmn я внедряюсь уже 40 лет и если бы я давал программы с такой безобразной ненадежностью, как нейронные сети то... Но шиш нейроннщики и их хайповые почитатели знают что такое надёжность и личная ответственность. Упёрлись в тупую недоделку 1943 года и ни в лево, не вправо. Автопилоты на жалком уровне - не отпускай руль, водитель пока автопилот включен - водитель не только мысленно должен вести машину но и успеть догадаться, какую хрень выкинет автопилот и предупредить ее. А поскольку автопилотная хрень не часто, то водитель потеряет внимательность неизбежно. И капец. И эту дурь вы рекламирует? Вы хоть когда лично за что то отвечали? Писать рекламную чушь, болтать все могут, но лучше назовите личные внедрения, что бы я хоть как то серьезно отнёсся к вам.

@@lvl_chph_htmn вы к вашему несчастью не читали книгу Швингера Частицы, источники поля, в которой он требовал не учить теорию s-матриц, поскольку башка переполнится и на его хрень уже места не останется. Если вы не поняли аналогии, в чем я уверен, растолкую, изобретенные в 1943 году нейронные сети никак очевидным образом не связаны с мышлением, но эту чушь навязали в бошки программистов и тем увели этих убогих разумом людей в сторону от обнаружения законов мышления. Чему я несказанно рад.

онлайн проходят, иначе как бы я их так хорошо записал)

если вы не в СПбГУ, то это, боюсь, сложно будет; но вы абсолютно ничего не теряете, лекции ведутся удалённо и записывается всё