4 ай бұрын
4 ай бұрын
4 ай бұрын
5 ай бұрын
5 ай бұрын
6 ай бұрын
Пікірлер
@мишкатоптыжка-в1ж 5 күн бұрын
Гляну
@Recipesin5minutes 29 күн бұрын
Молодцы что начали !!! Успехов вам ребята !
@miniclipy Ай бұрын
Лекция Олега про причинность: kzbin.info/www/bejne/raKafYGDdqiCgZIsi=yu5SL9X4fTVwTVsf
@Polnyj0 Ай бұрын
Классная лекция, очень доходчивое объяснение! Большое спасибо за запись. Немного не хватило двух моментов: 1) Всё-таки откуда берётся вторая ступень лестницы причинности? А именно каузальные диаграммы. Мы сидим, анализируем мир и выдаём эти стрелочки? В лекции просто говорилось о том, что может и не может быть в рамках такой-то модели (диаграммы), но непонятно, почему мы вообще решили, что модель такая, а не другая. 2) Где это может быть полезно применить в бытовой жизни человека? То есть когда речь идёт не о анализе эпидемии или пробках на дорогах, а решаешь какие-то вопросы своей личной бытовой жизни - помощник ли тут каузальные диаграммы? Мне показалось, что для них нужно иметь большой набор исходных данных (те самые таблицы), и если это так, то собрать их про себя может быть сложно. Если же строить не на данных, то тогда строить "на глаз"? Помоглает ли такое построение "на глаз" чем-то в анализе ситуации?
@Polnyj0 Ай бұрын
Оказывается практические примеры во второй части видео, жаль на неё ссылку в описании не оставили. kzbin.info/www/bejne/rYS3hqp4brJ5ebs
@pseudouser314 2 ай бұрын
Здоровское интервью, спасибо большое! Скажите кто-нибудь, о каких техниках рациональности говорится на 3:11?
@MySaluto 2 ай бұрын
Вы канал создали друг у друга брать интервью? 🤔
@SlavaMeriton Ай бұрын
У самурая нет цели, только путь)
@БогданЛобачов 3 ай бұрын
Уооо 🎉🎉🎉 Ето мы поглядим!
@maratm4600 3 ай бұрын
Тяжеловато слушать звук. Хрипит при сильной громкости. Микрофон наверное решит это проблему. Или может запись диктофон на смартфон
@jaguarus 3 ай бұрын
Да утопия эта ваша рациональность. Наше поведение всё равно продиктовано процессами, которые мы не контролируем. Вам кажется что вы изучили что-то и изменились, но на самом деле генеральная линия партии была давно предопределена. Остаётся просто жить, жить как можешь.
@yan_lyutnev 3 ай бұрын
Многие процессы контролируются, например я законтролил эмоции. Предопределено - нефасльсифицируемая гипотеза, не порождающая разницы между вселенной где предопределено и где нет, а значит как предсказательная модель бесполезна. Как нарратив для задачи расслабиться и не думать об изменениях - полезна. "Жить как можешь" - нарратив, полезный для задачи "успокоиться и не меняться". Предсказательная составляющая нарратива запрещается людьми, которые смогли внедрить изменения, а они найдутся, и я проверил многие гипотезы об изменениях и они сработали.
@jaguarus 3 ай бұрын
@@yan_lyutnev поверхностная часть твоего сознания всего лишь рационализирует, автоматом придумывает объяснения тем решениям, которые были заранее приняты неосознанно на основе процессов, про которые большинство людей даже не имеют представления. Изменяться процессы и забросишь ты свою рациональность. Против природы не попрёшь. Мы в лучшем случае можем пытаться осознавать какие-то процессы и стараться не наломать дров.
@АлексейПлакхин 3 ай бұрын
"Поведение всё равно продиктовано процессами, которые мы не контролируем " (в том числе с помощью изучения и применения рациональности. Насколько вы в этом уверенны? Что могло бы поколебать вашу уверенность в том, что изучение и практика рациональности на эту генеральную линию повлиять не может, не может сформировать новые нейронные связи например? Ведь если человек научится кататься на велосипеде даже если он забросит это дело до конца своих дней пока он уверенно стоит на ногах он может сесть и поехать. Если выучит таблицу умножения и научится бегло считать в уме легко решит задачку на этот навык.
@jaguarus 3 ай бұрын
@@АлексейПлакхин дело не в этом, нужно просто понимать где причина и где следствие. Рациональность начинают изучать рациональные люди.
@АлексейПлакхин 3 ай бұрын
@yan_lyutnev правильно понимаю что ты имел ввиду что-то вроде Многие вещи можно контролировать, например, я научился (лучше) управлять эмоциями. Идея предопределения, что всё уже решено за нас, не может быть доказана или опровергнута, и поэтому бесполезна для прогнозов. Конечно она может успокоить и помочь не думать о том, чтобы что-то менять. То же самое и с фразой "жить как можешь" - она полезна, если нужно успокоиться и смириться с неизменным. Думаю что если нам действительно остаётся только "жить как можем", то непонятно откуда берутся люди, которые смогли измениться после изучения рациональности. Кажется это противоречит этой идее. Да и я сам проверил и на собственном опыте убедился, что изменения возможны.
@rudinandrey 3 ай бұрын
так, интервью брать без микрофонов "Союз" ? это что вообще за неуважение к зрителям? шучу конечно, но все равно микрофоны нормальные надо для этого. Очень плохо слышно, на 0:30 что она прочитала? и это, Ян, про микрофоны я не шучу! тема норм, но слышно должно быть хорошо. и ДОЛЖНО тут не когнитивное искажение ;)
@miniclipy 3 ай бұрын
ГП и МРМ (книга)
@rudinandrey 3 ай бұрын
@@miniclipy спасибо!
@Голубой-д5ц 4 ай бұрын
Я смотрю
@MySaluto 4 ай бұрын
Думаю рационально было посмотреть это видео. И написать комментарий для буста этого ролика.
@bayesyatina 4 ай бұрын
25:21 • В 2012 году не воспроизвелась (в разгар кризиса воспроизводимости) часть экспериментов, которые ранее приводились в качестве доказательства прайминга • В это же время Ульрих Шимак проанализировал исследования из главы посвященной праймингу и контаминации книги «Думай медленно, решай быстро» и пришел к выводу о том, что были использованы работы с крайне малой выборкой и рядом претензий к обработке данных. Даниель Канеман сразу же признал, что Шиммак прав. • в 2022 году Даниель Канеман, описал исследования поведенческого прайминга как «фактически мёртвые». Вот цитата Шиммака: «В главе процитированы 12 научных работ, и 11 из 12 статей имеют R-индекс меньше 50. <...> Читателям его [Канемана] книги не стоит рассматривать представленные исследования как научное обоснование того, что едва уловимые сигналы окружающей среды могут оказывать сильное и неосознаваемое влияние на поведение». Вот ответ Канемана: «Авторы блога совершенно правы в том, что я слишком полагался на исследования с низкой статистической мощностью. Авторы блога, как и Эндрю Гельман (Andrew Gelman) до них, отмечают, что в этом есть определённая доля иронии, ведь первая опубликованная нами с Амосом Тверским статья была посвящена вере в «закон малых чисел», благодаря которому исследователи склонны доверять результатам исследований с неоправданно маленькими выборками. Мы также цитировали работу Овералла (John E. Overall) (1969), который показал, что «широкое распространение исследований с недостаточной статистической мощностью не только неэффективно, но и вредно: оно приводит к тому, что значительная часть опубликованных работ отвергает нулевую гипотезу без достаточных на то оснований». Наша статья была написана в 1969 и опубликована в 1971, но я не смог усвоить её урок».
@maratm4600 4 ай бұрын
Спасибо
@впмьпщгпвсдьс-о1я 3 ай бұрын
У Канемана не было достаточных оснований, чтобы говорить об эффекте привязки, однако с тех пор было проведено много исследований с попытками воспроизвести этот эффект. 1. Harris A. J. L. et al. Failures to replicate a key result of the selective accessibility theory of anchoring //Journal of Experimental Psychology: General. - 2019. - Т. 148. - №. 9. - С. e30. - Невоспроизведено 2. Yoon S., Fong N. M., Dimoka A. The robustness of anchoring effects on preferential judgments //Judgment and Decision Making. - 2019. - Т. 14. - №. 4. - С. 470-487. Воспроизведено с высокой надёжностью 3. Klein R. A. et al. Investigating variation in replicability //Social psychology. - 2014. Воспроизведено 4. Berg S. A., Moss J. H. Anchoring and judgment bias: disregarding under uncertainty //Psychological Reports. - 2022. - Т. 125. - №. 5. - С. 2688-2708. Воспроизведено 5. Röseler L. et al. Evidence against subliminal anchoring: Two close, highly powered, preregistered, and failed replication attempts //Journal of Experimental Social Psychology. - 2021. - Т. 92. - С. 104066. Невоспроизведено 6. Bystranowski P. et al. Anchoring effect in legal decision-making: A meta-analysis //Law and Human Behavior. - 2021. - Т. 45. - №. 1. - С. 1. Воспроизводится в юриспруденции согласно метаанализу 7. Valdez A. C., Ziefle M., Sedlmair M. Priming and anchoring effects in visualization //IEEE transactions on visualization and computer graphics. - 2017. - Т. 24. - №. 1. - С. 584-594. Воспроизведено 8. Onuki Y., Honda H., Ueda K. What stimuli are necessary for anchoring effects to occur? //Frontiers in Psychology. - 2021. - Т. 12. - С. 602372. Показано, в каких ситуациях эффект якоря возникает, а в каких - нет А дальше я устала искать) Искала в Google Scholar и Consensus по запросам: "anchor effect kahneman replication" и "Is there an anchoring effect?". Можно сделать вывод, что эффект привязки существует, но проявляется не всегда.
@bayesyatina 3 ай бұрын
@@впмьпщгпвсдьс-о1я прайминг и контаминация (из 4 главы книги) ≠ эффект якорения и привязки (из 11 главы книги).
@likag.105 4 ай бұрын
Как раз думала, что было бы очень круто посмотреть интервью с Олегом, и вот оно) Спасибо большое! В ожидании следующей части)
@AtelierAmilada 4 ай бұрын
Я испытываю глубочайшую симпатию к вам обоим, ставлю лайк не глядя, и первые пару минут переварию удовольствие от вас ❤, теперь бы хорошо начать слышать смысл беседы
@LitKid 4 ай бұрын
рекомендую к просмотру
@jaguarus 4 ай бұрын
Спасибо, интересно было. А когда вторая часть?
@miniclipy 4 ай бұрын
00:00 Начало 00:23 Что ты хочешь, чтобы о тебе знали? 03:08 Что тебя привело в изучение рациональности 04:15 Не разочаровался ли ты в рациональности? 05:39 Что привлекает и отталкивает в рациональности? 07:31 Почему ты не альтруист? 11:00 Какие у тебя ценности? 11:59 Насколько рациональность помогает в достижении целей? 14:31 Лучшие изменения в себе после рациональности 16:57 Какие убеждения ты пересмотрел после рацио? 20:06 Насколько часто ты перепроверяешь убеждения? 23:03 С какими своими когнитивными искажениями ты воевал? (прайминг, контаминация) 26:33 Попытка запраймить Олега
@MySaluto 4 ай бұрын
а где ссылка на вторую часть?
@IrenDoroshenko 4 ай бұрын
Стало интересно, насколько часто камню свойственно быть гладким. Обычно это случается с галькой. Как с остальными - не знаю.
@jaguarus 4 ай бұрын
А продолжение будет?
@miniclipy 4 ай бұрын
@@jaguarus продолжение в группе чтения по понедельникам, ссылка в описании
@БогданЛобачов 4 ай бұрын
Спасибо огромное, очень интересно
@miniclipy 4 ай бұрын
Рассмотреть доску с видео: t.me/miniclippy/2215
@anahoret 4 ай бұрын
Ты перепутал описательные и нормативные суждения. Когда говорят "должен" почти всегда имеют в виду нормативные (моральные) суждения. Что значат моральные суждения изучает метаэтика. Убеждение что "арбуз расколется от падения" и "владельцы арбузов ДОЛЖНЫ его оберегать" это разные высказывания. Эмоциональные высказывания тоже немного иначе работают.
@anahoret 4 ай бұрын
Высказывания "ты должен говорить правду", легко "окупается". Например когда ты врёшь с тобой перестают общаться люди.
@yan_lyutnev 4 ай бұрын
Ответ на коммент 1: я не вижу, как новые озвученные тобой способы ярлыковать противоречат сказанному в видео. Что разные высказывания - не спорю, не вижу противоречий с видео. Если эмоц. высказывания работают иначе - приглашаю подсветить где.
@yan_lyutnev 4 ай бұрын
@@anahoret ответ на коммент №2 - в видео я использую "окупается" в значении из статьи юдковского (в описании), а именно - даёт сбывающиеся предсказания, или хотя бы прогнозы будущего. Но в этом контексте подразумевается, что убеждение должно быть оформлено, как научная фальсифицируемая гипотеза. убеждение может быть истинным или ложным. "убеждение" "ты должен говорить правду" - не попадает под шаблон "проверяемая гипотеза". она попадает под шаблон "я хочу, чтобы ты испытывал стресс, если говоришь неправду"
@maratm4600 4 ай бұрын
я написал заявление на имя директора вселенной что отказываюсь от ошибки проецирования ума!! 😁
@miniclipy 4 ай бұрын
ты котик и положительная коннотация 3
@maratm4600 4 ай бұрын
с микрофоном мне понравился пример. спасибо 🚀
@maratm4600 4 ай бұрын
поставил видео на паузу чтобы обдумать ✅
@maratm4600 4 ай бұрын
Большое спасибо!
@Kotik855 4 ай бұрын
Что с ушами? Ты слоник?
@APTEM_Me 5 ай бұрын
"Причина - это то, что мне нужно уничтожить, чтобы это событие никогда не произошло" В корне неверное определение. Импликация работает только в одном направлении. Отдельное событие может служить причиной только одного следствия, однако отдельное событие может быть следствием разных причин. Следовательно устранение одной причины не гарантирует, что событие не случится, оно может случится по иным причинам.
@МакарКузнецов-я6ш 5 ай бұрын
Мама, а что такое "ЧТО ТАКОЕ"?
@beliuk90 5 ай бұрын
Автор замечает сложность с расшифровкой слова "обуславливающее". Минутой позже из цитаты друга-рационалиста его нисколько не смущает слово "нарратив". На этом и закончим, не впечатлило
@miniclipy 5 ай бұрын
определение друга приводится в качестве альтернативы для примера, какой может быть альтернатива. потому что определение с нарртивом тоже сложное, я и не разбирал определение друга подробнее, разобрал определение Пирла.
@yan_lyutnev 5 ай бұрын
02:00 здесь я ошибся. «Вероятность шторма» - не настоящая переменная, вероятности существуют в голове, а не в реальности. В реальности есть переменные, которые влияют на «происходит ли шторм» и на «что показывает барометр». Значения случайной переменной "шторм" - это просто {"шторм есть", "шторма нет"} или "интенсивность шторма". Показание барометра может быть 780 мм рт.ст., или "в. сушь", но не "20% вероятности 800+". То же и со значением шторма: это может быть "спокойно" или "дерево не справилось с погодой и врезалось в трамвай", но не "30% вероятности града".
@miniclipy 5 ай бұрын
По понедельникам мы читаем эту книгу Пирла по пол главы в неделю и обсуждаем в этой телеграм группе: t.me/readthesequences
@Alena_vegan_woman 6 ай бұрын
Как насчёт сотрудничества радфем и рациосообшеств?
@miniclipy 5 ай бұрын
напиши @yanskov в телегу
@politrazor 5 ай бұрын
С какими?
@politrazor 5 ай бұрын
А какая выгода рациосообществам с радфемами сотрудничать? Радфемы политизированные, если я не ошибаюсь.
@politrazor 5 ай бұрын
@@miniclipyзабыли рациосообщество "АИИ", политизированное.
@ПавелКуликов-м9м 7 ай бұрын
Конечно, в любом малом сообществе можно использовать термины в каком то узком, или вообще местном смысле, но если уж ролик делается общедоступным, хорошо бы пояснить, что докладчик понимает под AGI, поскольку этот термин вынесен в заголовок, и привлекает внимание. Поясню - если я делаю AGI под прохождение "кофейного теста", то как, и главное - зачем применять к нему аксиоматику докладчика?
@Kevin-cp1nf 7 ай бұрын
С 5 минуты про Red Teaming: 1) Некорректно определен редтим Описывается видимо detection-based defenses. Это один из методов внутри редтима, это далеко от определения области. Определение области в широком смысле - моделирование возможностей злоумышленника, включая и Security (e.g. джейлбрейки), и Safety (ограничения) 2) "Редтим бесполезен" Во-первых редтим неплохо моделирует возможности среднего пользователя/злоумышленника. Например мы можем видеть разницу в safety между разными моделями. Мы можем видеть возможности текущих моделей в разных вредоносных задачах типа создания биоружия, манипуляций и дезинформации, хакинге, etc. Это небесполезно потому что формализует текущее состояние угроз и частично позволяет понять ближайшие будущие (условно до супералаймента), и двигает (улучшает) текущий алаймент моделей в целом. Если редтим бесполезен, то AI Evals бесполезен, а это далеко от правды по многим причинам. ( об этом можно почитать статью Антропика про значение Редтима в Safety - www.anthropic.com/news/frontier-threats-red-teaming-for-ai-safety ) Во-вторых редтим и про Security, например состязательные атаки. Говорить что защищенность ИИ бесполезна также довольно далеко от правды (см. www.frontiermodelforum.org/uploads/2023/10/FMF-AI-Red-Teaming.pdf например) 3) "... когда нейронка ищет плохие аутпуты это не масштабируется" Вся идея Weak-to-strong generalization как раз в том, что это масштабируется. openai.com/index/weak-to-strong-generalization/ тлдр: модель генерализует общие идеи того, что такое плохие аутпуты, начиная находить их лучше самого учителя. Просмотрел где-то до 6-7 минуты (примерно дослушал часть про редтим). Не вкладывал много эффорта (потому что это комментарий под видео на ютубе с тремя просмотрами), но если что смогу описать что-то получше/подробнее
@orkbold9384 8 ай бұрын
Фига се какой нишевой видос мне ЮТ подкинул. Напишу для продвижения пару строк. Удачи в нахождении адекватных людей. А я после 24.02.24 вообще с людьми в контакты близкие вступать не хочу, потому что в случае чего, снова разовачоваться в людях и осознать, что вокруг 'орки' - не хочется.
@politrazor 5 ай бұрын
Где же вы живёте? В Дул-Гулдуре?
@batek-hb3db 8 ай бұрын
очередная секта?
@AtelierAmilada 8 ай бұрын
Спасибо за супер полезное видео для установления связей между между разными людьми, которые смогут выбрать себе группу по интересам!
@politrazor 5 ай бұрын
Кто такие рационалисты?
@AtelierAmilada 5 ай бұрын
@@politrazor мне кажется, что промахнулись с тредом, но попробую ответить. Рационалисты это люди которые предпочтут не использовать данное слово для обозначения себя, ведть если можно обзначить явление, а не ярлык под которым можно скрыть что угодно, то стоит сделать именно это, чтобы наиболее ясно донести суть. Если ответить просто, то это люди которые стремятся меньше ошибаться.
@politrazor 5 ай бұрын
@@AtelierAmilada нормальный ответ, хотя мог быть и короче. Главный вопрос - что выгоднее (по деньгам, времени и т.д.): осваивать технологии для меньше ошибаться, либо делать, иногда ошибаясь и нарабатывая опыт для уменьшения количества и качества ошибок. Тем более что мир меняется.
@ikokon1856 8 ай бұрын
Очень круто сделал. Нравится как ты интонируешь.
@politrazor 5 ай бұрын
Что в вашем понятии рациональность, рациосообщество и рационализм?
@miniclipy Жыл бұрын
Читать главу: (рус) - 1 страница docs.google.com/document/d/1PRooi-4qsFgcMbf0oa7wFnD1G7BS2OcU/edit?usp=sharing&ouid=105953185547296222644&rtpof=true&sd=true Читать главу: (англ) - 1 страница www.greaterwrong.com/posts/8FsLyk6oDrhoqWEjB/pendulums-policy-level-decisionmaking-saving-state
@miniclipy Жыл бұрын
Читать главу: (рус) docs.google.com/document/d/1S38-FhT0zlJQ8bUfb2A2eI_E0wwVEg9X/edit?usp=sharing&ouid=105953185547296222644&rtpof=true&sd=true Читать главу: (англ) www.greaterwrong.com/posts/ZCXjmeHNHYiM2uCw4/flash-classes-area-under-the-curve-eat-dirt-broccoli-errors
@miniclipy Жыл бұрын
Читать главу: docs.google.com/document/d/1NCJi4U92M_5YGjofpJ3U0Z2E0U1EReOh/edit?usp=sharing&ouid=105953185547296222644&rtpof=true&sd=true
@miniclipy Жыл бұрын
Читать главу (3 абзаца): docs.google.com/document/d/1vxY9mW4_qAm8-piKQWaH1tOD3JuuVBRy/edit?usp=sharing&ouid=105953185547296222644&rtpof=true&sd=true
@galyakozer7506 Жыл бұрын
Очень интересно! Спасибо
@miniclipy Жыл бұрын
Прочитать главу на русском (docs.google.com/document/d/140ZXy-ffn4qjJjfNHSq12NmmLdgQpZxy/edit)
@ГравинаДужева Жыл бұрын
Интересно!
@ZealForSouls Жыл бұрын
Типичный контент, на который способны выпускники современной научной академии Говорит все за себя
@moe17243 Жыл бұрын
Ну явно не самый плохой
@russianslipperagent2689 Жыл бұрын
но алаймент это не слово что оно должно значить? союзничество людей в диско элизиум? можно было бы подумать что мол опечатка но опечатка один раз делается а не систематически если имелось ввиду alignment то тут четко слышная н посреди слова, соответственно писаться она тоже будет не тот фидбек который мы хотели, но тот который заслужили