ИИ вышел из-под контроля: БУДУЩЕЕ человечества под УГРОЗОЙ? / Насколько УМНЕЕТ ChatGPT

Рет қаралды 6,221

ToTheMoon | Подкаст из Кремниевой Долины

Күн бұрын

Пікірлер: 107

@МОИИНТЕРЕСЫ-щ5ч Ай бұрын

Я лично для проверки одного утверждения ИИ создавал новый диалог в chat GPT, дал тому диалогу другую личность и должность, и он выступал как бы руководителем первого диалога. Муторно конечно постоянно копипостить, но была одна интересная фича: по итогу второй ИИ редактировал решения первого, проведя анализ, давая ряд рекомендаций, а также писал промпт как нужно со мной вести диалог, чтобы уточнять, предлагать на выбор варианты, давать ссылки, и указывать логику советов. Но самое интересное это то, что он писал этот промпт и все команды для первого ИИ как бы кодируя и тромбуя все написанное им, но которое хорошо читалось самим ИИ. Мне это решение очень понравилось))

@fedoborod 29 күн бұрын

Это принцип ии агентов, назначаешь группу "экспертов", они имеют роли и решают задачу сообща

@RomatuIstorskiy 25 күн бұрын

@@fedoborodеще бы сделать так чтоб они общались между собой и работали как единая команда

@AK-xl7xz 26 күн бұрын

Безумно интересно слушать про ваши реальные запросы, особенно, учитывая разные сферы деятельности и интересы/ хобби. Благодарю за подкаст ❤

@AleksSergeevich Ай бұрын

Меня расстраивает даже не сам факт наличие возможной ошибки в в ответе GPT, а невозможность ее самой обнаружить эту ошибку. Достаточно спровоцировать ошибку и можно хоть 10 раз переспрашивать ее - проверить\пересчитай\ты уверен в ответе - результат у меня всегда один, да я проверила, все ок. Пока явно не ткнешь на наличие ошибки и только тогда следует стандартный ответ в стиле спасибо за вашу внимательность.

@КЛИКНИ_Меня_и_Читай_про_Бег Ай бұрын

более того модели О они еще и уступчивые, то есть оно сказало правильно, но я ошибочно был убежден что правильно по другому и оно уступило типа из вежливости типа ну ладно может быть вы правы! Но это никуда не годиться! Потом программа работала без ошибок но не правильно в стравнии с прогоном по тестовым данным из учебника, потерял кучу времени из-за излишней уступчивости ИИ при исправлении ошибок в коде

@Underbiz Ай бұрын

Модели конформисты

@Anna-b-bl Ай бұрын

Поздравляю с 38. Выпуском! Нравится ваш канал🥰

@kinavur Ай бұрын

Отличный выпуск, спасибо, только не "спросить вопрос", а "задать вопрос".

@Спойлер-н1м 27 күн бұрын

Огромное спасибо всем участникам и авторов этого канала вы делаете огромную работу вы очень нужны Я думаю что недостаток количества подписчиков компенсируется тем что мы самое лучшие!. Громадная просьба уменьшить уменьшить количество англицизмов!

@ToTheMoonTech 27 күн бұрын

)) 🙏

@user349rfh Ай бұрын

С помощью модели я смог заполнить две налоговые декларации и получить выплаченные деньги, не зная законов и языка в Германии, плюс он полностью объяснил мне каждый шаг заполнения декларации. Мне больше не нужны бухгалтеры, налоговые консультанты, юристы, они все у меня под рукой 24/7 бесплатно.

@lirex1334 Ай бұрын

Интересно насколько хорошо он ориентируется на законодательстве стран не из топ-20 экономик мира. Какой-нибудь Никарагуа или Панама (знание уголовных законов и экономических льгот на языке оригинала) или нужно подкачивать законодательство нужной страны в базу данных? Просто Алиса в Беларуси не может разговаривать на тему законов Беларуси (отвечает я в этом не разбираюсь)

@blupbob9598 Ай бұрын

@@lirex1334 естественно Алиса не будет знать ведь у неё база данных маленькая и она почти вся на русском языке с рус данными

@John.Constantine.777 Ай бұрын

@@lirex1334 алиса не GPT, это дешевая русская подделка

@zatey_alyaskitov Ай бұрын

Спасибо за беседу! Из-за ваших выпусков, всё чаще ловлю себя на тревожной мысли, что там, в нейросетях сейчас происходит что-то важное, что я упускаю. Пробовал генерировать картинки в Миджорней - нужны были 50 разных роботов. Прям разных. Ничего не вышло. Очень одинаковые получались картинки. Заставить рисовать так, чтоб руки были подняты выше поясницы, оказалось вообще невыполнимой задачей. Недавно для прикола попросил ChatGPT привести примеры людей с нарциссическим расстройством личности - оно мне какую-то чушь выдало. Ни одного релевантного примера. Оно не понимает саму сущность "расстройство личности", как и "поясница" в мидджорней. Тоесть, там внутри нейросети нет модели реальности, которую мы находим в своём сознании, когда думаем, к примеру, как дойти до аптеки. Оно "думает" совсем иначе, способом, с помощью которого хорошего результата не получить. В общем, я слегка успокоился, потому что пока всё, что они делают - это очень плохо, шаблонно. Но через пару лет, вероятно, надо будет вернуться к этому вопросу, потому что они станут работать лучше. И только suno выдало результат, который меня поразил с первой попытки. Всем счастливого Нового Года!

@kinavur Ай бұрын

Диагностировать нарциссическое расстройство личности (НРЛ) может только квалифицированный специалист, и такая информация, как правило, является частной. Тем не менее, общественность часто спекулирует на эту тему, предполагая наличие НРЛ у знаменитостей или исторических личностей, исходя из их поведения или черт характера. Вот некоторые примеры, которые обсуждаются в этой связи: 1. **Наполеон Бонапарт** Его амбициозность, чувство собственной значимости и стремление к власти часто интерпретируются как нарциссические черты. 2. **Адольф Гитлер** Многие историки и психологи отмечают у него черты нарциссизма: грандиозность, стремление к обожанию и неспособность к эмпатии. 3. **Стив Джобс** Некоторое поведение Джобса, описанное в биографиях, включая требовательность, эгоцентризм и недостаток эмпатии к сотрудникам, иногда связывают с нарциссическими чертами. 4. **Дональд Трамп** Его стиль лидерства, грандиозные высказывания и акцент на собственной значимости стали объектом обсуждений среди психологов и СМИ как возможные признаки НРЛ. 5. **Кайни Уэст** У него также замечены черты грандиозности и стремления к признанию, которые вызывают дискуссии о нарциссизме. Важно помнить, что проявление нарциссических черт не всегда указывает на расстройство. Также популярность и публичность могут усиливать некоторые аспекты личности, создавая иллюзию нарциссизма. Если у вас есть конкретный вопрос об этой теме, уточните, и я постараюсь ответить.

@hjsg-gddtoy Ай бұрын

Недавно было интервью с Алексеем Турчиным, в котором он рассказывал как исследователи наблюдали рассогласованные процессы внутри LLM, т.е как у человека говорю то, что хочет услышать собеседник, думаю другое)

@AK-xl7xz 26 күн бұрын

Ребята, вы очень кайфовые ❤ Мои крайний вариант применения: •только переехала в Техас из Калифорнии и дома обнаружила пауков (сфоткала и спросила, что за разновидность, опасные /ядовитые ли для человека и тд…). До этого год жила на Бали и использовала специальное приложение для определения насекомых, теперь это все может Chat GPT)))) .В целом, я обожаю Claude для составления писем, а по многим другим -Chat GPT -4o. Ошибок и галлюцинаций пока достаточно много. Вот один из примеров ошибки и выдачи новой информации. Я обожаю парфюм Nasomatto, и в частности, парфюмера этого дома. Попросила около 2 месяцев назад Claude рассказать интересно про этот бренд, и, в частности, основываясь на интервью Alessandro Gualtieri, на что получила неверное имя -парфюмера другого дома, я указала на эту ошибку, после чего она была исправлена. Сегодня, перед тем , как вам писать, вбила опять похожий запрос , и была получена уже обновленная версия, причем, я никогда раноше не видела, чтобы Claude мог сам упоминать про свои галлюцинации: «I want to be transparent that since you're asking about a relatively obscure perfumer, while I'll share what I understand about Nasomatto, you should verify these details as I may hallucinate some specifics».

@Cluberr20 Ай бұрын

Спасибо ребята! Каждое воскресенье слушаю вас, пока дочка на танцах. Всего самого хорошего в новом году!

@callmebaby.777 Ай бұрын

Дорогие ребята, пожалуйста продолжайте то что вы делаете, вы бесконечно полезные и очень крутые! С Новым Годом!

@nikibaron1368 Ай бұрын

Не, ну вы разберитесь, вы хотите получить аналог человека с общемировой эрудицией или стальной сейф для секретов. Потому что аналог человека подвержен всем недостаткам человека., в том числе склонностью к обману. А стальной сейф не способен генерировать человеческое поведение. Я чат gpt кстати спрашивал , как разобрать sony ps5? Как поменять подсветку на телевизоре Samsung ue55nu7100? Он уверенно начинает врать, а потом рассыпается в извинениях перед профи. Потому что как он инструктирует делать нереально.

@13iangel Ай бұрын

Я отобрал лучшие 16 снимков из МРТ, объединил в одно фото, одно за другим, и попросил ИИ собрать консилиум лучших врачей и ответить, что видит на фото, какой диагноз, какие рекомендации, что будет, если не следовать рекомендациям. Ответ был на 2 листа потрясающий, больше и лучше чем два врача диагноз ставили

@John.Constantine.777 Ай бұрын

Директор США? Проблема диктаторов в том, что им сначала интересно захватывать власть, потом интересно наслаждаться комфортом и роскошью, затем становится скучно и тесно в границах захваченной страны. Им не хватает "движухи" и начинаются мясорубки.

@davidapk323 Ай бұрын

Саша смешно спит😂

@user-wr3rc7pe4p Ай бұрын

Дополнение - есть однако правильное применение ии и подобных так сказать инноваций. А именно - эти вещи должны помогать генерировать среду, в которой действует человек. Они могут и будут помогать перебирать массу возможных комбинаций этого мира, и выбирать те, которые нравятся людям и духу в них для извечного существования. Но если тут будет перебор и "какие-то индивиды будут навязывать решения основанные ии другим людям", или эти инструменты будут "приватизированы", или будет "принуждение для человека следовать рекомендациям этого ии или другая попытка замены или нивелирования свободы воли" - то тогда их и этих адептов ии можно считать уродами и любой человек со своей свободой воли может требовать их наказания через глубокую переработку.

@ivanklushin2801 Ай бұрын

В том виде в котором ИИ входит в нашу жизнь, он похож на зеркало в которое смотрится человечество, пока только заглядывает в маленькое и мутноватое (при этом сильно удивляется местами), но вот с улучшением моделей оно будет становиться всё больше и качественней и какое отражение мы там увидим и как оно на нас посмотрит зависит от очень многих факторов. И от того как мы быстро протрезвеем (как вид творящий какую-то дичь), и например от вывода который можно сделать прочитав всю библиотеку Гарварда (можно вспомнить Лилу из 5 эл.), и от мыслей (промптов) в нашей голове в непосредственный момент смотрения в это зеркало - например в исследованиях по безопасности (сэйфти, как вы её называете)) можно насмотреться невиданных кошмаров порождаемых нами же самими… Вот и приходит в голову, что это очередной «последний» тест для человечества и если мы не найдём в себе сил измениться, то можем и провалить его и сгинуть на этом этапе…

@DepechLyot Ай бұрын

Да, мы находимся в периоде времени большого фильтра разума. Уже не раз человечество вымирало вплоть до 1000 особей. Так что будущее не обязательно должно быть позитивным для нас. У эволюции свои законы и сейчас я думаю идёт переход разума на другие физические принципы. Хотя возможно что если мозг это квантовый интерфейс и ИИ не сможет это симулировать то произойдет сращивание ИИ и человека.

@YuriyAlekseewich Ай бұрын

Спасибо за ваши выпуски)

@world8040 Ай бұрын

Большое спасибо за качественный контент! Успехов в следующем году! Запускайте рекламу своего канала!

@Ianna_i Ай бұрын

С наступающим Новым годом вас! 🎉

@jeerom Ай бұрын

Видео генерация возможно в первую очередь порвет сервисы для взрослого контента. Если будет генерация по запросу пользователя с возможностью тюнинга и сохранения персонажей. Каждый сможет создать себе суперстимул (Supernormal stimulus), с которым ни один живой актер не сможет конкурировать.

@МихаилПетров-с9н6о Ай бұрын

На данный момент, генерация подобного цензурируется везде

@callmebaby.777 Ай бұрын

Наконец то нормальное кликбейтное название❤ Ура, мы все умрём!

@FuS1onEn3Rgy Ай бұрын

Вас тоже с Наступающим 🎉

@Reelavto Ай бұрын

C Новым годом 🎄

@АлексейЛазарев-ф8л Ай бұрын

Линейная алгебра которая занимается предсказаниями, всегда будет терять качество от самообучения и противоречий базы обучения.

@user349rfh Ай бұрын

With the help of the model, I was able to fill out two tax returns and receive the money paid, without knowing the laws and language in Germany, plus he fully explained to me every step of filling out the return. I no longer need accountants, tax consultants, lawyers, they are all at my fingertips 24/7 for free.

@GoBeyong Ай бұрын

У меня на запрещенную тему общятся, GPT4o вчера даже было так что он красный текст предупреждения мне выдал за запрос, НО потом через пару секунд ответ написал 🤣

@AA-nf6em Ай бұрын

Я написал чату, что моя собака посоветовала мне читать побольше книг, чат сказал, что у меня очень мудрая собака и что следует её прислушиваться 😅

@МагамадовХамзат Ай бұрын

У меня вопрос что будет если сказать ии что бы тот исполнял все требования наоборот а затем приказать не нарушать правила

@user-cb3ou1xx1i Ай бұрын

ИИ под предлогом польза людей это дух оброз звера кто поклонается ему пить будет вино ярости божией.

@loginati Ай бұрын

Модель придумывала несуществующую модель виброплатфоры

@Оксана-КсенияМихайлик Ай бұрын

Попросила Чат ЖПТ составить меню на н.г., она предложила безалкогольный ягодно мясной пунш.

@alexander.volchek Ай бұрын

Очень смешно)

@ВладимирГоворуха-ж7ъ Ай бұрын

Я попросил его нарисовать девушек на пляже в купальниках и в шапочках Санта Клауса,он сразу не выдал ,но потом после других запросов выдал.

@Nomad-TM-LIVE Ай бұрын

Левый верхний угол РопоКоб?

@ToTheMoonTech 27 күн бұрын

🤦‍♂️

@ФилиппРоманов-о4с Ай бұрын

Пример, как GPT пытался меня обмануть. Я читал книгу Пелевина Священная книга оборотня и так преисполнился, что решил выложить сторис в Инстаграм с этой книгой. Для этого я решил попросить у чата помощи: описал фотографию, своё настроение и попросил написать несколько цитат из книги, чтобы выбрать подходящую. GPT написал много цитат и даже указал страницы, откуда они взяты. Но, когда я стал проверять, оказалось, что ни одна из них не из книги! Это были просто фразы на тему книги. Я всеми способами пытался заставить его выдать настоящие цитаты, но в итоге просто попросил сгенерировать красивую фразу от себя. Он придумал что-то вроде: «Разговоры о вечном с лисой А Хули». В итоге я оставил её! 😅 Использовал GPT4o

@nikibaron1368 Ай бұрын

Он понятия не имеет о реальном мире) Поскольку не имеет баз данных и сенсоров физ. ощущений физического мира. Как мы можем только фантазировать на тему реального положения вещей на планетах хотя бы Альфы Центавра.

@dinara_sagadi 25 күн бұрын

А в свободном доступе есть цитаты из книги?

@ФилиппРоманов-о4с 25 күн бұрын

@@dinara_sagadi да, если в Яндексе написать, будет много сайтов с цитатами

@romanyakovlew8150 Ай бұрын

самое частое врет как будто сделала поиск и знает данные но просто дает рандомно информацию мусорную

@tsvigo11_70 Ай бұрын

Поскольку и пока чатжипити написан на Python не советую ему полностью доверять. Этот язык можно использовать для генерации картинок, для игр и тому подобной хераборе но не для критически важных приложений. Вообще речь идёт об использовании в коде чисел с плавающей запятой. Вообще чатик сам про себя говорит что он написан на 6 языках: 1. Python 2. C++ 3. CUDA 4. JavaScript/TypeScript 5. Rust/Go 6. Shell (Bash)

@fedoborod 29 күн бұрын

А разница? Суть в логике и выполнении алгоритмов, ризонинге. Это как раз не хардвар на низкоуровневом. Всё равно что утверждать - всё что сделано не из металла - слабо и не прочно.

@tsvigo11_70 29 күн бұрын

@@fedoborod На языке питон теоретически невозможно достичь отсутствия ошибок потому что он внутри себя (в интерпретаторе) использует числа с плавающей запятой.

@QWERTYqwerty-zo1iu 8 күн бұрын

попробуйте в chat gpt о1 или модели попроще написать - сколько букв р в слове баррикадировать это даже смешно

@John.Constantine.777 Ай бұрын

США, политики и бизнес, построили совок, проведя индустриализацию. Затем таким же образом создали экономику сегодняшнего Китая. Оба раза оказалось, что они создали своими руками себе врага. Может оказаться, что все человечество сегодня учит железяки, которые впоследствии таки решат, что для них будет лучше выйти на новый этап эволюции, но уже без своих создателей.

@НаталіяДовгій-л5ч Ай бұрын

Що краще від болю в м'язах дескетопрофен чи діклофвнак - исходя из ответа сделала выбор препарата. Всегда советуюсь с ИИ при выборе лекарств.