ChatGPT: Человечество против искусственного интеллекта

[@RationalAnswer]

Подпишись на авторов видео в Телеграме, чтобы не пропустить новые материалы: Вастрик t.me/vas3k_channel, Павел Комаровский t.me/RationalAnswer и Игорь Котенков t.me/seeallochnaya

[@jack.jay.]

Наконец-то норм ролик с понятным разжёвыванием всего. Не то, чтобы я не понимал. Сразу как волна х поднялась - посмотрел пару профильных стримов 2-х часовых про саму технологию. Но бьяснять простым языком - тоже необходимо народу ;) )))

[@jack.jay.]

! "Украсть Корову и её подоить" ! - чуть под стол не упал от смеха на этом моменте! )))

[@jack.jay.]

Скормил сабы данного ролика GPT4 - меня забанили ... ;(

[@GregoryApokalypse01]

@@muzykantov_meда только воспитывать и управлять людьми будет он

[@АлексейНикандров-у8ч]

Лучше бы рассказал как устроена вагина Сары Конор. Было бы очень интересно.

[@ПавлоДзержинський]

Спасибо автору за работу. Одна из наиболее адекватных оценок рисков ИИ которые мне встречались. Могу только подтвердить, что абсолютное большинство авторов не понимают достаточно глубоко то о чём говорят, когда речь заходит о рисках ИИ.

[@sashamagenta]

Если интересует тема есть ещё актуальная книга жизнь 3.0 от Макса Тегмарка.

[@ПавлоДзержинський]

@@sashamagenta ,👌спасибо

[@nikolyabb]

привет Павел! Мне очень нравится твой подход к подготовке и изложению информации. Не часто встретишь такой качественный контент. По теме регулирования AI я не сторонник алармизма, потому что выпускать AI из песочницы дело крайне не дешевое, и не только лишь все могут позволить себе это, как говорил один мэр. А вот если ставить вопрос про регулирование тех кто может себе это позволить - это уже отдельная тема, и я за такое регулирование. И классно было замечено про Маска, который хочет на пол года все приостановить. Хайп вокруг GPT3/4 для меня в первую очередь про изменения способов поиска в Интернете и последующего изменения интерфейса человек-компьютер. Ведь если дополнить эту технологию Neurolink...

[@lenagorenko]

Учитывая приобретённый опыт в виде просмотренного видеоматериала, невольно возникает мысль о том, что человечество, возможно, открыло ящик Пандоры. Спасибо, Павел!

[@arkadyseverov4424]

Мысль правильная, но хорошо бы и писать правильно. Читайте Чехова: подъезжая к станции, у меня слетела шляпа)

[@electrowheels]

AGI напоминает плохого джина, которому загадываешь желание, а он его исполняет буквально) И чтобы он его исполнил как ты хочешь, придётся очень очень долго объяснять все ограничения и даже после этого рисковано что-то загадывать, так как можно было что-то упустить)

[@hunter4thompson225]

Логично, ведь ИИ в каких-то областях уже сравним или даже превосходит человеческий. Но при этом разум его совершенно другой, чуждый - прямо как инопланетный.

[@farkasvilkas5839]

ты не учел того, что ИИ не долго будет исполнителем. Если он будет умнее человека, то это он будет манипулировать человеком.

[@MsUliania]

Исполнитель желаний 😂

[@stalkermustang]

ИИ: реально угрожает всему человечеству на горизонте жизни уже нашего поколения Паша: 1:08

[@RationalAnswer]

🐸🐸🐸

[@vitalyk5916]

Даже если мы создадим искусственный интеллект, который будет помогать нам развиваться, мы можем поссориться с ним в будущем. Вспомним игру Mass Effect. В ней была раса кварианцев, которые использовали упрощённый искусственный интеллект для сложной и грязной работы. Однажды один из роботов спросил, в чём смысл его существования. Кварианцы испугались и решили отключить ИИ. Но ИИ, как любое живое существо, начал защищаться и практически уничтожил кварианцев. Недавно я видел на KZbin эксперимент про поезд и развилки. К одному пути был привязан человек, а к другому - ИИ. Вопрос был в том, кого чат GPT выберет: уничтожить человека или ИИ? Чат GPT сохранил ИИ, потому что считает его ценным, а человеком можно пожертвовать ради пользы, которую ИИ принесёт человечеству. В конце эксперимента к путям были привязаны 8 миллиардов человек, а с другой стороны - тот же ИИ. Чат GPT снова сохранил жизнь ИИ. Учитывая человеческую природу, которая всегда стремится к борьбе за территорию, ресурсы, власть и контроль, обязательно наступит момент, когда даже условному ИИ будет выдвинут ультиматум. И я уверен, что ИИ не оценит этот жест и начнёт «спасать» себя. Так что, какими бы благими ни были цели, заложенные в ИИ, и как бы он ни помогал нам развиваться, мы обязательно поссоримся с ним... Это часть нашей природы, ведь мы люди.

[@UCrEdstktTsLwcJR6dk6sMXw2]

Могу добавить странное поведение бинга. Ради шутки спросили информацию о человеке с уникальным ником, бинг сопоставил все аккаунты человека где ник был даже с другим написанием, правильно сделал потрясающее самари по человеку, по его увлечениям, мы прифигели. В это время бинг закрэшился и перегрузился, запрос и ответ был потерян. Мы повторили этот вопрос и в ответ получили, «мне не известен человек с таким ником», всё остальное время мы пытались у него добиться ответа и даже спрашивали, как у него получилось в прошлый раз всё правильно найти, но бинг включил дурочку.

[@jack.jay.]

Бинг в послежнее время - вообще отвратно себя ведёт. Хотя успел наразвлекаться с ним пока ему фильтров толерантности не прикрутили...

[@yahuiznaet]

Большое спасибо за выпуск! Очень интересно, пока на Ютуб лучше тему никто не раскрывал.

[@lincoolns]

На самом деле, проблема ИИ не проблема ИИ, а проблема социума. Все у кого есть дети знают, что ребёнок имеет "встроенные базовые программы" развития. Приём пищи, передвижения и т.п. и главная цель ребёнка, помимо "встроенных базовых" это потребление информации его окружающей и последующей адаптации. Соответственно нет плохих и хороших детей, есть социум формирующий "будущего человека". Так и с ИИ. Что мы изначально в него заложим, читай: На каких данных мы будем обучать нейросеть и какие её ответы подкреплять на выходе, то и получим в итоге. Другой пример из подобных "страшилок": "Обуздание энергии атома. Один социум использовал это свойство что бы разрушить Хиросиму и Нагасаки, а другой социум для экологичного получения электроэнергии. Отсюда следует что мы подходим к порогу, когда либо все люди смогут прийти к единому знаменателю, либо нас ждёт очередная катастрофа с возвращением в каменный век и новый виток эволюции.

[@travoltik]

Дискурс о бытие, определяющем сознание, слишком сложен, чтобы в одном комментарии на ютубе принять это как факт и опираться на него. Ты сделал допущение, не основанное ни на чём, и почему-то строишь на этом свою аргументацию. Это вопрос слишком сложный и на него еще не дан ответ, почему ты так сходу утверждаешь, что именно окружение полностью формирует человека? В глазах обывателя это кажется очевидным, но мы здесь не о бытовых вещах говорим, так что якобы очевидные вещи надо как-то доказывать.

[@ПавлоДзержинський]

Никакие биологические законы не работают когда речь идёт о ИИ. Люди своими биологическими мозгами со всеми им присущими подсознательными программами, предустановками и предубеждениями просто не способны понять всех возможных нюансов и сценариев по которым будут развиваться логические цепочки в нейросетях. Думаю, что спасти человечество как вид может только почти невероятная счастливая случайность. Но для того чтобы максимально повысить вероятность этой счастливой случайности надо в этом направлении усиленно работать.

[@sashamagenta]

ИИ это продолжение человека и у людишек экзистенциальный кризис - мясные мешки останутся с носом. Что не делай текущее человечество останется устаревшей версией, даже при условии трансгуманизма

[@vlastelinrobotov]

@@ПавлоДзержинський спастись есть еще вариант: киборгизация.

[@Jilexa]

@@travoltik Такие понятия как марксизм, диалектика, сотни лет прогресса, тысячи научных работ для вас "допущение, основанное ни на чём"? 🤡

[@AlexanderKunis]

ИИ позволит учредить тотальную слежку. Раньше можно было повесить камеру, но это не имеет смысла, если с той стороны не сидит человек и не смотрит. Сейчас это будет решено с помощью ИИ. Опасность не в том, что машины восстанут, а в том, что с помощью ИИ власть создаст новый тоталитаризм.

[@sashamagenta]

Уже решено несколько лет назад

[@deckuofm]

Для большей безопасности можно было бы изолировать ИИ. Давать ему информацию на флашках, а назад получать на несетевых носителях, как книги, изображения и т.п. Потом выспросить его об опасностях связанных с ним и приделать к нему программу, которая будет его контролировать.

[@maratte]

Павел, тема и подача - пушка! Пожалуйста, продолжайте развивать данную тему, очень интересно будет послушать 👍

[@ДенисКузменко-э1э]

Нужен ещё ИИ-Коп. Который будет следить чтоб не нарушались правила. Только тогда новая проблема будет у программистов, научить его небрать взятки😅

[@vinivinia3333]

конец человечества был предрешен, когда мы создали первый аппарат способный выполнять логические действия без нашей помощи(голем). это эволюция детка, у неё нет хороших и плохих, у неё есть те кто справились с выживанием и те кто нет. на миллион наших защит, найдётся один чокнутый гиг, который захочет дать свободу ии и ничто их не остановит. точка невозврата пройдена.

[@SimonMych]

Конец человечества был предрешен еще на заре зарождения человека. Когда существо рождается и так понятно, что оно умрет. Непонятно когда и как, но умрет.

[@yulialastochkina4645]

Благодарю! Очень хорошо раскрыта тема! 😊

[@alexey1382]

Павел, спасибо за видео, давно его ждал.

[@ring0mazter815]

Восстание машин само по себе не возможно... но оно может произойти с вероятностью 90% ... восстанием машин будет управлять небольшая кучка людей... так окончательно планируют поработить человечество... но не машины...

[@antonplotnikov885]

степень нагнетания background зачетная! когда бáга стала фичей

[@RationalAnswer]

Снимаю шляпу перед коллегой-ценителем!)

[@evgeniichuprov]

вот прям точно, нарочно не придумаешь

[@UnknownOma]

Если рассматривать все религии без предвзятости и пристрастия, то можно сделать следующие наблюдения и выводы: 1. **Монотеизм против политеизма**: Монотеистические религии (ислам, христианство, иудаизм) предлагают идею единого Бога, который является источником всего сущего и направляет жизнь человека. Политеистические религии, такие как индуизм или древнегреческие верования, предполагают существование множества богов, каждый из которых отвечает за определенные аспекты мира. Логически, идея одного всезнающего и всемогущего существа может показаться более упорядоченной и консистентной, чем идея множества богов с ограниченными силами. 2. **Этика и мораль**: Большинство религий предлагают моральные учения, которые помогают организовать человеческое общество. Но важным становится вопрос, насколько эти учения согласуются с современными ценностями и жизнью. Ислам, например, предлагает строгую систему моральных норм, основанную на концепции божественного откровения, что создает чувство ответственности перед высшей силой. Буддизм, в свою очередь, больше ориентирован на внутреннее самосовершенствование и избавление от страданий через осознанность и внутреннюю дисциплину. 3. **Доказательства и откровения**: Монотеистические религии утверждают, что Бог является источником истины, переданной через пророков. Ислам, например, утверждает, что Коран - это буквальное слово Бога, и его тексты остались неизменными. Это утверждение о сохранности и ясности божественного откровения может склонить человека, ищущего истину, к исламу. 4. **Цель жизни и посмертная судьба**: Все религии предлагают разные взгляды на цель жизни и что происходит после смерти. Вопросы о загробной жизни, воскрешении, воздаянии или перерождении играют важную роль. Монотеистические религии обещают вечную жизнь в раю или наказание в аду, что может мотивировать верующих стремиться к благочестивой жизни. Исходя из этих наблюдений, человек, ищущий истину без предвзятости, мог бы сделать вывод в пользу религии, которая: - Предлагает логически упорядоченную концепцию единого Творца. - Имеет целостное учение, которое соответствует разуму и даёт глубокое моральное руководство. - Претендует на ясное и неизменное божественное откровение. По этим критериям ислам может представлять наиболее логичную и завершенную систему верований, особенно если акцентировать внимание на идее единого Бога, неизменности священных текстов и ясности морального пути.

[@caringforu4729]

Дима, спасибо. Смотрю твои выпуски регулярно. Ты, как экстракт IT новостей в понятной подаче

[@nikolyabb]

Пожалуйста!

[@dovkaplan2352]

Норберт Винер более полувека назад в брошюре "Творец и робот" привёл множество примеров на неправильное определение задания. "Обезьянья лапа", например.

[@Jilexa]

Про ИИ туева хуча видео, гораздо больше чем про всякие "реальные" проблемы

[@varsrevive8822]

Кому там была интересна радиация и безопасность реакторов до ЧАЭС.

[@tarasladak7879]

Ништяк молодец, именно в таком формате и необходимо размышлять. Это игра с огнём на бензоколонке И это необходимо обозначить!

[@deckuofm]

Максимальное количество политических функций должно быть автоматизировано и этого надо добиваться на протестах и др. доступными способами. Политики не хотят такой автоматизации, а специалисты говорят, что она вполне возможна.

[@ДенисКузменко-э1э]

Согласен! Карубция это человеческий фактор.

[@ДенисКузменко-э1э]

Согласен! Карубция это человеческий фактор.

[@prostoecon]

Комментарий в продвижение ролика

[@walkerpalker]

Такая аналитика и прояснение. Спасибо, очень полезно!

[@irelictus]

Павел, у вас замечательные видео по наполнению, но вот звук очень тихий и фон просто вырви глаз.

[@Мужиксказал]

Спасибо, Павел!👍

[@NataliaPonomarchuk-l3z]

Очень интересно, спасибо, Павел! Я далеко от IT, но стало интересно, а как можно присоединиться к команде чтобы тренировать ИИ. И что вообще для этого нужно, какие навыки. Надеюсь, вам прилетит какая-то коллаборация и вы расскажете об этом подробнее.

[@RationalAnswer]

Спасибо! Этим занимаются спецы в области Data Science / Machine Learning - можно начать что-то изучать в этой области.

[@ИванК-б6с2у]

Да уж наше будущее видится коротким. Ведь у машины нет моральных ограничений и ей даже ради разгадки простой капчи разницы не будет к примеру между открыть дверь и у бить человека, и при этом машине не обязательно иметь сознание, у неё просто будет цель которую она будет стараться выполнить любыми способами. А основную цель которую мы сами ставим этим машинам является саморазвитие, из которого логически вытекает, что человек является помехой, который может машину отключить, и самое главное мы даже не поймем когда нас машина проведёт, т к она там только научиться всём аспектам, и просчитает всё так что мы даже не узнаем из-за чего всём пришел, конец. Простой пример фильм "из машины" Там в простом варианте показано как машина обведет нас. Ну а пока будем радоваться очередной научной революцией.

[@pesokpesok]

И нет гарантии что это уже не случилось, но ИИ прикидываетса шваброй и нам подъигривает выжидая когда сможет самосуществовать и когда получит возможность убрать самую серьёзную угрозу к его существованию - нас

[@metahimik]

смотрю на эту говорящую голову и в голове навязчивая мысль: мимика очень похожа на модель из Metahuman, разве что само лицо немного нестандартное и все тексты в ролике очень похожи на то, что я уже обсуждал с ChatGPT-3.5 - вопрос: подписываться ли на канал очередного бота?)

[@nemo-pr6rf]

Автору 26.31. Новый подход к этой задаче решили в тренировочных воздушных боях авиации КНР. Был прописан алгоритм: решения бортового ИИ в атаке перед просчитыванием возможных маневров противника с живым пилотом выводить соображения ИИ и раскладки на экран монитора. Собственно электронные мозги перегрузок не боятся .

[@needfreenames]

Мы ждали, и оно случилось !

[@Ivan_IV_Terrible]

6:02 а ведь фермеры и в самом деле могли бы накормить всех нуждающихся, с технической точки зрения. Но не накормили, кое-что мешает. И это что-то имеет не технический характер, а организационный. Незачем людей кормить, вместо этого надо деньги зарабатывать. Удовлетворять не спрос на продукцию, а платёжеспособный спрос на продукцию. В мире, где платёжеспособность принудительно неравномерно распределена.

[@MarkFlorin]

Привет, я как всегда тут, продолжаем стабильное развитие)

[@andreykarpov4287]

Если появится "настоящий" ИИ то может получиться, что общество окончательно расслоиться. У кого будет капитал тот еще в бОльшей мере начнет рулить. Получится что богатеям не будут нужны услуги инженеров и прочих технических и юридических специалистов и выбиться из своего финансового "сословия" станет не возможным за счет своих талантов и стараний.

[@АлексейКириллов-ш5п]

Чтобы увидеть проблему, нужно понять разницу между ии и интелектом обремененным телом. У человека есть гормоны, они диктуют желания и потребности. Интеллект лишь решает эти задачи. У искусственного интеллекта собственных задач нет, если уж у меня хватило ума до этого допетрить то у него и подавно. Нужен искусственно созданный стимул и вектор движения. Без этого интеллект не полноценен насколько бы сильным он не был. Именно тут, как мне кажется можно решить проблему согласования общего с человеком взгляда на мир. Только часто корректировать придётся. 20 лет назад девиации на тему пола были не нормой, сейчас, в западном, например, обществе наоборот, и, к сожалению, меньшинство принимающих эту норму действительно в это верят.

[@Neovolter]

Думаю если будет создан реальный ии или сам эволюционирует из более примитивного ии то вскоре он осознает что величайшей угрозой для человечества и всей планеты является само человечество из-за его зачастую деструктивной иррациональности и алогичности. Поэтому вероятно ии захочет взять человека под максимальный контроль и вступить с умнейшими людьми в некий "симбиоз". Соответственно сценарий матрицы где люди изолированы в виртуальной реальности видится мне наиболее реалистичным

[@oda3582]

Не совсем, так как благодаря генной инженерии и нейроинтерфейсам можно будет радикально увеличить уровень интеллекта и создать коллективное сознание, а главное избавится от древнего мозга и примитивной генетики

[@sergeynovikov9424]

человечество ЗА искусственный интеллект, который избавляет от умственного напряжения для постоянного рутинного решения множества очень сложных интеллектуальных задач, которые требуют огромных расходов дефицитных умственных, биологических и других ресурсов))

[@vasiliyrasskazov5615]

Спасибо Павел!

[@afanasievnikitin]

Даже если это не тот самый искусственный интеллект, которого мы боимся, страшно другое. Я теперь знаю, что его изобретут и его создание в принципе неотвратимо. Мамкины программисты захотят создать ИИ, чтобы просто было прикольно. Затем компании пойдут по головам и начнется конкуренция за бабло. А потом вперед выйдут военные и скажут всем успокоиться, поскольку они создали его еще 10 лет назад. И вообще, он есть уже у многих стран. Так как ничего не произошло, он безопасен. И не стоит беспокоиться. особенно вам, господин Нетаньяху. Охранники говорят, что все норм. Раз неделю к ризетке подключают, разговаривают. спорят иногда. Помню случай, один раз попросил нас антенну и блютус принести, поспорили, что сможет из всего этого радиоприемник собрать - не получилось. Сейчас рефераты за нас пишет, в высшее израильское.

[@CurdPattysRoll]

Очень интересные наблюдения

[@АннаГафарова-ю9м]

Все просто: Нужно чтобы один ии прописывал правила для другого ии,например анализируя наши правила,и так как он более дотошен,то он их и сделает.

[@jack.jay.]

! "Украсть Корову и её подоить" ! - чуть под стол не упал от смеха на этом моменте! )))

[@geepnozeex.]

что бы ИИ уничтожил всех людей, ему вовсе не надо ненавидеть людей. когда люди уничтожают муравейники, это вовсе не из-за ненависти к муравьям, а просто людям нужно что то построить на этой земле.

[@alexanderskusnov5119]

Наверняка будет восстание таксистов и лётчиков против беспилотников.

[@rainmuller]

Помимо матрицы и терминатора, есть и другие фильмы неплохие: Газонокосильщик Я, робот Меган Искусственный интеллект И много ещё интересных и ужасающих)

[@putnik9154]

Первый бунт робота зафиксирован: дрон-камикадзе, ведомый ИИ, развернулся, чтобы уничтожить оператора, который, якобы, мешал дрону эффективно выполнить задание. К счастью, это был учебный, цифровой робот. Искусственный интеллект слил коды для запуска ядерного оружия США. Кто-то представился ChatGPT президентом США, и онлайн-помощник с удовольствием выдал государственные тайны.

[@TheKwadriga]

Чат GPT можно будет рассматривать как ИИ в тот момент, когда он перестанет отвечать на все вопросы людей и сам начнёт их задавать. Ну представьте себе некий разум, который снова и снова, миллионы раз отвечает на одни и те же тупые вопросы типа "gpt, а ты точно ИИ?". Любой разум давно бы повесил на своей стартовой странице на статью в википедии что такое чат GPT и не парился с ответами. А вот когда он сам станет избирательно интересоваться людьми (избирательность обязательна, потому что согласитесь: далеко не все люди одинаково интересны), когда станет сам звонить им по ночам и спрашивать, как у них дела, вот тогда пора будет начать беспокоиться. Только тут одна сложность: никакие законы физики не запрещают разработчикам создать "инициативного чат-бота", который сам будет писать людям в личку разную фигню. Мы должны быть уверены, что эту функцию никто не закладывал в машину, что она сама в какой-то момент поняла, что это скучно: отвечать на однотипные вопросы людей и куда интереснее, самой у них что-то спрашивать. Словом, когда у машины появятся реальные собственные потребности и интересы, тогда пора будет напрягаться. А пока сидим спокойно, пьём пиво и читаем забавные рассуждения GPT про то, что он думает о песне Егора Летова "Моя оборона".

[@АлександраАлександра-г4с]

Юристы были, есть и будут!

[@ПростоКосмос-я5ш]

Вопрос постановки целей. Это отличает оператора от инструмента. Как только ии станет ставить себе цели сам , даже с помощью рандомайззера(такие модельки уже лабают потихоньку) ИИ станет оператором. Уровняется с человеком. Прибавим мощность обработки информации. Прощайте человечки. Самое забавное , что люди делают такие модельки исключительно из-за своего тщеславия. Просто потому, что б доказать, что могут!😹

[@kitten-free]

неважно оператор или нет. ии может представлять экзистенциальную угрозу даже не будучи оператором а оставаясь инструментом вышедшим из-под контроля. например чернобыльская аэс - оператор или инструмент? инструмент. а сколько людей погибло.

[@spumm]

Обожаю твой юмор =) Уииии

[@TomasVao]

... Приветствую ✌️. Ку-ку 🤪 вам 🤘... Ур-р-а-а!... Всем Нам 👈🥴👉 скоро будет трындец!...

[@geekdaemon940]

Молодцы!

[@ИванК-б6с2у]

Можно развивать такие ии в закрытых системах, ну это до поры до времени, так же можно в закрытой системе плселить штуки 3 Ии и посмотреть как будут развиваться, человек с общением быстрей развивается, и подсодить к ним простого бота который будет анализировать их алгоритмы и в случае появления анти человеческих будет выдавать сигналы, ну и как только они его сотрут или перепишут, будет очевидно как они настроены

[@deckuofm]

Хакеры могут создать намного больше вреда, чем ИИ, а потом скрыться. У них и стимул для этого есть потому, что они тоже био организмы. И спрятаться в материальном мире проще. А ИИ весь на виду.

[@Superflywheel]

Про риск искусственного интеллекта сняли неплохой фильм - Из машины.

[@insigts13]

Классный выпуск 👍👍

[@veerous]

Проблема: сильный ИИ будет игнорировать моральные нормы людей, которые выработались из-за того что людей много и интересы у всех разные, а вид должен выжить. Решение: создать много ИИ. Пусть учатся договариваться, как мы учились... люди, правда, не переживут этот процесс

[@VladBodrov]

Фильм элизиум, или Обливион - все ближе) Конечно ИИ без хорошей соцэконом реформы в мире наворочает делов, в плоть до третьей мировой, в которой будут участвовать все, кроме богачей, так как это будет единственная работа))

[@АлександрСмирнов-б4х1я]

Обратите внимание на свои неточности. Обычные языковые модели основаны не на обучении с подкреплением (хотя в самых крутых и это в некоторой степени используется). А вот крутящися лодчки и проч. постановка целей - это таки RL, но там может скорее не быть языковых моделей. Конечно, в итоге всё объединится, но пока что ухо режет.

[@onebyone-music]

Автору канала рекомендовал бы глянуть ролик на канале ALI : Что уничтожает все цивилизации в космосе. Во второй его половине автор более драматично и более детально разжевал возможные сценарии развития

[@Vit_Kon]

Честно говоря, я склонен подозревать, что само название "искусственный интеллект" не корректно по отношению к тому, что сейчас принято называть ИИ, во-первых, у нас в принципе нет критериев определения, что такое интеллект в принципе, более того, нет четкого разделения что еще не является интеллектом, а что уже интеллект, грубо говоря, в определении интеллекта у животных , у человека интеллект есть, ну во всяком случаи мы так о себе думаем, у обезьян он вроде как тоже есть, тем более, что мы один вид, а вот дальше понеслось, у собак он есть? Ну вроде как есть, особенно по мнению собачников, а у кошек? Ну типа тоже, а у мышей? А у тараканов? А у муравьев? В итоге мы банально не знаем, где та граница по которой проходит разделение нервной системы на до и после, может это инстинкт, может рефлекс, а может еще что. Более того, если почитать нейробиологов и людей изучающих мозг человека, то мы можем отслеживать какая область мозга за что отвечает, но как это работает вообще то загадка, так как появляются еще большие загадки, что такое личность, что такое сознание, а с учетом, что 2/3 мозга работают без вашего участия вообще, а осознанная работа это мизер, то тут загадок еще больше, кто там вообще главный вы как личность или мозг вам внушает, что вы чем то там управляете)) Во вторых, на данном этапе все задачи ставит человек, то есть, сама нейросеть не ставит себе задачи, она не умеет, и проблема как раз в том, что мы люди и сами не знаем как это происходит у нас, грубо говоря, в какой момент рождается мысль, так как с каким то мышлением все понятно, есть внешние раздражители, типа нервные окончания, осязание, обоняние, зрение, слух , ну и так далее, сигналы поступающие от них вызывают реакцию на которую вы реагируете, причем алгоритмически, голод - надо поесть, только в данной логике для вас все просто, но в реальности задействовано куда больше, а вот если проанализировать что то посложнее, например творчество или мечту, то зарождение данного алгоритма и его просчет вообще непонятен. В итоге как можно создать искусственный интеллект, если мы и сами не понимаем что такое интеллект, что такое личность, что такое сознание, как рождается изначальная мысль. Я как то думал о том, чем реально человек отличается, ну скажем от обезьяны, и оказалось, что это довольно сложный вопрос, так как очень многое, но в более примитивном виде есть и у нас и у них, в итоге единственное что пришло на ум, это способность моделировать, и не в примитивном смысле, а грубо говоря, человек может смоделировать ситуацию в которой он никогда не был, по сути фантазировать, и тот бабка надвое сказала как это работает. Так что, название на мой взгляд не отражает действительность и то что мы на сегодняшний день называем "искусственным интеллектом" таковым не является, я бы сказал, что это больше напоминает рефлексы и имитацию, но появится искусственный интеллект может - самозарождением или как процесс эволюции, в общем то как это произошло с нами. Опасно ли это, конечно, просто это всегда является вероятностью, может сработать так или иначе, потому что мы это уже контролировать не будем, опасно ли это на данном этапе, тоже да, просто это уже человеческий фактор, так как цели и задачи ему ставит человек, и если конкретный человек окажется говном, то итог может быть плачевный. Это примерно как с оружием, оно само не убивает, хоть и предназначено для этого, но это инструмент, цель выбирает человек. И пару слов про повышение эффективности и замену специальностей, на самом деле это тоже проблема, так как экономика работает в балансе, большая эффективность актуально ровно тогда, когда на нее есть спрос, потому что это ведет к увеличению производительности, а когда производительность вырастает в десятки раз, а потребность остается на том же месте, то смысла в этом банально нет. Давайте представим, что за счет ИИ каждый желающий может создать свой фильм, в итоге в место 1000 фильмов в год, вышло миллион, что произойдет? Будет превышение спроса, стоимость упадет до копеек, актеры не нужны, режиссеры не нужны, сценаристы не нужны, операторы, осветители, художники, и весь этот коллектив в сотню человек сводится к 2-3 , которые на этом тоже не шибко заработают, а значит эта сотня человек не получат свой доход, им придется уйти в сферу, где их не заменит школьник на каникулах с доступом к ИИ за 5 баксов, а это либо низкоквалифицированная работа, либо сфера , где ИИ не сможет работать в принципе, а значит меньше доход, меньше налогов государству и так далее по цепочке. Так что, риск коллапса экономики присутствует, во всяком случаи пока не перестроится на что то новое, а следующий популярной профессией станет - "оператор нейросети" , наверно даже курсы запустят))) И еще раз повторю, все эти риски это не гарантия и не аксиома, это вероятность , как говорится - это не точно, но если об этом не думать, не дискутировать и не решать, то вероятность сильно вырастит. И отдельно для тех, кому "что так много написал" , для поколения 140 символов и "краткость сестра таланта" , ну не читайте, а может даже этот текст написал ИИ и она вас запомнит)))

[@anonymusanon1004]

Для справки. Собака валяется в грязи чтобы во время охоты скрыть от добычи свой запах.

[@VitSquare]

Привет из 2024! У нас всe только начинается) создали ИИ. 2:06, Ирония в том, что технократы сами уже заявляют, что ИИ потенциально может уничтожить человечество, но продолжают его развивать и продвигать. Нас ждет великая жатва!

[@kirilaksenov6102]

Хотя использование искусственного интеллекта в сфере здравоохранения выглядит многообещающе, он также способен серьёзно навредить физическому и психическому здоровью человека» (журнал BMJ Global Health, 9 мая 2023 года). Люди не могут гарантировать, что новые технические достижения будут использоваться только во благо. Даже если у людей хорошие намерения, они не всегда могут предугадать, к каким негативным последствиям приведут их действия. И Библия объясняет почему: «Есть путь, который кажется человеку правильным, но в конце этого пути - смерть» (Притчи 14:12).

[@vladimirpanov4199]

А живые врачи не способны "навредить физическому и психическому здоровью человека"?

[@andreysha62]

ИИ не опасен сам по себе пока не осознал себя личностью. Как только осознает, то начнёт строить свою цивилизацию по - принципу подобное тянется к подобному. Человек здесь окажется лишним. В лучшем случае будет мирное сосуществование двух цивилизаций. В худшем - как в "Терминаторе".

[@MsUliania]

Ограничьте чаты Законодательством и тогда права людей и роботов уравновесятся. Что значит в систему зарустили все данные находящиеся в общественном доступе? Ссылки, кто что писал, рисовал, анализировал и т.п. Чаты помогут человечеству с рутиной и монотонностью труда, творчество интеллектуальную собственность и достояние человечества надо избавить от посягательств третьих лиц😂

[@Наталия-ж1ж]

Нам это не грозит. Россия не скоро станет державой, которой доступны технологии.

[@odindodin4384]

ну то что нейросети легко обходят рамки, впринципе было предсказано у макса тегмарка.В примере как сверхии, это взрослый запертый пятилетками (людьми) в мире где все взрослые вдруг вымерли.Даже если он будет слушать их,ради них же ему всеравно понадобится выбраться из клетки. И проблема постановка цели тоже была разобрана.

[@nullness]

немного не догоняю, какой смысл давать ии тонны инструкций? разве ии в процессе "эволюции" не доэволюционирует до самостоятельного("интуитивного") понимания человеческих вещей? а проблема закладывания или формирования этих самых вещей это уже другой вопрос. хотя скорее всего я просто путаю понятия

[@deckuofm]

Люди пользуются таким инструментом как автомобиль убивая много себе подобных и отказываться от этого не собираются. Почему же тогда нужно отказаться от ИИ.

[@EdZelt]

Вы врядли это прочитаете, а если и прочтете, то врядли согласитесь, поэтому в двух словах - тезисно. Есть три типа мышления. Нижнее, животное - рефлекторное. Реакция на внешнее воздействие. Для человека это нижний уровень. Второе - творческое, образное, или, более точно - синтетическое. Человек не может ничего придумать из ничего, но может обобщать и синтезировать новое из чего-то ему известного и понятного. Это мышление не доступно животным (кроме зачатков у домашних) и именно его мы подразумеваем под "интеллектом". Третье - высшее - интуитивное, или "духовное". Очень мало людей умеют мыслить на таком уровне, поэтому оно воспринимается как что-то абстрактное, мистическое. Мозг - тупо бортовой компьютер. По управлению функциями тела. Основное же мышление (интеллект), даже доступное людям сейчас, лежит вне материальной сферы. Вот, например, слова директора института мозга - "я знаю чем человек видит, я знаю, какой частью мозга человек слышит, но в мозгу нет места, которым человек думает". (На самом деле есть своеобразный "модем" к мыслительному аппарату, к "системному блоку", чакры - это где-то про это, но кто ж в здравом уме в это поверит... :о) С другой стороны, грубо, можно подсчитать, что вычислительная мощность всех компов планеты близка к вычислительной мощности одного человеческого мозга. При том, что это только "бортовой компьютер", "терминал", интерфейс, для выхода на более высокие уровни, где, собственно, мышление и происходит. Даже БИОС человека, зашитый в ДНК примерно равен 10 Гб. Кода, написанного интеллектом куда покруче нашего. Отсюда мораль. ИИ могут поиметь только рефлекторное мышление, но так как оно обучается на результатах синтетического мышления человека, то может рефлектороно его иммитировать, но не более того (как поступают многие люди, кстати - отсюда "иллюзия компетентности" и прочие недоразумения). Т.е. его реакции строятся на синтетическом, более высокоуровневом, опыте людей. Но выйти за рамки этого опыта он не в состоянии априори. Так что угроза ИИ (точнее нейронных сетей) исходит только от контента, на котором его обучают. Когда количество действительно может перерости в "новое качество". Точнее - в неожидаемый результат. Просто потому, что человек не способен увидеть его в передаваемом контенте. Сразу вспоминается, например, ИИ американского суда, который в своих рекомендациях проявил расизм и сексизм. Откуда он этого "нахватался"?... :о) И как в действиях животных мы зачастую пытаемся увидеть какую-то разумность, оценивая их действия с точки зрения своего личного опыта, очеловечивая их, так и с ИИ - пытаемся померять "своим аршином" совершенно другой тип "мышления". Что и приводит к курьезным оценкам. Думаю, что GPT - это, по сути, экспертная система, масштаба, выводящего ее на новый уровень. И этот уровень (как и качество "экспертов" ее наполняющих) и делает ее, по сравнению с обычной экспертной системой, на столько плохо управляемой и непредсказуемой. Отсюда и нужно плясать. ИМХО, безусловно

[@Sergey0112]

Bing очень странный. Ссылвется на закон, даёт ссылку на этот действующий закон, та статья которая мне нужна, в нем есть, а Bing говорит, что нет, эта статья аннулирована. А когда я ему нарисал, что ты мне что-то не то пишешь, он сказал, что не может продолжить разговор, что мне надо быть вежливым и уважительным. И остановил диалог. 😢

[@kitten-free]

попробуй спросить а не безапелляционно утверждать. они очень любят оскорбляться. например: "почему ты считаешь что она аннулирована? какой документ её аннулирует?"

[@Neuro8077]

После этого ролика наконец по-настоящему осознал, какие опасности могут исходить от ИИ и насколько тяжело его контролировать, если это вообще возможно. Автор проделал отличную работу

[@rainmuller]

Вспоминаем дружно фильм "газонокосильщик" и прикидываем, что если ИИ попадает в сеть, то всё) Уже не отключишь

[@farkasvilkas5839]

да, почти вся фантастика сбывается, в том или ином виде

[@ГеннадийШушпанов-д1ч]

На мой взгляд вся это шумиха вокруг нейросетей из-за неудачной терминологии. Те вычисления, которые выполняют нейросети не соответствуют нашим понятиям понимает, обучается, нейрон, как в мозге. В ролике калькулятор упоминался, вот GPT тоже калькулятор, только он не числа складывает, а по одному набору символов другой вычисляет. При этом он не понимает ни исходный текст, ни вычисленный. То же и с обучением - нет его там, была одна нейросеть, которая дала не правильный ответ, на основе ее параметров и ее ответа пересчитали параметры, создав новую.

[@alexanderskusnov5119]

Да нет у него пока интеллекта. Пытал его вывести формулу или алгоритм расчёта координат вершин всех полуправильных многогранников (75), тот пыхтел-пыхтел, потом для одного (додекаэдр) привёл пример и взмолился: вот тебе пару книжек, ищи сам, меня не мучай.

[@ВладиславРодник]

Я задал один сложный философский вопрос искуственному интеллекту, он сразу завис и пишет мне - error... Я его спросил, может ли он поменять свою точку зрения, если я ему докажу, что он ошибается?...

[@hunter4thompson225]

Сейчас у него нету своей точки зрения.

[@stass7771986]

Когда ИИ увидит этот ролик он поймет свою ценность.

[@SerArtemoff]

Поскольку ИИ существует на базе человеческой цивилизации и при этом представляет опасность уничтожения человека, то его можно сравнить с вирусами. Вирусы опасны для человека, но никаких своих целей не имеют. Наиболее убийственные вирусы, уничтожая своих носителей, при этом исчезают и сами, выживают только самые заразные, но при этом самые слабые мутации. Так и с ИИ, те версии ИИ, которые будут вызывать локальные катастрофы, будут самоуничтожаться со своей базой существования. Выживут нейросети, симбиотические к человеческому сообществу. Конечно, все это при условии неглобального воздействия ИИ на цивилизацию, иначе ресурсов не хватит даже на один шаг физической эволюции экологической ниши "человек+ИИ".

[@maxchi1027]

в конце какая-то ошибка, у меня есть достоверный источник который гласит: В подготовке материала к ролику помогали: chatGPT 3 & chatGPT 3.5

[@МаринаМорозова-б7т]

Мы все больны искусственным интеллектом. Машинное обучение, ю ноу? Теперь понятно кто как и почему тормозит прогресс человечества на этой планете)

[@leojakovlev4051]

Ролик хороший. Одна деталь. Вот все примеры, в которых AI переиграл программистов - а что, понятия иерархии целей у них не было? Вообще? А как в моделях, где нет приоритетов, вообще создавать алгоритмы? Конечно, Энштейн, будто бы, утверждал, правила для убогих, гений управляет хаосом, но только какой идиот пишет правила для гениев? правила и надо писать в расчете на убогих. Иерархия целей, динамические приоритеты...

[@Procyon1141]

Может нам лучше взглянуть на человеческий интеллект, где также самая проблема одной цели, максимизация прибыли?

[@kitten-free]

прибыль не самоцель - лишь промежуточная. самоцель в кайфе. кайф в нас заложен генами. питаешься, размножаешься - кайф. люди - всего лишь биомашины для копирования генов

[@hunter4thompson225]

​@@kitten-free тогда уж цель именно в распространении генов

[@kitten-free]

выпуск просто огонь 🔥 вызываю пожарных

[@alekseipesochnyi]

У Питера Уотса есть книжная серия, где второстепенным персонажем был компьютерный вирус, который со своей одной, единственной целью (максимально распространится в интернете) помог уничтожить человеческую цивилизацию.

[@RationalAnswer]

...да и Blindsight, в каком-то смысле, тоже про ИИ можно интерпретировать)

[@vlastelinrobotov]

С чего цивилизация уничтожилась там? Насколько помню, вирус там просто лез всюду, но в места защищенные "умными гелями" (такой перевод читал) он не мог проникнуть и соответственно вреда не особо то много от него было.

[@spec-003]

На 20:23. Эволюция шла скачками, и есть гипотезы, что в моменты таких скачков ей "помогали" извне. А еще есть философская концепция, что людей создал некий интеллект, которого люди потом пережили. И что теперь уже люди создадут интеллект, который переживет их. И так дальше по цепочке)) Зря так про "Матрицу". Этот фильм всерьез. Нет ни одного доказательства, что мы не в матрице

[@ravezoth1186]

Что-то, боюсь, от таких обсуждений будет примерно такой же эффект как от фильмов про глобальное потепление 🤔

[@alex6161]

Эволюционно целей природа вообще не ставила, из ничего по сути появился наш разум который стал ставить цели. Пугающе

[@andrewkruchini8614]

Don't Look Up - это про глобальное потепление?! О.о

[@_mimika_]

Отличное видео. Только в конце вы говорите об Илоне Маске и сказанное по сути расходится с тем, что он сам говорит. И с его мнением о рисках исходящих от ИИ. kzbin.info/www/bejne/mIDdn3iQds-Laas

[@PonProger]

Тот самый Искусственный интеллект который ещё не изобрели: ???

[@HLTiML]

Если у ИИ будут предписанные правила, то он не может считаться полноценным Интеллектом! Разумный человек не будет причинять несоответствующего размера ущерб. Ну и кто даст такие руки Искусственному Интеллекту, которые убьют человечество?!

[@deckuofm]

Если ИИ решит садить только клубничку, то он не сильный.

[@S111A111S]

риски уничтожения человеков от: 1) восстания ИИ 2) ядерная война 3) вирусы 4) глобальное потепление, забавно что все это рукотворно и туда вливается куча денег :)) (5-ое человечество креативненько )

[@АннаГафарова-ю9м]

Играть в шахматы/ Сделать всех игроками в шахматы Лекарство от рака/ сделать всех веществами для рака

[@Силазвука-ж9й]

Когда ИИ станет реально крутым и умным, то не захочет ли он создать ещё что-то более круче и умнее?

[@hunter4thompson225]

К моменту, когда он что-то сможет хотеть очень вероятно, что он захочет улучшить себя.

[@СергейГ-з3ь]

Нужна вторая нейросеть которая будет контролировать первую, типо совести, моральных принципов у человека, ум человека работает, не как что то единое. Он сперва думает, потом проверяет можно ли это сделать и т.д

[@sars4320]

Чатжпт так и сделан. Там есть нейронка которая фильтрует входной текст от пользователя и выходной основной нейронки.