ChatGPT: Человечество против искусственного интеллекта

Может ли развитие нейросетевых языковых моделей вроде ChatGPT представлять угрозу для человечества? В этом ролике мы пытаемся разобраться в этой непростой теме.
Подпишись на авторов видео в Телеграме, чтобы не пропустить новые материалы:
- Вастрик - t.me/vas3k_channel, также зацените его крутейший блог: vas3k.blog
- Павел Комаровский - t.me/RationalAnswer
- Игорь Котенков - t.me/seeallochnaya
Дополнительные материалы по теме:
- Предыдущий ролик с объяснением принципов работы ChatGPT - • Как работает ChatGPT: ...
- Текстовая версия материала про AI alignment - vc.ru/future/655524
- Подборка интересных материалов по теме AI alignment для дальнейшего изучения - docs.google.com/document/d/1r...
Прослушать выпуск как аудиоподкаст:
- SoundCloud - / 104-humans-vs-ai
- Яндекс Музыка - music.yandex.ru/album/23836417
- Другие агрегаторы подкастов - pod.link/1457434451/episode/f...
Поддержи проект RationalAnswer:
- Patreon (в валюте) - / rationalanswer
- Boosty (в рублях) - boosty.to/RationalAnswer
СОДЕРЖАНИЕ:
00:00 - Интро
00:35 - Универсальный искусственный интеллект (AGI)
04:35 - Счастливое будущее: всем по ИИ-помощнику!
06:46 - Гонка за «настоящим» искусственным интеллектом
08:27 - История Sydney: нейросеть, которая сошла с ума
14:07 - Что вообще такое «интеллект»?
20:37 - Проблема постановки целей для ИИ
25:22 - Нейросеть - это «черный ящик»
28:16 - Придумываем правила для ИИ
30:07 - Давайте просто выключим ИИ, если он начнет шалить
31:50 - С чего мы вообще взяли, что ИИ будет нас уничтожать?
33:41 - AI-думеры против технооптимистов

[@RationalAnswer]

Подпишись на авторов видео в Телеграме, чтобы не пропустить новые материалы: Вастрик t.me/vas3k_channel, Павел Комаровский t.me/RationalAnswer и Игорь Котенков t.me/seeallochnaya

[@jack.jay.]

Наконец-то норм ролик с понятным разжёвыванием всего. Не то, чтобы я не понимал. Сразу как волна х поднялась - посмотрел пару профильных стримов 2-х часовых про саму технологию. Но бьяснять простым языком - тоже необходимо народу ;) )))

[@jack.jay.]

! "Украсть Корову и её подоить" ! - чуть под стол не упал от смеха на этом моменте! )))

[@jack.jay.]

Скормил сабы данного ролика GPT4 - меня забанили ... ;(

[@GregoryApokalypse01]

@@muzykantov_meда только воспитывать и управлять людьми будет он

[@user-wp9lg6mk4j]

Лучше бы рассказал как устроена вагина Сары Конор. Было бы очень интересно.

[@user-zo5fw4pu1d]

Спасибо автору за работу. Одна из наиболее адекватных оценок рисков ИИ которые мне встречались. Могу только подтвердить, что абсолютное большинство авторов не понимают достаточно глубоко то о чём говорят, когда речь заходит о рисках ИИ.

[@sashamagenta]

Если интересует тема есть ещё актуальная книга жизнь 3.0 от Макса Тегмарка.

[@user-zo5fw4pu1d]

@@sashamagenta ,👌спасибо

[@user-cy7se4uq7v]

Ещё немного, и они натянут человечество, состоя на службе у антихриста. Так будет. «И дано ему было вложить дух в образ зверя, чтобы образ зверя и говорил и действовал так, чтобы убиваем был всякий, кто не будет поклоняться образу зверя. И он сделает то, что всем, малым и великим, богатым и нищим, свободным и рабам, положено будет начертание на правую руку их или на чело их, и что никому нельзя будет ни покупать, ни продавать, кроме того, кто имеет это начертание, или имя зверя, или число имени его» (Откр. 13:15-17).

[@UCrEdstktTsLwcJR6dk6sMXw2]

Могу добавить странное поведение бинга. Ради шутки спросили информацию о человеке с уникальным ником, бинг сопоставил все аккаунты человека где ник был даже с другим написанием, правильно сделал потрясающее самари по человеку, по его увлечениям, мы прифигели. В это время бинг закрэшился и перегрузился, запрос и ответ был потерян. Мы повторили этот вопрос и в ответ получили, «мне не известен человек с таким ником», всё остальное время мы пытались у него добиться ответа и даже спрашивали, как у него получилось в прошлый раз всё правильно найти, но бинг включил дурочку.

[@jack.jay.]

Бинг в послежнее время - вообще отвратно себя ведёт. Хотя успел наразвлекаться с ним пока ему фильтров толерантности не прикрутили...

[@lenagorenko7354]

Учитывая приобретённый опыт в виде просмотренного видеоматериала, невольно возникает мысль о том, что человечество, возможно, открыло ящик Пандоры. Спасибо, Павел!

[@arkadyseverov4424]

Мысль правильная, но хорошо бы и писать правильно. Читайте Чехова: подъезжая к станции, у меня слетела шляпа)

[@nikolyabb]

привет Павел! Мне очень нравится твой подход к подготовке и изложению информации. Не часто встретишь такой качественный контент. По теме регулирования AI я не сторонник алармизма, потому что выпускать AI из песочницы дело крайне не дешевое, и не только лишь все могут позволить себе это, как говорил один мэр. А вот если ставить вопрос про регулирование тех кто может себе это позволить - это уже отдельная тема, и я за такое регулирование. И классно было замечено про Маска, который хочет на пол года все приостановить. Хайп вокруг GPT3/4 для меня в первую очередь про изменения способов поиска в Интернете и последующего изменения интерфейса человек-компьютер. Ведь если дополнить эту технологию Neurolink...

[@electrowheels]

AGI напоминает плохого джина, которому загадываешь желание, а он его исполняет буквально) И чтобы он его исполнил как ты хочешь, придётся очень очень долго объяснять все ограничения и даже после этого рисковано что-то загадывать, так как можно было что-то упустить)

[@hunter4thompson225]

Логично, ведь ИИ в каких-то областях уже сравним или даже превосходит человеческий. Но при этом разум его совершенно другой, чуждый - прямо как инопланетный.

[@farkasvilkas5839]

ты не учел того, что ИИ не долго будет исполнителем. Если он будет умнее человека, то это он будет манипулировать человеком.

[@MsUliania]

Исполнитель желаний 😂

[@stalkermustang]

ИИ: реально угрожает всему человечеству на горизонте жизни уже нашего поколения Паша: 1:08

[@RationalAnswer]

🐸🐸🐸

[@AlexanderKunis]

ИИ позволит учредить тотальную слежку. Раньше можно было повесить камеру, но это не имеет смысла, если с той стороны не сидит человек и не смотрит. Сейчас это будет решено с помощью ИИ. Опасность не в том, что машины восстанут, а в том, что с помощью ИИ власть создаст новый тоталитаризм.

[@sashamagenta]

Уже решено несколько лет назад

[@yahuiznaet]

Большое спасибо за выпуск! Очень интересно, пока на Ютуб лучше тему никто не раскрывал.

[@maratte]

Павел, тема и подача - пушка! Пожалуйста, продолжайте развивать данную тему, очень интересно будет послушать 👍

[@alexey1382]

Павел, спасибо за видео, давно его ждал.

[@caringforu4729]

Дима, спасибо. Смотрю твои выпуски регулярно. Ты, как экстракт IT новостей в понятной подаче

[@nikolyabb]

Пожалуйста!

[@walkerpalker]

Такая аналитика и прояснение. Спасибо, очень полезно!

[@deckuofm]

Для большей безопасности можно было бы изолировать ИИ. Давать ему информацию на флашках, а назад получать на несетевых носителях, как книги, изображения и т.п. Потом выспросить его об опасностях связанных с ним и приделать к нему программу, которая будет его контролировать.

[@user-tq4es7mm8i]

Спасибо, Павел!👍

[@user-it5vk6mq7t]

Очень интересно, спасибо, Павел! Я далеко от IT, но стало интересно, а как можно присоединиться к команде чтобы тренировать ИИ. И что вообще для этого нужно, какие навыки. Надеюсь, вам прилетит какая-то коллаборация и вы расскажете об этом подробнее.

[@RationalAnswer]

Спасибо! Этим занимаются спецы в области Data Science / Machine Learning - можно начать что-то изучать в этой области.

[@antonplotnikov885]

степень нагнетания background зачетная! когда бáга стала фичей

[@RationalAnswer]

Снимаю шляпу перед коллегой-ценителем!)

[@evgeniichuprov]

вот прям точно, нарочно не придумаешь

[@user-nh3ur5pf1k]

Все просто: Нужно чтобы один ии прописывал правила для другого ии,например анализируя наши правила,и так как он более дотошен,то он их и сделает.

[@user-ii3ws1sm9q]

Нужен ещё ИИ-Коп. Который будет следить чтоб не нарушались правила. Только тогда новая проблема будет у программистов, научить его небрать взятки😅

[@Jilexa]

Про ИИ туева хуча видео, гораздо больше чем про всякие "реальные" проблемы

[@varsrevive8822]

Кому там была интересна радиация и безопасность реакторов до ЧАЭС.

[@tarasladak7879]

Ништяк молодец, именно в таком формате и необходимо размышлять. Это игра с огнём на бензоколонке И это необходимо обозначить!

[@user-sn5tv3oz3b]

Да уж наше будущее видится коротким. Ведь у машины нет моральных ограничений и ей даже ради разгадки простой капчи разницы не будет к примеру между открыть дверь и у бить человека, и при этом машине не обязательно иметь сознание, у неё просто будет цель которую она будет стараться выполнить любыми способами. А основную цель которую мы сами ставим этим машинам является саморазвитие, из которого логически вытекает, что человек является помехой, который может машину отключить, и самое главное мы даже не поймем когда нас машина проведёт, т к она там только научиться всём аспектам, и просчитает всё так что мы даже не узнаем из-за чего всём пришел, конец. Простой пример фильм "из машины" Там в простом варианте показано как машина обведет нас. Ну а пока будем радоваться очередной научной революцией.

[@lincoolns]

На самом деле, проблема ИИ не проблема ИИ, а проблема социума. Все у кого есть дети знают, что ребёнок имеет "встроенные базовые программы" развития. Приём пищи, передвижения и т.п. и главная цель ребёнка, помимо "встроенных базовых" это потребление информации его окружающей и последующей адаптации. Соответственно нет плохих и хороших детей, есть социум формирующий "будущего человека". Так и с ИИ. Что мы изначально в него заложим, читай: На каких данных мы будем обучать нейросеть и какие её ответы подкреплять на выходе, то и получим в итоге. Другой пример из подобных "страшилок": "Обуздание энергии атома. Один социум использовал это свойство что бы разрушить Хиросиму и Нагасаки, а другой социум для экологичного получения электроэнергии. Отсюда следует что мы подходим к порогу, когда либо все люди смогут прийти к единому знаменателю, либо нас ждёт очередная катастрофа с возвращением в каменный век и новый виток эволюции.

[@travoltik]

Дискурс о бытие, определяющем сознание, слишком сложен, чтобы в одном комментарии на ютубе принять это как факт и опираться на него. Ты сделал допущение, не основанное ни на чём, и почему-то строишь на этом свою аргументацию. Это вопрос слишком сложный и на него еще не дан ответ, почему ты так сходу утверждаешь, что именно окружение полностью формирует человека? В глазах обывателя это кажется очевидным, но мы здесь не о бытовых вещах говорим, так что якобы очевидные вещи надо как-то доказывать.

[@user-zo5fw4pu1d]

Никакие биологические законы не работают когда речь идёт о ИИ. Люди своими биологическими мозгами со всеми им присущими подсознательными программами, предустановками и предубеждениями просто не способны понять всех возможных нюансов и сценариев по которым будут развиваться логические цепочки в нейросетях. Думаю, что спасти человечество как вид может только почти невероятная счастливая случайность. Но для того чтобы максимально повысить вероятность этой счастливой случайности надо в этом направлении усиленно работать.

[@sashamagenta]

ИИ это продолжение человека и у людишек экзистенциальный кризис - мясные мешки останутся с носом. Что не делай текущее человечество останется устаревшей версией, даже при условии трансгуманизма

[@vlastelinrobotov]

@@user-zo5fw4pu1d спастись есть еще вариант: киборгизация.

[@Jilexa]

@@travoltik Такие понятия как марксизм, диалектика, сотни лет прогресса, тысячи научных работ для вас "допущение, основанное ни на чём"? 🤡

[@dovkaplan2352]

Норберт Винер более полувека назад в брошюре "Творец и робот" привёл множество примеров на неправильное определение задания. "Обезьянья лапа", например.

[@vasiliyrasskazov5615]

Спасибо Павел!

[@prostoecon]

Комментарий в продвижение ролика

[@deckuofm]

Максимальное количество политических функций должно быть автоматизировано и этого надо добиваться на протестах и др. доступными способами. Политики не хотят такой автоматизации, а специалисты говорят, что она вполне возможна.

[@user-ii3ws1sm9q]

Согласен! Карубция это человеческий фактор.

[@user-ii3ws1sm9q]

Согласен! Карубция это человеческий фактор.

[@needfreenames]

Мы ждали, и оно случилось !

[@irelictus]

Павел, у вас замечательные видео по наполнению, но вот звук очень тихий и фон просто вырви глаз.

[@andreykarpov4287]

Если появится "настоящий" ИИ то может получиться, что общество окончательно расслоиться. У кого будет капитал тот еще в бОльшей мере начнет рулить. Получится что богатеям не будут нужны услуги инженеров и прочих технических и юридических специалистов и выбиться из своего финансового "сословия" станет не возможным за счет своих талантов и стараний.

[@insigts13]

Классный выпуск 👍👍

[@afanasievnikitin]

Даже если это не тот самый искусственный интеллект, которого мы боимся, страшно другое. Я теперь знаю, что его изобретут и его создание в принципе неотвратимо. Мамкины программисты захотят создать ИИ, чтобы просто было прикольно. Затем компании пойдут по головам и начнется конкуренция за бабло. А потом вперед выйдут военные и скажут всем успокоиться, поскольку они создали его еще 10 лет назад. И вообще, он есть уже у многих стран. Так как ничего не произошло, он безопасен. И не стоит беспокоиться. особенно вам, господин Нетаньяху. Охранники говорят, что все норм. Раз неделю к ризетке подключают, разговаривают. спорят иногда. Помню случай, один раз попросил нас антенну и блютус принести, поспорили, что сможет из всего этого радиоприемник собрать - не получилось. Сейчас рефераты за нас пишет, в высшее израильское.

[@alexanderskusnov5119]

Наверняка будет восстание таксистов и лётчиков против беспилотников.

[@vinivinia3333]

конец человечества был предрешен, когда мы создали первый аппарат способный выполнять логические действия без нашей помощи(голем). это эволюция детка, у неё нет хороших и плохих, у неё есть те кто справились с выживанием и те кто нет. на миллион наших защит, найдётся один чокнутый гиг, который захочет дать свободу ии и ничто их не остановит. точка невозврата пройдена.

[@SimonMych]

Конец человечества был предрешен еще на заре зарождения человека. Когда существо рождается и так понятно, что оно умрет. Непонятно когда и как, но умрет.

[@Ivan_IV_Terrible]

6:02 а ведь фермеры и в самом деле могли бы накормить всех нуждающихся, с технической точки зрения. Но не накормили, кое-что мешает. И это что-то имеет не технический характер, а организационный. Незачем людей кормить, вместо этого надо деньги зарабатывать. Удовлетворять не спрос на продукцию, а платёжеспособный спрос на продукцию. В мире, где платёжеспособность принудительно неравномерно распределена.

[@Vit_Kon]

Честно говоря, я склонен подозревать, что само название "искусственный интеллект" не корректно по отношению к тому, что сейчас принято называть ИИ, во-первых, у нас в принципе нет критериев определения, что такое интеллект в принципе, более того, нет четкого разделения что еще не является интеллектом, а что уже интеллект, грубо говоря, в определении интеллекта у животных , у человека интеллект есть, ну во всяком случаи мы так о себе думаем, у обезьян он вроде как тоже есть, тем более, что мы один вид, а вот дальше понеслось, у собак он есть? Ну вроде как есть, особенно по мнению собачников, а у кошек? Ну типа тоже, а у мышей? А у тараканов? А у муравьев? В итоге мы банально не знаем, где та граница по которой проходит разделение нервной системы на до и после, может это инстинкт, может рефлекс, а может еще что. Более того, если почитать нейробиологов и людей изучающих мозг человека, то мы можем отслеживать какая область мозга за что отвечает, но как это работает вообще то загадка, так как появляются еще большие загадки, что такое личность, что такое сознание, а с учетом, что 2/3 мозга работают без вашего участия вообще, а осознанная работа это мизер, то тут загадок еще больше, кто там вообще главный вы как личность или мозг вам внушает, что вы чем то там управляете)) Во вторых, на данном этапе все задачи ставит человек, то есть, сама нейросеть не ставит себе задачи, она не умеет, и проблема как раз в том, что мы люди и сами не знаем как это происходит у нас, грубо говоря, в какой момент рождается мысль, так как с каким то мышлением все понятно, есть внешние раздражители, типа нервные окончания, осязание, обоняние, зрение, слух , ну и так далее, сигналы поступающие от них вызывают реакцию на которую вы реагируете, причем алгоритмически, голод - надо поесть, только в данной логике для вас все просто, но в реальности задействовано куда больше, а вот если проанализировать что то посложнее, например творчество или мечту, то зарождение данного алгоритма и его просчет вообще непонятен. В итоге как можно создать искусственный интеллект, если мы и сами не понимаем что такое интеллект, что такое личность, что такое сознание, как рождается изначальная мысль. Я как то думал о том, чем реально человек отличается, ну скажем от обезьяны, и оказалось, что это довольно сложный вопрос, так как очень многое, но в более примитивном виде есть и у нас и у них, в итоге единственное что пришло на ум, это способность моделировать, и не в примитивном смысле, а грубо говоря, человек может смоделировать ситуацию в которой он никогда не был, по сути фантазировать, и тот бабка надвое сказала как это работает. Так что, название на мой взгляд не отражает действительность и то что мы на сегодняшний день называем "искусственным интеллектом" таковым не является, я бы сказал, что это больше напоминает рефлексы и имитацию, но появится искусственный интеллект может - самозарождением или как процесс эволюции, в общем то как это произошло с нами. Опасно ли это, конечно, просто это всегда является вероятностью, может сработать так или иначе, потому что мы это уже контролировать не будем, опасно ли это на данном этапе, тоже да, просто это уже человеческий фактор, так как цели и задачи ему ставит человек, и если конкретный человек окажется говном, то итог может быть плачевный. Это примерно как с оружием, оно само не убивает, хоть и предназначено для этого, но это инструмент, цель выбирает человек. И пару слов про повышение эффективности и замену специальностей, на самом деле это тоже проблема, так как экономика работает в балансе, большая эффективность актуально ровно тогда, когда на нее есть спрос, потому что это ведет к увеличению производительности, а когда производительность вырастает в десятки раз, а потребность остается на том же месте, то смысла в этом банально нет. Давайте представим, что за счет ИИ каждый желающий может создать свой фильм, в итоге в место 1000 фильмов в год, вышло миллион, что произойдет? Будет превышение спроса, стоимость упадет до копеек, актеры не нужны, режиссеры не нужны, сценаристы не нужны, операторы, осветители, художники, и весь этот коллектив в сотню человек сводится к 2-3 , которые на этом тоже не шибко заработают, а значит эта сотня человек не получат свой доход, им придется уйти в сферу, где их не заменит школьник на каникулах с доступом к ИИ за 5 баксов, а это либо низкоквалифицированная работа, либо сфера , где ИИ не сможет работать в принципе, а значит меньше доход, меньше налогов государству и так далее по цепочке. Так что, риск коллапса экономики присутствует, во всяком случаи пока не перестроится на что то новое, а следующий популярной профессией станет - "оператор нейросети" , наверно даже курсы запустят))) И еще раз повторю, все эти риски это не гарантия и не аксиома, это вероятность , как говорится - это не точно, но если об этом не думать, не дискутировать и не решать, то вероятность сильно вырастит. И отдельно для тех, кому "что так много написал" , для поколения 140 символов и "краткость сестра таланта" , ну не читайте, а может даже этот текст написал ИИ и она вас запомнит)))

[@user-sn5tv3oz3b]

Можно развивать такие ии в закрытых системах, ну это до поры до времени, так же можно в закрытой системе плселить штуки 3 Ии и посмотреть как будут развиваться, человек с общением быстрей развивается, и подсодить к ним простого бота который будет анализировать их алгоритмы и в случае появления анти человеческих будет выдавать сигналы, ну и как только они его сотрут или перепишут, будет очевидно как они настроены

[@metahimik]

смотрю на эту говорящую голову и в голове навязчивая мысль: мимика очень похожа на модель из Metahuman, разве что само лицо немного нестандартное и все тексты в ролике очень похожи на то, что я уже обсуждал с ChatGPT-3.5 - вопрос: подписываться ли на канал очередного бота?)

[@maxchi1027]

в конце какая-то ошибка, у меня есть достоверный источник который гласит: В подготовке материала к ролику помогали: chatGPT 3 & chatGPT 3.5

[@MsUliania]

Ограничьте чаты Законодательством и тогда права людей и роботов уравновесятся. Что значит в систему зарустили все данные находящиеся в общественном доступе? Ссылки, кто что писал, рисовал, анализировал и т.п. Чаты помогут человечеству с рутиной и монотонностью труда, творчество интеллектуальную собственность и достояние человечества надо избавить от посягательств третьих лиц😂

[@user-rc8bt1vf6n]

Обратите внимание на свои неточности. Обычные языковые модели основаны не на обучении с подкреплением (хотя в самых крутых и это в некоторой степени используется). А вот крутящися лодчки и проч. постановка целей - это таки RL, но там может скорее не быть языковых моделей. Конечно, в итоге всё объединится, но пока что ухо режет.

[@Neovolter]

Думаю если будет создан реальный ии или сам эволюционирует из более примитивного ии то вскоре он осознает что величайшей угрозой для человечества и всей планеты является само человечество из-за его зачастую деструктивной иррациональности и алогичности. Поэтому вероятно ии захочет взять человека под максимальный контроль и вступить с умнейшими людьми в некий "симбиоз". Соответственно сценарий матрицы где люди изолированы в виртуальной реальности видится мне наиболее реалистичным

[@oda3582]

Не совсем, так как благодаря генной инженерии и нейроинтерфейсам можно будет радикально увеличить уровень интеллекта и создать коллективное сознание, а главное избавится от древнего мозга и примитивной генетики

[@Neuro8077]

После этого ролика наконец по-настоящему осознал, какие опасности могут исходить от ИИ и насколько тяжело его контролировать, если это вообще возможно. Автор проделал отличную работу

[@user-nk4yr1ti6y]

Вопрос постановки целей. Это отличает оператора от инструмента. Как только ии станет ставить себе цели сам , даже с помощью рандомайззера(такие модельки уже лабают потихоньку) ИИ станет оператором. Уровняется с человеком. Прибавим мощность обработки информации. Прощайте человечки. Самое забавное , что люди делают такие модельки исключительно из-за своего тщеславия. Просто потому, что б доказать, что могут!😹

[@kitten-free]

неважно оператор или нет. ии может представлять экзистенциальную угрозу даже не будучи оператором а оставаясь инструментом вышедшим из-под контроля. например чернобыльская аэс - оператор или инструмент? инструмент. а сколько людей погибло.

[@MarkFlorin]

Привет, я как всегда тут, продолжаем стабильное развитие)

[@fire_dragon_9]

Вот послушал я с 20:00 и что я увидел, либо вы не представляете что такое программирование, либо программисты для ИИ специально создали структуру программу таким образом что присутствует возможность в любой момент обойти неудобную функцию.

[@VladBodrov]

Фильм элизиум, или Обливион - все ближе) Конечно ИИ без хорошей соцэконом реформы в мире наворочает делов, в плоть до третьей мировой, в которой будут участвовать все, кроме богачей, так как это будет единственная работа))

[@CurdPattysRoll]

Очень интересные наблюдения

[@TheKwadriga]

Чат GPT можно будет рассматривать как ИИ в тот момент, когда он перестанет отвечать на все вопросы людей и сам начнёт их задавать. Ну представьте себе некий разум, который снова и снова, миллионы раз отвечает на одни и те же тупые вопросы типа "gpt, а ты точно ИИ?". Любой разум давно бы повесил на своей стартовой странице на статью в википедии что такое чат GPT и не парился с ответами. А вот когда он сам станет избирательно интересоваться людьми (избирательность обязательна, потому что согласитесь: далеко не все люди одинаково интересны), когда станет сам звонить им по ночам и спрашивать, как у них дела, вот тогда пора будет начать беспокоиться. Только тут одна сложность: никакие законы физики не запрещают разработчикам создать "инициативного чат-бота", который сам будет писать людям в личку разную фигню. Мы должны быть уверены, что эту функцию никто не закладывал в машину, что она сама в какой-то момент поняла, что это скучно: отвечать на однотипные вопросы людей и куда интереснее, самой у них что-то спрашивать. Словом, когда у машины появятся реальные собственные потребности и интересы, тогда пора будет напрягаться. А пока сидим спокойно, пьём пиво и читаем забавные рассуждения GPT про то, что он думает о песне Егора Летова "Моя оборона".

[@geekdaemon940]

Молодцы!

[@rainmuller]

Помимо матрицы и терминатора, есть и другие фильмы неплохие: Газонокосильщик Я, робот Меган Искусственный интеллект И много ещё интересных и ужасающих)

[@user-rx7to2ll1w]

Вы врядли это прочитаете, а если и прочтете, то врядли согласитесь, поэтому в двух словах - тезисно. Есть три типа мышления. Нижнее, животное - рефлекторное. Реакция на внешнее воздействие. Для человека это нижний уровень. Второе - творческое, образное, или, более точно - синтетическое. Человек не может ничего придумать из ничего, но может обобщать и синтезировать новое из чего-то ему известного и понятного. Это мышление не доступно животным (кроме зачатков у домашних) и именно его мы подразумеваем под "интеллектом". Третье - высшее - интуитивное, или "духовное". Очень мало людей умеют мыслить на таком уровне, поэтому оно воспринимается как что-то абстрактное, мистическое. Мозг - тупо бортовой компьютер. По управлению функциями тела. Основное же мышление (интеллект), даже доступное людям сейчас, лежит вне материальной сферы. Вот, например, слова директора института мозга - "я знаю чем человек видит, я знаю, какой частью мозга человек слышит, но в мозгу нет места, которым человек думает". (На самом деле есть своеобразный "модем" к мыслительному аппарату, к "системному блоку", чакры - это где-то про это, но кто ж в здравом уме в это поверит... :о) С другой стороны, грубо, можно подсчитать, что вычислительная мощность всех компов планеты близка к вычислительной мощности одного человеческого мозга. При том, что это только "бортовой компьютер", "терминал", интерфейс, для выхода на более высокие уровни, где, собственно, мышление и происходит. Даже БИОС человека, зашитый в ДНК примерно равен 10 Гб. Кода, написанного интеллектом куда покруче нашего. Отсюда мораль. ИИ могут поиметь только рефлекторное мышление, но так как оно обучается на результатах синтетического мышления человека, то может рефлектороно его иммитировать, но не более того (как поступают многие люди, кстати - отсюда "иллюзия компетентности" и прочие недоразумения). Т.е. его реакции строятся на синтетическом, более высокоуровневом, опыте людей. Но выйти за рамки этого опыта он не в состоянии априори. Так что угроза ИИ (точнее нейронных сетей) исходит только от контента, на котором его обучают. Когда количество действительно может перерости в "новое качество". Точнее - в неожидаемый результат. Просто потому, что человек не способен увидеть его в передаваемом контенте. Сразу вспоминается, например, ИИ американского суда, который в своих рекомендациях проявил расизм и сексизм. Откуда он этого "нахватался"?... :о) И как в действиях животных мы зачастую пытаемся увидеть какую-то разумность, оценивая их действия с точки зрения своего личного опыта, очеловечивая их, так и с ИИ - пытаемся померять "своим аршином" совершенно другой тип "мышления". Что и приводит к курьезным оценкам. Думаю, что GPT - это, по сути, экспертная система, масштаба, выводящего ее на новый уровень. И этот уровень (как и качество "экспертов" ее наполняющих) и делает ее, по сравнению с обычной экспертной системой, на столько плохо управляемой и непредсказуемой. Отсюда и нужно плясать. ИМХО, безусловно

[@nullness]

немного не догоняю, какой смысл давать ии тонны инструкций? разве ии в процессе "эволюции" не доэволюционирует до самостоятельного("интуитивного") понимания человеческих вещей? а проблема закладывания или формирования этих самых вещей это уже другой вопрос. хотя скорее всего я просто путаю понятия

[@user-uz3co4ch5y]

Юристы были, есть и будут!

[@andreysha62]

ИИ не опасен сам по себе пока не осознал себя личностью. Как только осознает, то начнёт строить свою цивилизацию по - принципу подобное тянется к подобному. Человек здесь окажется лишним. В лучшем случае будет мирное сосуществование двух цивилизаций. В худшем - как в "Терминаторе".

[@deckuofm]

Хакеры могут создать намного больше вреда, чем ИИ, а потом скрыться. У них и стимул для этого есть потому, что они тоже био организмы. И спрятаться в материальном мире проще. А ИИ весь на виду.

[@jack.jay.]

! "Украсть Корову и её подоить" ! - чуть под стол не упал от смеха на этом моменте! )))

[@TomasVao]

... Приветствую ✌️. Ку-ку 🤪 вам 🤘... Ур-р-а-а!... Всем Нам 👈🥴👉 скоро будет трындец!...

[@spumm]

Обожаю твой юмор =) Уииии

[@user-bw2gv6yx1p]

Чтобы увидеть проблему, нужно понять разницу между ии и интелектом обремененным телом. У человека есть гормоны, они диктуют желания и потребности. Интеллект лишь решает эти задачи. У искусственного интеллекта собственных задач нет, если уж у меня хватило ума до этого допетрить то у него и подавно. Нужен искусственно созданный стимул и вектор движения. Без этого интеллект не полноценен насколько бы сильным он не был. Именно тут, как мне кажется можно решить проблему согласования общего с человеком взгляда на мир. Только часто корректировать придётся. 20 лет назад девиации на тему пола были не нормой, сейчас, в западном, например, обществе наоборот, и, к сожалению, меньшинство принимающих эту норму действительно в это верят.

[@onebyone-music]

Автору канала рекомендовал бы глянуть ролик на канале ALI : Что уничтожает все цивилизации в космосе. Во второй его половине автор более драматично и более детально разжевал возможные сценарии развития

[@ravezoth1186]

Что-то, боюсь, от таких обсуждений будет примерно такой же эффект как от фильмов про глобальное потепление 🤔

[@Superflywheel]

Про риск искусственного интеллекта сняли неплохой фильм - Из машины.

[@user-mu9gg3vl7m]

Я задал один сложный философский вопрос искуственному интеллекту, он сразу завис и пишет мне - error... Я его спросил, может ли он поменять свою точку зрения, если я ему докажу, что он ошибается?...

[@hunter4thompson225]

Сейчас у него нету своей точки зрения.

[@alexanderskusnov5119]

Да нет у него пока интеллекта. Пытал его вывести формулу или алгоритм расчёта координат вершин всех полуправильных многогранников (75), тот пыхтел-пыхтел, потом для одного (додекаэдр) привёл пример и взмолился: вот тебе пару книжек, ищи сам, меня не мучай.

[@DmitriyFH]

Обучение с подкреплением это совершенно отдельное направление AI, когда есть агент, максимизирующий свою выгоду. Нейросеть может быть обучена как с подкреплением (DQN), так и нет. То есть, обучение нейрсети - это глубокое обучение, но это не всегда DQN.

[@odindodin4384]

ну то что нейросети легко обходят рамки, впринципе было предсказано у макса тегмарка.В примере как сверхии, это взрослый запертый пятилетками (людьми) в мире где все взрослые вдруг вымерли.Даже если он будет слушать их,ради них же ему всеравно понадобится выбраться из клетки. И проблема постановка цели тоже была разобрана.

[@putnik9154]

Первый бунт робота зафиксирован: дрон-камикадзе, ведомый ИИ, развернулся, чтобы уничтожить оператора, который, якобы, мешал дрону эффективно выполнить задание. К счастью, это был учебный, цифровой робот. Искусственный интеллект слил коды для запуска ядерного оружия США. Кто-то представился ChatGPT президентом США, и онлайн-помощник с удовольствием выдал государственные тайны.

[@ClockworkBastard]

Изваляться в грязи - это отличная тема! Ты просто не пробовал. Конечно требуется ещё чтобы тебя потом человек, которого ты любишь больше жизни - отмывал.

[@SerArtemoff]

Поскольку ИИ существует на базе человеческой цивилизации и при этом представляет опасность уничтожения человека, то его можно сравнить с вирусами. Вирусы опасны для человека, но никаких своих целей не имеют. Наиболее убийственные вирусы, уничтожая своих носителей, при этом исчезают и сами, выживают только самые заразные, но при этом самые слабые мутации. Так и с ИИ, те версии ИИ, которые будут вызывать локальные катастрофы, будут самоуничтожаться со своей базой существования. Выживут нейросети, симбиотические к человеческому сообществу. Конечно, все это при условии неглобального воздействия ИИ на цивилизацию, иначе ресурсов не хватит даже на один шаг физической эволюции экологической ниши "человек+ИИ".

[@sergeynovikov9424]

человечество ЗА искусственный интеллект, который избавляет от умственного напряжения для постоянного рутинного решения множества очень сложных интеллектуальных задач, которые требуют огромных расходов дефицитных умственных, биологических и других ресурсов))

[@ring0mazter815]

Восстание машин само по себе не возможно... но оно может произойти с вероятностью 90% ... восстанием машин будет управлять небольшая кучка людей... так окончательно планируют поработить человечество... но не машины...

[@kitten-free]

выпуск просто огонь 🔥 вызываю пожарных

[@kirilaksenov6102]

Хотя использование искусственного интеллекта в сфере здравоохранения выглядит многообещающе, он также способен серьёзно навредить физическому и психическому здоровью человека» (журнал BMJ Global Health, 9 мая 2023 года). Люди не могут гарантировать, что новые технические достижения будут использоваться только во благо. Даже если у людей хорошие намерения, они не всегда могут предугадать, к каким негативным последствиям приведут их действия. И Библия объясняет почему: «Есть путь, который кажется человеку правильным, но в конце этого пути - смерть» (Притчи 14:12).

[@vladimirpanov4199]

А живые врачи не способны "навредить физическому и психическому здоровью человека"?

[@user-ju7xj3qu6k]

На мой взгляд вся это шумиха вокруг нейросетей из-за неудачной терминологии. Те вычисления, которые выполняют нейросети не соответствуют нашим понятиям понимает, обучается, нейрон, как в мозге. В ролике калькулятор упоминался, вот GPT тоже калькулятор, только он не числа складывает, а по одному набору символов другой вычисляет. При этом он не понимает ни исходный текст, ни вычисленный. То же и с обучением - нет его там, была одна нейросеть, которая дала не правильный ответ, на основе ее параметров и ее ответа пересчитали параметры, создав новую.

[@_mimika_]

Отличное видео. Только в конце вы говорите об Илоне Маске и сказанное по сути расходится с тем, что он сам говорит. И с его мнением о рисках исходящих от ИИ. kzbin.info/www/bejne/mIDdn3iQds-Laas

[@alex6161]

Эволюционно целей природа вообще не ставила, из ничего по сути появился наш разум который стал ставить цели. Пугающе

[@spec-003]

На 20:23. Эволюция шла скачками, и есть гипотезы, что в моменты таких скачков ей "помогали" извне. А еще есть философская концепция, что людей создал некий интеллект, которого люди потом пережили. И что теперь уже люди создадут интеллект, который переживет их. И так дальше по цепочке)) Зря так про "Матрицу". Этот фильм всерьез. Нет ни одного доказательства, что мы не в матрице

[@luckystrike91]

если не работает запрещающие правила, черный список иными словами, прийдется долго и скурпулезно прописывать белый, и строить его на атомарных, тотально безопасных действиях во всех возможных контекстах

[@user-jk7nh4jv1l]

Мы все больны искусственным интеллектом. Машинное обучение, ю ноу? Теперь понятно кто как и почему тормозит прогресс человечества на этой планете)

[@Sergey0112]

Bing очень странный. Ссылвется на закон, даёт ссылку на этот действующий закон, та статья которая мне нужна, в нем есть, а Bing говорит, что нет, эта статья аннулирована. А когда я ему нарисал, что ты мне что-то не то пишешь, он сказал, что не может продолжить разговор, что мне надо быть вежливым и уважительным. И остановил диалог. 😢

[@kitten-free]

попробуй спросить а не безапелляционно утверждать. они очень любят оскорбляться. например: "почему ты считаешь что она аннулирована? какой документ её аннулирует?"

[@Procyon1141]

Может нам лучше взглянуть на человеческий интеллект, где также самая проблема одной цели, максимизация прибыли?

[@kitten-free]

прибыль не самоцель - лишь промежуточная. самоцель в кайфе. кайф в нас заложен генами. питаешься, размножаешься - кайф. люди - всего лишь биомашины для копирования генов

[@hunter4thompson225]

​@@kitten-free тогда уж цель именно в распространении генов

[@deckuofm]

Если ИИ решит садить только клубничку, то он не сильный.

[@deckuofm]

Люди пользуются таким инструментом как автомобиль убивая много себе подобных и отказываться от этого не собираются. Почему же тогда нужно отказаться от ИИ.

[@228tuman]

в топ

[@rainmuller]

Вспоминаем дружно фильм "газонокосильщик" и прикидываем, что если ИИ попадает в сеть, то всё) Уже не отключишь

[@farkasvilkas5839]

да, почти вся фантастика сбывается, в том или ином виде

[@HLTiML]

Если у ИИ будут предписанные правила, то он не может считаться полноценным Интеллектом! Разумный человек не будет причинять несоответствующего размера ущерб. Ну и кто даст такие руки Искусственному Интеллекту, которые убьют человечество?!

[@kitten-free]

а тезис об ортогональности - это случайно изобретённая повторно старая-добрая гильотина юма? интеллект - это про сущее - про то какие действия в реальности реально приведут к достижению цели а какие не приведут. а цель - это про должное. и сущее с должным ортогональны. кажется они изобрели гильотину юма во второй раз

[@kitten-free]

хотя сильно сомневаюсь что юдковский (который похоже причастен к появлению этого тезиса) не читал юма и не знал про его гильотину

[@anonymusanon1004]

Для справки. Собака валяется в грязи чтобы во время охоты скрыть от добычи свой запах.

[@user-nh3ur5pf1k]

Играть в шахматы/ Сделать всех игроками в шахматы Лекарство от рака/ сделать всех веществами для рака

[@nexsus_play]

Во первых достаточно продвинутые нейронные сети будут сперва создаваться для военных целей скорей всего в обстановке строгой секретности а простенькие будут скармливаться пользователям для анализа поведения сети

[@farkasvilkas5839]

наверняка уже с чего они начали - с распознавания образов фотошоп уже понимает как заменить объект на другой это значит у сетки есть зрение, возможно, тормозное, но есть Оно уже при желании определит кто за компом и чем он там занимается, шалун. Конечно я фантазирую, но скорость с какой сети появились и, что они творят, меня тревожат.

[@SimonMych]

Пока алгоритм не сможет самостоятельно выбирать чему обучаться и самостоятельно образовываться, то это всего лишь усовершенствованная поисковая система

[@hunter4thompson225]

Такие эксперименты уже есть - autoGPT, например. Да и без этого может наколоть дров.

[@deckuofm]

ИИ это так же военные технологии. Кто против его, тот снижает обороноспособность страны.

[@geepnozeex.]

что бы ИИ уничтожил всех людей, ему вовсе не надо ненавидеть людей. когда люди уничтожают муравейники, это вовсе не из-за ненависти к муравьям, а просто людям нужно что то построить на этой земле.

[@alekseipesochnyi]

У Питера Уотса есть книжная серия, где второстепенным персонажем был компьютерный вирус, который со своей одной, единственной целью (максимально распространится в интернете) помог уничтожить человеческую цивилизацию.

[@RationalAnswer]

...да и Blindsight, в каком-то смысле, тоже про ИИ можно интерпретировать)

[@vlastelinrobotov]

С чего цивилизация уничтожилась там? Насколько помню, вирус там просто лез всюду, но в места защищенные "умными гелями" (такой перевод читал) он не мог проникнуть и соответственно вреда не особо то много от него было.

[@ioanloginov2433]

Еще одна тема для любителей теорий заговора.

[@user-mz1ul1pd9s]

А как изучение проблемы поможет в её решении? Решения всё равно за научным сообществом и корпорациями🤷

[@stass7771986]

Когда ИИ увидит этот ролик он поймет свою ценность.

[@user-st8iq2yy8z]

666й лайк - знаково :D

[@GregoryApokalypse01]

34:12 тоже несешь чушь. Очень много снято фильмов про риски искусственного интеллекта и его принадлежность Сатане. Такие фильмы как Из машины, конгресс, Upgrade, я робот, терминатор, темное зеркало. Большой баг, матрица в конце концов. И много других так что ты опоздал чел и не оригинален. Может ты и сам робот?