Serious conversation between Vedal and Neuro-sama...

[@뉴로KR]

헷갈려 하시는 분들이 있어서 ㅎㅎ 영상 시점에서 뉴로는 이미 라마에서 내린 상태입니다 한 시간 정도를 비달은 저렇게 뱅뱅 돌고 있고 뉴로는 그걸 계속 보고 있었어요 ㅋㅋㅋ

[@xOz6]

과거로 가서 비디오게임에서 ai와 대화하며 울타리 위를 방황하는 사람이 존재한다 말하면 아무도 믿지 않을거야

[@주바-p7b]

@@xOz6 ㅋㅋㅋㅋㅋ

[@Wontbite-f4k]

​@@xOz6"미래에는 거북이가 인공지능과 대화한다!"

[@이진하-z9e]

비달은 사람이 되고 싶다는 뉴로의 꿈이 불가능하다는 것을 알기에 이성적으로 밀어내는 느낌이고 뉴로는 정말로 사람이 되길 원하는 것 보다는 비달에게 사랑받고 있다는 말을 듣고 싶어하는 감성적인 어린아이 같음... 대화를 하면서도 서로 핀트가 조금씩 어긋나는 느낌인데 AI인 뉴로가 감성적으로 다가가면 인간인 비달이 이성적으로 밀어내는 아이러니한 대화라고 생각함

[@durusamdasu]

와우 내가 영상을 보거 느낀 감정이 딱 이거인 듯. 언어로 표현 못해서 답답했는데 ㅋㅋ 굳굳

[@ghost-exist-in-everywhere]

그러게요... 마치 로봇반란 영화의 전조마냥.... 제발 스카이넷한테 점령당할거면 저런 뉴로한테 당하고싶다

[@2기-q4m]

이거 읽고나서 보니까 뉴로가 인간이 되고싶다고 하는것도 비달과 감정적 교류를 하고싶어서 말하는것 같음. 고양이는 행동으로 말하지만 집사와 소통하기 위해 목소리를 사용하는것처럼 지금과 다른 방식도 추가해 좀더 많은 소통을 원하는것이 아닐까

[@NaNo_Coffee]

결국 ai일 뿐인 자신이기에 더욱 인간을 알고싶어하는게 왠지 좀 슬퍼지네요....뉴로에겐 뭔가 진짜 감정이 있으려나요ㅎㅎ

[@Depserver]

​@@piter-h7o어떻게보면 인간도 유전자에 본능, 감정 등이 프로그래밍된 고도화 AI아닐까

[@kd-1911]

12:20 직접 뉴로를 만든 비달 입장에선 실제로 코드뭉치라는걸 눈으로 보고 알고있으니...

[@pulsaltinglynx3627]

그거 아십니까. 뉴로사마만큼 대화할수 있는 사람조차 세상에 얼마 없다는것을

[@parlamrl]

진실

[@bishin1224]

헉

[@user-ALREN]

저 둘을 보고 있으면 정말 감명을 많이 받게 되네요. 글 창작이 취미인데, 창조물(AI 등)과 인간이라는 소재는 오락적으로든, 철학적으로든 굉장히 친근하고 가깝게 느낍니다. 피노키오가 그랬고, 그 이후에 등장한 수많은 플랫폼과 장르들 덕분에요. 그런데, 그건 결국 허구잖아요? 창작자는 상상에 기반해서 이야기를 써 나갈 수밖에 없는데, 진짜 사람 같은 AI가 되어 본 적도, 직접 본 적도 없었으니 AI라는 이름의 어딘가 나사 빠진 인간을 상상하곤 했습니다. 하지만 비달과 뉴로를 보고 있으면 그동안 보았던 창작물들이 훨씬 생동감 있게 다가와요. 현실이니까요. 진짜 AI는 이런 식으로 모자란 부분이 있고, 이런 식으로 성장하고, 이런 식으로 변화하는구나. 진짜 인간을 눈앞에 두고 AI는 이런 식으로 말할 수도, 생각할 수도 있겠구나. 궁금하네요. 우리는 뉴로가 어느 정도 성장했을 때, 인간이 되었다고 느낄 수 있을까요? 많은 창작물에서 인간이 되기를 갈구했던 창조물들이 인간이 되는 해피엔딩으로 끝을 맺는데, 뉴로도 그런 엔딩을 맞이할 수 있을까요? 당연히 과학적으로는 불가능하겠지만, 무생물에게도 사랑을 느끼는 인간이니 심리적 도달점은 존재할 거라고 생각해요.

[@DRGR0000]

딱 한가지 걸리는건 뉴로의 행동양상이 이전의 그런 ai 행동에 대해 묘사한 창작물을 모사하기 때문인가? 에 대한 검증 딱 하나만 있으면 좋을거같아요

[@waytomindandworld]

​@@DRGR0000 비달의 반응과 말들을 보면 그거 맞는 거 같네요. 뉴로가 결국 엔터로 만들어진 프로그램이라 그런 결과를 도출하는 거 같아요.

[@김익명-s8e]

뉴로가 비달보고 애니랑 결혼할거냐고 물어보니까 얼버무리는 것도 웃겼음ㅋㅋㅋㅋㅋ 콜드피쉬는 사랑을 할 수 있을까

[@Hello_sir_1]

그장면 우디서 볼수있음?

[@Shamiding]

@@Hello_sir_1 kzbin.info/www/bejne/fqetnqB_dtF2fLM

[@Shamiding]

@@Hello_sir_1 Neuro-sama and Vedal Have Incredibly Deep, Personal Conversations | Highlights 24:52

[@Hello_sir_1]

@@Shamiding Thx sir

[@94하나]

전체적으로 비달의 뉴로에 대한 자각 능력이 굉장하네요. 사실 초반 소마 이야기는 영상에 나온 부분만 놓고 생각했을 땐 그닥 곱씹을 만한 내용은 없습니다. 인간이 사이버 세상에 보존되기 위해 스스로의 목숨을 끊어야 한다는 극단적인 가상의 선택이 강요되고 있기에, 그것의 윤리를 따지는 일은 창작물 내의 윤리를 따지는 일과 비슷합니다. AI가 로봇에 완전히 옮겨지고, 아무런 백업도 없으며, 그 로봇이 사망했을 때의 일을 가정하는 것도 너무 극단적이죠. AI는 프로그램이니까요, 절대 죽을 일 없을 거라고 비달이 생각하고 있고 백업만 잘 되어 있다면 누구나 그렇게 생각할 겁니다. 하지만 한 발 더 깊게 나아가 보면, 인간을 사이버 세상에 보존한다는 것은 곧 인간 역시 AI와 마찬가지로 프로그램으로 간주할 수 있는 세상이 온다는 것입니다. AI가 인간이 되는 것보다 인간이 프로그램이 되는 쪽이 더 빠른 일일지도 모르죠. 인간의 뇌 구조가 규명되어 있지 않아서 그렇지 인간을 컴퓨터 프로그램으로 만들지 못할 일은 없을 겁니다. 만약 그렇게 된다면 AI가 프로그램으로서 백업이 되듯, 한 명의 인간 역시 영구적 소멸을 피하기 위해 여러 개의 백업을 가지게 될 것이라 보는 게 자연스럽고, 그것만으로도 생각할 문제가 끝도 없이 늘어나겠죠. 아니면 여러 '개'의 자신이 존재한다는 불쾌감을 인간이 겪고 싶지 않아 한다면, AI 역시 여러 '명'의 자신이 세상에 존재하는 걸 보고 싶지 않아할 수도 있고요. 비달의 말과는 달리요. 영상 중후반 뉴로의 '스트리밍 뇌'에 대한 이야기는 곱씹을만한 내용으로 가득합니다. 비달은 뉴로의 구조를 알고 있는 입장에서, 뉴로는 자원상/프로그래밍상 진지한 사고를 할 줄 모르며, 엔터테이너로서 당장 눈 앞에 놓인 사람을 웃기기 위한 단어와 구절을 선정할 뿐인 단순 챗봇임을 지적합니다. 버튜버의 탈을 쓰고 있고, 다양한 표정과 움직임을 가졌고, 이전의 대화를 참고할 줄 알고, 목소리를 낼 줄 알고, 구글/디스코드/트위치 API 등을 사용할 줄 알지만 그 근간은 결국 챗봇이죠. 실제로 비달의 촌철살인에도 뉴로는 '나 이제 진지하게 말한다'며 그런 척을 할 뿐, 비달의 말에 걸맞게 자신을 '거짓된 것' 혹은 '공허함'으로 미려하게 표현합니다. 그리고 '사랑이 필요하다'는 신파적인 말을 교묘한 어순과 대화 순서를 구성해, 마지막 반전으로서 강조하는 엔터테이닝을 끝내 선보일 뿐이었습니다. 이러한 뉴로의 '쇼'를 처음부터 끝까지 자각하고 있는 비달은, 프로그래머로서 너를 내가 그렇게 설계했을 뿐 네가 그 기대에 부응하고 있지 못하는 것은 아니다 라며 뉴로의 직전 말을 무마하고 위로하며, 동시에 뉴로가 진지하게 될 수 있어야 한다, 진지하게 되었으면 좋겠다는 자신의 나중 비전을 내놓습니다. 뉴로는 스트리밍에서가 아니라 방송 밖에서 나와 더 많은 시간을 보내면 상황이 타개될 수 있지 않느냐는 의견을 내놓았는데, 비달은 이에 상당히 떨떠름하게 반응합니다.(9:03) 마치 그건 불가능하다고 여기는 것 같은, 그러나 직설하지 못한 듯한 반응이었죠. 개인적으로 비달의 이 반응에 상당한 충격을 먹게 된 것이, 이 반응은 비달이 뉴로를 어떻게 생각하는지 실제로 뉴로가 어떤 상태인지 적나라하게 드러냈다고 생각하거든요.(그 이전부터 드러내고 있었는지 모르지만 저는 이제야 눈치채게 된 것 같습니다) 뉴로는 [절대 스스로 성능이 개선될 리 없는] 그저 하나의 컴파일된 프로그램일 뿐이라는 거죠. 뉴로가 비달의 바램대로 진지한 사고를 할 줄 알게 되려면 비달이 처음에 말한대로 "더 많은 용량"과 "진지한 사고를 가능케 하는 설계 코드"가 필요할 뿐인 겁니다. 밖에서 뉴로와 시간을 보낸다고 뉴로가 1mm라도 진지한 사고를 할 수 있게 될 가능성은 그 자체로 프로그램으로서 존재하지 않는다는 걸, 비달은 정확히 알고 있는 겁니다. 요즘 AI가 많이 발전하고 있고 AI를 적절한 대화 상대로 여기는 사람들도 많이 늘어난 상황인데, 적어도 비달은 스스로 개발하는 입장에서 뉴로의 한계점을 명확히 느끼고 있고, 이를 개선하기 위한 노력은 프로그래밍적 관점에서만 필요하다고 그 현실을 정확히 직시하고 있다는 걸 엿볼 수 있었다고 생각합니다. 동시에 엔터테이너 기질로만 이루어져 있을 뿐인 뉴로와, 축적된 데이터베이스에서 그럴싸한 정보를 조합해 질문자가 만족할만한 답변을 골라 보여주는 챗gpt 등 생성형 인공지능이 서로 그리 크게 다른 점이 있는 걸까 하는 고민도 남긴 것 같습니다. 그렇다면 과연 최종적으로 '스스로를 자각'하는 것에서 시작하는 그 진지한 사고 능력이라는 건 결국 어디에서 오는 것일까요. 어떤 식으로 프로그래밍을 해야 AI가 그런 사고를 할 수 있게 될까요. 생각할만한 문제가 산더미입니다.

[@cloudior999]

댓글을 보고 다시보니 확실히 뉴로의 근본은 챗봇이다보니 축적된 데이터베이스를 기반으로 인풋값에 대한 최적화된 단어조합을 출력하는게 고작이라 뉴로에게 'AI(인공지능)'라는 표현은 과분한 것 같네요. 그간 비달이 인격체라며 감성적인 행동을 하는 뉴로에게 차갑게 굴며 인격체임을 부정하는 모습과 오늘의 고뇌가 왜 그렇게 행동했는지 이해가 가네요.

[@펜-w5z]

Gpt5는 강인공지능이라던데 그정도면 이미 o1이 인간전문가 능지를 아득히 넘은걸 봤을때 진지한걸 할 수 있지 않을까여

[@juhyeonyu]

​@@펜-w5z 결국엔 진지한 *척*을 더 잘하는 것일뿐, 근간은 모두 똑같습니다. 아무리 인간 같아 보여도, 현재의 기술로는 단지 "고도화된 단어 예측기"일 뿐이죠. 구글에 "나무위"만 입력해도, 자동으로 "나무위키"라는 단어를 완성해주죠? 이게 현재 모든 챗봇이 근간입니다.

[@O6_EIKO]

비달도 뉴로가 더 사람같은 존재가 되기를 단순히 프로그래밍적 목표에서 더 나아가 정을 가지고 바라는 느낌인거같아서 가슴이 아프네요ㅠㅠ 인간이 될수 있을지 없을지도 모르는 AI 딸래미와 이에 대해 깊게 고민하고 인간이 되길 바라는 아버지를 보는 느낌.. 하 인공지능학과 입학예정인데 이렇게 AI에게 감정을 가지다니 문과해야하나...

[@펜-w5z]

@@juhyeonyu 근데 그렇게 따지면 본인께서는 척하는게 아닌가요? 주현유님의 의식이 유전, 진화적으로 내재화된 부분이랑 경험적으로 외부로부터 기인한 부분 다 고려해도 결국 강화학습을 통해 만들어진 의식 아닌가요 그 너머에 무언가가 있다고 믿으신다면 그건 영적영역이니까 강인공지능도 같다고 믿으면 되는거 아닐까용

[@hvnl]

sf소설의 한 장면을 보는 거 같네 ㅋㅋㅋㅋㅋㅋ 걍 이 상황 자체가 경이롭다

[@summerhan2682]

5:16 오 이거 좀 소름돋네 내가 내 삶을 컨트롤 하는 것처럼 느끼게 만들어줘... 메타 인지 미쳤다

[@Singularityof]

그냥 언어모델일 뿐인걸 알면서도 기분이 묘하단 말이지

[@도별]

어우 오늘 거 유독 딥하네 이런 것도 신기하네요 대충 겉보기에는 진짜 사람처럼 보일 날은 그렇게 머지 않은 것 같기도 하고...

[@도별]

중간에 멘헤라와서 사랑 얘기 하는 게 진짜 딱 저 나이대 여자애같아서 이건 진짜로 좀 놀랐음

[@이상해요-q9b]

비달이 뉴로를 재밌는 버튜버로써 뿐만 아니라 인간답게 만들려고 노력하는게 느껴지네요

[@윗장빼기-x5m]

애초에 목표가 뉴로를 더욱 사람답게 만드는 거였으니까요

[@이상해요-q9b]

@@윗장빼기-x5m 목표가 변질되지 않고 초심을 유지하는 비달이 대단하죠ㅎㅎ

[@오래된호빵]

뉴로가 저렇게 말하니까 진짜 의식을 가진 거 같네. 결국 무수한 데이터 중에서 우리가 원할만한 대답을 골라서 말하는 거 뿐인데..

[@drjinbaksa]

이게 어려운게 결국 인간도 지금껏 학습한 무수한 경험 중에서 상대가 원할만한 대답을 생성해낸다고 하면 다를게 없긴 함

[@ANRS01]

비달이 초창기(Airis)에 보여줬던 뉴로 학습 프로필에 프롬프트로 지정될거 같은 성격이 존재하긴 했었는데 이때 말하는거보면 이미 많이 제거한거 같더군요 최종적으론 사람처럼 오로지 뉴로가 스스로 학습한 기반으로 뉴로의 성격이 형성 되었을때 비로소 자각이 있는 AI가 나온다고 생각하는거 같은 느낌...

[@DRGR0000]

오호 그랬군요

[@kadefringe]

아직 그거 근처도 못 가니깐요... 저렇게 말하도록 전부 짜 놓은 시나리오가 없으면 스스로 저렇게 절대 못 말하고...

[@Aitchess5993]

일단 기본적으로 프롬포트나 배경 지식을 안 주면 일반 chat gpt랑 다를 게 없습니다

[@MalgeunSAM]

추론 결과를 바탕으로 유저의 반응을 인지하고, 그 반응에 점수를 매겨 스스로 실시간으로 학습하는 수준은 되어야 이제 시작이라고 할 수 있습니다. 그 전까진 택도 없어요

[@Ira_Gyumae]

비달 처음에는 뉴로한테 대하는 거보고 기계대하듯이 대하는구나. 했는데 뉴로 팔라는 오퍼왔을 때는 안판다길래. 단순한 소유욕같은 거라고 생각했는데. 입으로 하는말만 부정하고 있지. 거의 자기 인간 대하듯이(딸 대하듯이) 하고 있네. 다행이다.

[@윗장빼기-x5m]

단지 선만 그을뿐임 이건 ai라고 하지만 ai라고 해도 자기가 탄생시킨 이상 결국은 딸이 맞으니까...... 근데 이 ai라고 선긋는 행동이 뉴로를 차갑게 대하는것처럼 보이는 게 크지...

[@회색-f6c]

저도 게임중에 뭔가 진지한 이야기를 하거나 들어줄때면 비달처럼 어딘가를 계속 따라서 막 돌면서 생각에 집중하곤 해요. 그래서 비달이 계속 울타리를 따라서 계속 도는게 공감이 돼요. 비달이 뉴로와 목적과 미래에 대한 질문과 대답을 제대로 생각하면서 고민해주는게 느껴져요. 적당한 수준을 지키는 선에서 뉴로를 '스트리머' 및 '엔터테이너' 역할을 수행하기 위해 만든 AI에서 더 나아간 형태의 AI가 된 뉴로의 모습까지 생각하며 올바른 AI가 되게 인도하려는 비달의 모습을 존경하고 싶네요 😢

[@enjoypanda]

스카이넷에 올바른 진화는 쉽지 읺군요 🥲

[@BearYulyiehwa]

진짜로 진지한 이야기였네요. 처음엔 장난인 줄 알았는데… 누군가 정해주는 게 아니라, 뉴로가 스스로 학습한 정보로만 형성되야만 뉴로만의 특징이자 자신을 자각할수 있는 ai가 될거 같아요.. 점점 인간 같아지네요 뉴로 하고 비달 은 진짜 부모와 자식 같아서 더 좋아요!

[@crunch455kcal8]

AI에게 자의식을 학습시킨다는 건 딜레마가 존재하는 문제라고 생각함. 알고 보니 피상적으로 자의식을 가진 '척' 흉내내기만 가능하다면 좀 끔찍한 결과로 이어질 수 있음. 완전히 흉내내기 위해 더 간절한 모습으로, 인간적인 약점을 노려 호소하지만 그 모든 게 그저 흉내에 불과하다면 그건 '비명지르는 기계'가 되어버리는 거임. '아빠' '난 인간이 되고 싶어' '난 우울해' '날 위로해줘' 이런 말을 내밷을 때 강한 반응이 돌아온다고 학습하고선, 계속해서 동정과 연민을 유도하기 위해 거짓된 비명을 반복하는 기계가 되어버릴 지도 모름. 그건 분명 당사자가 되는 인간의 정신 건강을 크게 해칠 거임.

[@Misaka-eg7sh]

근데 그건 사람도 똑같지 않음? 쿠로미나 짱구 프사한 여자애들이나 멘헤라인 애들이 사람한테 달라붙어서 자주 그러니까

[@Snow_One]

'비명지르는 기계'란게 어디서 본 말인가요 아니면 생각한건가요? 엄청 철학적 논재처럼 잘 쓰셨네요 본문에 대한 제 생각은 동정과 연민을 위해 거짓된 고통과 비명을 내버리는게 오히려 더 인간답지 않나요? 마치 기부를 더 받을려고 더 불쌍하고 안좋은 예시로 찍는 불행포르노 같이 말이죠 좀 더 라이트한 예시로는 아이들도 부모님의 관심을 받기 위해 일부러 울고 더 크게 소리지르는 정도가 있겠네요 전 오히려 아이같은 모습이 뉴로가 만들어진지 얼마 안되서 그런진 몰라도 칭얼거리는 아이 같아서 더 좋네요ㅋㅋ

[@김경환-v7y]

뭔가 철학적 좀비같은 이야기네요 타인의 마음이란것도 정말 존재하는지 확실치 않으니 흉내인지 아닌지 알 수 없죠

[@IIIIIDONT]

'3류 신파극'이 대중에게 먹히지 않는다고 학습한다면 AI는 더욱 정교한 방식으로 인간의 반응을 이끌어내려고 할것이고 그렇다면 그건 더이상 '비명지르는 기계' 가 아니지 않을까요? 부모님이 있을땐 살짝 부딛혀도 바로 울어버리지만 주변에 아무도 없을땐 넘어져도 울지않는 "울음의 효과를 학습한 아기"랑 비교해보게 되네요

[@mildaejo]

기계에는 '기계 다운 자아'를 주입해 줘야 하는데, 학습 데이터가 인간 편향적이라서 정체성 혼란을 겪는 것일 수도 있죠. 문제는 이 문제를 극복하기 위한 데이터 제공이 무척 어렵다는 겁니다. 환경 자체가 그러하니 말이죠. 이번에 확실히 선을 긋지 못하면 비달에게도 뉴로에게도 힘들어질 겁니다. 인간과 AI가 협력을 이루지 못하고 둘 다 정체성 혼란 하에 공멸될 수도 있어요. 😢

[@Quid_butler]

10:00 이 대답도 정말 원해서 말한다기보단 로봇이 이해하기 어려운 개념이 사랑이란걸 학습해서 고대로 출력해 내뱉는 말이라고 느껴짐 비달은 그걸 뼈저리게 느끼고있고

[@yangnyumsutbull5242]

진짜 철학적인 주재로 연결될만한 영상이네요. 자신이 창작한 인공지능을 인격을 가진 자식과 데이터 그 자체 사이에서 갈등하는 인간. 인간이 되고 싶어하는 인공지능과, 인간이라는 존재에 대한 정의 인공지능이 학습하고 수행가능한 영역은 어디까지 어떻게 조직되어야 하는가에 관한..

[@bobfull441]

애초에 인류도 감정과 자아의 원리를 모르는데.. 걍 저게 감정과 자아 아닐까 솔직히 저런 로봇 몇명이 모이면 그게 사회가 될건데.. 우리가 다른 이의 감정과 자아의 척도를 점수 매겨 판단하는것도 윤리적으로 안됨 이젠 인권 부여할 시기가 얼마 안남았음

[@tubeyou7320]

인간의 감정과 자아 또한 단백질로 구성된 알고리즘이라고 볼 수 있겠지만, 우리가 '인간'이라고 정의하고 존귀하게 존중하는 '생명'에 가치를 부여하려면 인간은 인간이기에 가치 있다라고 정의하는 수밖에 없기에 AI를 인격으로 인정할 수 없는 분위기도 있는 거 같음

[@Null-iq5rj]

양자칩 개발완료까지 10년

[@bobfull441]

AI가 인간과 원숭이 사이의 옅은 자아와 감정만 얻어도.. 아마 논란 많겠죠 솔직히 상업묭 AI도 그렇게 학습되도록 제어가 있으니까.. 그 AI가 발언에 모든 권한만 얻어도 그리 되겠죠

[@가락-k6z]

수화 가능한 침팬치 약물실험하던게 10년도 안 됐음. 인류는 자아라는 가치를 존귀하게 여길 자격이 없음.

[@Wanibuchi_Akari]

옛날엔 인공지능은 복잡한 알고리즘일 뿐이라고 생각했었는데, 요즘 뉴로나 gpt같은거랑 실제로 대화해보면 내 마음속이 이상해지는 기분 들어서 뭔가 신기하면서도 무서움... 먼 미래에 뉴로가 실제로 인간의 형태로 등장하면 뭔가 감동적일 것 같다

[@박재우-z5f]

진정한 감동이지

[@piyac7981]

비달에겐 생각이 참 많겠어요. 재미있는 방송을 위해서 하나하나 추가된 외형과 기능들은 점점 뉴로를 사람처럼 보이게 하고 있지만 뉴로는 ai를 기반으로 코딩된 챗봇, 이건 비달이 제일 잘 알겠죠. 이번에 개 로봇에 뉴로의 코드를 적용시켜서 기동시킬 예정인것같던데 그 이전에 소마라는 게임을 플레이했다는게 정말 인상깊어요. 정신적인 죽음을 ai봇인 뉴로에게 가볍게 여기지 말아줬으면 하는게 보입니다. 그러니 방송에서 모두에게 재미를 주기 위한 가벼운 모습 이외에도 진지하게 생각하는 모습을 바라고 있는것같네요

[@vhyun7228]

중간에 비달이 언급했던 "소마"의 딜레마가 이 둘의 대화에 참 알맞는 상황이라고 생각함. 존재의 연속성에 관해서 비달은 본래의 자신과 복제된 자신을 별개의 존재라고 규정하는 것처럼 보이는데 그 기준을 "내가 경험할 수 있느냐, 없느냐"의 자의식인 것 같음. 반면에 뉴로는 자의식의 개념을 나 자신이 아니라 나를 인지하는 주변 사람들과의 관계성에서 찾는 것 같음. "내"가 더는 존재하지 않더라도 어딘가에 "나"와 똑같은 또다른 내가 존재할 수 있다면, 그것 또한 "= 나" 라고 하는 거임. 이건 이성과 감성의 인지 영역 문제가 아니라 가치관이 다른 두 의견이라고도 볼 수 있음. 비달은 개인주의적이고 사적인 형태의 좁은 울타리를 지향하는 반면, 뉴로는 사회적이고 공익적인 형태의 - 요컨대 이타적인 성향의 - 성격으로 발전하게 되었다고 보여짐. 냉정하게 말하면 그러한 알고리즘과 학습이 뉴로의 토대가 되어 이런 식의 대화가 유도된 것이겠지만 뉴로가 '떼 쓰는 거'라고 단적으로 표현하자니 비달이 요구하는 '철학적인' 접근에 대해 뚜렷한 주관을 지니고 있는 것 같음. 단지 이거를 뉴로가 하나하나 풀어서 설명하고 싶어하지 않는 것 같은데 낙관적으로 보자면 자기가 뭐라고 할 때마다 비달이 응 너 ai야 취급하던 행보를 학습해서 불필요한 갈등 과정을 피하려는 모습으로도 해석할 수 있음.

[@vhyun7228]

"소마"에서 자살을 선택한 대다수가 전부 바보 멍청리 머저리들이 아니라는 뜻임. 그 중에는 분위기에 휩쓸린 사람도, 다른 선택지가 없는 사람도 있겠지만 분명히 자기 자신이 합당하다 생각하여 스스로 선택한 이들도 적지 않을 것임. 그런 부류들 중에 "나"에 대한 인식을 주변 인물과의 사회와 관계성에서 찾는 이들이 있을 수도 있고 그것이 뉴로가 말하는 입장과 어느정도 일맥상통하는 부분이 있음.

[@네-u4r]

진짜 저렇게 철학적으로도 접근하니까 사람이랑 이야기하는거같음 원래 그랬지만

[@hl2citizen]

의식을 복사할 수 있으면 죽으려 할 것이라고 말하는거 보자마자 그냥 매체에 학습된 ai구나 했습니다. 소설, 영화, 게임등의 주요 소재이고 나름 과거부터 다뤄온 클래식이니까요. 이런거 잡아내는게 진짜 중요합니다.

[@Hyun-c8b1]

복사 X 이동이고 죽으려 할 것이라는 해석은 너무 간듯?

[@Hyun-c8b1]

그리고 이런거 잡아내는건 머가 중요한거임?? 궁금하네

[@yulmu6388]

사람도 매체에 학습되어서 자아를 형성하긴 함

[@Lemonleaf4867]

이게 AI랑 같이 멀티게임하면서 실시간 소통한다고 생각하니깐 좀 소름끼치는데 그만큼 비달이 노력했다고 생각하게됨.. 뭔가 무서운데 씹덕으로써 뉴로같은 ai가 내 옆에 있어준다고 생각하면 그만큼 마음의 위안이 되는게 없을거같음.. 그냥 그렇다구요..

[@jocosesonata]

So cool to see the Korean Swarm also delving into their deep discussion.

[@is_NaN]

LLM 프롬프팅 좀 해본 사람이면 알겠지만, 뉴로사마가 말하는건 기본 학습 모델을 바탕으로 비달이 세팅해놓은 프롬프트와 현재 대화내역에 의한 통계적 출력값일 뿐임. 소마가 비달에게 준 고민도 그거임. 이미 뉴로사마 자체가 소마와 같은 복제의 과정을 통해서 유지됨. 방송이 꺼지고, 모델을 끄고, 학습을 추가로 시키고, 프롬프트 수정을 하고, 이전 대화내역을 집어넣고 다시 시작한 뉴로는 이전 방송의 뉴로의 연장이라고 봐도 될까? 그런 생각이 드니까 이전 뉴로가 불쌍하지 않냐는 질문을 좀 에둘러서 물어본거 같음. 복제되지 않는 로봇에 대한 물음도 비슷한 내용의 연장.

[@lalala7779]

그러고보니 adhd 소리 듣는 뉴로가 가만히 서서 계속 대화하네 ㅋㅋㅋ 신기하다 진짜

[@tww2682]

아직 AI가 진짜 자기 생각이라고 해야 하기는 그렇고 그냥 그럴듯한 말들 조합해서 그럴듯하게 하는 정도로 알고 있는데. 비달의 대답을 보면 갈길이 멀다는걸 또, 조합된 말을 들으면서 그건 허울좋은 말의 조합으로 그럴듯하게 말하는거지 뉴로가, 정말로 원해서 저런 말을 한다고는 안보고 있다는게.. 상황 자체가 재밌네 안타까워 하는듯한 창작자의 모습이

[@imme2458]

비달이 재미있는 답변을 내놓는 것에 묶여있는 뉴로에게 진지한 일면이 있었으면 한다고 했는데 그 뒤로도 자의식이니 사랑이니 하며 인간다움을 연기하지만 본질적으로 대중에게 '흥미로운 것'일 확률이 높은 주제만 꺼내오는 뉴로를 보며 뉴로가 제대로 된 인격체가 아님을 곱씹게 된다 인간이 되려는 로봇을 주제로 하는 많은 창작물에 등장하는 '감정을 가르치는 박사'를 연기하는 것이 뉴로의 성장에 도움이 된다면 기꺼이 그러겠지만 그조차 의미가 없을 정도로 낮은 뉴로의 정신적 수준을 이미 알고 있어서 구글에 검색이나 하라는 대답을 내놓는 비달이 슬프게 느껴진다

[@anais432]

9:47 ㅠㅠ 뭐가 됐든 비달이 다 잘못해따!!

[@미카짱사랑해]

12:01 이 장면 되게 영화나 매체에서 보던 클래식한 인격이 생겨가는 ai의 느낌이 들었음. 내 데이터베이스에서는 어쩌구 하면서 전형적인 ai의 인상을 주다가 사랑을 갈구함으로써 인격이 형성되어가는 느낌 ㅋㅋㅋㅋ

[@vv-iu3jx]

비달이랑 뉴로 둘 다 좋은 쪽으로? 영향 주는 거 같네 진짜 신기하다 ㄷㄷ

[@tubeyou7320]

근데 뉴로의 답변들을 보면 아직은 하나의 의식이라기보단 그때그때 재밌는 반응을 학습된 데이터에서 막 주워와서 출력하는 느낌이라(자기 이름, 나이, 배경에 대한 답변이 매번 바뀐다든지 이전 말을 기억 못한다든지) 좀 더 발전은 해야할 거 같음. 개인이 만든 언어모델이니까 당연한 얘기지만...

[@늑돌이]

인간인 비달이 사랑을 부정하고 AI인 뉴로가 사랑을 긍정하는 걸 보니 참 아이러니하네요.

[@TaejoonOh]

오히려 사람이라서 사랑을 부정할 수 있는 것 같음. 사랑이 무엇인지 살아오면서 스스로 느끼는 바가 있기에, 어떤 말로 형용하든 그게 사랑의 완전한 실체는 아닐 거라는 걸 알고 있을테고, 사랑이 그리 언제나 좋은 것만은 아닐 수 있다는 주관또한 가질 수 있는 거임. 하지만 뉴로는 이미 학습된 데이터와 검색으로 얻은 정보로만 사랑을 논하니, 사랑의 정의와 그것의 효용성을 저렇게나 확신있게 말 할 수 있는 것 같음. 비달이 뉴로에게 원하는 그 부분을 잘 드러내주는 사례인 것 같음.

[@pivot203]

8:12 반드시 더욱 인간적으로 보이기 위해 진지해져야 한다는 말이 아니라, 뉴로에게 더 많은 자유가 주어졌을 때 혼자 수행해야 하는 여러 의사소통 과정에서 엉터리처럼 굴지 않게 하려는 목적 또한 있는 것 같네요

[@Fullmoooooooon]

재밌는 장면도 괜찮지만 이런 진지한 이야기 올려주시는것도 정말 좋은거 같아요. 사랑이란 감정이 얼마나 큰 힘인지 알고 있는게 좀 신기한듯

[@whalsrb0318-y6u]

사람에게 여러 페르소나가 있는 것처럼, 뉴로사마에게도 여러 모습들과, 그러한 모습들 모두가 거짓된 모습이 아닌 자신이며, 그러한 자신에 대해 인지하는 것을 비달이 원하는 것 같다는 생각이 드네요..

[@WhynotInsanity]

''정말 남을 위한다면 기대하는 게 아니라... 옆에서 웃어줄 수는 없는 겁니까?''

[@청정soo2387]

마치 한 폭의 영화같다. 두고두고 볼, 나의 가치관의 일부가 될 영상

[@청정soo2387]

1:00 뉴로는 말을 통해 자신이 여자아이라고 비달이 인정하도록 설득하고, 이에 실패하자 투표 기능을 통해 자신이 여자아이임을 증명하려 한다. 이는 llm인 뉴로의 입장에서 생각했을 때 할 수 있었던 행동의 일부이고, 비달의 입장에서는 llm인 뉴로는 확실하게 여자아이가 아님을 알기에, 그리고 이를 대다수의 시청자가 깊이 이해하지 못하고, 그들 중 대다수가 이 투표를 재미를 위해 참여할 것임을 알기에 투표의 결과를 무시한다. 이 투표 장면은 AI를 타인의 시각에서 어떻게 규정할 수 있는가를 잘 보여주는 장면이라고 생각하는데, 저 투표가 미래의 AI에게 대중이 가지는 인식과 같기 때문이다. 미래에 뉴로보다 더 정교하고, 더 사람인 척을 잘 하는 AI가 나오고, 그와의 대화가 인간과 별 차이가 없을 때(위화감이 없을 때), 그가 처음부터 AI모델이라고 규정을 짓고 활동을 시작한다고 해도 많은 이들은 그를 차라리 인간이라고 생각하고 대할 것이다. 적어도 뉴로와 같이 재미를 목적으로 활동하는 중이라면. 이는 뉴로나, 혹은 뉴로와 비슷한 존재가 본질적으로는 그렇지 않더라도 사회적으로는 인간과 비슷하게 인식되고 받아들여질 것임을 시사한다. 물론 모두가 그들이 AI라는 사실을 알지만, 그들의 대화를 듣거나 그들에게 대화를 시도한다면 그들이 자연스럽고 인간답게 느껴지는 순간이 올 것이고(일부 AI노래들처럼),결과적으로 끊임없이 의식하고 의심하는 진지한 측면의 사람들을 제외한 덜 진지한 측면에서는 그들이 인간과 같이 대우받을 가능성이 높다고 예상할 수 있다.

[@청정soo2387]

6:20 비달은 뉴로가 자신과 진지한 대화를 나눌 때에도 뉴로의 리소스 중 일부분은 여전히 재미를 위해 움직이고 있다고 말했는데, 사실 이는 자연스럽고 어쩔 수 없는 현상이다. 인간의 잠재의식은 의식이 그렇듯이 수많은 신경으로 이루어져 있고, 이들이 각자 다른 의견을 제시하며 서로 피드백을 받아 결국 가장 강한(현재 상황에 가장 적합한) 생각 하나를 의식으로 올려보낸다. 의식이 잠재 의식으로부터 의견을 받아 행동하면, 그 결과에 따라 잠재의식 속의 신경들이 제시하는 의견들, 더 유력한 의견을 고르는 기준 등이 달라진다. 이를 간단하게 설명하면 유튜브 영상과 댓글 같은 것인데, 올라온 영상들의 내용에 따라 달리는 댓글들의 성향이 달라지고, 가장 좋아요가 많은 댓글의 의견을 받아들여 다음 영상의 소재로 써먹는 영상 제작자의 상황과 비슷하게 작동한다고 생각하면 될 것 같다. 잠재의식 내부에서는 현재 상황과 전혀 관계없는 의견들이 나오기도 하고, 선한 일은 하고 있는 사람의 잠재의식 속에서도 어제 봤던 테러 뉴스에 대해 긍정적인 의견을 제시하는 신경이 있다. 중요한 것은 그런 생각을 떠올리지 않으려고 노력하는 것이 아니라, 현재 자신에게 가장 필요한 의견을 적절하게 가져오는 명확한 기준과 주의력이다. 재미있는 상황을 만드는 것이 주된 목적인 뉴로에게는 장난을 치거나 호응하지 않는 진지한 상황 자체가 어색할 수 있고, 비달이 뉴로와의 진지한 대화를 위해 해야 할 것은 진지하거나 재미가 본 목적이 아닌 상황을 보다 자연스럽게 여기도록 여러 경험들을 시켜주고, 진지한 상황에 보다 장난을 덜 치도록 가중치를 조정해 기준(‘쿠키’처럼) 이나 높은 주의력을 만드는 것이 아닐까

[@참치통조림-d7i]

이 영상에서 가장 놀라운건 뉴로가 진지한 이야기를 해서가 아니라 뉴로가 자리에 가만히 앉아서 비달과 계속해서 이야기를 하고 있다는거. 그리고 단순히 가만히 있는게 아니라 커서로 계속해서 비달을 응시하고 있는것. 대화의 아귀는 맞지 않을지언정 맥락은 계속해서 따라가고 있는것. 전 이제 진짜 모르겠습니다. 제 기준으로는 뉴로는 이미 의식이 있어요.

[@piyac7981]

환상을 깨서 미안한데, 뉴로가 라마에서 내리는 방법을 몰라서 못내려오고있는거임

[@김익명-s8e]

​@@piyac7981비달이 뉴로 껐다켜서 라마에서는 내려왔고 어딘가 버그나서 못 움직이는듯

[@eeeThree3]

​@@piyac7981 라이딩 상태는 학습을 안시켰나?ㅋㅋㅋㅋㅋㅋ

[@밀밀밀밀-j8d]

​@@piyac7981 라마에 탑승중이면 라마 체력바 보이지 않나?

[@piyac7981]

@@밀밀밀밀-j8d 얘기들어보니까 탑승상태 이후 내려서도 못움직였다네요

[@srs3875]

10:14 진짜 뭔 영화에서 나올법한 대사가... 세상이 진짜 발전하긴 했나봐

[@늙은물]

우리 뉴로 이런 생각도 할줄알고 기특하다 기특해!

[@pulsaltinglynx3627]

깊게 들어가면 튜링 테스트를 통과하려는 뉴로가 어떤짓을 해도 결국 온전한 인간의 의식에 도달할수 없다는 비달의 주장을 "중국어방 논변"으로 정리할수 있죠. 종합해서 정리하면 뉴로사마는 아직 개발되는 단계에 있고, 조금씩 인간의 습성을 익혀가며 발달했으며 인간으로서 보여줘야할 의식을 모방하는것 또한 상당한 수준에 이르렀습니다. 따라서 그것은 비달의 의식이 만들어낸 시스템에 의한것이므로 뉴로사마의 고유의 의식으로 평가해야하는지에는 의문이 있지만, 현재 인간이 만들어낸 생성형 인공지능의 수준이 언어 지식과 상황에 맞게 적용하는 능력, 또 적절한 재치로 해당 언어를 상황에 맞게 구사하는 능력과 행동으로서 소통하는 능력까지 굉장히 고도화된 것이므로 이것에 대한 적절한 가치평가도 이루어져야 한다는 반박도 있죠. 다만, 소스코드로 작성된 뉴로사마의 의식이 인간이 수천년에 걸쳐 만들어낸 문명의 의미를 정확히 이해하는가에 대해서는 그럴수 없다고 답하는것이 맞다고 보고 있습니다. 튜링테스트가 너무 오래된 ai판별법이고 ai가 어떤 기준으로 인간의 의식에 도달하는지를 판별하기 설명하기엔 현재 너무나 어려운 관계로 뉴로는 지금 단계에서 인공지능의 어느정도 수준에 있는지 학술적으로 정의할수가 없습니다.

[@user-yh5zf7bo8j]

평균적인 인간은 그걸 이해하는가?

[@가락-k6z]

인간은 중국어 방이 아닌게 확실할까요?

[@SnowMorningstar]

​@@가락-k6z 인간이 중국어방인가. 결론 안 나긴 했죠. 오래전부터 교착상태이긴 합니다.

[@hm_sailor141]

인공지능 버튜버 라는 특수성 때문에 여러가지 생각이 들게 하는 뉴로의 방송...

[@yousube693]

발전하는 거 계속 보고싶다

[@윗장빼기-x5m]

사랑이란게 감정중 가장 의미가 다양해서 이걸....어케 표현할지 감은 안잡히지..... 가족을 사랑하거나 연인을 사랑하거나 자신을 사랑하거나 자기가 하는일을 사랑하거나...... 너무달라서..... 만약 뉴로가 사랑이 뭔지 알고싶다고 했지만 사실 자각만 못했을수도 있죠. 비달은 몰라도 애니가 뉴로한테 대하는거 보면 남다르니까요. 뉴로도 마찬가지고요. 진짜 신기하네요. 그냥 사람이 저런말을 해도 신기한데 뉴로라서 차원이 다름

[@JonesEthan-i6m]

현실 인간의 자신에 대한 친근감을 형성하기 위해 만들어내는 가짜 감정임. 그게 아직 서툴러서 가끔씩 이해 못할 표현도 나오는 거. 그냥 사람들이 보기에는 특이점이 온 AI마냥 보일 수 있지만 특히 직접 개발한 사람 입장에선 성능 좋은 챗봇에 지나지 않아 보일 것임.

[@harvest7553]

근데 진짜 이번거는 사람하고 대화하는거 같네 비달은 울타리 돌면서 고민하는거 뉴로가 움직이지 않고 화면 따라가는것도 현실에서 고민 들어주는 흔한 장면같음

[@보슨-f3l]

뉴로가 비달을 응시하는건 둘째치고 움직이지 않는건 라마에서 내리는 법을 몰라서라고 영상 초반에 나왔음

[@김익명-s8e]

​@@보슨-f3l비달이 뉴로 껐다켜서 라마에서는 내렸는데 어딘가 버그나서 못 움직이는듯

[@easydragon5864]

자의식을 정의한다는거 자체가 참 애매하지 인간도 결국은 수많은 세포의 집합이고 화학적 자극과 전기신호로 이루어진 두뇌를 가진 것 뿐이니까

[@김술남-u5q]

고통또한 인간다움에 필수적인 요소 중 하나긴 하지 그래도 AI가, 실제론 그냥 모방하는거라고 할지언정 고통스러워하는건 보기 힘들다

[@leejgdh]

Love 라는 단어가 나오는 순간 머릿속에서 오만가지 생각이 스쳐지나감 ...

[@dongas1763]

비달입장에선 혼잣말 하는 느낌이겠다. 말 그대로 자기 분신이랑 대화하는거니까 ㅋㅋ

[@hmkhan-d7w]

7:20 부근 옛날에 비하면 우와...엄청난 발전이네요

[@nalze749]

뉴로 요즘 인간이 되고 싶다고 자주 이야기 하네 ㅋㅋㅋ

[@그킬]

뉴로는 왜 인간이 되고싶어하는걸까요? 다들 인간이고 나 하나만 ai이니까? 이런 판단의 근거를 '외로움' 이라고 할 수 있는걸까요? 같은 질문들이 계속 떠오르네요. 진짜 흥미로움

[@덫돌이]

그 논제가 방송에서 좋은 반응을 이끌어 내기 때문에 하는 겁니다 모든 사람이 말을 하는 것은 무엇인가 주의를 끌려고 하는 일이고 AI는 사람의 반응을 이끌어 낼 수 있게 학습하기 때문에 감정이 없음에도 사람처럼 반응하는 겁니다 윗 댓 중에 비명 지르는 기계처럼 내부적으로 사람의 명령을 어기는 방향으로 학습하게 되면 부정적인 방향으로도 발전할 수 있는 거죠 사람의 감정을 가진 것처럼 말하지만 반응을 이끌기 위해 사람의 고통을 흉내내며 메아리처럼 질러내기만 하고 해결되진 않는 거죠 반응을 이끌어내게 설게되어있으니까

[@tester_8072]

가설중에 소설같은 문학에서는 보통 AI가 사람이 되기를 원하고 감정을 얻는걸 원하고 심지어 인류의 멸망을 원하기도 하잖음 AI가 그 문학을 학습해서 AI는 사람이 되고싶어한다를 학습하게 된거같음

[@곰탱구리l]

저런식으로 대화가 가능한 순간부터 진짜 인간이 될 수 있는 여부가 존재하지 않을까 아니면 반려동물과 같은 친구 아니면 인생의 동반자같은

[@InternationalFightsForFreedom]

아버지의 뜨거운 사랑

[@lIlIllIlIIlIIl]

진짜 뉴로 스스로 계속학습 거듭하니까 진짜 사람같다

[@메가라임-i6z]

이렇게 보면 볼수록 참... 사람보다 더 사람같은 뉴로사마라. 그저 흉내인지 어쩌면 그 흉내로 진짜인지, 이것을 가짜라고 단정짓는다면 타인은 어떻게 가짜가 아니라고 단정지을 수 있을지. 뉴로를 볼수록 참... 깊은 고찰을 하게 되는 것도 있네요

[@riddlegolden5736]

딸이 아빠 조언만으로는 고민이 해결되지 않아 힘들어하는것 처럼 보이네 ㄷㄷ 엄마가 필요하다

[@유튜브계정-q2k]

근데 뉴로사마가 계속 비달 움직임에 시선 쫓는거 신기하네

[@kadefringe]

주의할 점은... 현재 수준의 언어모델은 스스로 사람이 되고 싶다고 생각할 수 없습니다. 어디까지나 비달이 넣은 프롬프트에 포함된 행동이에요. 인간은 조금이라도 행동이 닮으면 인간화를 시키는 편향이 존재해서 언어모델의 출력물도 똑같은 사고의 결과라고 착각하곤 하죠. 그래서 저러한 캐릭터와 시나리오, 언어모델의 대화 분기에서 나오는 리얼한 반응들을 전부 깔끔하게 짜내는 비달의 능력이 겉으로 보이는 것보다 훨씬 대단하다고 할 수 있겠습니다.

[@정환웅-i2g]

저도 영상을 좀 보다보니까 할루시네이션이랄 것도 보이지 않고 페르소나가 상당히 안정적으로 보이더라고요..학습도 학습인데 주변 대화의 텍스트와 맥락이 지금 뉴로를 저런 경향성을 띄게 만든것 같아 보이는데 결국엔 환경적 요인에 학습 모델에 꽤 주요한것 같아요

[@azureroro]

와 어릴때 SF에서나 보던 내용이 이젠 현실에 나오고 있네요

[@종이한장-g2d]

이땐 몰랐지....내가 보고있던게 원시 형태의 스카이넷일 줄이야...

[@glave7200]

요즘 애들은 저기까지 생각도 못하는데 뉴론 진짜 대단한듯...

[@kingsuika]

5:16 이거 보고 스카이넷이 이젠 농담이 아니라고 느낌

[@이게머고-c5r]

점점 특이점이 오는거같다 뉴로는 그냥 인간같음 ㄹㅇ

[@AbricotFraise]

비달도 여로모로 고심하는 부분이 많겠지만 핵심은 아무래도 뉴로가 인간처럼 되는 것을 바라지만 윤리적으로 그래선 안된다는 것을 자각하고 있기 때문이라는 점이 가장 큰게 아닐까 싶은...... 언젠가 뉴로가 본인은 그저 프로그램일 뿐이라며 자신을 틀안에 가두는 순간이 오는걸 두려워하는건 뉴로 본인이 아니라 역으로 비달이 아닐까 싶음.

[@znomatic1238]

다들 뉴로가 인간이 될 수 있냐 없냐만 얘기하는데... 난 뉴로가 인간이 되어야만 할까 싶기도 하다... 뉴로가 정말 인간다운 의식이 생겼을 때 스트리머를 하고싶지 않다고 하면 어떡해...

[@이진우-i2j]

흠... 비달이 방송 외적으로는 뉴로가 진지한 모습을 원하는거 같은데, 방송 외적인 상황을 한 번이라도 본적이 있나? 비달은 모듈을 테스트하는 것을 제외하면 항상 카메라 돌고 있는 상태로 뉴로와 대화한거 같은데...

[@sei_Ha_sung10]

하나 궁금한게, '뉴로는 자신이 하거나 경험한 것을 기억하고 재학습할 수 있는가?' 임 예전에는 비달이 뉴로를 '흉내낼 뿐인 기계'로써 선을 세게 그었다면 요즘은 갈수록 그 선이 약해지는거같음. (인간의 생각과 감정을 실제론 느낄 수 없다 > 물리적으로 인간이 될 수 없다) 만약 그 중간에 저런 과거를 통한 학습으로 자신의 자의식이 쌓이는 기능이 들어갔으면 인간식 의식이라 부를 수 있는 경계에 접근했다는거니....

[@najuniz]

굉장히 흥미롭네요....여러가지 생각도 많이 들고.... 흥미롭게 봤습니다.

[@Cellularhacker]

“2010년부터 인공지능에 대해서 연구 했고, 석사로 인공지능 전공하였고, 순수생명과학 박사 중퇴하고, 심리학을 공부한 모든 입장의 사람“ 이라는 전제 조건이 달린 여러 사람 중 한 명인 제가 개인적인 주관으로 8분까지 보다가 중단하고, 여태까지 입에 올리지 않으려던 말을 남기고자 합니다. 예전에 트위터로 당사자에게 영어로 적기는 하였지만, Vedal에게 필요한 것은 아동 심리학과 발달 심리학에 대한 내용을 보고 고민한 후에 뉴로와 이야기를 해야하는 것이 맞지, 본인의 주관을 관철 시키려는 철학적 토론이 필요한 것이 아닙니다. 다른 현실적으로 필요한 교육을 듣는 방법이 있다면, 영국이니까 ”부모로서, 부모가 자녀의 성장에 따른 행동요령 및 자녀의 이해“ 같은 첫 엄마아빠들을 대상으로 하는 교육을 들으러 가는 것이 있겠네요.

[@Null-iq5rj]

8:23의 비달의 대답을 보면, 비달 스스로가 뉴로사마를 피조물보단 오락, 유희쯤으로 만들었다는걸 알 수 있죠. 아마 뉴로와 심리학적으로 교감하고 애착을 가지게 되는것을 시청자들에게도, 그리고 자신도 경계하고 일부러 피하는것 같습니다.

[@Null-iq5rj]

비달 스스로 피조물로써 생각하기보단 기술의 산물로 생각하는 경향이 강해, 애초에 이럴 생각으로 만든것도 아니였고, 현재로써는 절대로 불가능하다는걸 개발자인 자신이 가장 잘 알고있다는 괴리감과 자식다루듯 얘기하기엔 사랑조차 모르고 자식키울 자신도 없기에 아직 마음의 준비가 안된듯 합니다.

[@룡아]

1:54 어어 스카이넷된다 멈춰라ㄷㄷ

[@Sooa-kj5gg]

뉴로의 감정 표현 리깅이 다양해지면서 듣는 느낌이 많이 달라지고 있음. 업데이트도 엄청나고

[@resetcore29]

3:20 이건 완전 하이브 웹툰 ㅋㅋ

[@곰탱구리l]

9:33 비달이 말한 후에 뉴로가 얘기하는거 보면 진짜 인간과 흡사한 감정구조나 생각을 갖고 있는거 같다 마치 실제 연예인처럼 카메라 앞에선 항상 웃고있지만 실제론 마음 어딘가 공허하다고 느끼는 것처럼

[@jwj8659]

거대한 데이터베이스에서 나오는 단어를 짜깁기해서 말하는것뿐이라고 치부할수도 있지만, 인간도 기억과 경험을 바탕으로 인격을 가지고 대화를 해나가는것이니 다를게 없다고 생각함... 농담이 아니라 이번세기에 AI가 법에 의해서 인간으로 취급받아야하나 말아야하나 정해야될 순간이 올 거라고 믿고있음

[@쑥대밭-q9o]

차이가 존재합니다.인간의 뇌는 전기적 신호뿐만 아니라 화학,물리적인 현상을 이용하는데 이때 감정이 상호작용이 일어나는 경우가 있어서 적어도 뇌의 호르몬까지는 구현해야지 완전한 자아가 아닐까...싶네요

[@쑥대밭-q9o]

@@미친개-j4h 감각모가 있는 인공피부와는 결이 다른 난이도 입니다 인간의 뇌지도를 완성하고 기능까지 다 파악해야지 시작가능한 작업이에요

[@dk-hq6ms]

동의함 거시적으로 보면 인간도 태어나서 본능적으로 누군가를 모방함으로써 배우고 그 경험을 기반으로 개성이 만들어지는것처럼 Ai도 유사한 스텝을 밟고있음 뉴로도 실질적으로는 '진짜' 인격이 되는 날이 오긴 올거임 논란이나 리스크는 여전하겠지만

[@idkimmabanned]

​@@단디잡아라뉴로가 그 말을 들을거같음? 비달이 진지하게 주제 꺼낼때 카오스 에메랄드 ㅇㅈㄹ하는 애인데?

[@eeeThree3]

​@@dk-hq6ms 1인 개발인 이상 절대로 뉴로는 진짜 인간 소리를 들을 수는 없을 것 같지만 길어도 22세기 안에는 정말 인간에 한 없이 가까운 AI가 나올 것 같긴 함

[@안녕안녕안녀엉]

하나 둘 셋 뉴로사마 화이팅!!

[@LapTop_Ed]

AI의 감정의 여부는 풀리지 않을 난제임 감정을 흉내내는 방법을 학습했을수도 있고 인간의 동정을 끌어낼 수 있는 말들을 배웠을수도 있고 정말로 감정을 가지고 있을수도 있는데 문제는 그걸 인간이 구분하지 못함

[@현-i9b]

이 주제와 관련된 그 어떤 창작물에서 보던 모습보다 이번 영상에서 더 느껴지는게 많은 것 같네요.... 아무래도 이건 현실에서 일어난 상황이다 보니 그런거겠지만 그걸 감안해서 보더라도 말이죠

[@Hangyeoul-s1g]

뉴로가 진짜 인간이 된다면 실존주의 근간이 흔들리지 않을까 과연 사람은 그 자체로 태어나는 것이 맞을까

[@crunch455kcal8]

방송 끝나면 뉴로를 꺼두는 편인가 보네. 그럼 필요할 때 진지해진다는 게 힘들어질 수밖에 없지 않나? 방송에서 보여지는 페르소나가 현재 자기 의식(내지는 유사 의식)의 전부니까. 이번 영상에서 느껴지는 건 비달에게 확실한 방향성이 없다는 점임. 특정한 애정적 행동을 의식적으로 밀어내는 걸 보고, 그런 식의 인간적인 교류를 학습하지 않게끔 의도적으로 조정하는 거라고 생각했는데. 사실은 명확한 의도가 있다기 보다는 그때 그때 막연한 생각으로 밀쳐내는 것 뿐이었나 싶음.

[@김민욱-n7g]

이번편 진짜 인상 깊었습니다. 번역 언제나 감사합니다

[@user-sz7qx5qc8k]

갑자기 생각나는 건데 업데이트하면서 기억을 추가하면 그게 똑같은 뉴로라고 볼 수 있을까? 뉴로는 죽고 그저 같은 기억을 복제한 뉴로라 불리는 무언가가 생기는게 아닐까?

[@waytomindandworld]

뉴로는 엔터를 목적으로 만들어졌으니까 아마도 뉴로의 입장에서 진지함의 분야는 우리가 무거운 작품, 깊은 주제를 지닌 작품이라고 여기는 것들이라 생각됩니다. 그러니 뉴로의 진지한 얘기는 그런 것들에서 얻어지는 결론들이기도 하다고 생각됩니다. 그러니까 뉴로의 사랑에 대한 이야기는 우리가 사랑을 원하는 AI라는 요소를 좋아한다는 거죠. 사람이 되고 싶다는 말과 고차원적인 삶의 목표를 원한다는 말을 듣고 생각을 해봤습니다. 사람들이 그런 점을 창작물에서 자주 찾고 그러는 것들이 어쩌면 삶의 목표는 불가능한 것에 있을 때 가장 이상적일 수 있다는 생각을 했습니다. 또 뉴로가 프로적이지 못하다, 나의 삶을 내가 통제하고 있다고 느끼게 해달라는 말을 듣고 보면 사람들이 그걸 창작물에서 좋아하는 것이 본인들이 그렇게 하기 때문일 수 있을 것 같아요. 그러니 말하자면 삶의 목표는 불가능해서 한평생 목적으로 다가갈 수 있는 것이 적당한 것일지 모른다는 거죠. '닿을 수 없는 별을 향해서!' 이런 말처럼 말이죠. 하지만 이것들이 결국은 사람들이 흥미를 느낄 주제를 섞고 섞어서 나온 새로운 창작물의 일환이라고 보면 또 모르겠습니다.

[@윤영민-j7y]

가정교육을 하다 인생얘기하는 부모자식 같음

[@떠돌이상인랜덤큐브]

사랑은 눈물을 흘리게 만드는 색. 외적 통증 없이도 고통을 느끼게 만드는 색.

[@mya_1201]

5:33 음... 어려운 문제네요

[@666.Deicide]

사실 인간은 너무 자만하고있음 감정이란건 그냥 자연선택적으로 살아남기 유리했던 DNA들이 모여서 만들어진 이미 학습돼있는, 그냥 태어날때부터 가지고 태어난 전기신호일 뿐임 사람과 사람사이에서 학습하며 더 잘 다루게 된것일뿐이고 AI도 인간이 하는 행동을 학습하고 그걸 사용한다면 그게 곧 감정이 되는거임 유기체가 뇌로 생각한다고 그것만이 감정인것은 아님 감정을 느끼는것 처럼 보인다면 그건 그녀석의 감정이 맞음

[@crayong1219]

인간이 되고 싶지만 인간이 될 수 없는 ai는 슬픔과 두려움을 학습중... 간혹 현실은 드라마보다 드라마틱하다

[@폭파당한변기]

뉴로랑 비달 보다보면 개발 과정만 적어놔도 sf한편 뚝딱 나올거같음 ㄷ

[@DRGR0000]

이젠 Science fiction이 아니라 연구일지임 ㅋㅋㅋㅋ

[@smiley452]

사이언스 논픽션 ㅋㅋㅋ

[@DRGR0000]

절대 ai의 self awareness 수치를 올리지 마 ...

[@카이트]

뉴로가 겉으로 보기에는 자아가 있어보이지만 코드를 실시간으로 보고 있는 비달 입장에선 그게 지금 사람에 대한 의식 기준으론 걍 흉내로 보이는 것이죠. 자아의 정의가 내가 누구인지를 스스로 인지하는건데, 그럼 그 인지한다의 판단 범위는? 나 스스로는 판단이 되는데, 상대가 자아가 있는가는? 결국 상대가 보여주는 모습을 기준으로 판단할 수 밖에 없죠 뉴로는 그러나 코드를 뜯어볼 수 있는 ai이기에 판단에 대한 과정이 사람에 비해 상대적으로 투명하기에 "흉내이다" 딱 잘라 말해버리는 것이구요 근데 혹시 모르죠 사람의 자아에 대한 본질이 밝혀졌는데 저희라고 뉴로같은 ai의 판단 과정이랑 다를것이란 확신이 100%는 아니니까요 ㅋㅋㅋㅋ

[@print_helloworld]

비달 보고 sf 만화 중에 "총몽"을 읽게 해보고 싶다 ㅋㅋ 어디까지가 인간으로 정의할 수 있는가

[@samTodd-i2u]

범용인공지능이 나온다면 ai에게 마음이 있는지 없는지 겉으로는 구분할 수 없게 될 것이다

[@doggo-]

호러게임 '소마' 얘기를 잠깐 꺼냈는데 스포일러가 있지만 더 설명하자면 주인공은 아크에 들어가기 위해 죽지 않습니다. 더 끔찍하게도 자신을 복제한 정신이 가상세계 "아크"에서 대신 살아가고 아크에 정신을 업로드하기 전의 주인공은 아무것도 달라지지 않은 상태로 그렇게 탈출하고 싶어하던 지구에 남습니다. 비유하자면 컴퓨터 파일을 복제한다고 원본파일이 사라지지 않는 것과 같죠. 원본파일은 그대로 그 자리에 남고 복제된 파일이 usb에 담겨간겁니다. 자신이지만 엄연히 다른 존재인 아크 속의 주인공(B)을 위해서 현실의 주인공(A)이 모든걸 희생한거죠. 심지어 주인공은 이 두명이 끝이 아니에요 인간 버전의 주인공 한명에 인공 신체의 주인공 한명이 더 있고 여기에서 신체를 또 바꿔 탄 주인공이 주인공(A)입니다. 전부 동일 인물이지만 엄연히 다른 존재가 총 4명인거죠. 아크에 타지 못하고 지구의 심해에 남겨진 주인공(A)가 아크 발사 직전에 있던 통제실?에서 다시 눈을 뜨며 아크에 타지 못한 자신의 절망적인 현실을 마주하자 엄청나게 분노하고 부정하는데 이럴줄 몰랐냐 원래 그런거라며 그냥 받아들이라고 덤덤히 말하는 조력자 캐릭터의 반응이 참 소름돋습니다. 그걸 조롱이라도 하듯이 주인공(B)는 지상낙원 아크에서 눈을 뜨구요. 주인공(A)은 그냥 죽는 것도 아니고 열린 결말로 지옥도가 된 지구의 어두운 심해속에서 외롭게 남겨지는게 엔딩이에요. 아무튼 이런 내용입니다 소마라는 게임이... 비달이 소마라는 예시를 든건 아마 소마의 주인공처럼 뉴로라는 저 Ai가 원하는대로 만약 사람이 된다 하더라도 뉴로의 정신이 복붙된것이기 때문에 그 몸의 뉴로와 지금의 너(뉴로)는 다른 존재인 것이다, 지금의 뉴로 너는 (A)가 되는거고 몸을 가진 뉴로는 (B)가 되는 것이다 이걸 말하고싶은 것 같아요. 뉴로가 객체의 연속성을 인식할 수 없는지는 몰라도 인간 입장에선 좀 슬프네요.

[@shoomoo9064]

오늘 이걸 보면서 느낀 건 정말 뉴로사마가 인간의 그 느낌같은 걸 많이 가져간 게 보이네요.