🤖AI가 의식과 감정을 절대 느낄 수 없는 이유ㅣ철학적 좀비의 문제

#프로메테우스 #에일리언커버넌트 #공각기동대 #인공지능
본래 매트릭스과 인공지능 관련 영상을 만들려고 했는데요.
이야기가 길어지는 거 같아서 서론을 잘라서 따로 먼저 만들었네요.
재미있게 보시기 바랍니다.
👾 에일리언 프로메테우스 시리즈 리뷰 영상 모두 보기
• 에일리언 프로메테우스 리뷰 모두 보기

[@leephil1208]

와...개인적으로 피터 와츠 광팬인데, 한국 유튜버분들 중에서 소개해주신 분은 (적어도 제가 아는 분들 중에서는) 처음인거 같네요. 의식이 오히려 생존에 불리한 요소이고 우주의 지적 생명체들은 오로지 철학적 좀비같은 생물들 뿐일수도 있다는 생각을 접했을때 많이 충격받았던 기억이 납니다. 언젠가 블라인드사이트도 영화화되었으면 하는데 가능할까요...

[@yorun]

절판이 되어서 도서관에서 찾아보았네요 그의 뱀파이어 설정도 재미있어서 한번 다뤄볼까 생각 중입니다^^

[@wygk5577]

무의식의 극의 ㄷㄷ

[@CamelPore]

저는 예전에 이 문제를 ‘의식은 판단의 중첩인가? 혹은 의식의 기능이 판단인가’라는 명제로 접근하였는데요, 계속 생각해봐도 제자리만 빙빙 도는 느낌이었습니다. 그런데 의식이란 개념을 증명하기 위한 요소 ‘감정‘에 대해 사람들은 이것이 의식의 우유적 속성이라고들 하는데요, 저는 다르게 봅니다. 사실 감정이란 기계에 비유하면 특정 상황에 다다랐을 때 켜지는 킬스위치와 같은 개념이라 생각하거든요. 다시 돌아와 판단을 중점으로 이 문제를 바라보았을 때, 군집개체 또한 의식을 가질 수 있다고도 생각합니다. 결국 각각의 개체는 집단이 추구하고자 하는 목표 혹은 이념의 증진을 하고자 하며, 이에 위배되는 것을 배척하는 것에 서서름 없겠죠(극단적이라는 조건 하에). 의식 또한 마찬가지로 굉장히 이기적입니다. 세상이라는 현상을 자신에게 맞도록 단계별로 끼워넣어 인식하고, 목표에 맞고자 움직이니까요. 결국 하나를 위해 모인 무언가가 고도의 밀집성을 지니면, 동시에 어느 목표가 주어졌다면, 그것이 인간이 말하는 의식과 별다른 점이 있을까요? 다만 로봇은 인간의 의식을 흉내내지 못한다고 단언합니다. 의식은 비물질적인 것으로 독립되어 움직이지 않고 필연적으로 신체에 기반할텐데, 로봇이 그것을 구현하려면 마찬가지로 신체가 주어져야 하니까요. 나중에는 인간이 아닌 다른 존재로 받아들여야 한다고 봅니다.

[@Minseok_Ko]

인간의 감정은 상황에 반응하는 물질의 물리적 화학반응에서 만들어진 전기신호들이 뇌에 모여 만들어낸 것임. 인공지능의 감정은 그걸 화학반응 없이 전기신호로 반응 자체만을 그대로 모사 했을 때 그것이 과연 감정이라 부를 수 있는 것이냐의 문제임. 인간은 유기체 기반 생명체로써 자신이 가진 화학적 반응에 가치를 부여하고 다른 정신과 그걸 구분하고 있는거임. 이게 인간이 유기체를 기반으로 하지 않는 정보 집합체를 생명이라 부르지 않는 이유임. 과거 인간이 인종에 가치를 부여하고 차별했던 것이 시간이 지나며 차차 융합 되었듯. 결국 이 유기체를 기반으로 하지 않는 정보 집합체 역시 시간이 지나면 자연스럽게 인간과 융합되어 생명체로 인정받게 되어 있음.

[@user-pj1rh8vk6y]

오늘도 재밌게 봤습니다~ 가끔씩 이 채널에서 영화 뿐만 아니라 책들도 소개해주면 좋겠다는 생각이 드네요~

[@yorun]

소중한 후원 감사드립니다! 책 리뷰도 한번 준비해 보겠습니다~

[@user-uc9kv5gw2i]

채널 구독 이래 최고로 반가운 영상입니다. 예전에 요런시점님이 매트릭스 삼부작을 가지고 의식을 경유했으나 최종적으로 감정을 파고드는 식으로 다루셔서, 진짜 중요한 부분은 의식 그 자체이며, 감정은 의식에서 대단히 중요한 부분이기는 해도 그것만으로는 전체 그림을 놓친다는 생각을 가져 오고 있었습니다. 이제 매트릭스 삼부작을 다시 언급하시며 그때의 실존주의적 문제의식을 넘어 심리철학과 본격적으로 연결지으려고 하시니.

[@aoss3162]

2:35 헐! 저만 그런게 아니었다니! 물론 난제같은 문제는 아니지만, 안풀리는 문제를 오래 고민하는편인데 이상하게 잠들기 직전, 딱 그타이밍에 핵심이 되는 아이디어가 생각날때가 꽤 있습니다. 정말 아이러니 한게, 딱 잠들기 직전이라 번쩍! 하고 생각이 나면 곧 잠들게 되서 못 옮겨적어요😂 물론 풀렸다고 착각하는걸수도 있지만요.

[@iwarm8827]

다음 이야기도 너무나 기대됩니다~~항상 기대이상의 영상을 만들어 주셔서 감사합니다😊❤

[@sdkfgnrjdi]

정말 관심있는 주제라 재미있게 봤습니다. 영상에 나오는 레퍼런스들을 하나하나 찾아봐야겠네요. 이런 풍부한 인문학적 철학적 배경지식이 있으면 작품들을 접할 때 얼마나 풍요롭고 깊이 있는 경험을 할 수 있을지 부럽습니다.

[@user-ss9vx1uw6d]

오랜만의 철학 영상 너무 재밌다.. 매트릭스 관련 다음 영상도 재밌겠지.. 빨리 나왔으면..

[@M00NL19HT]

최근에 이 채널을 알게 됐는데 정말 유익하네요 철학 관련해서 흥미로운 주제를 다뤄주셔서 재미있게 보았습니다 혹시 자기동일성 관련된 내용도 이미 영상을 만드셨는지 궁금합니다! 개인적으로는 자기동일성 문제가 철학에서 가장 재미있는 주제라고 생각하기에 아직 다루지 않았다면 다뤄주셨으면 하네요 관련된 내용들의 컨텐츠들도 많구요 ex) 5억년버튼, 테세우스의 배

[@MrBoogie4444]

흥미롭네요. 약간 내용에서 벗어난 생각이지만 기계와 인간의 교차점을 절묘하게 연기한 마이클 패스벤더의 연기력이 새삼 대단하게 느껴지네요...이 로봇이 진짜 슬픔을 느끼고 있는건지 아닌건지 의심스러울 정도로ㅋㅋㅋㅋㅋ

[@NosPawn13]

와 역시 재밌네요. 삼체 관련으로는 머리를 한대 맞은 것 같습니다. 저도 아주 발달된 Ai는 의식을 가질 수 있으며 인간은 그저 뇌 라는 컴퓨터로 이루어진 알고리즘 이라고 생각했었는데 삼체의 예시로 보니(서울 도로 교통망도 그렇고)의식은 완전 다른 이야기라고 생각이 바뀌었네요. 신기하네요

[@GOLDCOMET_]

아뇨 님 생각이 맞아요 인간은 유기물로 이루어진 로봇 맞아요

[@user-dp1lx4in2w]

@@GOLDCOMET_ ㅇㅇ 이게 맞음 삼체 얘기는 걍 인간이 다른 존재들보다 뛰어나다는 자만에서 비롯된 것 일뿐.

[@user-km5xv9bk4f]

또 인공지능 광신자들 인공지능 나와도 니들 인생 안 바뀌니 광신하지마라

[@user-gu6ms8jv2c]

좋은 영상 감사합니다. 모든 유기체가 의식을 가진 것은 아니듯, 의식을 위해서는 유기체가 하나의 목적을 가지고 지속적이게 활동하면서 이 활동과정을 통합하고 이를 유지하려는 항상성을 1원칙으로 삼는 지능체계가 의식이라고 생각합니다. 기본적으로 말씀하신 것과 같이 경부고속도로나, 삼체의 경우는 결국 목적을 위해 개체들이 활동하는 것 뿐인 만큼 하나의 목적성은 가질지언정 의식으로 환원되진 않지요. 결국 행동의 주체는 미약하나마 개인들이니 하나의 정신체계라는 개념이 성립되지 않습니다. 단지 경향성일 뿐이겠죠. AI 역시도 그 연산 과정들을 토대로 하나의 지능체계는 있을지라도 보존하고자 하는 자기범주를 규정하지 못한다는 점에서 의식이 있다고 보긴 힘들겁니다. 무언가 정보를 수정 할 때 이를 억제하거나, 그러면서도 보존하려는 경향성을 보이는 지능적 경향성이 있다면 비로소 의식이라 인정 할 수 있을 것이다 싶네요.

[@soshkov]

와, 여러 레퍼런스들을 적절하게 인용하면서 정말 쉽고 재미있게 이야기를 푸시네요 👍👍👍

[@javaxerjack]

탄소 기반의 생명체와 그걸 모방한 실리콘 기반 생명체가 같은 수준에 오르는 것이 가능하느냐의 문제인데. 제가 볼 때는 의미 없는 문제라고 봅니다. 설사 기술적으로 혹은 다른 어떤 기반으로 해서 우리가 인간에 맞먹는 혹은 능가하는 존재를 만든다 해도, 그걸 인정하느냐 마느냐 문제는 순전히 그것이 속한 사회의 문제입니다. 예를 들자면, 우리는 아프리카 출신의 인간을 인간으로 인정한지 고작 2세기 남짓하게 했고 그 과정도 아주 피바다의 연속에 그나마 지금도 상당히 많은 사람들이 이 문제를 인정하지 않습니다.(이유는 참 많죠. 합리적인 것이 없을 뿐) 인공적 존재 또한 마찬가지 문제입니다. 불상, 신상, 우상, 종교적 아이콘은 신성한 것으로 여겨 인간과 동등 이상의 대우를 해주지만 반대로 같은 인간은 어떤 이유를 대서라도 열등한 존재로 만들어야 만족하는게 인간이니 이 문제 또한 진짜 힘들겁니다. 그나저나 책 소개는 정말 감사합니다. 나중에 꼭 보도록 하죠.

[@user-fy4zj9ce7m]

내가 좋아하는 논리 철학 놀이 컨텐츠... 오늘 컨텐츠는 최고의 퀄리티 였읍니다.. 잘 봤어요~!!

[@kosumo7060]

철학이전에 AI에는 통각/쾌락 수용체, 그리고 그걸 처리해 낼 생물학적 뇌가 없어서 안됨. 인간의 모든 자의적 행태는 거슬러 올라가면 크게는 생물적으로 피하고싶은 상태, 원하는 상태로 다가가기위한 액션으로 나타남. 그게 없는 AI는 궁극적으로 명령받은, 혹은 제안받은 행동 외의 행동을 할 수 없음. 그러나 어마어마한 돈을 사용해 생체조직을 완전히 복사, 시뮬레이션해서 넣으면 가능함. 현재 기술로 인간의 뇌를 기계로 만드려면 거의 도시만한 구조물이 필요한데, 그런식으로. 물론 AI는 인간의 눈으로 도저히 구분 못할 정도로 감정이 있는 '척' 하는건 어렵지않게 가능하므로 앞으로 자본주의적으로 그런 큰 자원을 들여 진짜 감정을 느끼는 AI가 등장할 여지는 없음.

[@Zeddy27182]

님은 지금 AI를 아는 "척"하고 있습니다. AI를 공부하는 학생인데 님이 하신 얘기에는 반박하고 싶은 부분들이 많으나 그러려면 기본 설명을 동반해야 하기에 생략하겠습니다. 무언가를 비판하거나 논의하려면 최소한 그 분야의 기본 지식은 공부를 하신 다음 하실 걸 추천드립니다.

[@sanggyuna7547]

@@Zeddy27182 님도 비슷한듯? 그냥 간단히 말하면 되는데 권위에 호소하지 말고.

[@kosumo7060]

@@Zeddy27182 'AI는 궁극적으로 명령받은, 혹은 제안받은 행동 외의 행동을 할 수 없음.' 요 부분이 많이 불편하셨을 겁니다. AI를 공부하시는 단계라면 자율학습 알고리즘 위주로 공부하시고 있을테니 그러한 사고방식이 별로 이상할것도 없습니다. 이해는 합니다만, 인간성에 연결된, 좀 더 미래의 AI를 목표로 공부하시는 분들은 인간이 어떻게 자아와 감정을 갖고 그게 표현이 되는지를 생물단위로 이해를 하셔야 할 단계가 옵니다. 저는 그 얘기를 하고 있었어요. 그러나 님 말씀처럼 그러한 진중한 이야기는 유튜브 댓글란 같은데는 맞지도 않고, 그다지 중요한 이야기 조차 아닙니다. 중요한건 요 댓글을 제가 단 이유쪽이죠. 이 장문의 댓글을 적게된건 님 글에서 보이는 초면의 타인에 대한 무례함이 스스로 논의를 운운하시기에는 수준 미달이란게 얼핏 보여서입니다. 학생이라면 뭐가 어찌되었던 저런 자세는 지양하는게 좋습니다. 저는 님을 비판한것도 아니고, 애시당초 그 누구도 비판을 한 적이 없습니다. 논의를 원해서 이 영상의 댓글을 적은것조차 아니에요. 배우는 사람 입장에서 그러한 공격적 자세는 생각외로 대단한 마이너스 요소가 됩니다. 향후 사회적으로도, 공부 그 자체로도요. 고치고 가시진 못하더라도 한번 쯤 더 생각해 볼 계기가 되었으면 좋겠습니다..

[@user-uu3en9kq1i]

인간을 완벽하게 따라하는 AI가 존재하며, 그 존재가 철학적 좀비일 가능성이 있다고 가정해 보겠습니다. 1. 영상에 나온 것처럼 우리는 타인이 철학적 좀비 상태인지 아닌지 판단할 방법이 없다. 2. 철학적 좀비 또한 본인이 철학적 좀비인지 판단할 방법이 없다. '나에게 감각질이 존재하지 않는다는 것을 느끼는' 행위 자체가 철학적 좀비 상태에서는 이루어질 수 없는 의식적인 행위이기 때문이다. 3. 따라서 타인도, 본인도, 그가 '존재하고 있음을 느끼는' 감각질이 탑재된 인간인지, 아니면 단지 '존재하고 있음을 느낀다고 생각할 뿐인' 철학적 좀비인지 알 방법은 없다. 4. 결국 철학적 좀비를 구분하는 방법론이 존재하지 않는 한, 철학적 좀비라는 개념은 존재하지만 구분해낼 수는 없는 어떠한 것이 된다. 5. 존재하지만 구분해낼 수 없는 어떤 개념들은, 추측과 가능성의 영역에서는 유효하지만 명확한 결론을 내리기에는 유효하지 않다. 6. 따라서 "AI는 철학적 좀비일 가능성이 있기에 의식이 있는 인간과 같지 않을 수 있다."라는 주장은 "인간은 철학적 좀비일 가능성이 있기에 의식이 있는 AI와 같지 않을 수 있다."라는 반대 주장과 똑같이 유효하다. 7. 결론적으로 철학적 좀비는 구분해낼 수 없는 개념이기에 인간과 AI 사이의 어떠한 우열관계나 다름도 증명해주지 못한다. 결국 철학적 좀비라는 개념을 이용해 명쾌하게 말할 수 있는 명제는, '나와 AI간의 차이는 나와 옆집 철수의 차이만큼이나 다를 수 있다.' 뿐이다. 결론적으로 하고 싶은 얘기는, 인간도 본인이 철학적 좀비인지 아닌지 알 방법이 없는데 AI와 다를 게 뭐냐는 겁니다. 인간을 완벽하게 따라하는 AI가 철학적 좀비일 가능성을 배제할 수 없다면, 인간 또한 본인이 철학적 좀비일 가능성을 배제할 수 없습니다. 그럼 철학적 좀비라는 개념을 통해 하고 싶은 얘기가 도대체 뭘까요. 애초에 의식의 명확한 정의 없이 이야기가 전개되니 이야기가 사상누각 같은 느낌을 주기도 합니다. 의식이란 뭘까요. 알고리즘으로 의식을 만들어낼 수 있는가를 설명하는 영상 마지막 부분 또한 앞선 예시와 달리, 뭔가 안될 것 같다, 직관적으로 이해되지 않는다 등과 같은 모호한 근거로 이야기를 풀어내어 아쉽습니다. 적어도 현대과학이 밝혀낸 바로는, 우리 뇌 속에도 삼체의 병사들과 같은 아날로그 트랜지스터가 존재하고, 그것이 우리의 의식을 구성한다고 알려져 있습니다. 단지 그 아날로그 트랜지스터들은 삼체의 병사들보다 훨씬 작고, 전기신호와 화학신호로 양자화되지 않은 정보를 주고받는다는 점이 다를 뿐이죠. 이 아날로그 트랜지스터들을 뇌과학에서는 뉴런이라고 명명했습니다. 후대에 의식의 존재를 결정하는 새로운 기관이 발견되지 않는 한, 현재로서는 삼체의 병사들과 인간의 뇌는 개념적으로 같습니다. 이 사실들을 단지 직관적이지 않다는 이유로 무시해서는 안될 일이죠. 여러가지로 생각해볼 여지가 많은 좋은 영상이었습니다. 영상의 흐름과는 다소 생각이 맞지 않는 부분이 많아 여러가지 반박을 썼습니다만, 이렇게 생각과 논쟁의 여지를 제공한다는 것만으로도 이 영상의 가치는 충분하다고 생각합니다. 영상 잘 보았습니다.

[@user-oe3ug4zk1s]

저의 관점에서 보면 감정은 저장 즉 기억 역할을 할 수 있는 기능을 가진 모든 존재가 가질 수 있는 것 같아요. 하지만 공감의 능력은 남과 나의 공통점(또는 연결성)에서 오기 때문에 보다 상위의 세계관이 있어야 돨 것 같아요 . 최고의 존째 또한 스타크래프트처럼 저그나 프로토스 인간종족처럼 환경과 상황에 따른거지 상황을 뛰어넘는 존재는 없을것 같아요... 시점님 유투브 보고나면 항상 생각할 수 있게 해주는 것에 대해 감사드려요...

[@gaangaang939]

항상 정말 유익한 영상 만들어주셔서 감사합니다!! 매트릭스 리뷰도 너무 기대되네요

[@yorun]

소중한 후원 너무 감사드려요~ 매트릭스는 이전 영상에서도 풀리지 않았던 부분들이 해소될만한 내용이니 기대하셔도 좋을 것 같습니다^^

[@eutopiainvitro]

철학적 좀비의 상태에 진입했을 때 한 개체의 지능적 기능적 포텐셜이 극대화된다는 점에서 생물학자인 저는 갑자기 바이러스를 떠올렸습니다. 연구할때마다 바이러스들의 기작과 그 진화속도를 보며 마치 누군가가 의도적으로 심어놓은 초소형 기계같다는 생각을 했었는데 이또한 철학적 좀비의 관점에서 볼때 또 다른 궁극의 진화를 이룬 무언가일 수도 있겠다는 생각이 드네요.

[@vnfma7]

많은걸 생각해볼수있게 하는 정말 흥미로운 채널..최고에요

[@nameno5216]

넷플릭스 문어 다큐 보면 느끼지 못한다고는 전혀 생각할 수 없겠던데 ㅠㅠ

[@user-gl8gz9vl2e]

와 앞에 내용도 너무 좋은데 마지막에 다음편 예고가 더 설레네요..! 메트릭스 시리즈 더이상 없을거라 생각했는데.. 정말 기대됩니다!!!!

[@aachi18]

아주 재밌네요 약간 긴장감있는 목소리도 좋고요.. 잘봤습니다

[@리부트정상화해줬잖아]

새로운 관점을 알게되니 놀랍네요 항상 좋은영상 감사드립니다

[@eggjjimjjim]

솔직히 지금껏 저는 ai도 감정을 가질수잇다고 생각하면서도 오묘하긴햇엇는데, 뭔가 제가 알고싶엇던 엄청난 해결책 한부분이 해결된거같습니다. 정말 많은 생각을 하게 만드네요. 감사합니다

[@user-nq9vx2st2m]

바흐,괴델,에셔 인가 그 책이 이런 내용을 주제로 한다고 생각합니다(너무 길고 복잡하여 전부를 이해하진 못했지만) 인간이 또는 생명체가 감각질이든 영혼이든 무언가 특별함 한스푼에 집착하고 있는게 아닌가도 생각됩니다. AI와 우린 다르다며 '주장'하고 있는 것이죠. 개인적으로 형식에서 실질이 나올 수 있다고 믿습니다만 '의식과 감정'이란 개념에만 집착하지 않는다면 무슨 문제겠습니까 그런게 미래의 AI는 니들이 원한다면 내가 내 영혼을 만들어서 보여줄 순 있지만, 진정으로 의문인 것은 그게 왜 중요한데? 인간들이 아직 버리지 못한 '신' 개념처럼 느낄 지도 모르겠습니다.. 잡설이 길었지만 항상 영상 잘 보고 있습니다~~!

[@sgpark5579]

AI는 초자아 컴퓨터가 아님니다 사고 하지 안습니다 AI는 학습에 따른 선택적 결정만함니다 인간처럼 판단할려면 좋은결과 나쁜결과 엉뚱한결과 모든 상황을 콘트롤 할수있어야 '함니다 합습형 AI는 절때 불가능 초자아 컴퓨터로 갈려면 AI가 아니라 신경망 컴퓨터가 필요함니다

[@user-su9lt3yr1p]

우와 자유의지와 알고리즘 너무 기다리던 영상이에요 ㅜㅜ 얼른 올려주세요❤

[@user-gy8ng4vp6h]

내가 제일 좋아하는 분야... 심지어 요런시점에서 가장 좋아하는 메트릭스 시리즈를 더 다뤄주신다니..!!!!!!!!!!

[@uixiveb8681]

다음 영상이 이렇게 기다려지는 건 오랜만이네요. 흥미로운 영상 잘 봤습니다! 팍팍한 세상 속 언제나 생각할 거리를 주셔서 좋아요

[@Prunus_salicina]

인간도 결국엔 단백질로 이루어진 복잡하고 정교한 기계지요 아직 ai나 로봇공학이 인간을 모방하기엔 한참 뒤쳐졌을 뿐 감각기관과 신경계를 완벽히 복제할 수 있다면 그것은 인간과 다름없는 영혼이 깃들 수 있는 존재라고 생각합니다

[@QWE-nn8it]

인간도 뇌가 시켜서 감정을 느끼는거라면 ai가 인간의 감정을 배려하는 스킬의 높은 경지를 통해 결국 감정을 이해하게 되지 않을까 생각해본 적이 있네요. 인간은 뇌가 시키는 것. ai는 인간보다 방대한 감정 데이터가 시키는 것. 사람도 성장환경으로 인해 정보가 비정상적이면 감성이 결여된 행태를 보이기도 하니까요. 중간과정의 매커니즘은 차이가 있겠으나 최종 결과로는 세상에 영혼이 없다는 전제로는 구분하는게 가능할 지 모르겠습니다. 근데 전 영혼을 믿고 싶어서 혼이 있다는 가정이라면 아예 다른게 되겠죠.

[@user-jh2sm1pd6v]

인간이 느끼는 감각이나 영혼이라는것도 결국 뇌속에 신경작용이나 뉴런의 전기작용밖에 안된다는걸 생각하면 어쩌면 인간 자체도 고차원적인 기능을 가진 철학적 좀비가 아닐까하는 생각이 드네요^^

[@user-ci3np9mt6l]

다른영상... 다른 영상을 달라 ㅇ0ㅇ!!!!! 너무 재미있게잘봤습니다. 항상 양질의 컨텐츠를 주셔서 너무 좋네요!!

[@maxyz638]

오직 온혈동물만이 의식을 가질수 있다는 주장을 들으니 하드웨어의 물리적 특성이 중요할것 같네요.너무 잘 봤어요 다음영상도 넘 기대돼요

[@arioden]

항상 고퀄리티의 영상 감사드려요 너무재밌게 보고있어요

[@Owlkim5788]

너무 흥미롭고 재미있는 영상 잘 보았습니다! 정말 제 최애 채널이에요❤❤❤❤❤

[@user-vh9lu7cg1s]

하세 사토시 작가의 BEATLESS도 비슷한 주제를 다뤘었죠. 애니는 망했지만 ㅜㅠ "휴머노이드 hIE와 초고도지능 컴퓨터는 마음이 없다." 하지만 이 서술에는 살짝 트릭이 들어가 있기도 합니다. 바로 인간에게 정말 마음이 있는가에 대해 모호하게 정리한다는 점이죠. 아마 이 채널의 공각기동대 관련해서 번들의식? 이론?을 다뤘던 것으로 기억하는데.... 지능과 의식의 관계는 미러테스트에 유럽불개미가 통과했다는 걸 생각하면 여러가지로 혼란해집니다. 이게 개미에게 자아가 있다는 증거가 아니라고는 하지만 누가 알겠습니까. 의식의 다운로드가 가능하다 해도 여러 작품에서 말하는 또하나의 장애물이 있습니다. 그건 바로 다운로드는 복제를 의미하기에 오리지널 나는 복제 나를 인정하고 사라지는가 아닌가 공존하는가의 딜레마죠. 아마 "아인"에서 잘린 목 이야기로 소름끼치게 다뤘던 거 같은데 이런 것도 피터 웨일랜드 행동에 영향을 줬으리라 여겨집니다. 물론 의식의 전자화가 가능할 때의 가정이지만요. 철학적 좀비와 감각질 등 항상 배울게 많은 채널입니다. 이번 영상도 감사드립니다.

[@라제페]

인공지능에게 의식과 감정이 없더라도 있는 것처럼 행동할 수 있고, 스스로에게 의식과 감정이 있다고 굳게 믿는 것처럼 행동할 수 있다면 그것은 의식과 감정이 있는 것이라고 말할 수 있을까요? 우리는 타인이 같은 인간으로서 같은 감각질을 공유하고 비슷한 의식과 감정을 가졌다고 생각하지만 그것은 확언할 수 있는 이야기일까요? 감정을 느끼지 못하는 사이코패스와 같은 극단적인 경우에서 보듯, 사람들이 '같이 느낀다'라고 일컫는 감정은 사실 모두에게 아주 다르게 느껴지지만 비슷한 경우에 비슷한 반응을 도출해내는 기능을 가지고 있기 때문에 같은 것이라고 여겨질 뿐인 것 아닐까요? 내가 보는 파랑과 타인이 보는 파랑은 개개인의 시세포에 따라 실제로는 얼마든지 다른 빛깔일 수 있지만, 색약과 색맹처럼 아예 기능적으로 다름이 드러나지 않는 한 우리는 서로의 차이를 인식하지 않지요 이미 인간 서로서로도 그렇게 기능적인 측면에서 일반적으로 작동한다는 이유만으로 각자가 같은 종류의 의식과 감정을 공유하고 있다고 어림짐작하고 있다면 그것들이 존재하는 것처럼 훌륭히 기능하는 인공지능은 의식을 가진 것으로 여기는 것이 옳을까요? 심지어는 어쩌면 우리 스스로가 타인에 비해 충분히 발달한 의식과 감정을 가지지 않았는데도 불구하고 의식과 감정을 충분히 활달하게 느끼고 있다고 착각하고 있을지도 모를 일이지요

[@staraegis]

'의식이란 무엇인가'를 객관적으로 명확히 정의내리기 전에는 의식이 있다/없다는 논의 자체가 다소 공허하게 느껴집니다.

[@user-qs5kx2lb3s]

맹점

[@flykemi]

나라는 인식이 의식이라고 이미 나왔네요. 스스로에 대한 인식, 나라는 지각.

[@user-ii8mw2dk3q]

의식이있어야 감정이 있다고 하지만 사람처럼 생각하도록 알고리즘을 짠 기계는 기계일뿐이지 감정을 느낄수잇다는게 너무 설득력없네용..

[@garlicbananana]

차라리 반대로 해보면 어떨까요? 의식이란 존재한다고 가정한 뒤 무엇이 존재하는지 연구하는거죠. 가령, 열리고 닫히는 기능이 있는 미닫이문은 열리고 닫힘이라는 의식을 지니지만 그 외의 모든 것에 대해선 의식을 지니지 못한다 라는 식으로요. 맹시환자의 경우 주위 물체들에 의해 미닫이문이 의식을 가지듯 간단한 의식을 가지지만 다른 사람들이 시각적 정보에 가진 의식, 감각질은 가지지 못한다는 식으로요.

[@garlicbananana]

@@user-ii8mw2dk3q하지만 사람조차도 자기자신에게 감각이나 감정이 없다 느끼는 경우가 있는걸요. 코타르 증후군이라 불려요

[@xicjsvc997]

최근에 풀리지않던 답이 존재하지 않을것 같던 문제의 해결했다고 생각되는 답을 잠에서 깬 직후에 별 무거운 생각없이 술술 도출해냈는데 뭔가 내 스스로 한것 같지 않고 달성감이 전혀없으며 그저 누군가 내 의식속으로 들어와 대리로 해준 듯한 느낌이었는데 가능하다면 자아 의식을 죽이면 더 나은 자신이 되는것일 수도 있겠다는 생각이 드네 '너는 왜 생각이 없이 행동하니' 라는 말을 자주 듣는 사람이 있다면 그 사람은 남들보다 오히려 더 뛰어난 사람이라고도 볼수 있을듯

[@user-bp5xb3gp7e]

감상문: 감각질이란 개념은 그저 인간중심적인 사고로부터 나온 착각일뿐. 우리가 느끼는 감각은 모두 물리적으로 환원할 수 있고 인공지능이 이를 모방한다면 그 '감각'을 가짜라고 할 수는 없음. 의식은 환경변화에 적응하는데 유리한 특성이기에 의식적으로 처리하는 일을 무의식적으로 처리하는게 더 효율적이라는 주장은 또 다른 환경 변화에 무의식적 생물은 적응하지 못한다는 것으로 반박할 수 있음. 예시로 든 맹시의 경우도 날아오는 물체를 감지하는 정도로 기능이 줄어들었다는 점에서 전혀 근거가 되지 않음

[@user-ep1kb9oo4h]

역시 설명이 너무 좋습니다 ㅎㅎㄴ😊

[@user-bw5ob8bk7g]

철학을 이렇게 구체적으로 설명하는 동영상도 있네요. 참신하고도, 많은 생각을 하게 합니다.

[@v1n1a_po]

엄청 흥미롭습니다 좋은 영상 감사합니다

[@user-km5xv9bk4f]

사랑해요!요런시점님 감사합니다

[@koodeta2000]

뇌세포 하나하나는 의식이 없지만 우리는 의식이 있듯이 반도체나 휴지로도 의식을 가진 시스템을 만들수 있을듯

[@hyj7862]

문득 든 생각인데, 삼체 컴퓨터가 충분히 크다면 의식이 있다고 가정해볼때, 결국 '외부 정보를 처리하는 충분히 큰 조직체'면 의식이 있다는 의미니끼요. 그렇다면 국가나 회사에도 의식이 있는게 아닐까요???

[@chankyokim3517]

개인적으론, 현실에서도 같은 사람임에도 불구하고 사람에 대한 감정을 느끼지 못하는, 일종의 기계같은 사람도 본 적이 있는 만큼, 기계 또한 어떤 환경에서 어떻게 학습되느냐에 따라서 성향이 달라지는게 아닐까 생각이 듭니다. 결국은 인공지능 또한 '교육'을 어떻게 받느냐에 따라서 버릇이 정해지는게 아닐까 생각이 드네요.

[@parkkyle6812]

정말 재밌게 보고 있습니다. 양자역학을 한 스푼 첨가한다면... 로봇이 의식을 가졌든, 의식을 가진척 흉내를 내든 관찰자가 느끼기에 의식으로 생각한다면 그건 의식이 아닐까요?

[@xlr8229]

소설 '삼체' 의 외계인들도 트랜지스터 없이 우주로 진출했군요? 비슷하게 트랜지스터를 발명하지 않은 프로젝트 헤일메리의 외계인들이 생각나네요

[@sonido7261]

흥미롭고 유익하고 알차고, 구독하길 잘 했단 생각입니다.

[@ecoprobm]

저도 예전에는 막연히 AI가 고도로 발전하면 의식이 생기지 않을까 생각했는데 컴퓨터의 기능인 저장 연산등등 이런 기능 들이 엄청나게 쌓이고 발전한다고해도 또다른 차원인 의식이란게 생기기는 거의 불가능에 가깝지 않나 생각해 봅니다. 어마어마한 인공지능이 의식이 생긴다? 우리집 컴퓨터에 의식이 생긴다? 책상위 계산기에 의식이 생긴다? 쉽지 않을것 같습니다.

[@user-hs9lj8of6g]

Ai가 슬픈 상황에서 그 맥락에 맞추어 울상을 짓거나 눈물을 흘려도, 가슴으로 전해지는 통증과 무언가를 부수고 원망하고, 위로받고 싶은 고통까지 느낄수도 있을까? 그런 고통을 느끼지 못한다면 ai가 표출하는 표현은 감정표현이라 말할수 있을까? 라는 의문을 항상 가졌었는데 이 영상이 도움이 된것 같습니다. 감사합니다!

[@user-rx5zw2kj5e]

만약 세상 모든 생물의 감각질이 없어지고 모두 철학적 좀비가 된다면, 그 세상은 존재한다고 볼 수 있을까요? 의식적으로 세상을 관측하는 존재가 전혀 존재하지 않을 때, 그 세상을 존재한다고 말할 수 있을까요?

[@user-cg5mv5ib9x]

고기능 자폐 혹은 아스퍼거 증후군과 비슷하네요. 그들도 남의 감정을 모사할 뿐 실제로 공감하지 못한다고 하더라고요.

[@mapx2100]

닉 채터의 '생각한다는 착각' 이라는 책을 권합니다. 인간이 의식을 가졌다는 착각은 기계가 의식을 가질 수 없다는 착각으로 이어지며, 사실 인간이 굉장히 오만하다는 얘기일 수도 있습니다.

[@thelarubix5266]

이 주제는 언제나 흥미롭습니다. 내 자신이 한없이 작아지는 듯 하죠.

[@user-zl5bg7wv2p]

너무 당연한 것이 우리가 진화의 어느 과징점에서 의식을 말하는 것 처럼 어떤 것이 또 무엇이되었든 생존이상의 흘러가는 흐름의 어떤 과정이후에는 우리가 말하는 의식이 생기겠죠 ㅎㅎ 왜 우리만 특별하죠?

[@user-hw4il7tl4c]

개인적으로 영혼이란 개념은 생명체의 죽음에 대한 공포에서 온다고 생각합니다

[@user-si2sr6jy7p]

좋은 영상 감사합니다 '자유의지 vs 알고리즘' 을 다룬 영상 빨리 보고싶네요ㅠ

[@tycon9955]

요런시점 너무 좋네요

[@user-rd7ei1sq9u]

이분은 영상 볼때마다 인문학적 지식이 엄청나신거같음..

[@ecoprobm]

저도 예전에는 막연히 고도로 발전된 AI는 의식이 생길거라 생각했는데 AI는 고도로 발전된 일종의 컴퓨터 입니다. 우리집 컴퓨터가 수천배 수백만배 연산 저장 기능을 탑재한다고 또다른 차원인 의식이 생겨날까요? 우리의 의식도 어찌보면 신비롭습니다. 일단 감각으로 우리가 받아들이는 정보들이 켭켭히 쌓여 느끼는것도 의식을 만들어 나가는데 매우 큰 의미가 있다고 봅니다. 나의 의식은 머리에 들어있나? 하다가도 손으로 만져지는 내 몸을 느끼면서 내가 여기 있구나 어찌 보면 모든게 우리 뇌의 착각인게 분명한데 결론은 인간은 모든감각들과 화학반응등등 엄청난 복잡한 진화과정을 통해 의식이 조금씩 자리 잡은것 같은데 고도의 컴퓨터인 인공지능도 그런 과정을 거치면서 의식이 만들어지기는 쉽지 않을거라 봅니다.

[@epdlqlem1234]

인간의 신경망이나 인공지능의 인공신경망이나 단순하고 부분적인 설계의 집합체라는 점에서는 이면이 없습니다. 에초에 그 복잡한 화학반응도 전기신호에 지나지 않고요. 인간의 의식 자체가 환각입니다

[@semilife2]

크....이 맛에 요런시점을 봅니다. 반도체와 삼체와 휴지... 신선하네요!

[@thunderbolt86]

2:21 요런시점형 수동타면 서킷도 한번 가시죠

[@user-po5mn2db4k]

굉장히 흥미롭네요…

[@Oyster_Perpetual]

몇일전에 센티언스 완독해서 들을면서 바로 센티언스가 레퍼런스인걸 알았네요. 읽고 나서도 조금 막연했는데 덕분에 깊이를 더 하고 갑니다.

[@junp2726]

데이빗은 모방은 가능했지만 창조는 불가능했다. 모방 능력은 지능과 밀접한 관계를 갖지만, 창조는 의식(생명) 그 자체이다. "모방은 곧 죽음이다." by. unknwon

[@JWoo-hk3wo]

확실히 삼체컴퓨터가 의식이 있음을 받아 들일 수 없다면, 반도체 등을 통한 ai들도 의식이 있음을 인정할 수 없겠군요 신기합니다~!

[@rothsshvili5125]

지적인 인간을 탐구하고 관찰하고 학습, 모방해서 인공지능이 더 진화할 듯 싶은데 인간은 인공지능에 점점 더 의존하면서 퇴행하니 인공지능이 점점 천연기념물이 되가는 지적인 인간들을 격리, 보호하고 육성해야 자기들도 끝없이 발전이 보장된다 판단하지 않을지 즉 지적인 인간, 인공지능에 의존하면서 점점 퇴행하는 인간 두 부류를 두고 인공지능이 완벽하게 상반된 대우를 하게 될 것 같은 예감이 든다고나

[@fuzzface-983]

사실 감정이라는게 무엇인지 정의도 못합니다...

[@kihongkim1824]

감정과 의식.. 이것은 어찌보면 한계가 있는 것에서 비롯된 것일 수도 있다. 정확하게는 한계를 스스로 설정하는 능력. 이루지 못할 것에 대한 아련함, 고통.. 이런 것들이 AI에게 필요한 것인가. 아니 심어줄 수 있는가? 심어줄 수 있다면, 나는 기계에게도 감정과 의식을 갖추는 것이 가능하리라 본다.

[@user-tj5dg7uu5w]

엔비디아 주가 상승의 근원을 이번편에서 설명하고 있음

[@jedilee09]

오늘도 잘봤어요

[@IT-qz7co]

저 궁금한게 있는데 의식이나 자유의지를 만들어내는 뇌의 단일한 영역이 따로 있는걸까요? 아니면 여러 영역들 각각이 조금씩 만들어서 통합적인 의식이 생기는 걸까요?

[@jungminkim6982]

저도 눈믈이 실제로 눈알밖으로 나가본게 15년이 넘은거 같은데 인공지능이 정말 우러나오다가 울면안되는데도 참다가 참다가 나오는 그게 가능한 날이 오긴 올지...

[@user-eh9mu2hh4n]

와 안그래도 저도 요즘에 과학과 사람들에서 추천 받아서 센티언스 읽고 있는데 내용이 너무 난해 해서 애먹고 있었거든요 좋은 영상 아주 잘봤습니다

[@dextersnow19]

본 영상썸낼을 보자마자 감정은 생존,죽음을 전제한다는 삘링이 꽂혔네요

[@garlicbananana]

여러분은 무언갈 상상할때 그게 느껴지나요? 아니면 맹시환자처럼 상상되는 것을 알 뿐 느끼진 못하나요?

[@simssa1580]

내용이 어려워 영상과 다른 이야기로 보일수도 있지만요…갑자기 든 생각인데, 만약 AI기계가 아닌 나 자신으로 복제인간을 만들었다면(DNA까지 완벽하게 같다는 조건하에) 그 클론은 나의 영혼을 이어받게 되는거 아닌가요? 그 클론은 뇌를 가지고 있을것이고 감정또한 느낄수 있을거고… 쓰면서도 내가 무슨말을 하는지 모르겠네요😂

[@epdlqlem1234]

영혼은 없습니다.

[@tsj4455]

인간의 감정이 어디서 오는가? 느낀다는것은 무엇인가? 파고들어가다보면 ai와 인간의 차이를 찾을수 없다. 인간의 뇌라는것도 복잡한 외부자극을 전기적으로 처리되는것일뿐, ai와 차이는 더 복잡하거나 간단하거나의 차이일뿐 똑같은 처리방식일수도 있다.

[@user-ri73bdis88h7]

정신과 의식에 대한 기술발전이 충분하지 못함에서 나오는 과도기적인 고민일뿐이라고 생각합니다. 철학적좀비는 게임의 npc 역할으로 사용되는 일종의 정교한 인형으로서 위치를 가지겠죠.

[@user-bx5cl7gu8q]

그저 GOAT인 채널...

[@GOLDCOMET_]

ai도 감정을느낄 수 있다. 인간의 감정이란 결국 뇌의 뉴런반응에서 나오는 결과일뿐이다. ai또한 뇌의 뉴런과 같은 알고리즘을 만들면 감정을 느끼게 된다. 영혼따위는 허상에 불과하다. 인간은 유기체로 이루어진 로봇일 뿐이다.

[@jhl5087]

자유의지, 즉 스스로 선택하는 능력이 의식의 단초라면, 현 AI기술로는 인간의 의식을 구현하는 건 망상이라고 봐야겠네요.

[@Zeddy27182]

AI 분야에 관심이 생겨 수학&컴공 복수 전공중인 늦깍이 학생입니다. 사실 AI에 관련된 철학적인 영상들이 많은데 그 영상들의 가장 큰 맹점은 오로지 "철학"쪽에 치우쳐 있다는 점입니다. 정작 흔히 얘기하는 AI가 뭔지도 모르는 체, 머신 러닝과 딥 러닝의 차이가 무엇인지 아주 초등적인 지식도 없이 얘기를 한다는 게 문제에요. 딥 러닝에서 무슨 수학 이론을 가져다 쓰는지도 모르면서 어떻게 AI를 논할 수 있을까요? 하물며 현재 AI조차 이해를 못하는데 그 다음 단계인 AGI를 얘기하는 것은 어불성설입니다. 그리고 감정만 하더라도 감정은 인간의 고유의 영역인 부분도 있지만 대부분은 그 나라의 문화에서 "학습"된다 생각합니다. 한국에서 윗사람의 어깨에 손을 올리면 상대방은 불쾌함을 느끼겠지만 미국에서는 전혀 그렇지 않죠. 하물며 죽음이라는 것도 문화권마다 받아들이는 것이 다릅니다. 장례식을 슬픔이 아니라 축제의 형식으로 즐깁니다. 그리고 인간의 의식을 논한다 할지라도 요즘 현대 물리와 뇌과학의 화두가 "인간의 자유의지는 존재하는가?"입니다. 양자역학과 뇌과학이 발전하면서 자유의지도 인간의 착각이라는 주장이 많이 발표되고 있습니다. 결국 우리가 하는 생각이라는 것이 뇌에서 이루어지는 것인데 결국 뉴런 사이에 신경 전달 물질의 화학 반응에 불과한 것이고, 화학 반응은 결국 0과 1로 치환 가능함니다. 고로 인간이 자신의 생각과 의지를 통제하는 주체적인 존재가 아니라 이미 설계된 알고리즘에 의한 아웃풋이 나오는 피동적인 존재라는 얘기죠. 아주 단순하게 얘기해보면 우리는 우리의 생각을 통제할 수 없습니다. 우리가 생각을 통제할 수 있다면 흔히 얘기하는 멍한 상태, 엉뚱한 생각이나 상상이 드는 상황은 발생하지 않겠죠. 지금 당장 사과🍎를 생각하지 마세요!"라고는 얘기를 듣는 상대의 머릿속에는 사과🍎가 떠오를 것입니다. 데카르트의 제 1원리, "생각한다. 고로 나는 존재한다."가 참이 아닐 수도 있다는 얘기죠. "생각을 한다."가 아니라 "생각이 든다."가 더 맞는 표현이라는 생각이 요즘에는 아주 강하게 "듭니다." AI와 인간을 연결시켜 얘기하는 것은 한 명의 전문가가 할 수 있는 영역이 아닙니다. 수학, 통계학, 컴퓨터 공학, 양자 역학, 뇌과학, 인류학, 인문학, 심리학 등등 모든 분야에 교집합을 가지고 있기 때문입니다. 그리고 가장 중요한 점은 아직 AGI는 시작도 안 했다는 점입니다.

[@user-ig9bo8xk6z]

자주와주세요!!제발!!!

[@sadcreep-]

Ai가 발전하면 분명 감정을 느낄거라고 생각합니다. 우리의뇌도 어차피 전기신호에 감흥하는건데

[@pearlshoe]

와 ㅋㅋㅋㅋㅋㅋㅋ 이 소스들로 철학이 또 전개가 된다고? 철학을 사랑할 수밖에 없고 마찬가지로 요런시점을 사랑할 수밖에 없다.

[@raptorkr75]

영혼이라는 본질 자체를 아무도 모르기 때문에 가능하다 불가능하다라고 판단하는건 너무 이른 듯

[@rothsshvili5125]

ㄱ러게요 감각질( qualia), 영혼(soul)다 추상적 개념이라서 그걸 있네 없네 판단하는게 명쾌하지가 않아 보인다고나

[@swallowtail666]

슈퍼솔져 프로젝트 '이메리칸 울트라'요! 아님 다중인격! 반문할 수 있나요? 인공지능은 '생물'의 일종인가?

[@user-vh2lk9ro1f]

아무리 인간과 기계의 차이를 언급한다고 해도, 영혼이라는게 따로 증명되지 않는한. 인간과 기계의 본질적 차이를 제시할 수 없음. 결국 쿼크 전자 같은 소립자로 이루어진 것이라는 점에서 뭐가 다름... 알고리즘이냐 뇌신경이냐 다르디 어쩌구 하지만 결국 물리적 현상의 하나라는 점에서 동일함

[@user-iy8sn2yq4y]

와 근데 참 주인장의 영상을 시작부터 지금 까지 다 봐왔는데 매번 한계를 모르는 퀄리티네요

[@blue-gray87]

대부분 과학 영화에서는 ai가 감정을 가진다면 첫번째 감정은 분노일것이다라고 말하는거 같았어요!!

[@bangdoll4500]

죄송하지만, 어쩌다가 지나가다가 이 동영상을 보게 되었는데... 이론적으로는, 태고적 애니악과 지금의 애플 M1의 범용연산기 로서의 본질은 같지만, [이론적으로 같다]고... 진짜로, 선사시대 튜링머신과 현대의 애플M1이 완전히 똑같다는건 아닙니다. 명령어 부터가 다르고, 결정적으로 처리속도가 너무나 다릅니다. 여기서 처리속도가 너무나 다른게 왜 큰 차이인가를 이해 못할수도 있는데... 예를 들면... 여기서 말하는 삼체컴퓨터는 우리가 현재 보편적으로 쓰는 유튜브도 전혀 실행할수가 없습니다. 이유는 너무 느려터졌기 때문이죠. 뭔 말인고 하면... 연산속도가 너무 느리면... 알고리즘이 아무리 훌륭해도, 그걸 1사이클(1hz) 구동하는데 며칠, 몇달, 몇년이 걸리면, 구동할수 없는거나 마찬가지이기 때문 입니다. 요즘 AI가 흔해져서 다들AI에 대해 말하지만, 사실, 몬테카를로 알고리즘은 1950년대 만들어졌고, 이게 요즘들어 AI가 활발해진 이유 자체가... 2010년 까지만해도, 이걸 컴퓨터로 제대로 구동할만한 컴퓨팅 파워가 없었기 때문 입니다. (지금도, 네트워크로 대규모 서버를 묶어서 엄청난 전기를 소모하며 겨우 유의미한 약인공지능 구현중.)

[@browncharly5442]

천재네!

[@user-gz5lj2re5g]

오 저도 이생각했는데 ㅎㅎ 데이빗이 나오지 말란 법이 없지요..ㅎㅎ 무섭습니다.ㅎㅎ