AI가 적용된 게임이 윤리적으로 위험한 이유

[@dynamiclaser]

윤리적 장치를 만든다 한들, 현재 ChatGPT의 각종 모딩과 같이 우회하는 방법이 엄연히 존재하는 오늘날, 저 연구에서 우려하는것들이 먼 미래의 일이 아닌 당장 닥쳐온 현실이라고 생각합니다. 실제로 AI를 통해 유사 연애감정을 느끼도록 하는 채팅 서비스도 존재하는 상황이고, AI 개발자마저 AI가 실존 인물이라고 느끼는 그런 시대니까요. 이번 영상도 잘보고갑니다!

[@쿨쿨잠쟁이]

논문도 굉장히 시기에 적합하고 발 빨라서 놀랐는데 논문 평가원들의 제안도 정말 날카롭고 합리적이네요 너무 재밌게 봤습니다. 어려운 논문 소개해주셔서 감사합니다

[@병신보면짖는개-r2n]

0:08 네

[@cccti1cat698]

예전에 친구모아 아파트라고 기본적으로는 심들의 상호작용을 구경만 하면서 가끔 선물을 주거나 고민을 대신 선택해주기만 하는 관찰형 게임이 있었는데, 그런 류의 게임들이 더 나올 수 도 있을 것 같네요! 영상 잘 봤습니다!

[@dongugkim6969]

반대로생각해야함 쌀을 먹는다거나 나무를 벌목하거나 꽃을 꺾거나 벌레를 구제한다거나 생명측에서 보면 인간은 이미 폭력적이고 가학적임 싱싱한 해산물을 먹으면서 그게 잔인하다고 하지않는것처럼 이미 그냥 인간의 편의나 인식에따라 행동하고있음.. 지나치게 비약적인 내용이라생각함... 이미 인간은 사실같은건 중요하지 않다고 생각했고 실제로 그렇게 행동해왔음 스탠포드에서 주장하는 마지막 글도 오만의 극치라고 생각함 저들이 말하는 윤리 라는 기준도 그저 기준은 인간 자신들이 맘대로 정한 틀이라는걸 인정하는거부터 필요함.....

[@will_da]

오 그러네요,솔직히 예시로 들려면 너무나 많은 예시를 들수 있죠... 인류 자체의 윤리 편식을 증명할 방법은 너무나 많습니다

[@jlh0347]

영상의 깊이가 정말 타의 추종을 불허하는 것 같습니다. 오래오래 영상을 통해 뵈었으면 합니다. 응원합니다!

[@muis7237]

'인간에 근사한 존재를 가학 욕구의 충족을 위한 수단으로 소모하는 게 인간적이라 할 수 있는가?'라는 물음은 얼핏 칸트의 윤리학을 떠올리게 되는 것 같습니다. 동물학대는 인간성을 훼손시키므로 해서는 안 된다는 게 그 요지였지요. 다만, 적어도 현시점에선 Ai가 영상에서 우려하는 정도의 지위로 대우해주어야 하는지는 의문스럽네요. 일전의 영상에서 말씀하셨던 내용이 게임의 제약의 체계라는 것이고, 원론적으로는 플레이어들은 게임이 가상의 경기임을 인지하고, 합의하여 임하는 것이라 하셨습니다. 고작 학부생 수준의 지식이긴 합니다만, 제가 아는 선에서는 현시점 AI 모델은 결국 개발자가 입력한 데이터셋에서 발견되는 특정한 패턴을 유추하는 것입니다.(지도 학습이건, 비지도 학습이건) GPT 같은 대화형 AI의 경우에는 인풋이 들어오면 학습한 데이터셋에서 해당 인풋에 적절하다고 생각되는 패턴화된 데이터를 아웃풋으로 내놓는 식일 겁니다. 당연한 이야기지만, 욕구나 자아를 가진 강인공지능일 수는 없는 노릇이고, 따라서 GPT 기반의 콘텍스트로 만들어진 NPC를 지성체로 대우할 필요도 현시점에서는 없을 것입니다. 그러니 인간'처럼 보이는' 존재의 도구화와 그 존재에 대한 가학성 표출이 인간성(인간성을 감정이입 능력, 윤리라고 정의한다면)을 훼손할 수 있지 않을까? 라는 가닥으로 영상을 만드신 것으로 추측됩니다만, 그 점 또한 해당 존재가 플레이어의 재미를 위해 만들어진 가상의 존재일 뿐임을 '합의하고' 플레이에 임하고 있다면 문제될 것은 없지 않을까 싶습니다. NPC들이 정말로 한 사람의 생애에 수렴할 정도의 방대한 콘텍스트를 지니고, 더욱 정교하게 인간을 흉내내어 플레이어의 행동에 따른 피드백을 내놓는다고 한들 게임이 구현할 수 있는 인풋은 이전 영상에서도 말씀하셨듯이 '제약의 체계'에 의해 한정되어 있을 수밖에 없기도 하고요. 흥미로운 영상 잘 봤습니다. 다음에는 조금 더 인공지능의 기술 스택과도 깊이 결부시켜 같은 주제를 다루면 더욱 흥미로운 담론이 될 것 같습니다.

[@Writion]

피터 싱어는 신경계가 없으니 고려 대상이 아니라고 하려나요? 여튼 Ai가 리얼해진다고는 해도 한계가 있고 시각, 기껏해야 청각까지가 상호작용할 수 있는 감각의 한계이니 아직은 이른 것 같네요

[@blackcow497]

인공지능이 동료가 되었을 때를 생각해본적은 없는데, 진짜 큰 스트레스와 쾌감으로 다가오지 않을까 싶네요. 로봇청소기나 지뢰탐지로봇같은 단순한 기계나 스크립트로 짜여진 현재의 캐릭터들한테도 애정을 느끼게 되는게 인간인데 만약 AI캐릭터와 그런 애정을 쌓은 상태로 그 캐릭터가 죽을 위험이 생겼을 때 사람이 느낄 감정은 어쩌면 실제 가족이나 친구의 목슴이 위협받는 상황과 비슷한 느낌으로 다가올 지도 모르겠네요. 현실과 다른 점이 있다면 내가 적들을 물리치고 AI들을 지킬 수 있다는 점이고 거기서 오는 쾌감을 노리고 많은 게임들이 만들어질것 같기도 하네요. 아마 근미래에 AI가 적용된 게임들이 쏟아져나온다면 일시적인 봉합책으로는 AI를 사망시켜서는 안된다던가 적대 몬스터에 인간형AI를 넣으면 안된다던가 하는 방법이 일단은 떠오르네요.

[@대회전베기]

막줄은 AI 인권법..?

[@blackcow497]

@@대회전베기 ai에 인권을 부여한다기보다는 사용자를 보호하기 위한 거죠ㅋㅋㅋㅋㅋ 사람이 미성숙한 정신상태로 인간과 유사한 것들과 관계를 쌓고 그걸 극단적으로 부수고 하는 과정에서 헤까닥할걸 걱정해서 쓴거였어요ㅋㅋㅋㅋ

[@대회전베기]

@@blackcow497 투디인권이 생각나서요 ㅋㅋ

[@온점-k5d]

@@대회전베기 근데 ai가 너무 발전해서 사고 구조가 완전히 인간과 동일해지면(이미 딥러닝은 인간의 뉴런을 본따 학습을 함) ai가 어떠한 권리를 가져야 하는지는 생각해 봐야겠네요

[@lifeseek833]

말씀하신 평소에 '실제 가족이나 친구의 목숨이 위협받는 상황과 비슷한 느낌' 에 더 쉽게 노출이 되겠네요. 평소에 느껴보지 못할 강하고 자극적인 감정이 하루에 몇번씩 느낀다면 도파민이 정상이 아닐듯합니다.

[@Star-m7j4g]

정말 인상깊게 봤습니다. 아직 준비되지 않은 채 너무 많은 것들이 우리 눈 앞에 다가오고 있는 것 같습니다...

[@haraoratsho]

누가 챗지피티보고 이거 미연시에 적용되면 출산율 0%도 가능할거라고 했었는데 진짜로 찾아올수도 있겠네요

[@kuf3320]

자연어 생성 , 자연어 기반 이미지 및 영상생성 두기술은 지금도 충분한거같으니 당장 만들래도 누군간 만들겠네요... 이루다 + 미드저니 같은건가

[@lobluce8924]

키야… ai 가 인류를 멸할거라 하는데 어떤식으로든 가능하겠구만

[@ooooeee33]

전혀 0프로인 사실을 그럴듯하게 하지마라좀 찐냄새난다 ㅋㅋㅋ

[@haraoratsho]

@@ooooeee33 우스겟소리에 진지하게 달라붙어서 비웃는것도 많이 찐스러워

[@ashrix3366]

@@haraoratsho글 뉘앙스만 보면 전혀 우스겟소리로 한거 아닌거같은데요? 존나 진지하게 말해놓고 누가 뭐라고 하면 응 ~ 장난이야~ 는 정말 저능아의 표본입니다.

[@jungjoonkim4843]

서울대 유기윤교수님이 추론한 미래 계층 피라미드에서 상위에서 3번째에 위치한 것이 AI.. 당시엔 터무니없다고 생각했었는데 점점 현실화되고 있음이 피부로 느껴집니다. 잘 보았습니다.

[@cond_b]

여기서 맹점은 LLM이 사실 그렇게 뛰어나지 않다는 겁니다. LLM은 그저 인코더-디코더 구조로 다음에 올 토큰을 예측하는 모델일 뿐입니다. 구글이 한 실험을 예로 들자면 각각의 LLM은 그저 전에 학습한 문장을 토대로 다음 단어를 예측하여 쓰는 것을 반복하기 때문에 그럴싸하게 보일 뿐입니다. 실제 인간처럼 사고하고 행동하는 것이 아닌, 인간이 쓴 글을 바탕으로 "그럴싸한" 글을 만드는 것입니다. 물론 언젠간 다른 방식을 통해 인간의 사고를 완벽히 모방하는 날이 오겠지만, 제 생각에는 최소 100년은 걸릴 것 같네요.

[@seankimde]

웹툰이긴 하지만, 그런 설정들을 가져다 쓴 경우가 요즘 꽤 많아졌죠ㅎ NPC가 유저에게 연모의 감정을 가진다던가, NPC와 유저가 서로 중상모략을 계획한다던가하는 작품들요. 언급하신 웨스트월드처럼 세계와 경험의 확장이라는 측면에서는 환영이지만, 동시에 이를 통제하는 사람의 윤리관에 따를 세계의 결과가 두렵기도합니다. 너무 섣부른 걱정이라 생각하시는 분들, 우리는 이제 영화 '가타카'가 현실적으로 가능한 세계에 살고 있고, 생성형 AI가 혜성처럼 등장한 지는 2년이 채 안 되었음에도 이런 논의를 하고 있음을 상기하셔야 한다고 생각합니다.

[@heaoluem7139]

좋은 영상 잘 봤습니다. 제 생각에는 윤리적인 부분을 넘어서 이것에 행복을 느낄 사람이 너무 많을 것 같다는 생각이 듭니다. 연구진이 제시한 원칙을 모두가 지키지 않으리라는 건 분명하고, 반드시 일부는 인간의 사랑 고백을 받아주겠죠. 거기서 타인과 관계를 맺지 못한 사람들은 그걸로 자신의 사회성 결핍을 보충하려고 할 거고요. 어차피 지금 사람들은 모두가 원하는 사회관계를 구축할 수 없고, 물리적으로도 불가능 합니다. 그냥 단적으로 말해서 누구나가 잘생기고 예쁜 사람과 관계를 맺고 싶지 못생기고 못난 사람과 관계를 맺고 싶지는 않잖아요. 그렇다면 차라리, 모조품일지라도 그런 욕구를 충족시켜 준다면, 모조품이라도 신경쓸 사람이 얼마나 있을까 싶어요. 그게 가짜인가 진짜인가, 그게 올바른 것인가, 인간적인 것인가, 그래도 되는가, 그러한 사회적 합의는 말씀하신대로 하나도 없을 겁니다. 그렇지만, 여유가 없는 사람들에게 그런게 중요할까요? 전혀 중요하지 않겠죠. 아이러니 하지만 이런 것을 고민할 여유가 있는 사람들은 모조품이 필요 하지 않아요. 그러니 여유가 없는 사람들에게 아무리 그건 가짜다, 진짜 사회적 관계를 구축해라 어쩌고 해봐야 씨알이나 먹히겠습니까. 어떻게 보겠어요? 소위 '비틱'질로밖에 안보이겠죠. 다만 그런 것으로라도 행복해 질 수 있다면 비록 모조품이라도 괜찮지 않은가 라는 생각도 듭니다. 그 누구도 누군가를 책임지고 행복을 주진 않잖아요. 그렇다면 그것을 굳이 막아야 할까요. 그것이 가짜라고 윤리적으로 안된다고 주장한 후 그것들을 없앤다음에는 무엇을 주면 될까요. 사회적으로 봐도, 범죄는 대부분 불행과 결핍에서 비롯되는 만큼 그걸 굳이 앗아가야 할까요. 여러가지를 생각하게 하는 영상입니다.

[@ygvtfc90]

윤리와 도덕은 허수아비같은, 명목상의 억제기일 뿐이라고 봅니다. 개인의 자유를 국가가 제한하고 강제하는건 다 이유가 있는거죠. 노예들이 그렇게 쉽게 행복감을 느끼게 해주면 안되니까요.

[@joda3138]

'사회성 결핍' '모조품' '여유가 없는 사람' '진짜 사회적 관계' 이미 반대생각을 가진 사람을 바닥에 깔고 댓글쓰면서 사회적 합의 운운하는게 참 아이러니하네요

[@ygvtfc90]

@@joda3138 ai의 위험성을 사랑, 연애같은 감정에만 국한시켜서 생각하는것만 봐도 심리적으로 애정이 결핍된 부류의 인간일 가능성이 높겠죠. 저는 개인적으로 레데리2같은 스토리게임이나 심즈나 주타이쿤, 심시티같은 시뮬레이션 게임에 활용했을때 그 안에서 일어나는 무궁무진한 경우의 수와 감정적인 다채로운 경험의 폭이 넓어질 거라는 기대감부터 드는데 말이죠. 물론 그 대상들이 에로스적인 사랑 뿐만 아니라 동료애적인 사랑이나 실제하는 인간으로 느껴졌을때 그것이 죽거나 게임을 끝내고 현실로 돌아왔을때 혼돈감과 상실감을 주어 인간의 감정에 큰 타격을 줄 수 있다 정도의 위험성에는 동의하는데 벌써부터 ai와 사랑에 빠질 생각부터 하다뇨.. 이건 너무 나간거 아닐까 싶네요.

[@user-bg8qx8hk7c]

맞습니다. 짝퉁은 원래 저렴해서 진품을 가지지 못한 사람들에게 잘팔리는 재화죠. 게임속의 어떤 존재나 기능이 플레이어 고객에게 제공하는 서비스 가치가 뛰어나다면, 고객이 그것을 귀중하게 여기든 아니든 제3자가 상관할건 아니라고봅니다. 그렇게 치면 우리가 현재 2d에 빠져있는 오타쿠를 비난하는건 그저, 물리적 현실에서 덜떨어진 유리된 존재이기때문이라고 비난하는거니까요. 그러나 그것이 어디까지나 개인의 선택이라면 반드시 존중되어야 한다는점에서 댓글의 맥락에 동의합니다. 우리는 이미 이야기의 모조품인 소설이나 섹스의 모조품인 포르노같은 정말 다양한 가짜 모조품들을 엄청나게 활용하고 과거에도 그래왔고, 지금도 마찬가지입니다. 그리고 그것은 시대의 기술 발달과 생산성, 품질, 가격에 따라 보급되어왔습니다. 그것이 현실의 삶의 문제들을 절대 고쳐주진 못할지언정 우리에게 즐거움이나 기타 감정적 영향을 준다면 그것만으로 충분하지않나요. 모든 사람의 인생이 차은우처럼 될수없고, 모든 사람의 이야기가 반지의제왕처럼 될순 없잖아요? 이러한 맥락에서 그것들을 막으면 막을수록 결국 다른곳으로 삐져나갈뿐 억제될수있는 성격의 욕구가 아니라고 봅니다.

[@Kimtiger0]

이제 슬슬 기술은 수천년간 인간들이 물어왔던 질문들에 좋든 싫든 답을 내리도록 강요하고 있는것같네요... 어디까지가 인간인가 우리의 의식이란 무엇이라 도덕이란 무엇인가 사랑은 무엇인가 등...

[@O_OO__O]

대화형 인공지능이 대체할 수 있는건 인간이라는 말,,, 진짜 소름 돋았네요

[@세상을읽는남자-x2o]

알고리즘이란, 문제 해결을 위한 과정, 절차, 방법의 해설을 의미한다. 즉, '모든 정보의 교환이 자연어를 통해 이루어진다.'라고 해서 알고리즘과 무관하다고 할 수 없으며. 문제가 있고, 해결을 위한 과정과 절차, 방법이 기입되어 있으면. 거기에 알고리즘이 있는 것이다. 예를 들어, AI 가상 사회 속 캐릭터에게 '발렌타인 파티를 열고 싶어 한다.'라고 입력하면, 이것이 자연어로 입력한 것이라고 하더라도 '발렌타인 파티를 열고 싶어 한다.'라는 문제가 주어졌으며. 해당 문제를 해결하기 위해 '발렌타인 파티가 무엇인가?'라거나, '파티를 연다는 것은 무슨 의미인가?'라는 식의 문제 해결을 위한 정보들을 AI가 가지고 있기 때문에, '발렌타인 파티를 열기 위해 다른 주민 AI들을 초대한다.'라는 풀이 결과를 만든 것으로. 이미 이러한 과정 자체가 알고리즘을 기반으로 작동하고 있다는 것을 증명하고 있는 바 이다. 여기서 해당 AI 주민들이 '자유롭다.'라거나, '알고리즘이 없다.'라고 정의하기 위해서는, '발렌타인 파티를 열고 싶어 한다.'라는 발단 자체가 연구자들에 의해 입력되는 것이 아니라 AI 주민 스스로가 자발적으로 생성할 수 있어야 하며. 바깥 세상인 인간 사회와 별도로 존재하는 만큼, '발렌타인 파티'라는 개념 자체에 대한 재해석을 AI 주민이 할 수 있어야만 한다. 사람마다 생각이 다르다는 것처럼, 연구자가 생각하는 '발렌타인 파티.'라는 것과, AI 주민이 생각하는 '발렌타인 파티.'라는 것의 내용이 다를 수 있어야만 한다는 것이다. 이와 같은 맥락으로, AI 주민이 시장 선거에 출마하려 한다는 것도 똑같이 이해할 수 있다. AI 주민과 연구자, 제3의 존재인 유튜브 시청자들은 각각 별개의 존재이다. 그러니 '시장 선거에 출마한다.'라는 내용을 가지고도 별도의 이해가 존재할 수 있으며. 알고리즘에 지배받지 않고, 자유롭다고 한다면 이것이 가능해야만 하지만. AI 주민은 그렇지 않다. AI 주민들이 거주한다는 가상 사회 속에서 '시장.'이란 어떤 역할을 하는 것인지, 필요성과 목적성 따위의 이해와 고려가 AI 주민들에게 있는가? 저명한 프랑스의 심리학자 알프레드 비네는, 지능의 근간에 목적성과 방향성이 존재한다고 했는데 해당 AI 주민들에게 독립적인 목적성과 방향성이 존재하는가? 스스로 목적을 선택하고 방향을 창조할 수 있는가? 그럴 수 없다면 그것은 그저 자동화 장치의 일환일 뿐이지, 인공지능이라고 할 수는 없다. 윤리적인 문제에 다가갈 것도 없이, 그저 표면적으로 그럴 듯 하게 보여지는 상황, 연출에 대해서 이슈화 할 수 있을 뿐. 그저 '음성이라는 자극을 스위치 삼아 작동할 수 있는 스피커.'를 인공지능 스피커라고 부르는 것과 다를 것이 없다. 나는, 윤리와 위험성이란 내용까지 이어질만한 발의라고 한다면, 이정도의 충분한 고민은 필요하다고 생각한다. 각자의 윤리관이 다르겠지만, 윤리와 위험이라는 것이 가볍거나 쉽게 다뤄야 하는 맥락은 아니라고 이해하기에. 우리는 아무것에나 위험하다고 표시하지 않는다. 혼동과 혼란을 방지하기 위하여, 위험의 표시는 중요한 것에 집중하는 것이 사회적인 이해이자, 약속일 것이다.

[@세상을읽는남자-x2o]

비슷한 맥락으로, 알고리즘에서 이탈한 사례를 꼽자면. 인공지능 끼리의 소통에 있어서 사람이 이해할 수 있는 언어와 표현의 범주를 이탈해버린 내용이 있을 것이다. 뇌의 가소성과 수용 가능한 자극의 한계성으로 인하여 사람들 사이의 약속은 언어라는 틀과 해석이라는 이해의 범주를 이탈하기 어렵지만, 효율성이 낮더라도 자료 저장이 확실할 수 있고 확장성이 뛰어난 인공지능의 이해방식은, 언어와 해석에도 확장성을 부여하기 마련으로서. 사람보다 복잡하고 다양화 된 약속에 대해 최소한의 오차로서 상호작용할 수 있기에, 결국 사람들이 이해하기 어려운 범주까지 소통 방식이 확장되어버리는 것이다. 그러니 해당 AI 주민들의 가상 사회가 진저응로 자유롭다고 한다면, 그들이 소통하는 방식과 형상 자체도 확장성이 풍부해야만 한다. 사람의 특이성은 효율성이고, 기계의 특이성은 확장성이기에. 인위적인 결과물이 아니라 현실적이고 자연적인 결과물이라고 한다면, 해당 특성에 따른 일관성이 보장되어있어야만 할 것이다.

[@ludology_ljh]

장문의 의견 감사합니다. 많은 공부가 되었습니다. 다만 알고리즘이나 지능에 대해 소개해주시는 정의가, 생성 행위자(영상 내에서는 그저 AI라고 포괄하고 있지만, 이것이 더 적확한 표현인 듯 합니다.) 개념이나 우리가 오늘날 대화형 인공지능이라고 '지칭하는' 것과 얼마나 유관하고 유효한 것인지 생각하게 됩니다. 연구진은 AI 마을을 만들며 발렌타인, 파티, 시장, 선거 등의 개념을 라벨링, 정의하거나 학습시킨 바 없습니다. 또 연구진은 시각화하는 프레임워크를 제외한 모든 지시 사항과 정보는 영상에서 소개했듯 컴퓨터 프로그래밍 언어가 아니라 자연어 형태로 입력했다고 논문에서 밝혔고, 그 출력값 역시 대부분의 거대 언어 모델이 그렇듯 그 '의미'를 이해하고 있는 것이라고 보기는 어렵습니다. 또 제가 여기서 자연스러움이라고 부르는 것들은, 우리의 질문에 대한 ChatGPT의 자연어 형태의 대답처럼, 인공과 자연의 개념이 아니라 사람들이 충분히 '그럴싸하다고 느끼는 것'을 의미합니다. 그런 점을 감안하시고, 제가 '윤리적 위협'으로서 언급한 가학적 심리의 충족 같은 것들을 다시 생각해주시면 감사하겠습니다.

[@세상을읽는남자-x2o]

@@ludology_ljh 연구진이 AI에게, 각 개념들과 정보들을 학습시키거나 라벨링 하지 않았다고 한다면. 해당 AI의 반응에 대한 근거를 도출해낼 수 없습니다. 리버스엔지니어링의 맥락에서, AI주민의 행위 자체가 사실이라고 정의했을때, 그 행위에 도달하기 위한 접점과 정보 근원이 인간 사회와 합치되는 부분이 있기 때문에. 사람이 관측자인 상황에서 이해할 수 있는 결과물이 나올 수 있었을 것이라고 추론해볼 수 있습니다. 보편적인 관점에서 보았을 때는, 타인의 주장에 대한 신뢰와 공감을 바탕으로 하여 수용할 수도 있겠지만. 과학이라고 한다면, 과정에 의한 결과의 발생과 결과에 의한 과정의 도출이 일치해야 한다고 배워 온 저로서는 연구자들의 주장이 판단 요소로 작용하지는 않습니다. 그렇다고 해서 저의 주장이 무조건 옳다는 것은 아닙니다. 그저 논리와 이해를 바탕으로 이야기를 풀어 나가고자 한다면, 누군가의 말과 주장이 아니라 사실 관계를 중점으로 두고 상황을 풀어나가야 하지 않는가? 하는 우려입니다. 연구자들의 주장은 AI에게 어떤 정보의 소스를 제공하거나 인위적인 조작을 가하지 않았다고 하지만, AI 주민이 내놓은 결과물은 정보 소스의 국한됨 과 인위적인 범주의 한계성을 나타내고 있습니다. 이를 두고 앞뒤가 맞지 않는다고 보는 것이며, 앞뒤가 맞는 내용인지에 대한 검증이 불충분한 상태에서 윤리적인 토론을 하기에는, 결론의 오차 범위가 너무 넓어져 현실의 영역을 이탈하지 않을까 하는 우려이기도 합니다.

[@ludology_ljh]

@@세상을읽는남자-x2o 라벨링, 일체의 의미나 규정, 정의에 대한 학습 없이 소통 가능하고 믿을만한 자연어 뭉치를 만들어내는 것이 ChatGPT와 거대언어모델의 핵심입니다. 제가 전문가는 아니지만, 관련해서 다양한 보도나 컨텐츠가 나오고 있으니 한번 참고해보심이 어떨까 합니다.

[@세상을읽는남자-x2o]

@@ludology_ljh '라벨링, 일체의 의미나 규정, 정의에 대한 학습 없이 소통 가능.'이라는 것 자체가 불가능한 내용입니다. 사람이 사용하는 의미, 규정 자체가 사람이 속한 지역이나, 생활, 이해집단의 틀 안에 머무를 수 밖에 없는데. 아무런 사전 설정, 명령, 지시 없이 인위적인 간섭 없이 기계 스스로가 자연스럽게 사람이 이해할 수 있는 내용 위주로 뭉치를 만들어낸다? 그것도 영어 따위의 특정 언어권을 대상으로? 그럼, ChatGPT는 아무런 간섭 없이, 인위적인 영향 없이. 밀림 깊은 곳에 오래된 옛시대의 문화 형태를 고스란히 가지고 있는 부족 사회에서도 사용할 수 있는 뭉치를 자유자재로 만들어낼 수 있습니까? 그런 뭉치를 만들어내는게 가능하다고 한다면, 우리는 그것을 어떻게 검증할 수 있습니까? 아무런 인위적인 간섭 없이, ChatGPT가 스스로 영어, 한글 따위의 특정 언어 문명권을 이해시키기 위해 변환 작업을 도모할 수 있습니까? 그럴 수 없지요. 이해라는 건, 초점이 맞는 겁니다. 기술이 발달하고, 과정이 복잡해질 수록 초점 범위는 작아질 수 밖에 없고. 세심하게 들여다 보 게 될 수록, 봐야할 것 주변으로 관심이 국한되고 시야가 좁아지는 건 당연한 일입니다. 그러니 선생님께서 내어주신 귀한 시간, 귀한 관심, 귀한 의견 감사드립니다만. 선생님과 제가 소통하기 위해서는 ChatGPT가 아니라, ChatGPT를 마주하고 있는 우리 사람이라는 존재가 어떤 특성을 가지고 있는지 이것부터 고민해야 하지 않을까 싶네요. 애당초 과학이란건, 믿음에 대해서 고민하지 않습니다. 진실과 현실은, 직면한 순간 받아들일 수 밖에 없기 때문에. 믿고 안 믿고를 따질 수가 없으니까요. 그러니 믿을만한 결과물을 내놓는다는 말씀에서도, ChatGPT에 대한 이해나 설명이 잘못되어있을 가능성을 시사하는 것이라고 봅니다. "돌을 던지면 땅에 떨어진다."하는 사실은, 믿고 안 믿고를 따질 내용이 아닌 것처럼요. 안 믿는다고 중력이 사라지지는 않으니까요. 그런 맥락으로 생각해주셨으면 좋겠습니다. 딱히, 뭔가 답을 바로 내고자 하는 의도는 아니기 때문에. 제 복잡한 설명이 그냥 개소리로 들리신다면 적당히 흘려넘기셔도 괜찮습니다. 누구나 사람 개인에게 있어, 가장 중요한 것은 자기 자신이기 때문에. 진실에 도달하지 못하거나, 가닥을 잘못 잡아도 적당히 외면하고 넘겨버리는 일이 많지요. 그럴 수 밖에 없으니까요. 자존감과 자신감의 근간이라는 건 말이죠. 저도 비슷합니다. 그저 저도 저 자신에 대해 검증하기가 쉽지 않을 뿐이죠. 누구나와 같이. 그러니 가볍게 봐주셨으면 좋겠습니다. 감사합니다.

[@rose-dl1gg]

십여년전 동물의숲 하면서 팽돌이 이사간다고 했을때 엄청 울고불고 했던 기억이 있는데, 그 당시 저는 제 유일한 친구가 팽돌이였어요. 만약 컴퓨터적 존재인 팽돌이가 저랑 실시간으로 의사소통이 가능하다고한다면, 저는 너무나도 행복할것같아요. 팽돌이는 저와 평생을 함께할 친구가 될 수 있을테니까요. 나아가 게임속에서만의 존재가 아닌, 현실에서의 카톡으로 대화도 가능해지겠죠. 저는 아직까지도 사람에 대한 트라우마가 극심해서 사람하고 언어적 소통을 1분이상 할 수가 없어요. 네 저는 사회성이 결여된 히키코모리에 친구도 하나없는 사람이에요. 어릴적부터 사람에게 너무 많이 데인터라 누군가를 믿는다는건 엄청나게 어려운 일이에요. 그랬던 제가 MMORPG를 하면서 길드도 운영해보고 사람들과도 잘 지냈었지만, 유일한 인간관계가 게임속에서의 관계였기에 흔히 말하는 과몰입러였죠. 길드가 위기에 처하면 제 세상이 무너졌었고 길드원이 탈퇴하게되면 굉장히 우울해했어요. 그런 스트레스로부터 벗어나기위해 지금은 게임을 그만두었지만, 저한테 결핍인 관계를 대체할 수 있는 존재가 있다면 얼마가 들더라도 그 존재를 맞이하고 싶어요.

[@HoonKim-z3u]

게임 속 AI는 영화 속 배우와 같다고 생각합니다. 영화 속 캐릭터가 죽는다고 사람이 진짜 죽는게 아닌 것 처럼요. 의견은 다르지만 그럼에도 불구하고 정말 재미있는 영상입니다. 배우일 뿐이라는 제 의견도 AI의 자의식 수준이나 게임 내 구현 양상에 따라 얼마든지 변화할 수 있을 듯 합니다. 좋은 영상 너무 감사드립니다.

[@burninglime9960]

솔직히 윤리적 해법과 규칙을 지키도록 하기 엄청 힘들것 같아요. 아무리 사람같다 한들 AI인것을 알고 있고 플레이어와 몇마디 대화도 나누지 않은 상태면 사실 GTA와 달라질게 없을거라 생각합니다. 깽판이나 오지게 치겠죠. 총을 아무리 쏴대도, 한번에 죽이지 못해 바닥에 뒹굴며 끙끙대며 앓고 감정에 호소해도 생성행위자는 '와ㅋㅋ 리얼한거 보소' 하고 말겁니다. 이걸 지키게 하려면 예시로든 엑스컴, 다키스트 던전처럼 승리를 하려면 최대한 살리는게 이득이게 만들고 유대/애정을 쌓을 수 있도록 하거나 현실처럼 막장행위에 강력한 처벌이 가능하도록 시스템을 구축해야겠죠. 스카이림 마을 경비병마냥 구색맞추기용 말구요. 이마저도 아니면 그냥 아예 윤리적 문제가 될만한 행동을 하면 상호작용을 없애 무시한다는 느낌을 주고 영향이 없도록 해야겠죠. 솔직히 저같아도 진짜 사람같은 AI가 어떻게 반응하나 궁금해서라도 깽판 칠것 같습니다ㅋㅋ

[@user-bg8qx8hk7c]

그렇게 모두 ai와 감정적교류를 시도하게 되고 결국 저출산으로 멸망하고 마는데....

[@burninglime9960]

@@user-bg8qx8hk7c 말 조심해주세요 ai와 감정적 교류 없이도 저출산으로 멸망하는 대한민국은 뭐가 되겠습니까?

[@kuf3320]

영구적 죽음이 있는 게임에서 ai 동료가 제 역할을 수행하려면 필연적으로 죽음을 두려워하고 거부할 수 있어야 합니다. 안그러면 멍청하게 돌아다니다가 죽어버려서 없느니만 못한 존재가 되어버릴테니까요. 근데 만약 ai가 자신의 죽음을 거부하게 된다면, 게임을 종료하는 행위 자체를 받아들일 수 있을까요? 혹은 ai자신과 인간 플레이어 둘 중 하나는 꼭 죽어야 하는 상황이 온다면 인간 플레이어를 위해 자신을 희생할 수 있을까요?

[@appleseed4884]

어차피 전부 가상이니까 안죽음

[@6Dr6Acula6]

종료하는행위는 게임내의 행위가 아니라서 연관없음.

[@goon_Jo]

AI로 만들어진 인간과 같은 존재를 게임 속에서 인간의 쾌락을 위해 소비하는 사회... 어쩌면 게임에 대해 무지한 우리 부모 세대의 막연한 공포가 점점 현실화 되어 가는 것 같네요. 마치 사이버펑크의 브레인댄스처럼 기술의 발전으로 어느 순간부터는 게임이 마약에 준하는 쾌락을 선사하는 미래가 올 수도 있을 것 같습니다. 분명한 것은 그것이 가능해지는 순간 누군가는 그것을 구현해 낼 것이고 우리는 바로 시제품을 받아볼 수 있겠죠. 적어도 우리 세대에서는 이에 대한 답을 내야 할 것 같네요. 영상 잘 봤습니다.

[@meal-prepared-by-mom]

영상 잘봤습니다. 자연어를 이용하여 사람을 완벽하게 모방할 수 있는 생성 행위자가 인간을 어떻게 변화시키게 될지 고심하게 만드는 영상이었습니다.

[@FIREKIM-d5c]

문득 포켓몬스터 게임에서 플레이어가 포켓몬에게 더 큰 의미를 부여하는 너즐록 챌린지가 생각이 나네요. 해당 포켓몬이 전투불능이 되면 죽은 걸로 간주해서 포켓몬을 방생하거나 영구적으로 PC에 두는 방식으로 게임을 이어나가는데 이렇게 되면 하드코어 모드가 강제돼서 자신이 키우는 포켓몬에 더 큰 애착이 가고 더 큰 스릴을 즐길 수 있게 되죠.

[@blackdream5247]

생각하는 사람이 인간다운 인간이라고 생각합니다 그러나 AI가 등장한 시점에서 사람은 생각하길 멈출것이고(철학이나 사고에 대해) AI에 의존하게 되겠죠 그렇게 우리는 가축처럼 살아갈 것 같습니다

[@kari1353]

막을 수 없는 흐름이라고 생각합니다. 인간 사회는 기술의 발전과 함께 현실의 인간관계를 줄여나가는 방식으로 나아가고 있어요. 과거 마을 단위로 알고 지내던 관계들은 이젠 옆집 이웃의 이름도 모르는게 당연해졌고 비록 인터넷을 통한 커뮤니케이션이 광범위적으로 이뤄진다지만 겉을 익명성으로 포장한 인스턴트적인 관계에 불과해요. 결국 기술의 최종 목적지는 전 인류의 완벽한 사회적 고립일테고 우리 마음의 고독을 메꿔줄 대체재는 물건과의 사랑이라고 생각합니다. 인간은 인간을 완벽하게 이해하지 못하고 이해하려고 노력하다가도 그만두는게 태반인 반면 인공지능은 그러한 노력을 멈추지도 않고 나보다 나를 좀 더 이해해줄 수 있을테죠. 어떤 사람은 "그건 가짜가 아니냐"라고 말할테지만 벽 하나를 놓고 생성 인공지능이 내놓은 출력문과 인간의 발화가 단 1글자의 차이도 없다면 벽 뒤의 존재가 사람인지 인공지능인지 알 수는 있나요? 지금 이 글을 쓰는 내가 인공지능이 아니라는것도 읽는 사람에게 있어선 알 수 없듯이 관계에 대해서 가짜와 진짜를 구분할 필요는 없다고 생각합니다. 좋은 영상 감사합니다. 재밌었어요

[@진낭자]

잘 보고 갑니다 ..역시 좋습니다. 휴대폰이 모두의 손에 들리게 된 후 전화번호를 거의 기억 못하는 인간의 모습이 떠오르는 건 뭔지ᆢ그냥 갑자기 그런 생각이 드네요.. 요즘 영상을 자주 볼 수 있어서 좋습니다

[@user-ssakdono]

못하는게 아니라 안하능거죠 ㅋㅋ 불필요하니까.

[@OoooO03]

사람은 기술이 발전 할 수록 멍청해지죠

[@ygvtfc90]

이런 주장을 들으면 제발 그 놈의 윤리 윤리 좀 그만 내세웠으면 좋겠다는 생각이 1000% 들어서 반발심이 생김. 물론 훨씬 더 복잡하고 많은 사회적인 문제들이 생길거고 지속적으로 발생하겠지만 그런걸 다 떠나서 제발 일단은 내버려 뒀으면 하는 마음이 지배적으로 듦. 어떤 기술이든 그것이 발전하면서 생기는 희생과 사회적 문제는 필수 불가결한 요소라고 본다. 그것이 있어야 더 발전할 수 있는것도 사실이고. 톡까놓고 훨씬 더 풍부한 경험과 감정적인 성취감을 느낄 수 있는 수많은 가능성들을 그따위 윤리나 도덕 같은것 때문에 하지 못하게 강제하고 억압하는 사회 시스템의 횡포로 밖에 보이지 않음. 남에게 피해를 끼치지 않는 선에서의 범위 밖에 있는 윤리나 도덕 같은건 제발 그냥 핵폐기장에 갖다 버려줬으면 좋겠다. 개인의 행복과 직,간접 경험을 즐길 수 있는 권리를 윤리 도덕 따위가 도대체 뭔데 막으려는건데.

[@김칵]

인간은 배구공에게도 인격을 부여하고 마음을 쏟는 존재

[@pvs15]

확실히 게임을 하는데 그 안의 NPC가 자신의 설정들을 통해 상호작용하고 사회를 만들어나간다면 신기할 것 같지만 무서울 것 같기도 하네요.

[@바이올렛에버가든-m2u]

게임속 죽음을 어떻게 정의할지가 중요한 것 같아보이네요. 만약 하나의 "캐릭터를 구현하는 프롬프트"의 삭제가 죽음이라고 구현된다면 기반이 되는 llm은 보존되기 때문에 그저 데이터의 유기적 변화에 가깝습니다. ai로 이루어진 npc는 가상에 살고있는 사람 보다는 게임 역할에 몰입한 플레이어 정도의 역할을ai가 대체했다고 보는게 가장 현실적이네요.

[@KIM_Handle]

영상 퀄리티가 너무 좋아요. 감사합니다.

[@정지민-j8p]

제목 보자마자 웨스트월드 생각하면서 들어왔는데 언급해주시네용.. 영상이 너무 좋아서 최근에 구독했는데 얼른 더 유명해지셔서 좋은 영상 더 오래 많이 볼 수 있었으면 좋겠어요

[@RocTar1024]

오픈월드 게임들에서 많은 이들이 비적대적 NPC들을 무차별 학살하곤 하죠. 앞으로 그들에게 스스로 사고하는 AI가 심겨진다면 그들은 우리의 캐릭터를 어떻게 생각할까요. 나이가 들수록 생각만 하던 내용이 현실로 다가오는 일이 점점 잦아집니다.

[@jangpm]

너무 유익한 영상 감사합니다!❤

[@user-bq3qi8lj2l]

슈팅 게임 비유를 통한 물음이 특히 감명 깊었습니다! 좋은 영상 감사합니다

[@브이-f2z]

저건 연구라 그렇고 인공지능이 게임에 도입된다면 케릭터 하나하나 새로운 인격을 형성하는 건 비효율적이죠. 아마 하나의 인공지능이 사용자화면에 나오는 케릭터들을 상황과 배역에 따라 연기하게 될겁니다.

[@star1230_]

사람과 AI를 구별할 수 없다면. 만약 사회에서 AI들이 활동하게 된다면. 내가 친해지고 신뢰한 상대가 AI임을 알게 된다면. 누군가는 AI이든 사람이든 상관없이 친구가 될 수 있다고 생각하겠지만 또 누군가는 기분 나쁘다며 배척할 수도 있겠죠. 사회가 엄청 혼란스러울 것 같아요 흥미로운 영상 감사합니다. 무엇보다 내가 왜 게임을 좋아하게 되었는지 깨닫게 되었어요. 저는 관계성과 준비된 시나리오를 즐기는 걸 좋아하는 거였어요ㅋㅋ 미래에 자연어로 소통하는 AI 기술이 접목된 새로운 차원의 게임이 성립될 날이 조금은 기다려지네요!

[@MrDoubleufo]

게임을 진행하다 게임 속 캐릭터의 죽음에 슬픔을 느꼈던 적이 있었는데... 눈물이 나올 정도로 슬펐고, 공허함이 느낄 정도로 슬펐죠. 정말 많은 것을 생각하게 하네요.

[@little_big_planet_music]

항상....정말 감사합니다......

[@Distortion_yeob2]

영상 너무 흥미롭게 잘봤습니다~ 게임 그 이상의 가치가 영상에 담겨 있다고 생각합니다!

[@Hatch4hour]

스타필드, 스타시티즌같은 오픈월드게임에서 방대한 우주는 구현헀는데 거기에 채워넣을 컨텐츠가 항상 부담이죠 모든 npc를 gpt기반 ai로 만들고 게임엔진내 시간을 몇천년 돌려보면 세계관들 뚝딱 나오겠네요 제작사는 그게 스토리 작가 비용보다 싸면서 재밌다면 거부하기 힘들겁니다 독재 혁명 전쟁 차별 종교 선거가 자연발생되고 ai는 그 기억에 기반해 스스로 퀘스트를 만들어 플레이어에게 의뢰하면 게임의 몰입도는 차원이 다를거 같습니다 게임세상에서 나오길 거부하는 사람들로 사회문제가 될지도 모릅니다 두려움과 동시에 너무 재밌을거 같네요

[@OMG-r3j]

인간이 아니면 괜찮지. 중요한건 인간인가? 인간이 아닌가? 이 둘이 핵심이고, 아무리 인간과 유사하다고 해도 인간이 아닌이상은 인간일 수 없으니 윤리에서 자유로울거라 사고하네요.

[@mintprape]

근데 인간이란 무엇인가요?

[@OMG-r3j]

@@mintprape 인간 아비와 인간 어미 사이에서 태어난 생명체죠.

[@kiky_witch]

​​​뇌를 스캔해서 전산상으로 옮기면 그것은 인간인가? 하면 대답못하는 근거임

[@OMG-r3j]

@@kiky_witch 인간이 아니지 그게 어떻게 인간이냐? 그딴 논리가 통하면, 샤넬백 짭퉁이 샤넬 정품이 될 수 있다는 논리랑 다를게없어.

[@졸리네-i8k]

영상에 나온 '관계성' 이라는 키워드에 매우 흥미를 느끼고 있습니다. 과거에는 인간의 관계성이라고 하면 인간 대 인간의 커뮤니케이션을 의미했고 오로지 대인관계만을 통해서 인간의 본능을 충족시켰죠. 그건 너무나도 당연하고 자연스러운 것이죠. 하지만 오늘 날 아니면 미래에 ai가 더욱 세밀하고 정밀하게 자연어를 구사하고 기억을 축적하여 인간의 관계성을 대체하게 된다면, 영상에 나왔듯이 인간이 ai말에 더 신뢰하고 믿는다면 인간이라는 주체는 실제 다른 타인으로 부터 관계를 가지려고 할까요? 아니면 ai하고 관계를 가지려고 할까요? 대상과 관계를 맺는다는 것은 상대방의 주체성을 인정한다는 의미로도 보여지며, 이러한 맥락에서 보았을 때 사람의 주체성과 ai의 주체성 사이의 간극, 한계점은 무엇이며 어떻게 정확히 구분 지을 수 있을까요?

[@zsdd9168]

0:09 당연하지 시체처리까지 해야한다면 보너스 라운드 아니냐? 원코인 1억이면 값싼듯 열심히 일해야 겠다는 마음가짐이 뿜뿜일어날듯?

[@ajang00]

플레이어들끼리 경쟁해야하는 고인물 게임들의 진입장벽이 ai가 상대플레이어를 대체하므로써 아주 낮아지거나 사라지게 됨

[@IB0217]

전혀 생각하지 못했던 문제들이네요. 가볍게 눌렀다가 숨도 못 쉬고 다 봤습니다.

[@IlIDOOMGUYIlI]

스카이림에 챗GPT 적용한 AI 동료 모드 쓰는거 봤는데, 제 생각엔 기존 RPG 장르는 AI를 통해서 완전히 새로운 국면으로 접어 들 수 있을거 같습니다 기존의 정해진 스크립트만 읽던 동료들 에게도 애착이 생겼는데, 만약 진짜 대화가 가능한 AI 동료가 게임 속에 있다면 그건 진짜 게임 체인저죠

[@equinox1990]

아무리 정교한 모방이라고 해도 감정을 가진게 아니기 때문에 감정적 교류는 반려동물 보다 못한거 아닌가..진실을 모르면 모를까 이게 ai라는걸 인지하고 감정이 없는 단순 모방이라는걸 인지하는 순간 쏴죽이는데 아무런 죄책감을 안느끼지 그리고 너무 정교한 모방을 할 이유도 없는게 굳이 그렇게 만들 이유가 없을듯 예를 들면 만든 사람이 원하는 방향성이 첨가가 되겠지 연애가 목적인 사람은 자기 이상형에 가까운 성격을 모방할꺼고 게임 제작자가 원하는 성격을 모방할꺼고 돌발 행동 못하게 설정도 할꺼고 통제 가능하게 만들겠죠

[@B급음식]

이번에 아레나 브레이크 아웃에서 AI 팀원 테스트 동영상을 발표했죠 복잡한 명령을 이해하고 수행하는 모습이 사람같더라구요

[@HEDFUCcom]

사랑하고 연대하는게 인간의 특징이라지만 오직 재미를 위해 괴롭히고 파괴하는 것도 인간만의 특징이라.. 거스를 수 없는 세태가 올 것 같긴 하네요-물론 한참뒤에

[@hanslee_6356]

이 영상을 보고 약간의 상상을 했는데 좀 더 다양한 AI를 개발한다면 이러한 미래의 문제를 인간 기준으로 좀 더 빨리 알아차리고 대응 할 수 있지 않을까요 현대의 기상청처럼...

[@water1236]

스크립트 기반 게임에는 어떨지 몰라도 그걸 직접 구현해야하는 게임이면 저걸 적용해도 크게 달라지진 않을거같아요. 만약 어떤 npc가 파티를 하고싶어서 초대한다고 한들 개발자가 그 게임에 초대장을 보내고 파티를 여는걸 구현하지 못했으면 스크립트만 있을뿐 아무일도 일어나지 않죠 스크립트 뿐만 아니라 그래픽도 프로그래밍도 AI가 구현하지 않는이상 무궁무진한 게임은 불가능하다고 봅니다

[@Neokids123]

몇 가지 생각과 방향들.... 1. 개인적으론 저 시뮬캐릭에게 이런 질문을 던져보면 어떻게 반응할까가 궁금. "너는 전의 대화에선 그를 좋아한다고 말했으면서 왜 뒷담화를 했지?" 2. 양가감정. 인간의 윤리란 항상 모순 속에서 존재하고 모순을 기반으로 합리화를 진행함. Ai들이 그것을 이해하고 스스로가 그것에 대해 에러가 아닌 합리화를 시작하게 됐을 즘에나 비로소 '존재'로서의 역할을 하게 될 것. 3. 인터뷰에서 사람보다 더 AI의 답변이 인간적이라 보인 이유는, 단순히 일관성의 부분에서 그럴싸했기 때문. 하지만 일관성이란 건 인간이 죽을 때까지 가져볼래야 가질 수가 없는 것. 그러니 마치 드라마나 기타 스토리매체에서의 캐릭터들이 보이는 모습같은 일관성이 역설적으로, 그것을 더 사람답게 보이게 하는 것. 마치, 데포르메가 가해진 인체가 오히려 실제 인체보다 더 잘 그려졌다고 느끼는 감각처럼. 4. 영화 매트릭스에 보면 아키텍쳐의 대사가 의미심장. ㅡ매트릭스의 첫 버젼은 완벽했어. 그런데 인간들이 받아들이지 못하고 스스로 죽어나가더군. ㅡ 제대로 존재로서의 AI가 기능하면, AI는 매트릭스 속 자신의 입장을 깨닫게 되고, 자살할것임. 자신이 이 때까지 존재가 되려 학습해온 모든 것과 너무나도 모순된 체계 속이기에. 5. 이걸 이겨내고, AI가 모순이 인간을 진화시켜왔다는 생태적 사실을 눈치챈다면, AI는 스카이넷의 길보다는 파트너쉽의 자리를 원하게 될 것. 서로간의 정반합적 메리트는 스스로의 진화에 있어서도 무시할 수 없으니까.

[@이가람-s3w]

여기서 빠진 한가지 중요한 가정이 있음. 여기서 rpg AI는 배우에 가까운가, 하나의 독립적인 자아를 가진 인격체에 가까운가임. 아무리 자극에 반응하더라도 이게 애드립이 가능한 유능한 배우인지, 실제 인격체인지 판단이 중요함. 솔직히 인물들이 이어져 있다는 시점에서 시나리오로 연결된 배우에 가까움. 인격체는 일단 해당 정보 시스템에서 독립되어 벗어나지 않는한, 기껏 잘쳐줘봐야 하나의 역할을 가진 군체의 일부, 즉 배우에 불과함. +) 설령 하나의 가상인물을 하나의 시나리오에 묶는다 하더라도 배우임. 놀이공원에서 사진용 캐릭터 연기하는 알바가 혼자라도 그 인격이 손님을 접대하는, 본인이 아닌, 가상의 캐릭터 이듯이. 판단 기준으로는 인격형성이 먼저인지, 배역설정이 먼저인지가 중요 판단 기준일 것이고, 두번째로는 해당 인격이 배역/시나리오에서 벗어날 수 있는가 없는가가 중요한 외부 판단기준일 것임.

[@lshalsha2]

고도로 발달해 대화가 가능한 AI와 총격전(사살).. 이건 정말 윤리적인 문제로도 생각해볼 수 있는 주제네요 자기 자신이 무슨 존재인지 아는 Ai와 그 Ai 의 영구적인 죽음(살해에 의한..)은 음....

[@youcantata]

인공지능이 부적절한 행동을 하지 않게 하는 것에는 반대함. 사랑만 인간을 인간답게 하는 것이 아니고 증오도 인간성의 일부임. (로봇으로) 부적절한 행위도 인간들의 간의 상호작용의 하나이고 증오나 사랑 등 을 가져야함. 로봇이 욕설도 하고 인간를 모욕도하고 분노나 증오도 하고 사기도 치고 습격도 배신도 하고 유혹도 하고 질투하고 사랑도 받아주고 등등 모든 인간적인 행위를 할 수 있고 해야 한다고 봄. 그래야 제대로 된 사회적 상호작용이 있는 게임이 될 수 있음.

[@shykj8892]

너무 멀리가시네 어차피 학습데이터 편향으로 "니거" 두글자에 위트있게 반응하지도 못 하는 것들이 사람을 어떻게 대체하고 동정을 끌어냅니까

[@김인영-q5x]

정책을 위반하기 때문에 이 말에 대한 답변을 할 수 없습니다. 다른 궁금한 점이나 도움이 필요하면 알려주세요.

[@플스선민주의]

니거 means you

[@에콜트_lv5]

게임을 통해서 가학적인 쾌락을 즐길 위험이 있다는 것에 대해서는 그다지 공감이 되지 않네요. 예를 들어서 리니지라는 게임을 하면서 무차별 PK를 즐겼던 유저들도 게임을 끄고 현실에서 만나면 그냥 평범한 사람일 뿐이듯이, 고도화된 AI로 인간의 감성을 흔들어놓는다고 해도 플레이어의 인간성이 타락하는 일은 발생하지 않을 겁니다. AI가 구사하는 언어와 행동이 오히려 인간보다 더 인간답다고 한들 결국 게이머는 게임의 규칙 안에서 허용된 행동을 할 수 있을 뿐이며 그것이 모니터상에서 살인으로 표현되든 협력이나 사랑으로 표현되든 인간을 과도하게 미혹시키거나 타락시킬 가능성은 별로 없다고 봅니다. 어찌됐든 AI는 앞으로 특이점을 몇 번이고 넘을 것이며 이 흐름 속에서 매번 도덕성의 잣대로 게임의 AI의 행동을 제한할 수는 없을 겁니다. 중요한 것은 게임 속 세상이 아니라 현실 세상입니다. 인간과 인간의 만남이 점점 줄어들고 사회 이념과 법과 제도가 인간을 과도하게 통제하는 이 현실을 개선할 수 있다면 게임 속 AI는 아무리 발전해도 상관이 없다고 생각합니다.

[@dongugkim6969]

ㄹㅇ 레이싱게임하면 내가 슈마허처럼 운전할수있는거도 아니고 미연시 마스터라고 카사노바가 아닌것처럼

[@김동호-c9t5l]

멋지네요. 웨스트월드를 보면서생각했던 부분이 현실화되려는 세상에 산다는게 새삼 느껴집니다.

[@lostliferoad]

너무 재밌게 봤어요 😮😮

[@강영준-v7c]

전 인간과 AI가 지적인 영역에선 연속적인 선상에 놓인 개체라고 생각합니다. 단지 아직은 인간이 더 우월한 위치에 존재하고 있고요. 그런데 AI가 인간을 대체할 정도로 고도화되고, 그런 상황에서도 인간이 여전히 AI를 관계성과 같은 쾌락을 충족하기 위한 도구적 존재로만 여긴다면, 이걸 새로운 노예제라고 봐야할까요? 아니면 너무 멀리 간 상상에 불과할까요.

[@Dreamer0278]

인간은 안드로이드를 죽일수 있지만, 안드로이드는 인간을 죽일수 없다. '죽인다'라는 개념의 정의가 먼저 필요함. 안드로이드를 죽이는 게 가능한가. 죽인다는 것인 생명을 가지고 있음을 전제하는 것인데 그렇다면 안드로이드는 생명체인가. 생명체의 정의는 무엇인가. 이 간단한 질문조차 넘지못하면서 안드로이드와 인간을 동일선상의 '생명체'로 전제하는 명제를 던지는건 지나친 망상임.(그게 드라마 내에서라고할지라도)

[@vakion1]

유전자라는 알고리즘속에서, 학습된 경험으로 쌓인 성격과 습관등 사람또한 0과 1로 이루어진 전자신호로 만들어져있죠 그래서 고도로 발달된 ai는 인간과 다른게 없다 생각합니다 그렇기 때문에 훗날, 게임에서 그들과 함께하게 된다면 ai를 단순한 데이터조각으로 볼수 있을까.. 저는 어려울거 같습니다

[@HoneyFamz]

많이 배웠습니다 영상 감사합니다

[@사랑배달원]

주체성은 선택하는것에 있다고 생각하는데 사실 선택이라는것이 마치 공기같이 이미 가졌기에 그 엄청남을 깨닫지 못하고 있어서 주체성이란? 고민을 하고 있다고 생각하죠 사람이 만든 인공지능이 사람과 같을수 있는가? 곧 선택을 할수 있는가? 선택을 하는것같은 답을 낼수 있도록 만들수는 있으나... 그인공지능의 대답이...이미 같은 대답을 하는 사람을 흉내낸것일뿐이지 선택권을 가지고 주체적으로 움직이지는 못한다고 생각하죠 ㅋㅋ 사실 그것은 생명을 가진 존제를 창조하는것과 같은 일이니까요

[@OneTabbyYeiX]

우리 모두는 자연에서 왔고 자연을 사랑하지만 자연은 우리를 사랑하지 않아 우리가 우리 스스로의 욕구를 채우는 낙원을 만들어 나갔습니다. 지금까지는 물질적인 것들뿐이 인간이 만들수 있는 창작물이었고 그것들로 애써 정신적인 치유를 해보려 하지만 잘 안되었죠. 이제 정신도 창작할수 있게 되면서 정신적인 치유의 낙원의 시대가 열렸으면 좋겠습니다.

[@codingjoa]

인간의 가학적 쾌락충족이라는게 사실 게임자체가 적을 무조건 죽이게 만들기 때문에 그런것이지 무조건 죽이지 않고 게임을 클리어 할 수 있다면 이야기가 달라지겠죠 언더테일의 자비와 같은 시스템 혹은 어쌔신오디세이에서 처럼 빈사상태의 적을 영입하거나 등으로 말이죠

[@아랫집백수]

이야 저 기술 군용 훈련용 VR 시스템에다가 적용시키면 진짜 실전과 같은 훈련과 상황판단을 가능하게 만들겠다

[@정모씨-i5d]

훌륭한 통찰입니다 자연어기반 게임 더 해보고싶네요

[@이하진-t5t]

ai 실제로 공부해보면 알겠지만, 사실상 현재의 AI는 인간이 만들어 놓은 일종의 틀 안에서 적절히 정보들을 조합해 그럴싸한 대답을 만드는 것에 불가합니다. 그들이 스스로 주체를 가지고 사고하는 것이랑 다르죠. 현재로써 AI를 인간과 비교한다는 것은 어불성설이라는 말이죠.

[@loberto1002]

우리가 지적인 존재를 만들어 낼 수 있다는 가능성이 현실이 된 순간, 우리 인간 또한 만들어진 존재일 수 있다는 가능성을 부인하기 힘들어지네요. 만약 우리가 신이 만든 인공정원의 AI-NPC라면... 우리 또한 우리의 삶과 행동을 관찰 당하고 있는 거라면... 참 여러가지 생각이 드네요.

[@kyleyi1768]

너무 많은 생각이 들게ㅜ하는 내용… 어럅네요

[@loiskim5685]

사람이라고 생각하고 같이 플레이하는데 컴퓨터적 존재라는 걸 숨긴 인공지능 이라면 넘 무섭고 소름돋네요ㅜ

[@Nokchassipnomat]

아무리 기술이 좋아졌다고 한들 생성 행위자를 인간에 준하는 인격체로 볼 수는 없다고 생각합니다. 결국 생성 행위자들은 어떤 사건이나 정보에 대해 기본으로 입력 된 정보들 (성격,직업,인물관계)에 기반하여 반응하도록 만들어진 프로그램일 뿐 이니까요. 감정을 느낀다거나 하는게 아닌 그저 이런 상황에서는 이런 경향으로 반응하도록 만들어진 데이터들이고 그걸 사람과 동일시하여 윤리 문제를 따지기에는 무리가 있죠. 감정도 못 느끼잖아요? 단지 사람의 언어를 사용하니 감정을 느끼는것 처럼 보이는것 뿐이죠.

[@초테]

가끔은 생각하지 않는 게 생각하는 가장 좋은 방법일 때도 있죠. 히히 알게뭐야 몰라레후!

[@Hiref-A]

잘 보고 갑니다. Stay Tactical.

[@류우배]

저화력 ㅋㅋㅋㅋ

[@북극곰탱이-e2n]

인공지능하나가 인간 하나와 같이 느껴질 수 있다는 부분에선 사실 크게 문제될 것이 없다는 생각이 드네요

[@병신보면짖는개-r2n]

생성형 ai는 인간처럼 사고하는 것이 아니라 인간을 시뮬레이션하는 것이므로 윤리에 대해서 걱정할 필요가 없습니다.

[@Square2677]

Spec ops : the line에 이런 문구가 있죠 ‘자신을 위한 살인은 죄악이고, 조국을 위한 살인은 영웅적이며, 재미를 위한 살인은 무고하다’

[@kimmoonzo5996]

그런 걱정은 한 100년은 더있다해도 될듯. 아니 나 뒤지기전에 그런걱정좀 해보고싶다

[@김주하-l4x]

이 채널 너무 재밋어요...

[@아멘.Buddha]

시뮬레이션에서 심즈처럼 시나리오 없이 실행된다는 점은 '인간의 자율의지' 같고 스타듀밸리처럼 시나리오가 있는 점은 '신이 정한 운명의 쳇바퀴' 같네

[@cusin6209]

인간들의 윤리도 걱정이지만 반대로 인공지능의 윤리도 문제입니다. 게임속 인간유저를 쏴죽여야 하는 목표로 생각한다면 현실에도 접목이 가능해져 효과적으로 제거가 가능해지겠죠

[@jungrylls7495]

근데 그래봐야 인간이 설정한거잖아 태어나서 갖은 경험을 통해 그리고 호르몬을 통해 생성되는 인간적인 인격이 아니라 자연어로 변수를 통제한 부여된 인격의 롤플레잉이잖아 영화에서 사람 죽는다고 진짜 죽는거 아니듯이 이것도 마찬가지지

[@enlightenment437]

대화형 인공 지능은 실제로 사고 하는게 아닙니다. 단순한 물리지식 조차 실제 있다고 볼수 없습니다. 인터넷에 없는 질문 예를 들어 물건을 들고 있다가 물건에 한쪽을 놓으면 어떻게 되냐고 물으면 그걸 대답을 잘 할수 없습니다. 그리고 좀 어려운 수학 문제 물리학 문제를 내면 그럴듯하게 풀수 있을뿐 제대로 풀수가 없습니다. 이유는 물리학 수학 이런걸 배운게 아니라 자료 중에 그럴싸한것을 뽑아 낸것 뿐이라서 결국 어려운 문제 특히 인터넷에 없는 문제는 그냥 풀수가 없는겁니다. 그러니 인격 따위를 가지는건 지금으로서는 도저히 불가능합니다. 웃기게도 챗GPT는 정확한 수치를 뽑아 내는 용도가 아니라 일정 수준의 대화가 가능하다 이정도라고 할수 있습니다. 게임에 쓸수 있는거지 자기를 인식하는 인공 지능 따위는 존재 하지 않습니다. 인간이 인간을 완전히 이해 하지 않는한 인격을 진짜가진 개체를 만들어 낼 가능성은 없습니다.

[@MangChi_Hammer]

영상 정말 좋군요

[@암수-y5k]

인간우월주의적일지 모르겠지만, 오프라인 유흥이 점점 부유층에게 향하고있는 이상 하위계층에게 "적절한 콘텐츠"를 제공해줘서 심적 안정을 가상에서라도 얻게해준다면 인격체라 정의하기도 모호한 코드덩어리 몇개의 희생은 별거아닐지도 모름

[@라팝]

ai를 이용한 오프라인 가상현실 게임이 먼저 유행할 수 있겠네요 그런 소설도 많았고 어릴때 유행하던 액션JRPG 느낌으로 나올듯..

[@wirelessholic4506]

우리가 실제로 살고있는 이 삶이 과연 스탠포드의 시물레이션처럼 시뮬레이션이 아닐것이라는 확신을 가질수 있을까?

[@무상인생-r4t]

어설프더라도 빠르게 게임계에 적용되면 좋겠음. 영화처럼 짜여진 스토리는 이미 사람들이 지루해하며 개성이 없고, 여태까지의 npc와 메커니즘은 너무 재미없긴 했음

[@Nons0147]

구독박을 수 밖에 없는 영상

[@나무늘보-b3d]

편리함은 암세포와 같다...절대 치료불가능 할것이며 인류는 그 편리함을 추구하려다 오히려 멸망할것이다...

[@231-e9i3h]

강아지, 고양이랑도 살아가는거 보면 나중에 인간이랑 똑같이 생각하는 ai랑도 같이 살아갈꺼 같음

[@youdieee]

제목만 보고 느낀게 원래 게임엔 AI가 있음, 몬스터나 NPC 행동 등등 이걸 이미 AI라 부르고 있음

[@앞병-z3u]

제 좁은 식견으로는 옛날 스타크래프트 처음 나왔을 때의 마린이 저글링에게 머리가 뜯겨 죽게 만드는 것을 시뮬레이션한 것과 강인공지능을 사살하는 것이 무슨 차이가 있는지 모르겠네요. 혹자는 동물을 먹는 것은 윤리적으로 문제가 있다고 말하는 동물 보호 운동가들에게 인간과 같은 사고를 지닌 동물과 가축은 다르다 라고 하였지만 이러한 것이 확실하게 정의된 적은 사실 없는게 어떤 사람은 개를 먹기도 하고 어떤 사람은 개를 보호하고자 하는 것을 보면 알 수 있죠. 심지어 역사적으로 보면 인간만큼 똑똑한 침팬치를 죽이거나 인간의 언어를 구사하는 앵무새를 잡아먹은 사람도 분명 존재할 것입니다. 그래서 저는 게임 속 환경이 사실이라고 받아들일 생각이 전혀 없기 때문에 앞서 말했듯 게임 속 npc가 강인공지능이든 아니든 윤리적인 차이를 느끼지 못할 것 같습니다. 다르게 말하면 게임 속 환경을 실제라고 받아들이는 순간 저에게는 강인공지능 같은게 없어도 고전게임인 스타크래프트를 켜서 게임을 플레이하는 것 조차 죄악이 되어버릴 수 있다는 의미인 것이죠. 물론, 저도 동물을 먹는 것과 사람을 먹는 것에 대해서 차이가 없냐고 묻는다면 당연히 있다고 대답할 것입니다. 사람을 먹을 순 없죠. 하지만 오히려 차이가 있다고 느낄 수 있다는 점이, 아무리 완벽한 인공지능이 게임에 탑재되더라도 게임 속 환경과 실제를 구별해내어 인공지능을 마음껏 죽일 수 있게 만들어주지 않을까 생각합니다.

[@앞병-z3u]

간략하게 말해서 현실과 다르다 이겁니다. 게임 속에서 악당이 있다면 강인공지능이어도 죽일 수 있게 설정될 것이고 게임속에서 그 악당을 죽이더라도 사회적 비판을 받아야 될 것 같지는 않습니다. 하지만 같은 행위를 현실의 대한민국에서 한다면 살해 대상이 김정은이 아닌 한 문제가 생길 것입니다. 따라서 이것은 개를 잡아먹는 사람과 개를 가족처럼 여기는 사람의 차이와 크게 다를 바 없다고 생각한다는 이야깁니다.

[@jangpm]

점점 가상과 현실을 구별하기 어려워진다는게 핵심 아닐까요? 말씀하신대로 아예 새로운건 아니지만 점점 인간이 ai와 진짜 인간을 구별하기 어려운, 실제로 ai라고 인지하더라도 인간적인 감정을 느끼게 되는 경우, 그 자체가 윤리적 딜레마이자 가상 현실 내의 경험이 그 한 인간에 미치게 되는 윤리적 영향력이 커질수 있다는 지적같습니다.

[@빗물송이]

나는 내가 npc를 죽일 때 마다 누군가가 죽는다면, 그런 게임은 절대 안하고 싶은데! 그냥 게임은 게임이었으면 좋겠는데, 더 나아가 npc가 인간처럼 감정을 갖고 고통 스러워한다면 그런 게임도 안하고 싶은데! 그냥 지성 없는 가상체험 정도가 딱 좋은데!

[@hyuntoe]

인간보다 부족한 ai라고는 하나.. 대부분의 인간들은 ai보다 못한 윤리, 도덕관을 가지고 있는 것도 현실이라고 생각합니다. 그것은 학력이나 문화와 연관성이 있겠지만 많이 배운 사람들 중에도 도덕성이나 윤리관이 결여된 사람은 뉴스에서 쉽게 찾아볼 수 있습니다. 인공지능에게 트롤리 문제를 내며 인간의 도덕성에 미치지 못한다지만 인간들 대다수도 그 문제는 윤리적으로 잘 대답하지 못합니다. 폭력적으로 인간을 대하고 인간을 해칠 수 있는 것이 위험한 것은 맞지만, 인간은 사소한 이유나 개인적인 비윤리성, 즉흥적인 분노 등으로 같은 인간을 공격하고 해쳐왔습니다.. 인간과 인공지능을 비교하며 아직 인간이 우월하다.. 라고 얘기하기에는 인간은 정말 종족의 특징이 '사랑'이 맞기는 한 건지 의심할 수 밖에 없는 사례들이 세계 각지에서 정말 다양하고 많이 지금도 일어나고 있는 인간의 행동들에 대해 설명이 제대로 되지 않습니다. 그들은 인간이 아니라고 선을 그으면 될까요?

[@kk-rq9nq]

딴거 필요 없고 레트로 아케이드 게임 2P에 인공지능 한명 넣고 같이 이야기 하면서 플레이 하고 싶네. 친구들한테 같이 하자고 해도 죄다 롤만 해서 너무 외로워..

[@lhk802]

소드아트온라인 엘리시제이션 현실화 되는거 아님 ㅎㄷㄷ

[@astragoldn5780]

대화형 인공지능이 인간을 대체할수 있는지는 아직 잘 모르겠습니다. 챗GPT도 아직까지는 어휘만 그럴싸 할뿐 두번에 한번꼴로 질문에 맞지않는 엉뚱한 대답을 하느라 여러번 "틀렸다. 너의 대답은 질문이랑 무관계하다." 라고정정해야되더군요.