진짜같은 가짜, 딥페이크 직접 제작해보니…100만 회 학습한 AI [특집+] / KBS 2024.04.07.

[특집다큐 '자신있나? 속지않을? 딥페이크!' 중에서]
오프닝 윤수영/ KBS아나운서
백문이 불여일견. ‘보는 것이 진실’이라는 동서양을 막론한 진리가 어쩌면 더 이상 통하지 않는 시대가 온 건지도 모릅니다. 이렇게 말이죠.
"과연 이 중에 누가 실제 인물인지 여러분은 구분할 수 있으신가요?
진짜는 누구일까요? 이 얼굴? 아니면 이 얼굴?
문제는 A기술을 누구나 너무 쉽게 이용할 수 있게 되면서 이를 악용하는 문제가 심각해지고 있다는 겁니다."
스튜디오에서의 대역 촬영을 시작으로 딥페이크물 제작에 들어갔습니다.
얼굴 표정을 잘게 쪼개 분석한 사진들.
인터뷰 신예슬/ 디오비 스튜디오 매니저
윤수영 아나운서 같은 경우는 4,750장으로 세분화돼서 나눠져서 거기에서 이제 자연스럽게 합성할 수 있도록 이제 되었습니다.
이렇게 얼굴을 수천 장으로 쪼개 나누는 것도, 그리고 이 세분화된 표정과 목소리까지 반복적으로 학습하는 것도 바로 AI입니다.
인터뷰 신예슬/ 디오비 스튜디오 매니저
같은 동영상을 100만 회 정도의 학습량을 채우면서 이제 얼굴 가상 인물을 만들어나가는 거죠.
그리고 눈과 입술, 얼굴 윤곽 등 보정작업을 거쳐, 구별하기 힘들 정도의 정밀한 딥페이크가 완성됩니다.
한 사람의 얼굴을 여러 사람에게 입히는 것도 문제 없습니다.
지난 2월, 홍콩
다국적기업의 한 재무담당자가 충격적인 사건에 휘말립니다.
시작은 영국 본사에서 걸려온 화상 통화.
최고 책임자를 비롯한 임원 6명과 진행된 화상 통화 후 우리 돈 340억 원을 송금했는데, 알고 보니 사기였습니다.
화상 회의에 참석한 6명 모두 딥페이크로 만든 가짜였습니다.
녹취 송혜교 딥페이크
“안녕하세요. 저는 송혜교입니다. 교수님의 QF 어린이 기금회를 진심으로 감사드리며...”
녹취 조인성 딥페이크
“안녕하세요. 조인성입니다. 수강생들이 자선을 위해 힘을 보태어주심에 감사드립니다.”
유명 배우들이 등장해 행사 개최를 축하하며 투자를 권유하는 영상, 투자자들은 이 영상을 믿고 돈을 투자했지만 사기였습니다.
해당 배우의 실제 모습과 비교해봐도 상당히 흡사하지만, 얼굴, 입모양, 목소리까지 조작한 ‘딥페이크’였던 겁니다.
인터뷰 박주용 카이스트 교수/ 포스트 AI연구소장
유명인을 도용한다든가 이런 이름을 도용해서 사람들을 속이는 것은 항상 존재해왔을 것 같아요. 분명히 100년 전에도, 200년 전에도 있었을 것인데, 문제는 지금은 사람들의 그럴 듯한 그림까지 만들어내고 진짜 그 사람의 목소리 같은 걸 사용하니까 사실은 사람들이 본능적으로 믿는 일이 더 벌어지는 거죠. 또 하나는 그런 사실적인 영상을 만드는 게 아주 쉬워지다 보니까 그 숫자는 계속 늘어날 수 밖에 없거든요.어떻게 보면 걷잡을 수 없을 정도의 문제가 될 수 있을 거라고 생각합니다.
AI 영상물에 비교적 익숙한 청년층은 어떨까요?
한 대학교를 찾았습니다.
“영상을 하나 보여드릴게요... 총 여섯 명의 인물이 나옵니다.”
미디어를 전공하는 학생들에게 딥페이크가 섞인 6명의 영상을 보여준 후, 가짜를 골라보도록 했습니다.
과연 이 여섯 명의 인물들 중 가짜는 모두 몇 명일까요?
인터뷰 이정수/ 딥브레인AI 이사
입 모양이 제대로 잘 맞는지. 말을 할 때 입만 움직이는 게 아니고 얼굴 전체의 근육을 움직이는 부분들, 머리를 움직이는 부분들, 어깨를 움직이는 부분들 그런 부분들을 좀 분별해서 보면...
모두 4명이 가짜입니다.
미디어학과 특성상 평소 AI나 딥페이크 콘텐츠를 접할 경험이 많다보니 딥페이크 구별법을 제법 잘 알고 있다는 학생들은 몇 명이나 정답을 맞췄을까요?
인터뷰 대학생
얼굴 광이 달라요. 광이 약간 AI는 매끈매끈한데 3, 5번은 광이 입체적으로 있는 것 같아요.
인터뷰 대학생
1번, 6번은 동공이 안 움직여서 확실하게 가상인간이라는 생각이 있었는데 2번, 4번은 실제로 그 시선을 아예 보정하면 나올 수도 있는 영상인 것 같아서 가상인간이라고 생각을 못했어요.
서른 아홉명의 실험 참가자들 중 정답을 모두 맞춘 학생은 단 3명뿐이었습니다.
1번과 6번의 경우 30명이 넘는 학생들이 가짜로 지목했지만, 2번과 4번의 경우는 각각 13명의 학생들만 가짜임을 알아맞췄습니다.
3명 중 2명은 딥페이크를 진짜라고 생각한 겁니다.
실험에 참가한 학생들은 일상 생활 속에서 이런 영상물에 노출된다면 더 쉽게 속을 수밖에 없을 것 같다고 말합니다.
인터뷰 대학생
(유튜브나 다른 미디어에서 얼굴이 바뀐 사람이 나오면 구분할 수 있으실 것 같으세요?)
구분을 못 할 것 같아요. 의식하지 않고 유튜브처럼 보게 되면 아마 찾기 어려울 것 같습니다.
관련 방송: 2024년 4월 2일(화) 밤 10시 5분 KBS 1TV/ 유튜브
'시사기획 창' 홈페이지 news.kbs.co.kr...
유튜브 / @kbssisa
페이스북 / changkbs
WAVVE '시사기획 창' 검색
▣ KBS 기사 원문보기 : news.kbs.co.kr/...
▣ 제보 하기
◇ 카카오톡 : 'KBS제보' 검색
◇ 전화 : 02-781-1234
◇ 홈페이지 : goo.gl/4bWbkG
◇ 이메일 : [e-mail]
#딥페이크 #AI #인공지능

[@user-bv9bd4ro9q]

그에 따른 처벌능력이 더 중요한거에요, 부당한 피해에 대한 보복능력. 그런게 고도로 발전하고 많아지면, 그만큼 보복 프로세싱을 계속 강화하면 되는거라고요. 상대를 신뢰하고 존중해줬는데 상대가 안그러면? 그 상대에 더 많이 속이고 더 잘 속이고 더 보복하면 되는거라고요. 상대가 자신을 어떻게 대할지는 자기 자신에게 달린거에요.

[@ice-creampaint]

이거 범죄 가해에 대한 정당화 될 수 있음. 니가 범죄 당한건 니가 잘못했기 때문. 학교폭력 성범죄 묻지마 살인까지..

[@user-sg2fw6ze7n]

내가 장담하는데 지금 여기 KBS에 나온 수준은 10년도 더 된 기술일꺼다.

[@FireFox-zh8jk]

3명밖에 못맞췄다는게 더 소오오오름이네 ㄷㄷㄷ 근거있는 포인트로 모두 구분한 내가 비정상인가 일반인은 그럴수 있다 치는데 미디어학과라서 AI 컨텐츠 접할 기회가 많았다고 설명을 했음에도 3명? 이질적인 눈동자 상태, 피부톤 질감 및 근육만 구분해도 맞추는거였는데.. 물론 지난 1년전과 달리 엄청난 발전이 있어 다음 1년은 더더욱 구분하기 힘들어질것은 분명하긴함

[@EOR_FX]

현장에서 거리가 있는 상태에서 보는거라 못 찾는것도 있지 않을까요? 이런 근거는 왜 생각 못하냐 ㅋㅋ

[@user-bv9bd4ro9q]

와 잘만들었다. ㅎㅎ. 아니 그걸 왜 구분을 해요? 천조천경에 천조천경인가?

[@user-bv9bd4ro9q]

근데 그건 중요하지 않다고요. 사기를 맞았냐 아니냐 그게 중요해요? 아니죠. 처벌할 수 있느냐 아니냐가 중요한거에요. 그러니까 사기에 대해서 처벌법을 하는거지, 사기냐 아니냐를 구분하는게 중요한거면 법이 왜 있고 판사가 왜 있고 경찰이 왜 있고 형벌이 왜 있어

[@user-sg2fw6ze7n]

이미 우리나라 국정원이나 중국 공안들이나 미국 CIA들이나 인간이 도저히 눈으로 구분 못하는 수준의 AI들을 쓰고있어. 컴퓨터 없이는 도저히 구별 못해. 이걸 구별할려면, 컴퓨터가 필수이고, 그럼 인간은 컴퓨터를 점점 더 몸에 가깝게 할꺼고, 결국 몸에 들어갈꺼고, 컴퓨터에 의존하게된다. 이길은 정해진 길이고 바꿀수도 없고, 인간의 몸에 컴퓨터가 들어가는것은 정해진 운명이다.

[@user-ey8og3gr2p]

4:10 이건 솔직히 목소리가 티 많이 나긴 하는데 어르신들은 구분하기 힘들지.. 심지어 아에 목소리를 모르는 상태라면 구분하는것 자체가 불가능하고

[@user-sg2fw6ze7n]

인간은 어떻게 발전하고있나? 점점 더 유튜브 인스타 메타 X 아프리카 트위치, 치지직 틱톡, 이런 영상미디어로 발전하고 있어. 점점더 이런 산업들이 커지고, 이용자도 많아지고 이용시간도 늘어나. 그럼 어떻게 될까? 인간은 구분할수없고, 인간은 확인할길이 없으니, 컴퓨터에 의존하겠지. 컴퓨터 없이는 알길이 없어.

[@user-sg2fw6ze7n]

인간의 눈으로 구별을 못해. 알수가 없어. 그럼 결국 컴퓨터를 이용할수밖에 없어. 블록체인 기술중에 nft 로써 진짜인지 확인 가능한 기술이 있잖아. 이걸 쓰면 진짜인지 가짜인지 확인하겠지. 그럼 인간은 컴퓨터 없이는 더더욱 살수없어. 그럼 컴퓨터가 인간에 더 가깝게 진화되고 발전할수밖에 없는 정해진 길을 갈수밖에 없다.

[@user-sg2fw6ze7n]

그러니까 이 모든것들은 정해진 길이야. 운명이란것은 있는거야. 모든것은 아주 오래전부터 정해진길이야. 믿을수 없겠지만, 지구가 태어나고 인간이 지구에 태어난 순간 정해진거야. 누구도 바꿀수 없어. 미래는 정해져있다는것은 맞는말이야.

[@user-sg2fw6ze7n]

그런데 여기서 맞춘다고해서 의미가 있는건 아니야. 왜냐면 이미 CIA나 국정원은 더 진보된 기술을 가지고있고, 눈으로 구별못하는 수준을 쓰고있을테니까, 인간은 눈으로 구별할수가 없어.

[@user-sg2fw6ze7n]

컴퓨터가 인간몸에 들어오는것도 정해진 운명이다. 이렇게 진화하게 되는것은 아주 오래전부터 정해진거야.

[@King_Slayer2024]

영화 그만봐

[@user-sg2fw6ze7n]

이미 딥페이크 이런 기술을 가장 적극적으로 활용하고 가장 진보된 기술력을 가진 집단은 각 나라의 정부기관들이야. 국정원이나 군에서 가장 좋은 기술을 가지고있지. CIA가 아마 딥페이크를 가장 많이 쓰고있을껄? 일반인들은 거의 접근조차 못할 수준의 기술력을 이미 가지고, 모든것을 속이고 있을지 몰라. 알 길이 없어. 그렇다고 답이 없는가? 블록체인 기술이 있잖아. NFT로 확인하는 것이 일상화될듯.

[@user-sg2fw6ze7n]

미래에는 아나운서도 거의 다 AI로 교체될 가능성이 높지. 왜냐면 인건비가 안드니까? 가장 인간이 선호하는 얼굴형의 AI 아나운서가 뉴스를 진행하게될껄?

[@user-xd2eo8zg6k]

와 초반에 얼굴 바뀌는 거 진짜 개소름

[@user-sg2fw6ze7n]

그럼 이 딥페이크 기술을 가장 많이 쓰는곳은 어디일까? 일반인 일까? 아니지. 오히려 정부기관 국정원 cia 이런곳이다.

[@King_Slayer2024]

영화 그만봐~

[@snow-ic3ry]

그래도 아직은 전부 구별가능하네 눈깜빡임이 확실히 이상하고 얼굴기름 윤기가 차이나네 화질구리면 절대 모를 정도지만

[@Kyungho4331]

오 나 1번 6번 맞췄어 ㅎㅎ

[@user-bv9bd4ro9q]

우와 진짜 잘만들긴 했네. 저게 사실이라는 전제라면 6개중에 하나 틀렸네