Рет қаралды 8,947
[특집다큐 '자신있나? 속지않을? 딥페이크!' 중에서]
오프닝 윤수영/ KBS아나운서
백문이 불여일견. ‘보는 것이 진실’이라는 동서양을 막론한 진리가 어쩌면 더 이상 통하지 않는 시대가 온 건지도 모릅니다. 이렇게 말이죠.
"과연 이 중에 누가 실제 인물인지 여러분은 구분할 수 있으신가요?
진짜는 누구일까요? 이 얼굴? 아니면 이 얼굴?
문제는 A기술을 누구나 너무 쉽게 이용할 수 있게 되면서 이를 악용하는 문제가 심각해지고 있다는 겁니다."
스튜디오에서의 대역 촬영을 시작으로 딥페이크물 제작에 들어갔습니다.
얼굴 표정을 잘게 쪼개 분석한 사진들.
인터뷰 신예슬/ 디오비 스튜디오 매니저
윤수영 아나운서 같은 경우는 4,750장으로 세분화돼서 나눠져서 거기에서 이제 자연스럽게 합성할 수 있도록 이제 되었습니다.
이렇게 얼굴을 수천 장으로 쪼개 나누는 것도, 그리고 이 세분화된 표정과 목소리까지 반복적으로 학습하는 것도 바로 AI입니다.
인터뷰 신예슬/ 디오비 스튜디오 매니저
같은 동영상을 100만 회 정도의 학습량을 채우면서 이제 얼굴 가상 인물을 만들어나가는 거죠.
그리고 눈과 입술, 얼굴 윤곽 등 보정작업을 거쳐, 구별하기 힘들 정도의 정밀한 딥페이크가 완성됩니다.
한 사람의 얼굴을 여러 사람에게 입히는 것도 문제 없습니다.
지난 2월, 홍콩
다국적기업의 한 재무담당자가 충격적인 사건에 휘말립니다.
시작은 영국 본사에서 걸려온 화상 통화.
최고 책임자를 비롯한 임원 6명과 진행된 화상 통화 후 우리 돈 340억 원을 송금했는데, 알고 보니 사기였습니다.
화상 회의에 참석한 6명 모두 딥페이크로 만든 가짜였습니다.
녹취 송혜교 딥페이크
“안녕하세요. 저는 송혜교입니다. 교수님의 QF 어린이 기금회를 진심으로 감사드리며...”
녹취 조인성 딥페이크
“안녕하세요. 조인성입니다. 수강생들이 자선을 위해 힘을 보태어주심에 감사드립니다.”
유명 배우들이 등장해 행사 개최를 축하하며 투자를 권유하는 영상, 투자자들은 이 영상을 믿고 돈을 투자했지만 사기였습니다.
해당 배우의 실제 모습과 비교해봐도 상당히 흡사하지만, 얼굴, 입모양, 목소리까지 조작한 ‘딥페이크’였던 겁니다.
인터뷰 박주용 카이스트 교수/ 포스트 AI연구소장
유명인을 도용한다든가 이런 이름을 도용해서 사람들을 속이는 것은 항상 존재해왔을 것 같아요. 분명히 100년 전에도, 200년 전에도 있었을 것인데, 문제는 지금은 사람들의 그럴 듯한 그림까지 만들어내고 진짜 그 사람의 목소리 같은 걸 사용하니까 사실은 사람들이 본능적으로 믿는 일이 더 벌어지는 거죠. 또 하나는 그런 사실적인 영상을 만드는 게 아주 쉬워지다 보니까 그 숫자는 계속 늘어날 수 밖에 없거든요.어떻게 보면 걷잡을 수 없을 정도의 문제가 될 수 있을 거라고 생각합니다.
AI 영상물에 비교적 익숙한 청년층은 어떨까요?
한 대학교를 찾았습니다.
“영상을 하나 보여드릴게요... 총 여섯 명의 인물이 나옵니다.”
미디어를 전공하는 학생들에게 딥페이크가 섞인 6명의 영상을 보여준 후, 가짜를 골라보도록 했습니다.
과연 이 여섯 명의 인물들 중 가짜는 모두 몇 명일까요?
인터뷰 이정수/ 딥브레인AI 이사
입 모양이 제대로 잘 맞는지. 말을 할 때 입만 움직이는 게 아니고 얼굴 전체의 근육을 움직이는 부분들, 머리를 움직이는 부분들, 어깨를 움직이는 부분들 그런 부분들을 좀 분별해서 보면...
모두 4명이 가짜입니다.
미디어학과 특성상 평소 AI나 딥페이크 콘텐츠를 접할 경험이 많다보니 딥페이크 구별법을 제법 잘 알고 있다는 학생들은 몇 명이나 정답을 맞췄을까요?
인터뷰 대학생
얼굴 광이 달라요. 광이 약간 AI는 매끈매끈한데 3, 5번은 광이 입체적으로 있는 것 같아요.
인터뷰 대학생
1번, 6번은 동공이 안 움직여서 확실하게 가상인간이라는 생각이 있었는데 2번, 4번은 실제로 그 시선을 아예 보정하면 나올 수도 있는 영상인 것 같아서 가상인간이라고 생각을 못했어요.
서른 아홉명의 실험 참가자들 중 정답을 모두 맞춘 학생은 단 3명뿐이었습니다.
1번과 6번의 경우 30명이 넘는 학생들이 가짜로 지목했지만, 2번과 4번의 경우는 각각 13명의 학생들만 가짜임을 알아맞췄습니다.
3명 중 2명은 딥페이크를 진짜라고 생각한 겁니다.
실험에 참가한 학생들은 일상 생활 속에서 이런 영상물에 노출된다면 더 쉽게 속을 수밖에 없을 것 같다고 말합니다.
인터뷰 대학생
(유튜브나 다른 미디어에서 얼굴이 바뀐 사람이 나오면 구분할 수 있으실 것 같으세요?)
구분을 못 할 것 같아요. 의식하지 않고 유튜브처럼 보게 되면 아마 찾기 어려울 것 같습니다.
관련 방송: 2024년 4월 2일(화) 밤 10시 5분 KBS 1TV/ 유튜브
'시사기획 창' 홈페이지 news.kbs.co.kr...
유튜브 / @kbssisa
페이스북 / changkbs
WAVVE '시사기획 창' 검색
▣ KBS 기사 원문보기 : news.kbs.co.kr/...
▣ 제보 하기
◇ 카카오톡 : 'KBS제보' 검색
◇ 전화 : 02-781-1234
◇ 홈페이지 : goo.gl/4bWbkG
◇ 이메일 : kbs1234@kbs.co.kr
#딥페이크 #AI #인공지능