싸이더스 스튜디오 엑스가 선보인 인플루언서 로지(ROZY)는 각종 광고를 찍으며 몸값을 올리고 있다. 지난달 22일에는 데뷔 싱글 ‘Who Am I’를 발표해, 9일 만에 유튜브 조회수를 90만회나 기록했다.

로지가 데뷔한 지 3일 뒤, 한유아가 데뷔곡 ‘I Like That’ 뮤직비디오 일부를 공개했다. 한유아는 모델 매니지먼트 회사인 YG케이플러스와 계약을 맺고, 가수 외 다채로운 활동을 벌일 예정이다. LG전자 소속 김래아 역시 연예기획사 미스틱스토리와 손을 잡고 가수 데뷔를 준비 중이다.

언뜻 보면 흔한 신인가수들의 소식과 다름없어 보인다. 그러나 이들의 정체는 모두 ‘가상 인간’이다. 코로나19로 인해, 유튜브나 인스타그램 등 디지털 매체로 연예 활동을 소비하던 팬들에겐, ‘가상 인간’의 행보가 실제 연예인의 활동과 그리 달라 보이지 않는다.

가상 인간은 언론계에서도 활용된다. 종편 채널 MBN은 2020년 국내 방송사 중 처음으로 AI 앵커를 도입했다. ‘AI 김주하 앵커’는 MBN 종합뉴스를 진행하는 김주하 앵커의 모습을 딥러닝해 만들었다. 기자가 뉴스 스크립트를 작성하고 담당 PD가 영상 편집을 마쳐 기사를 업로드하면, AI 김주하 앵커는 미리 학습된 딥러닝 데이터에 따라 김주하 앵커와 유사한 표정과 목소리로 브리핑한다.

MBN은 AI 앵커뿐 아니라 AI 기자까지 공개했다. 뉴스 공백 시간대에도 속보 뉴스를 빠르게 전할 수 있으며, 방송 제작에 들어가는 인력과 시간·비용을 단축해 새 프로그램을 만드는 데 투입할 수 있다는 가상인간의 장점도 강조했다. 

지난 제20대 대통령 선거에서도 가상 인간을 활용한 선거운동이 이슈가 됐다. 윤석열 당선인의 가상인간 ‘AI 윤석열’은 다양한 분야의 질문에 대답을 하거나, 지역 공약을 직접 소개하는 등 유권자와의 소통 창구 역할을 했다. 코로나19로 대면 선거운동이 쉽지 않았던 터라, 신선한 선거운동 방법이라는 긍정적 평도 있었지만, 한편으로는 딥페이크의 기술로 후보를 사칭하거나 악용할 수 있다는 우려도 있었다.

◇딥페이크의 어두운 그늘=딥페이크란 인공지능의 딥러닝(deep learning)과 페이크(fake)의 합성어로 인공지능 기술을 이용해 제작된 가짜 동영상 혹은 제작 프로세스 자체를 뜻한다. AI 기술을 기반으로 기존 사진이나 영상을 원본에 겹쳐 만들어내는데, 가상 인간과 진짜 인간을 구분하기 어려울 정도로 기술이 고도화됐다.

미국 할리우드 유명 여배우들이 딥페이크 포르노 영상으로 큰 피해를 보는 등 딥페이크 피해가 확산되고 있다. 영화 ‘겟 아웃’의 감독 조던 필은 버락 오바마 전 미국 대통령이 “트럼프는 천하에 쓸모없는 놈”이라고 말하는 딥페이크 영상을 만들어 딥페이크 기술이 내포한 위험성을 사람들에게 알리기도 했다.

한국에서는 2020년 성폭력처벌법이 개정돼, 딥페이크 범죄 형량이 최대 5년 이하의 징역으로 강화됐다. 그러나 허위영상물 반포에 대한 조항에는 “반포 등을 할 목적”으로 허위영상물을 합성했을 경우 처벌이 가능하다고 명시돼 있다. 반포 목적을 증명할 수 없는 경우 처벌이 힘들 수 있다는 해석이다. 실제 양형 또한 범죄 수준에 못 미친다는 지적이다. 실제로 최근 딥페이크 관련 사건의 판결 대부분이 해당 혐의에 대해 징역형의 집행유예 처분이 내려졌다.

기술 혁신의 목적이 인류의 편의 도모인 만큼, 기술로 인한 피해자 양산 방지는 매우 중요하다. 재판부에서는 딥페이크 피해 사안의 위중함을 더 엄중하게 바라볼 필요가 있으며, 관련 산업 생산자 및 소비자는 AI 윤리 교육을 통해 신기술에 대한 윤리적 시각을 정립하는 것이 중요하다. 디지털 시대인 만큼 가상 인간의 탄생은 앞으로도 가파르게 증가할 것이다. 때문에 “가상 인간과 슬기롭게 공존하는 법”은 인류가 찾아야 할 새로운 숙제다. 중기이코노미 강세진 기자