“인증샷도 못 믿겠다”… 인공지능 ‘딥페이크’의 두 얼굴

[천지일보=장수경 기자] “저렇게 똑 닮은 아이를 어떻게 찾았지!”

넷플릭스 오리지널 시리즈 ‘살인자ㅇ난감’이 지난 2월 9일 공개된 직후 ‘닮은꼴’이 화제를 모았다. 극중 장난감 배역을 연기한 손석구와 아역으로 등장한 배우가 너무 닮아서다. 두 사람의 닮은 꼴을 비교한 사진은 빠르게 소셜미디어(SNS)를 통해 퍼져나갔다. “아들이 아니냐”는 말도 나왔지만 실마리는 찾을 수 없었다. 알고보니 ‘딥페이크(deepfake)’ 기술로 손석구의 어린 시절 사진을 구현해 얼굴을 덧씌운 것이었다.

지난 수십년간, 인공지능 기술의 발전은 우리의 문화와 예술에 새로운 가능성을 제기해왔다. 하지만 이런 기술의 진보는 때때로 현실과 가상 세계 사이에 모호한 선을 그어 놓는다. 이런 모호함은 최근 주목받는 딥페이크 기술을 통해 더욱 뚜렷해지고 있다. 이와 관련, 인공지능 기술로 나타난 딥페이크 기술의 현 주소를 알아봤다.

◆‘딥페이크’ 혁신과 창의성 제공

‘딥페이크’는 인공지능 기술인 ‘딥러닝(deep learning)’과 가짜를 의미하는 ‘페이크(fake)’의 합성어로, 인공지능을 기반으로 한 인간 이미지 합성 기술을 가리킨다. 2017년 미국 온라인 커뮤니티에 유명 배우의 얼굴을 합성한 가짜 영상이 올라오면서 세상에 처음 알려졌다.

딥페이크는 가짜 정보를 마치 진짜인것처럼 느끼게 한다. 딥러닝 알고리즘을 활용해 인물의 얼굴이나 음성을 합성해 가짜 영상이나 오디오를 만든다. 유명인의 얼굴을 대체하거나, 특정한 부위를 영화의 CG처럼 합성한다. 이 기술은 예술적 창의성을 높이는 동시에 개인 정보 보호와 미디어의 신뢰성에 대한 우려를 불러 일으키고 있다.

딥페이크는 엔터테이먼트 분야에서 혁신과 창의성을 제공한다. 특수효과를 더욱 현실적으로 구현하고 새로운 시각적 경험을 제공한다. 영화 ‘제미니 맨(Gemini Man, 2019)’에서는 실제 딥페이크 기술이 활용됐다. 영화에서 50대 윌 스미스가 20대 시절의 자신을 마주치는 장면은 딥페이크 기술로 구현됐다. 이는 영화의 몰입감을 높일 뿐 아니라 시청자에게 흥미로운 시각적 경험을 제공했다.

2020년 한 방송 프로그램에서는 혼성그룹 ‘거북이’가 출연했다. 방송에서 ‘거북이’는 가수 가호의 노래 ‘시작(드라마 ‘이태원클라쓰’ 주제곡)’을 리메이크해 불렀다. 그런데 거북이의 리더 ‘터틀맨’은 지난 2008년 고인이 된 사람이다. 공연에서는 딥페이크가 만들어낸 가상인물 ‘터틀맨’이 12년만에 그룹 동료들과 함께 무대에 올랐고, 그를 그리워하던 팬들에게 감동을 선사했다.

최근에는 오픈 AI가 처음으로 동영상 생성 AI 모델 ‘소라(Sora)’를 내놓아 동영상 분야의 지각변동을 예고했다. 이 영상은 검은색 가죽 재킷에 긴 빨간 드레스, 검은 가죽 부츠를 입은 한 여성이 네온사인 간판으로 가득한 도쿄 거리를 걷고 있는 모습이 담겼다. 그런데 이 영상은 오픈 AI가 텍스트를 입력해 생성한 런웨이 동영상이다. 1분 이내의 영상이지만 퀄러티가 매우 높아 관심이 모아지고 있다.

◆신종 범죄도 점점 늘어나

딥페이크는 가상세계와 현실 세계를 허물며 다양한 가능성을 선보이고 있다. 하지만 디지털 성범죄나 정치권의 여론 조작 등 신종 범죄가 늘고 있어 우려와 반감의 목소리도 크다.

최근 딥페이크 기술을 기반으로 한 가짜 영상과 사진이 유포돼 유명 인사들이 곤혹을 치르고 있다. 얼마 전 세계적인 팝가수 테일러 스위프트 얼굴에 음란물을 합성한 딥페이크 이미지가 SNS 엑스(X, 옛 트위터)를 통해 확산돼 전 세계가 발칵 뒤집혔다. 미국 유명 배우 톰 행크스는 AI가 만든 자신의 이미지가 무단으로 광고에 사용된다며 주의를 당부했다. 테슬라 창업자인 일론머스크가 비트코인 투자자를 모집한다는 가짜 영상도 나돌았다. 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 가짜 사진이 유포되기도 했다.

우리나라도 예외는 아니다. 얼마 전 배우 조인성, 송혜교 등이 투자를 권유하는 딥페이크 영상이 떠돌았다.

총선과 관련해서는 가짜뉴스 허위정보 등 선거 조작 우려로 인해 지난 1월 29일부터 딥페이크 선거운동이 금지됐다. 하지만 선관위가 전담팀을 가동한 지 20일도 안돼 위반 사례가 100건이 넘어섰다.

일반인도 딥페이크 서비스에 쉽게 노출돼 있다. 지난해 10월 소셜네트워크 분석 기업 그래피카(Graphika)가 발표한 자료에 따르면 9월 한 달 동안에만 2400만명이 딥페이크 웹사이트를 방문한 것으로 조사됐다.

피해 사례도 급증하고 있다. 방송통신심의위원회가 지난해 차단이나 삭제 요청한 ‘딥페이크를 포함한 성적 허위 영상물’은 2020년 473건에서 2023년(11월까지) 5996건으로 3년새 12배나 급증했다.

◆딥페이크 ‘비상’, 규제 강화 속도내나

딥페이크 영상이 사회적 문제로 떠오르는 가운데 세계 각국에서는 규제 강화에 열을 올리고 있다. 구글과 메타는 생성형 AI로 만든 이미지에 별도의 표식(label, 라벨)을 붙이는 안전 장치를 마련했다. 메타는 공식 홈페이지를 통해 “몇 달 안에 페이스북과 인스타그램, 스레드(Threads)에서 AI로 생성한 콘텐츠에는 라벨(꼬리표)을 붙일 것”이라고 전했다.

챗GPT를 개발한 오픈AI도 같은 정책을 추진하기로 했다. 오픈AI는 ‘달리3’가 만든 이미지에 콘텐츠 출처 및 진위 확인을 위한 연합(C2P)의 워터마크를 부착할 예정이다.

미국과 유럽은 정부 차원에서 딥페이크 규제 법안을 마련하기로 했다. 미국 정부는 AI 기술 개발과 관련한 행정명령을 통해 워터마크(식별 표시)를 넣기로 했다. 유럽연합은 AI로 생성한 콘텐츠에 워터마크를 의무하는 ‘AI 규제법’을 통과시켰다.

국내의 경우 한국인터넷자율정책기구(KISO)는 지난 1월 네이버, 카카오, SK커뮤니케이션즈 등 포털 회원사들과 협력해 청소년 보호를 위한 검색어 110개를 새로 추가했다. AI 기술의 부상과 그로 인한 유해 정보 증가에 대한 신속한 대응 조치다. AI와 관련해서는 ‘지인 능욕’ ‘지인 합성’ 등 딥페이크 관련 검색어가 대표적이다. 총선을 앞두고 딥페이크 게시물 확산 방지에도 초점을 맞추고 있다.

이처럼 딥페이크 기술은 현대 사회에 새로운 도전과 위험을 제시하고 있다. 현실과 가상 사이를 공존하는 이 기술은 창의적이고 혁신적인 가능성을 제공하지만, 동시에 다양한 위험과 문제점을 내포하고 있다. 전문가들은 기술적, 사회적, 법적 측면으로 종합적인 대응이 필요하다고 의견을 제시하고 있다. 미래에는 딥페이크 기술이 더욱 발전하고 다양한 분야에서 활용될 것으로 예상되며,  이에 대한 신중한 대응과 준비가 어느 때보다 필요한 시점이다. 이를 통해 우리는 딥페이크의 위험에 효과적으로 대응하고 더욱 안전한 미래를 만들 수 있을 것이다.