AI로 누구나 쉽게 딥페이크 생성
오픈 AI ‘소라’ 공개에 세계 깜짝
기술 발달과 함께 악용 우려도 커져
한국도 총선 앞두고 딥페이크 경계령
딥페이크 금지 후 하루 7건 꼴 나타나
‘차단’ 아닌 규제 강화로 한계 지적도
[천지일보=김성완 기자] 4.10 총선을 앞두고 딥페이크(Deepfake·AI 기술로 만든 영상·이미지 합성 조작물) 선거 관련 콘텐츠가 활개를 치면서 선거관리에도 비상이 걸렸다. 정치권도 대응책을 마련하느라 분주하다.
딥페이크 가짜뉴스는 저렴한 비용으로 누구나 손쉽게 제작이 가능하고 전파 속도가 매우 빠른 데다 진위를 감별하기 어려울 정도로 정교해 속기 쉬운 만큼 여론을 호도하는 등 선거 판세에 큰 영향을 미칠 수 있기 때문이다.
◆진화하는 딥페이크
딥페이크(deepfake)란 인공지능(AI) 기술인 딥러닝(deep learning)과 ‘가짜’를 의미하는 단어 페이크(fake)의 합성어로, AI 기술을 기반으로 사람의 이미지·영상·음성을 합성하는 기술을 가리킨다. 지난 2017년 미국 온라인 커뮤니티에 유명 배우의 얼굴을 합성한 가짜 영상이 올라오면서 세상에 처음 알려졌다.
초창기 영상 중에는 딥페이크라 부르기 민망할 정도로 어설픈 가짜 영상들이 많았으나 최근의 딥페이크 기술은 놀라울 정도로 발전하며 실제와 분간이 어려운 수준이 됐다. 딥러닝 알고리즘을 활용해 인물의 얼굴이나 음성을 합성해 가짜 영상이나 오디오를 만든다. 유명인의 얼굴을 대체하거나 특정한 부위를 영화의 CG처럼 합성한다.
최근에는 대화형 인공지능 챗GPT의 개발사인 오픈 AI가 간단한 글자만 입력해 영상을 만들어주는 생성 AI 모델 ‘소라(Sora)’를 내놓아 주목을 받았다. 소라는 글을 동영상으로 만들어주는 이른바 ‘텍스트 투 비디오 모델’로 글로 된 요청을 이해할 뿐 아니라 글에 묘사된 것들이 실제 세계에서 어떻게 존재하는지까지 이해한다.
아직 물리적 인과관계를 100% 구현 못 하는 약점도 있다고는 하지만, 몇 가지 문장을 적어 넣기만 하면 현실 세계를 직접 촬영한 영상이나 그래픽 작업으로 만든 애니메이션과 구분이 쉽지 않을 정도로 정교하고 생생한 영상을 만들어 내 AI 분야의 획을 그을만한 혁신 기술이라는 평가가 나오고 있다.
◆‘선거의 해’ 맞아 지구촌 몸살
문제는 기술의 발달과 함께 풀어야 할 숙제 역시 대두되고 있다는 점이다. 딥페이크로 대표되는 유해 영상도 쉽게 만들어질 수 있다는 것인데, 실제 소셜미디어 등에서 ‘딥페이크’ 피해가 점점 심각해지고 있다. 최근 미국 팝스타 테일러 스위프트 사진을 합성한 음란 이미지가 SNS를 통해 퍼진 사례가 대표적이다.
올해는 특히 ‘선거의 해’를 맞아 지구촌이 딥페이크로 몸살을 앓고 있다. 지난 2월 14일 치러진 인도네시아 대선 과정에서 2008년 사망한 수하르토 전 인도네시아 대통령의 딥페이크 영상이 소셜미디어에 퍼져 화제가 됐고, 지난달 미국 대선 공화당 예비경선이 열리던 뉴햄프셔주에서는 딥페이크 기술을 이용한 조 바이든 미국 대통령의 가짜 음성 메시지가 전달돼 유권자들을 혼란스럽게 했다.
4.10 총선을 앞둔 한국도 예외는 아니다. 2월 19일 중앙선거관리위원회에 따르면 지난 1월 29일부터 2월 16일까지 19일간 유권자를 상대로 딥페이크를 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다. 하루 7건 꼴로, 우리나라도 딥페이크의 선거 개입 위협에서 더이상 자유로울 수 없음을 보여준다.
2023년 12월 20일 국회가 공직선거법을 개정해 선거 90일 전부터 딥페이크 기술을 활용한 선거운동을 금지시킨 이유다. 선거일 전 90일부터 선거일까지는 딥페이크 영상을 제작, 편집, 유포, 상영 또는 게시하는 행위를 금지하고 이를 위반할 경우 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처하도록 했다.
◆세계 각국 규제에 속도
AI 기술을 활용한 딥페이크 영상에 대한 우려가 커지면서 세계 각국에서는 규제 강화에도 속도를 내고 있다. 플랫폼을 통해 유포된 딥페이크를 차단까지는 하지 않고 ‘가짜’라는 표시를 하겠다는 게 핵심이다.
실제로 오픈AI, 구글 등 20개 빅테크 기업은 지난 16일(현지시간) 독일 뮌헨안보회의(MSC)에서 딥페이크 콘텐츠에 AI가 생성했다는 라벨을 붙이기로 합의했다. 챗GPT 개발사인 오픈AI는 이미지 생성 AI 달리가 만든 이미지에 C2PA(콘텐츠 출처 및 진위 확인을 위한 연합) 워터마크를 부착한다.
구글도 자사 이미지 생성 AI에 워터마크 기술 ‘신스ID’를 적용하고 있다. 페이스북‧인스타그램‧스레드를 운영하는 메타는 자체 AI 도구인 메타 AI를 활용해 만든 이미지에 ‘이매진드 위드 AI’라는 라벨을 붙여왔다. 메타는 이 방식을 외부 AI 도구로 만든 콘텐츠에도 적용하겠다는 입장이다. 다만 뮌헨 합의문에서도 딥페이크 콘텐츠를 삭제해야 한다는 내용은 들어가지 않아 한계가 있다는 지적이다.
유럽연합(EU) 회원국들은 2일 AI가 콘텐츠를 생성했다는 워터마크를 강제하는 ‘AI법’을 만장일치로 통과시켰다. 23일 미국 현지 언론에 따르면 바이든 대통령은 오는 11월 대선을 앞두고 지난해 말 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령’에 서명했다. AI 역량에 대한 안전 및 보안 우려를 해소하기 위해 AI 시스템 개발자가 안전 테스트 결과 등 중요 정보를 정부와 공유하도록 했다.
◆한국도 대책 마련에 부심
4월 총선과 맞물려 국내 플랫폼 기업과 AI 기업들 움직임도 발빠르다. 지난 20일(한국시간) 네이버는 자사의 대화형 인공지능 서비스 클로바X는 ‘음란성 콘텐츠’나 ‘얼굴 합성’ 요청에 결과물을 내놓지 않기로 했다. 또 총선 관련 모니터링 전담 부서를 통해 딥페이크 오용 패턴을 분석하고 지속적으로 업데이트할 예정이다.
카카오는 생성 AI 모델 ‘칼로’에 비가시성 워터마크 기술 도입을 검토하고 있다. 비가시성 워터마크는 기술적으로 AI를 통해 생성된 이미지인지 여부를 확인하는 방식으로, 일반 이용자에게는 보이지 않는다. 카카오도 선거와 관련한 딥페이크 게시물 확산 방지에 초점을 맞추는 등 모니터링을 강화하고 있다.
총선관리를 책임지고 있는 중앙선관위는 지난 1월 29일부터 딥페이크 영상 등을 이용한 선거운동 단속에 나서 허위사실공표·비방특별대응팀을 확대 편성·운영하고 있다. AI 전문가와 모니터링 전담 요원으로 구성된 감별반도 활동 중이다.
여야 정치권도 대책 마련에 부심하고 있다. 국민의힘은 정책위원회 산하에 미디어정책조정특별위원회를 신설했다. 지난해 12월 김승수 의원은 AI로 정보 제작 시 워터마크 삽입 의무화를 골자로 한 정보통신망법 개정안을 발의했다. 더불어민주당은 딥페이크 전담 태스크포스(TF)나 조직 등을 별도로 설치하지는 않았다. 공천 시즌이기 때문인데, 각 사안에 따라 당내 각 기구에서 철저히 대응할 것으로 전해졌다.
윤석열 정부와 업계의 노력에도 선거 관련 딥페이크 영상 확산을 막을 수는 없을 것이라는 전망이 많다. 더욱 많이 쏟아져 나올 딥페이크 제작물을 과연 감당해낼 수 있겠느냐는 것인데, 정치권 일각에선 AI 기술 악용 가능성을 배제할 순 없지만 유권자가 이미 딥페이크에 잘 대비하고 있다는 진단도 나온다.