세계 곳곳 악용되는 AI 기술
음성 복제·조작 선거전 이용
“AI 대중화로 새 위협 탄생”
EU 등 가짜뉴스 규제법 압박
[천지일보=이솜 기자] 배경부터 햇빛, 내 포즈, 머리카락과 옷차림까지 모든 게 완벽하지만 내 표정이 마음에 들지 않은 사진들이 있다. 그런데 만약 손가락 몇 번 움직여 내 표정을 자연스럽게 바꿔줄 수 있다면 어떨까.
구글의 새로운 소프트웨어 ‘베스트 테이크(Best take)’는 인물 사진을 수정할 수 있다. 구글 최신 스마트폰인 픽셀8 카메라에 내장된 이 인공지능(AI)은 찡그린 얼굴, 감긴 눈, 심지어 다른 방향을 보고 있는 얼굴까지 원하는 모습으로 바꿔준다. 이 기능은 사용자가 촬영한 다른 사진에서 얼굴을 가져와 바꿔치기하는 방식으로 작동한다.
이 기능은 아주 새롭지는 않다. 전에도 이런 기술은 있었지만 주로 전문가들이 사용했다. 그러나 스마트폰에 내장됐다는 것은 이제 이 기능이 대중화된다는 의미다. 앞으로 다른 회사에서 자체적인 얼굴·표정 보정 AI를 출시하더라도 놀랄 일은 아니다.
베스트 테이크는 특히 아이가 있는 가족사진에서 유용한 기능이다. 그러나 동시에 이런 기능을 사용해 실제로 일어나지 않은 장면으로 사진으로 만들 수 있다는 우려도 나온다.
엄중한 곳에서 실없이 웃고 있는 정치인 또는 유명인이나, 정상회담 기념사진에서 엉뚱한 곳을 보고 있는 국가 원수 등의 사진을 누구나 쉽게 만들 수 있기 때문이다.
최근 일부 나라와 SNS 등에서는 AI발(發) 가짜뉴스에 진통을 앓고 있다. 사진뿐만 아니라 음성, 영상 가리지 않고 AI 기술이 점점 대중화되며 잘못된 정보를 쉽게 퍼뜨리는 양상이다. 전문가들 사이에서는 이제 AI가 ‘모든 범죄의 증폭기’가 될 수 있다는 진단마저 나온다.
◆음성 조작 선거 운동 중 횡행
지난달 슬로바키아에서 중요한 총선이 치러지기 며칠 전 SNS에서는 한 음성 파일이 유포되기 시작했다. 이 음성에는 진보적 슬로바키아의 대표인 미할 시메츠카가 슬로바키아의 소외 계층인 로마족을 매수해 투표를 조작하려는 계획을 설명하는 내용이 담겼다. 2주 후에는 영국 노동당 지도자가 직원에게 욕설을 퍼붓는 음성이 엑스(X, 舊 트위터)에 게시됐다.
이 두 음성 파일은 곧 사실확인 집단을 통해 AI 소프트웨어로 생성되거나 조작된 것으로 나타났다. 그러나 해당 파일은 여전히 페이스북과 X와 같은 SNS에 남아 있으며 진짜 음성인 줄 아는 네티즌들은 비난하는 댓글을 달고 있다.
이처럼 최근 가장 문제로 떠오른 AI 범죄는 ‘목소리 딥페이크 또는 딥보이스’다. 지난주 워싱턴포스트(WP)와 뉴욕타임스(NYT) 등은 딥보이스 문제를 조명했다. 딥보이스의 가장 큰 문제는 이미지 딥페이크보다 만드는 방법이 쉽고 결과도 훨씬 자연스러워 대중을 속이기 쉽다는 점이다.
전문가들은 오래전부터 생성형 AI가 가짜 사진과 동영상의 쓰나미를 일으켜 아무도 믿을 수 없는 허위 정보 환경을 조성할 것이라 예측했다.
그러나 귀로만 판단해야 하는 음성 AI 위기는 더 심각할 수 있다. 특히 음성 복제 기술은 최근 급속도로 발전해 온라인에서 저렴하고 쉽게 접근할 수 있는 도구가 확산돼 누구나 정교한 가짜 선거 운동을 시작할 수 있게 됐다.
음성 AI 전문업체인 일레븐랩스(Eleven Labs), 플레이HT(PlayHT), 리셈블(Resemble.ai), 스피치파이(Speechify) 등을 이용하면 누구든지 음성 복제가 가능하다. 가격도 월 7천원 내외 꼴이다.
하니 파리드 미국 버클리 캘리포니아대 교수는 WP에 음성 복제 기술에 대해 “폭력, 선거 도용, 사기 등 개인, 사회, 민주주의에 실제적인 영향을 미칠 수 있다”고 경고했다.
Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ
— Eliot Higgins (@EliotHiggins) March 20, 2023
◆가짜뉴스 창작의 민주화
내년 우리나라 총선을 비롯해 인도네시아, 미국, 인도 등 세계 최대 민주주의 국가에서 선거가 예정된 가운데 AI로 만든 허위 정보는 정치인이나 유권자 모두에게 큰 위기다. TV 토론에서 어떤 후보가 거짓말을 하는지 따지던 시절이 그리울 정도다. 이제는 후보자의 목소리나 가짜 영상까지 분별할 수 있어야 한다.
이미 미국에서는 이런 일이 벌어지고 있다. 2020년 대선 당시에도 AI 가짜뉴스는 횡행했다. 미국의 격전지 주(州)에서는 유권자의 투표를 방해하기 위해 투표소에서 총격 사건이 발생했다거나 줄이 6시간 이상 길어졌다는 SNS 게시글과 사진이 올라오기도 했다. 그러나 이제 그 수준은 달라졌다.
공화당 전국위원회에서 발표된 정치 광고는 조 바이든 미국 대통령이 재선될 경우의 미래 시나리오를 보여준다. 중국의 침공으로 대만에서 폭발이 발생하고, 이민자 물결이 미국을 공포로 몰아넣고, 샌프란시스코에 계엄령이 선포되는 모습 등이다. 지난 3월에는 도널드 트럼프 전 대통령이 경찰에 체포되는 사진이 모든 SNS에서 공유되기도 했다. 모두 AI가 생성한 가짜였다.
내년 1월 대만에서는 차이잉원 총통의 후임을 뽑는 선거가 치러진다. 선거 결과가 중국과의 관계에 영향을 크게 미칠 것으로 보이며 이에 중국의 막강한 해커 군단의 표적이 될 것으로 예상된다. 대만인의 75%가 SNS를 통해 정보를 얻는다는 점을 고려하면 온라인은 가짜뉴스의 주요 격전지가 될 전망이다.
탕펑(영어명 오드리 탕) 대만 디지털 담당 정무위원(장관급)은 최근 영국 싱크탱크인 채텀하우스에 “지금까지는 전문 지식이 없거나 정교한 도구에 접근할 수 없는 제약이 있었다”며 그러나 생성형 AI는 ‘허위 정보’를 간단하고 저렴하며 설득력 있게 만들어 민주화하고 있다고 지적했다. 그러면서 “여기에 부분적인 자동화를 통해 악의를 품은 많은 사람들의 능력이 증폭될 수 있다면 ‘새로운 위협 모델이 탄생할 것’”이라고 경고했다.
이제 더 발전된 AI 기술은 투표 부동층을 표적으로 삼고 있다. 브루킹스 연구소의 선임 연구원 대럴 웨스트는 지난 5월 보고서에서 AI를 통해 훨씬 더 정밀한 유권자 타겟팅이 가능하다고 설명했다.
부동층 유권자에 대한 자세한 개인 정보에 접근해 그들이 무엇을 읽는지부터 어떤 영상을 시청하는지까지 파악해 맞춤화된 메시지를 보낼 수 있다는 것이다. 보고서는 “AI를 통해 선거운동 담당자는 특정 투표층을 공략할 수 있다”고 결론을 내렸다.
◆SNS 기업에 책임 묻는 세계 정부들
그럼 우리는 어떻게 AI로 만든 글이나 영상, 목소리 등이 가짜인지 알아볼 수 있을까. 아쉽게도 답은 ‘없다’이다. 너무나 정교하게 만들어진 가짜 정보들은 때때로 전문가를 통해서만 진위를 파악할 수 있다. 이 때문에 구글과 유튜브, 엑스 등 SNS가 눈에 띄는 경고 문구를 적극적으로 표시하라는 압력도 커지는 양상이다.
지난 19일 유럽연합(EU)은 X에 이어 메타, 틱톡에 대해서도 소위 ‘가짜뉴스 규제법’ 위반 여부 확인에 나섰다. 이들 회사가 각각 디지털서비스법(DSA)을 준수하기 위해 실제 조처를 취했는지 답변서를 제출하라는 것이다.
EU 집행위원회는 만약 이 기업들이 요구사항을 제출하지 않거나 위반 사실이 확인되면 과징금이 부여될 수 있다고 밝혔다. EU가 기업들에 이런 요구를 한 배경에는 최근 이스라엘과 팔레스타인 무장 정파 하마스간 분쟁 이후 SNS에 악의적인 가짜 정보가 범람하는 상황이 심각하다는 판단이 있다.
미 연방선거관리위원회(FEC)도 AI 딥페이크 이미지를 이용한 가짜뉴스 규제 검토에 최근 착수했다.