석호익 동북아공동체ICT포럼회장/한국디지털융합진흥원장
국립중앙도서관의 열린마당 실감체험관 행사 ‘작가와의 만남’에서 한국의 고전 문학 작가 이상(1910~1937)의 생전에 활동을 관람객들이 보고, 국회 문화체육관광부 국정감사장에 30대 유인촌 장관이 부르는 가수 김광석의 ‘서른 즈음에’가 울려 퍼졌다. 이는 시인 이상과 유 장관의 얼굴과 음성을 학습시켜 만든 ‘딥페이크(Deepfake)’다.
러시아 관영 통신은 소셜미디어에 조 바이든 미국 대통령이 치매 관련 책을 고르는 영상을 올렸다. 조작 영상이었다. 바이든이 책을 고르는 실제 장면과 치매 관련 안내판을 합성해 만든 것. 내년 대선을 앞두고 그의 약점인 건강 문제를 비꼰 것이다.
이스라엘과 하마스 간 전쟁 국면에서는 딥페이크 가짜뉴스가 유독 기승을 부리고 있다. 시신 수백 구의 영상, 4세 영아 살해 사진, 성 포르피리오스 교회 폭격 생중계 등 검증되지 않은 사진·영상과 가짜뉴스가 봇물 터지듯 확산되고 있다.
영화, 소설 속에서 등장할 것 같았던 인공지능(AI) 기술을 이용한 사이버 범죄가 현실로 나타나고 있다. AI 기술로 유명 연예인들의 얼굴을 합성한 음란물을 제작하는 것은 물론 일반인들을 겨냥한 사기, 프라이버시 침해, 신종 AI 피싱까지 등장했다.
딥페이크란 인공지능을 사용해 실제로 존재하지 않은 사건이나 대화를 현실처럼 가상의 비디오나 오디오를 생성하고 수정하는 기술이다. 올바르고 유용한 방식으로 사용할 수 있지만 오용될 경우 심각한 문제를 유발한다.
딥페이크 기술로 영화의 특수효과, 과거 유명인을 부활시켜 얼굴과 목소리 재현, 많은 언어의 더빙 등으로 영화·광고·게임에서 수준 높은 글로벌 콘텐츠의 제작, 질병 진단 및 수술 시뮬레이션 등으로 의료의 획기적 발전, 연구개발 등 과학 분야 활용, 수준 높은 교육 훈련에 활용할 수 있다.
반면, 사건이나 얼굴, 음성을 합성·조작해 범죄에 활용함으로 심각한 윤리적 문제를 발생시킬 수 있다. 딥페이크가 실존하는 인물로 가짜뉴스를 진짜처럼 속일 수 있게 되면서 가짜뉴스가 민주주의의 중대한 위협 요인으로 부상하고 있다. 내년 미국 대통령 선거 등 주요 선거를 앞둔 세계 각국은 비상이 걸렸다. 내년 우리나라 총선에 가짜뉴스와 허위정보로 민주주의 최대 위협이 될 것이라고도 한다.
국가정보원은 2021년 딥페이크를 이용한 사이버 범죄 가능성을 경고했다. 전 세계 범죄조직들이 딥페이크 기술을 이용해 피해자의 가족, 지인을 사칭한 후 금품을 갈취하거나 피해자의 사진으로 음란물을 만들어 협박하는 사례가 나타나고 있다는 것이다.
그러나 딥페이크는 AI 시대의 두 얼굴이다. 무조건 부정적 시각에서 억제하는 것만이 능사는 아니다. 엔터테인먼트, 미디어, 의료, 과학기술과 교육·훈련 등에 활용 가능성이 무궁무진하다. 딥페이크의 기술개발과 활용을 촉진하고 정보의 신뢰성을 확보할 수 있도록 정부의 정책적 지원과 산학연의 공동노력, 특히 정치권의 협조가 필요하다.
그러나 딥페이크 영상과 음성 등은 AI 전문가도 진짜와 가짜를 구분하기 힘들 만큼 교묘하다. 그럼에도 누구나 몇 가지 기술만 익히면 쉽게 만들 수 있다. AI 시대에 어두운 그림자로 딥페이크 범죄 확산에 대한 대책 마련이 시급하다.
먼저 기술적으로 딥페이크 생성물을 식별하고 검증하는 탐지기술을 개발해야 하고 정부의 자금지원이 필요하다. 또한 딥페이크를 활용한 범죄행위는 강력히 처벌하는 법적·제도적 장치마련이 시급하다.
특히 폐해가 큰 정치적 악용사례를 근절해야 한다. 법적·제도 마련에 시간이 소요된다면 내년 총선에는 우선 정당 간에 딥페이크를 활용한 가짜뉴스와 허위정보를 선거에 이용하지 않겠다는 신사협정을 하고 위반 시 책임을 지는 방안을 논의해야 한다. 또한 딥페이크 기술을 활용해 생성물을 제작·공급하는 공급자와 이의 수요자인 국민을 위한 홍보와 교육이 필요하다.