이문성 전 명지전문대 겸임교수/법학박사
딥페이크(Deep-fake)는 인공지능(AI)을 활용한 디지털 기술로 그림, 음악, 사진, 동영상 등 각종 이미지를 다양한 형태로 조작하여 만든 일련의 가짜 정보를 말한다.
가짜를 의미하는 페이크(fake)와 생성형 AI가 만나면서 만들어진 딥페이크의 파급효과는 예상치 못한 수준까지 이르고 있다. ‘~카더라’ 스타일의 가짜뉴스에 그치는 것이 아니라, 가공의 인물을 생성하여 인터뷰도 하고 연설도 한다. 심지어 2023년 3월 미국의 전직 대통령 트럼프가 경찰에 쫓겨 체포되어 교도소에 수감되는 사진을 리얼하게 연출하기까지도 했다.
최근 공개된 마이크로소프트사의 생성형 AI ‘달리’는 특정인의 사진이나 목소리를 이용하여 전혀 다른 장소와 시간에서 색다른 모습을 연출할 수도 있다.
딥페이크를 손쉽게 만들 수 있는 생성형 AI는 작곡과 예술 창작 분야에 활용될 수 있으며 미디어 산업의 생산성과 효율성을 높일 수도 있다. 하지만 위험성을 강조하는 일부 여론은 생성형 AI의 ‘제한’과 ‘통제’를 강조하고 있다. 실제로 생성형 AI는 불법 음란물 제작이나 목소리 변조 기능을 모방한 보이스피싱 사기 범죄에 이용될 수 있으며, 국가안보와 관련한 허위 정보를 유튜브로 방출하여 사회 혼란을 야기시킬 가능성도 부정하기 어렵다.
그러나 생성형 AI 그 자체를 문제 삼기는 어렵다. 기술은 주인이 아니기 때문이다. 자동차의 경우를 보면 장소이동의 편의성을 넘어서 생활공간으로 비약적인 발전을 하고 있으나 지금도 매년 수천 건의 교통사고를 일으키는 수단이다.
생성형 AI도 마찬가지이다. 생성형 AI로 만든 대부분의 딥페이크는 취미이며 놀이이거나 표현이며 주장일 수 있는 영역에 속해 있다.
종이 문서 시대에 익숙한 세대가 문자보다 먼저 디지털 영상 정보를 접한 세대의 학습 속도를 따라가지 못해서 발생하는 문화적 충격이 더 큰 문제이다.
이러한 디지털 격차를 설명하는 수단으로 같은 시간대에 사는 우리를 디지털 이주민과 디지털 원주민으로 나누기도 한다. 디지털 이주민은 문자로 된 책에서 인터넷으로 지식창고를 바꾼 경험을 가진 세대이고, 디지털 원주민은 인터넷이 없는 세상을 아예 겪어보지 못한 세대를 말한다.
인간의 뇌는 신경 가소성과 순응성이 있어서 수단과 환경의 변화에 맞추어 뇌 구조가 기능적으로 변화하고 재배치된다. 디지털 정보 수집과 해석 방법에 있어서 최적화된 경로를 찾아가기 위해 뇌의 능력이 달라진다는 뜻이다. 매장에서 흔히 보는 다양한 형태의 키오스크를 십대 청소년은 거의 원클릭 수준으로 활용하지만 65대 이상에게는 넘어야 할 장벽처럼 보이는 예가 그 이유에 기인한다.
디지털 이주민은 ‘책’을 통한 읽기와 ‘펜’을 이용한 쓰기의 과정을 통해 지식을 습득하고 정보를 해석하며 공유해 왔지만, 디지털 원주민은 유튜브와 같은 매체로 시각적 이미지와 음성 언어로 소통하고 교류하며 그 자체가 정보의 수집이 되고 해석의 공간이 된다.
딥페이크를 디지털 원주민 입장에서 보면 어떨까. 디지털 원주민은 유튜브의 딥페이크에 속고 이용당하며 현혹되어 어리석은 결정을 남발할 만큼 미숙한가. 그렇지 않다. 디지털 원주민은 유튜브의 이미지와 내용을 이야기하고 의견을 주고받으며 평가하면서 진위를 판별하고 정보의 가치도 내린다.
최근 정부와 국회는 딥페이크로 인하여 여론이 왜곡되고 총의라는 의사결정이 방해될 수 있다는 논리로 생성형 AI 이용자의 법적 책임 강화와 정보통신사업자 규제를 검토하고 있다고 한다. 법을 통한 딥페이크 규제는 새로운 세대의 정신적 활력이라는 추진력을 낮출 수 있고 그들 세대의 순발력조차 죽이는 역효과가 발생할 수도 있다. 무엇보다 딥페이크 진위 선별과 규제 선택을 정부가 독점할 경우, 권력에서 소외된 소수집단에 불리한 딥페이크 규제 정책으로 흐를 수도 있다.
오히려 문제는 디지털 정보를 읽고 생각해서 기록하고 활용하는 소위 디지털 리터러시(문해력)가 세대별 편차가 크다는 데 있다. 예를 들어 노인의 경우에는 자신이 진짜라고 믿는 유튜브 딥페이크나 가짜뉴스를 철석같이 믿는 성향이 강한 편이다. ‘좋아요’와 ‘구독하기’라는 디지털 끼리끼리를 더욱 가속하여 확증편향을 넘어 진영 간의 극단적 갈등 대립으로 치닫기도 한다.
딥페이크에 대처할 해답은 시민의 디지털 리터러시 향상을 위한 학습과 사회적 공감대 형성, 이를 통한 악성 딥페이크의 시장 퇴출이다. 이를 위해 모든 세대에 대한 평생교육과 학교 교육에 디지털 리터러시 과정을 반영하고, 악성 딥페이크를 막기 위한 자발적인 시민모임과 전문가 그룹에 대한 정부의 지원방안이 필요하다고 하겠다.
사실 딥페이크는 정도의 차이가 있을 뿐 AI가 없던 시절에도 풍자와 조롱 방식으로 오랜 기간 허위 조작기법(fake)을 활용해 왔다. 어느 웃픈 유머를 보면 성당의 신부님께서 돌아가시기 직전에 병문안을 온 정치인 두 명을 양옆에 앉게 했다고 하신다. 왜 그러시냐고 여쭈었더니, ‘예수님께서 죄인 두 명을 데리고 떠나셨듯이 나도 그래보려고’ 하셨단다.
만약 생성형 AI에 예수님 십자가상 양옆에 임기 종료를 앞둔 제21대 국회 정치인 두 명을 그려 넣으라 한다면 누굴 그려 놓을까. 그래도 딥페이크는 딥페이크일 뿐이다.