이문성 전 명지전문대 겸임교수/법학박사
4차 산업혁명을 가리켜 ‘스마트한 자동화 기술이 이끄는 사회경제적 변화’라고 설명하기도 하는데 어떤 내용으로 하든 인공지능(AI)을 빼놓고 설명하기는 어렵다. AI는 빅데이터를 기반으로 한다. 빅데이터는 과거 경험의 집합체라고 할 수 있으며 무수한 양의 데이터 상호관계를 통해서 AI는 추론할 수 있는 학습능력을 갖게 된다. 그림, 영상, 예술, 음악 등 예술창작 영역부터 웹사이트와 앱 제작까지 실로 다양한 영역에서 AI는 인간을 돕거나 대신하고 있다.
AI가 사람을 존중하고 행복과 만족을 보다 높이기 위해 활용될 수 있다는 점에서 환영할 수 있다. 그러나 AI가 불법주차를 단속하거나 체납자를 관리하며 더 나아가 도시행정과 관련한 위해 요인을 사전에 포착하기 위해 감시활동을 한다면 얘기가 달라진다.
보이스 피싱 등 악질적인 사기행위뿐만 아니라 공항에서 범죄자를 추적할 때도 AI를 활용하여 범죄를 예방·억제할 수 있다고 하지만, 경범죄까지도 포함하여 모든 시민을 감시하고 단속할 수 있는 권한을 AI가 가진다면 다른 차원에서 살펴봐야 할 일이다. 사람은 도덕적·법적 기준에서 일탈행위를 꿈꾸기도 하고 실제로 소소한 일탈행위를 하기도 하지만, 법에 따른 처벌보다는 양심과 윤리에 의한 반성 속에서 자신의 모습을 발전시켜 나가는 성향이 있기 때문이다.
굶주린 누이와 조카를 위해 빵 한 덩어리를 훔치다가 도둑으로 몰린 장발장이 감옥이 아닌 선처를 통해 복지원으로 갔다면 그 가혹한 운명을 피할 수 있지 않았을까. 장발장을 처벌한 자베르 형사 역할을 AI가 하는 사회라면 숨이 막힐 것 같지 않은가. AI 통제 국가를 어디까지 허용할 수 있는지에 대한 진지한 고민이 필요한 대목이다.
물론 행정 영역에도 AI 채택은 불가피해 보인다. 민간시장에서는 스마트폰을 통해 필요한 상품을 앱으로 구매하는데 거의 원클릭 수준이다. 반면에 행정에서는 신청하고 접수하고 심사받고 통지받는 등의 절차가 복잡하기 그지없다. 보다 효율적인 행정 절차로 시민의 개별적 특성과 상황을 고려한 맞춤형 프로그램이 지원될 수 있다면 AI를 통한 행정 개혁과 혁신도 기대할 수 있다.
그러나 인간이 만든 데이터에는 편향이 숨어 있다. 편향된 데이터는 편향된 결과로 나타나기 마련이다. AI는 사실 우리와 매우 닮아 있다.
한 예로 2014년 글로벌 테크기업인 아마존이 직원 채용 과정에서 AI가 이력서를 확인하여 적합한 지원자를 빠른 속도로 걸러낼 수 있는 AI 이력검증 방식 채택으로 상당한 시간 절감 등 효율을 얻을 수 있었으나, AI가 성차별을 했다. 같은 공학 전공자라고 해도 여자 대학 졸업자에게 감점을 주었던 것이다. 아마존은 AI가 여성 부분을 감안하지 않도록 프로그램을 수정했으나 여성 지원자를 차별하는 비슷한 실수가 반복되면서 결국 2017년 AI 이력서 검증 시도를 중단했다.
정부는 사실 엄청난 양의 데이터를 생산한다. 그러나 아마존의 AI 인사검증 시스템처럼 정부가 보유한 천문학적인 양의 데이터에 숨어 있는 차별적 편향은 공동체의 가치와 집단의 경쟁력을 떨어뜨릴 수 있다. 실례로 애플의 창업자 스티브 잡스는 시리아 이민자 출신의 아들이었고, 전 세계 산업을 뒤흔들고 있는 시스템반도체 설계회사 엔비디아의 창업주 젠슨 황은 대만 출신이다.
다문화 출신에 대한 차별이 있었다면 미국에 애플과 엔비디아는 없었을 것이다. 사회적 약자와 함께 할 수 있고 나눌 수 있는 공동체는 우리가 가질 수 있는 전체 파이를 더 크게 만든다. 반면에 데이터에 숨은 차별적 편향은 공평한 기회를 보장하지 않기 때문에 사회 전체의 자원을 오히려 축소시킨다.
AI는 데이터를 기반으로 부족한 예산을 효율적으로 집행할 수 있도록 하여 효과적인 정책 실현에 기여할 수 있다. 그러나 데이터를 만들고 해석하며 그 가치를 결정하는 역할은 사람이 맡고 있다는 점을 주목해야 한다. 주정차 불법단속 과태료 부과 업무에서 공항 검색대 위험인물 파악까지 행정 규제 AI가 광범위하게 적용되기 전에 정부가 보유한 데이터에 어떤 편향이 들어갔는지를 먼저 파악해야 한다.
편향된 데이터만 문제가 되는 것이 아니다. AI는 측정 가능한 데이터를 중심으로 설계되어 있기 때문에 측정이 어려운 데이터는 정책 담당자의 후순위로 밀릴 수 있다.
미국의 경우를 보면 경찰을 데이터 중심 조직으로 혁신했지만 중범죄 감소에는 영향을 미치지 못했다고 한다. 오히려 실적을 쌓기 수월한 차량 단속 등에 주력하게 되었고, 경찰의 중요한 과제인 주민과의 신뢰 관계 구축과 같은 측정이 어려운 업무에 대한 성과는 오히려 적어졌다고 한다. 측정이 어렵다고 하여 가치가 없다고 할 수 없는데도 말이다.
그러한 의미에서 AI에 통제 권한을 주기 전에 시민의 공익이 아닌 정부의 이익이 우선되어 있는지 살펴봐야 한다. 공익은 모든 사람의 이익을 의미하는 반면에 정부의 이익은 고위직을 점하고 있는 정치인과 관료들의 이익을 말한다. 공익과 정부의 이익이 일치하면 정부를 바람직한 형태로 운영하고 있다고 할 수 있으나, 공익과 정부의 이익에 상당한 편차가 발생한다면 그 정부는 시민에게 좋은 정부가 아니다.
시민이 사용하기 편한 행정 AI가 아니라 정부 관료들이 이용하기 수월한 도구로써 AI가 채택된다면 조지 오웰의 디스토피아 소설 1984에 등장하는 최고 권력자인 빅브라더스를 AI 형태로 맞닥뜨릴 수도 있기 때문이다.