15일(현지시간) 파이낸셜타임스(FT)는 최근 다양한 기업과 정부 기관들이 AI의 얼굴인식 기술을 통한 감정읽기 프로그램을 속속 도입하고 있다며 독자가 직접 감정인식 기술을 테스트할 수 있는 기사와 함께 조명했다. FT 감정인식 기술을 테스트하는 모습. (출처: FT 기사 캡처)
15일(현지시간) 파이낸셜타임스(FT)는 최근 다양한 기업과 정부 기관들이 AI의 얼굴인식 기술을 통한 감정읽기 프로그램을 속속 도입하고 있다며 독자가 직접 감정인식 기술을 테스트할 수 있는 기사와 함께 조명했다. FT 감정인식 기술을 테스트하는 모습. (출처: FT 기사 캡처)

[천지일보=이솜 기자] 면접관들의 눈뿐 아니라 컴퓨터에 연결된 전자 눈을 마주하는 면접을 상상해보자. 얼굴과 눈의 작은 움직임과 질문에 답할 때의 목소리 톤의 변화를 바탕으로 컴퓨터는 인공지능(AI)을 사용해 당신의 감정적 반응을 평가하고 이 같은 결론을 도출할 것이다. ‘당신은 믿을만한가?’ ‘정말 이 일을 원하는가?’ ‘가장 큰 실패에 대한 질문을 받았을 때 오른쪽 눈썹이 올라간 표정은 무엇인가를 숨기고 있다는 것인가?’

15일(현지시간) 파이낸셜타임스(FT)는 최근 다양한 기업과 정부 기관들이 AI의 얼굴인식 기술을 통한 감정읽기 프로그램을 속속 도입하고 있다며 독자가 직접 감정인식 기술을 테스트할 수 있는 기사와 함께 조명했다.

FT에 따르면 감정인식 기술은 이미 다양한 분야서 사용되고 있다. 다양한 기업들이 채용을 위한 ‘감정인식’ 기술을 개발하거나 마케팅하고 있으며 광고부터 게임, 보험, 법 집행 등 보안 분야에서도 활용되고 있다. 거대 기술 회사는 고객 서비스부터 콘텐츠 제공까지 모든 분야에서 감정인식을 사용할 계획을 내놨다.

이를 통해 사람들은 무엇을 팔아야 하는지, 광고에 어떻게 반응하는지 알아내거나 재택근무자들이 관심을 기울이고 있는지 확인하거나 수상한 행동을 하는 사람들을 발견할 수 있다.

홍콩 구룡의 트루 라이트 칼리지 학생들도 코로나19 유행으로 재택수업을 하는 동안 AI의 감시를 받고 있다. ‘포 리틀 트리(The 4 Little Trees)’라고 불리는 소프트웨어는 학생들이 배우면서 느끼는 감정을 읽을 수 있다. 이 프로그램의 목표는 교사들이 개별 학생의 반응을 실시간으로 대응함으로써 학습을 보다 상호작용적이고 개인화하도록 돕는 것이다. 이 회사는 이 알고리즘이 교사들을 위한 각 학생의 감정 상태에 대한 상세한 보고서를 작성하고 동기 부여와 집중을 측정할 수 있다고 말한다. 또한 학생들이 주의력을 잃을 때 “집중하라”고 경고를 보내기도 한다.

포 리틀 트리 설립자인 비키 림은 FT에 이 소프트웨어의 인기는 전염병 기간 동안 폭발적으로 증가했으며, 이를 사용하는 학교 수는 지난 1년 동안 34개에서 83개로 증가했다고 밝혔다.

전 세계 수백개의 기업들이 컴퓨터에게 인간의 행동을 예측하는 방법을 가르치기 위해 감정 해독 기술을 연구하고 있다. 아마존, 마이크로소프트, 구글 등 미국의 거대 기술기업들은 모두 기본적인 감정분석을 제공하고 있고 애피티바, 히어뷰와 같은 소규모 기업들은 자동차, 광고주, 채용업체 등 특정 분야에 맞게 조정한다.

디즈니는 스타워즈를 포함한 다양한 영화에 대한 자원봉사자들의 반응을 테스트하기 위해 이 기술을 사용해왔다. 포드, BMW, 기아자동차와 같은 자동차 회사들은 이를 통해 운전자의 경계심을 평가하는 데 사용하기를 원한다. 밀워드 브라운과 같은 마케팅 회사들은 코카콜라나 인텔과 같은 광고에 소비자들이 어떻게 반응하는지 측정하기 위해 이 기술을 시험했다.

그리고 이 감정인식 기술은 이미 공공장소로 넘어오기 시작했다. 감정인식 시스템은 영국 링컨셔 경찰이 수상한 사람들을 식별하는 데 사용하기 위해 자금 지원을 받았고 런던 피카딜리 서커스 광장에는 한때 카메라가 배치돼 대형 광고판에 대한 사람들의 감정 반응을 분석하기도 했다.

위구르 이슬람 교도들이 수용소에 수감된 것으로 추정되는 중국 북서부 신장에도 감정인식이 가능한 카메라가 설치돼 있다. 신장 아러타이시 공안국의 치안 전문가이자 당 간부인 리샤오유는 2019년 FT에 “범죄 용의자의 정신 상태를 분석해 신속하게 신원을 확인할 수 있는 기술이 주로 세관에 배치됐다”고 말했다.

FT는 사설을 통해 감정인식 기술에 대한 우려도 나타냈다. 앞서 이 기술이 여성이나 백인이 아닌 얼굴을 잘못 식별한 사례가 있어 특히 법 집행 가운데 사용될 때 차별의 위험을 초래할 수 있다는 설명이다.

이에 유럽연합 집행위원회는 공공장소에서 얼굴인식과 같은 생체 감시 기술을 법 집행 중에는 부분적으로 금지하도록 제안하기도 했다.

근본적으로는 인간이 보편적인 감정을 경험하고 비슷한 방식으로 표현한다는 감정 인식의 가정 자체가 문화와 개인의 차이를 무시하는 심각한 결함이 있다는 지적도 나온다.

일부 공공장소에서 감정인식이 허용된다 해도 대중은 이를 인식하고 있어야 하며, 개인적으로 사용될 상황에서는 동의를 받고 거부할 권리도 있어야 한다고 FT는 전했다. 또한 고용이나 성과에 대한 결정에 있어서도 AI는 인간을 대체하는 게 아닌 인간의 판단에 도움을 주는데서 끝나야 한다고 제안했다.

FT는 “신뢰할 수 있는 방식으로 기능한다면 감정인식은 기술을 인간화하고 기업이 고객을 훨씬 더 깊이 이해할 수 있도록 최선의 방법을 제공할 것”이라며 “최악의 경우 감시 자본주의의 침략적 도구가 될 수 있다. 올바른 균형을 찾아야 한다”고 말했다. 

천지일보는 24시간 여러분의 제보를 기다립니다.
저작권자 © 천지일보 무단전재 및 재배포 금지