27개국 의회 비준한 뒤 발효
정보 침해에 따른 기본권 보호
AI 기술 사용 시 시험 의무화
[천지일보=방은 기자] 유럽연합(EU) 의회가 세계 최초로 ‘인공지능(AI)법’을 통과시켰다.
13일(현지시간) CNBC, AP통신 등에 따르면 이날 유럽의회는 본회의에서 세계 최초로 AI를 규제하는 법안을 찬성 523표, 반대 46표, 무효 49표로 통과시켰다. 유럽 의회 의원들은 규제가 처음 제안된 지 5년 만에 AI법에 압도적으로 찬성표를 던졌다.
이 법은 고위험 AI로부터 개인정보 침해에 따른 기본권, 민주주의, 법치, 환경 지속 가능성을 보호하는 동시에 혁신을 촉진하는 것을 목표로 한다. AI법은 빠르게 발전하는 기술을 규제하는 방법을 고심하는 다른 정부들에게 글로벌 이정표 역할을 할 것으로 기대된다.
티에리 브레통 유럽 내부시장 담당 집행위원은 이날 성명에서 “유럽은 이제 신뢰할 수 있는 AI 분야에서 글로벌 표준을 제시하는 국가가 됐다”고 밝혔다.
유럽의회 의장인 로베르타 메솔라는 소셜미디어 게시물에 “인공지능은 이미 우리 일상생활의 많은 부분을 차지하고 있다”며 “이제 그것은 우리 법안의 일부가 될 것”이라고 말했다. 이번 최종안은 27개국 유럽이사회의 승인을 받은 후 5월 말에 입법이 발효될 것으로 예상된다. 이후 2025년부터 순차적으로 시행될 예정이다.
최종안은 AI 활용 분야를 네 단계의 위험 등급으로 나눠 차등 규제하는 내용을 담고 있다. 즉 AI 기술을 허용할 수 없는 기술, 높은 위험, 중간 위험, 낮은 위험 등으로 분류하고 기술 개발 과정에서의 투명성을 강화하는 것이 골자다. 고위험 등급으로 분류되는 의료, 교육을 비롯한 공공 서비스나 선거, 자율주행 등에서 AI 기술을 사용할 경우, 사람이 반드시 감독하고 위험관리시스템을 구축해야 한다.
2021년 발의된 초안에는 없었지만 챗GPT 같은 생성형 AI 등장으로 AI 오남용 우려가 커지며 추가된 내용도 있다. 이런 고도의 지능을 갖춘 범용인공지능(AGI)을 개발하는 기업은 EU 저작권법을 반드시 준수해야 하며 AI의 학습과정에 사용한 콘텐츠를 명시해야 한다. 인종, 종교, 성적 지향 등을 기준으로 사용자를 분류하기 위한 생체 정보 스크랩 또한 금지된다. 실종자를 대상으로 수색하거나 테러 같은 강력 범죄자 추적 등 예외적인 경우에 일부 허용되지만 이 경우에도 법원의 사법적 승인을 받아야 한다. 이 밖에 딥페이크 오디오 또는 영상이나 이미지는 AI로 만든 조작 콘텐츠라는 점을 표기하도록 했다.
또 개인의 특성·행동 데이터에 점수를 매기는 이른바 ‘사회적 점수매기기(소셜스코어링)’도 금지된다. AI규제법을 위반하면 전세계 매출의 1.5~7%를 과징금으로 물어야 할 수도 있다.
EU는 2021년부터 AI 기술 규제를 위한 법안 마련을 추진했지만 역내 관련 기업의 경쟁력을 약화시킬 수 있다는 우려로 일부 회원국이 반대해 진척을 보지 못했다. 하지만 AI 발전에 따른 사실 오류, 남용 위험성 등에 대한 우려가 커지면서 지난해 12월 회원국 간 긴 협상 끝에 잠정 합의를 이뤘다. 그러나 지난 3개월간 계속 논란을 빚어왔다.
일부 EU 국가들은 이전에 정부 주도의 자율 규제를 옹호해 왔다. 규제가 강화되면 유럽이 기술 부문에서 중국 및 미국 기업과 경쟁하는 데 장애물이 될 수 있다는 우려 때문이다. 빅테크 기업들은 EU의 AI 규제가 너무 지나치다고 반발하는 반면 이들을 감시하는 시민단체는 규제가 충분치 않다고 토로해 왔다. 지난해 12월 법안 통과가 임박하자 프랑스와 독일 정부는 “자국의 AI 스타트업이 국제 경쟁력을 잃을 것”이라며 법안 통과에 반대했다.
샘 알트만 오픈AI 최고경영자(CEO)는 지난해 챗GPT 제조사가 AI법을 준수하지 못할 경우 유럽에서 철수할 수 있다고 시사했다가 탈퇴 계획이 없다고 한발 물러서면서 작은 파문을 일으켰다.
시민단체 유럽기업관측소는 이번 AI법에 대해 “(인간을 넘어서는 지능을 가진 자율적 인공지능인) 범용인공지능에 대한 규제는 대부분 빠졌고, 투명성 의무 몇 가지만 준수하면 되는 수준”이라고 비판했다. 반면 싱크탱크 카네기 유럽의 랄루카 세르나토니 연구원은 “미국과 중국에 비해 절대적 투자가 부족한 상황에서 강한 규제까지 더해지면 AI 기술 패권 경쟁에서 주도권을 쥐려는 EU의 야망은 좌절될 가능성이 높다”고 지적했다.