‘인공지능법’ 도입 페달 가속
챗GPT로 ‘산업 육성’에 초점
개인정보 침해 등 인권 문제
여러 선례가 AI 위험성 입증
“기업 중심 국민 피해 우려”
[천지일보=손지하 기자] 정부가 이달 중 초거대 인공지능(AI) 산업 정책 방향을 발표할 예정인 가운데 관련 기본법 제정에도 속도가 붙고 있다. 그런데 이 법안이 ‘산업 육성’에만 초점을 맞춘 탓에 안전이나 인권 규제와는 거리가 멀어졌다는 지적이 나온다.
‘인공지능산업 육성·신뢰 기반 조성에 관한 법률(인공지능법)’은 지난달 14일 국회 과학기술정보방송통신위원회 법안심사소위원회를 통과했다.
인공지능법은 과기정통부가 3년마다 AI 기본계획을 수립하고 이를 관장하는 컨트롤타워로 국무총리 산하에 인공지능위원회를 두는 내용을 골자로 한다. AI 기술 발전을 위한 대원칙으로 ‘우선허용 사후규제’ 원칙도 명문화했다. 생명과 안전, 기본권에 중대한 영향을 미칠 우려가 있는 고위험 영역 AI에 대해서는 활용 영역을 설정해 기업 등 사업자에게 신뢰성 확보 조치를 요구하도록 했다. 이 법안은 상반기 중 국회 상임위원회와 법제사법위원회, 본회의를 통과해 입법될 예정이다.
여야는 ‘챗GPT’ 출현을 계기로 글로벌 AI 개발 경쟁이 치열해지는 상황에서 국내 기업들을 적극적으로 육성·지원하자는 목표로 인공지능법을 발의했다. 구체적인 시행령이 나오면 기업들은 조세 및 각종 부담금 감면 혜택을 받을 전망이다. 앞서 병합 심의된 7개 법안 중 ‘인공지능 육성 및 신뢰 기반 조성 등에 관한 법률안’을 대표발의한 더불어민주당 정필모 의원은 “최근 챗GPT가 최첨단 기술 수준을 선보이며 전 세계적인 충격을 던졌다”며 “국내 AI 기술 발전 기반과 국가 역량 집중투자 등을 위한 제도 마련을 위해 AI 법 제정이 시급하다”고 취지를 설명했다.
문제점으로는 안전과 인권 규제를 외면했다는 비판이 나온다. 안전과 인권에 미치는 인공지능의 위험을 규제할 수 있는 실질적인 내용은 없고 오히려 정당한 규제의 도입을 방해할 가능성이 크다는 주장이다.
이미 공공 및 민간 영역에서 인공지능 서비스들이 실생활과 업무에 상당히 도입돼 있다. 인공지능 알고리즘의 차별 문제, 인공지능 개발 과정의 개인정보 침해, 실시간 얼굴인식과 같은 인공지능 감시 문제 등 특히 고위험 인공지능이 야기할 수 있는 여러 문제를 방지·완화할 수 있는 규율이 필요하다는 것에 대한 공감대도 확산되고 있다.
이에 국가인권위원회도 2022년 5월 ‘인공지능 개발과 활용에 관한 인권 가이드라인’을 발표해 ▲개인의 인권과 안전에 미치는 위험성 별로 걸맞은 수준의 규제와 인적 개입 ▲인공지능을 독립적이고 효과적으로 감독할 수 있는 체계 수립 ▲인공지능 때문에 피해를 본 사람이 권리 구제를 받을 기회를 제공할 것 등의 내용으로 하는 입법을 정부에 권고한 바 있다. 국무총리와 각 부처 장관 역시 이 권고를 수용한 바 있다.
인공지능법은 고위험 인공지능을 정의하고 있지만 주요 국가에서 추진하는 고위험 인공지능 규제 대상과 내용에 비해 중요한 분야를 누락하고 있고 금지해야 하는 인공지능에 대해서는 규정하고 있는 바가 없다는 지적을 받고 있다.
이는 유럽연합이 인공지능 법안에서 고위험 인공지능 시스템의 개발이나 활용하는 사업자에 대해서 각종 위험 요소를 방지·완화할 의무를 세세하게 부여하고 금지된 인공지능을 출시한 경우 최대 3000만 유로 또는 연간 전 세계 총매출의 6%의 벌금을 부과하는 등 엄격하게 규율한 것과 대비된다는 평가를 받는다.
이번 법안의 제11조 ‘우선허용 사후규제’ 원칙으로 다른 관할 기관의 규제를 막을 가능성이 크다는 우려도 나왔다. 제11조 2항은 다른 국가 및 지방자치단체 역시 ‘인공지능기술, 인공지능제품 또는 인공지능서비스와 관련된 법령 및 제도’를 수립할 때 이 원칙에 부합하도록 요구하고 있다. 개인정보보호위원회나 공정거래위원회 등이 정보주체나 소비자의 안전과 권리를 위한 인공지능 규제를 도입하는 것과 충돌할 수 있게 된다.
이와 관련해 지난 9일 참여연대·진보네트워크센터·경제정의실천연합 등 시민사회단체들은 기자회견을 열고 “국가인권위원회의 권고도 충족하지 못하며 유엔인권위원회 등 국제적인 기준과 권고에도 부합하지 않는다”고 목소리를 높였다.
이들 단체는 “이 법안으로 법무부가 출입국 시스템 고도화를 명분으로 내외국민의 생체정보(얼굴)를 무단으로 수집·사용하는 것을 막을 수 없다”며 “공공기관과 수사기관도 충분한 사회적 논의와 안전장치 없이 인공지능 시스템을 개발할 수 있다”고 비판했다.
김하나 민주사회를 위한 변호사모임 디지털정보위원회 위원장은 “이루다 사태로 차별과 혐오 발언이 양산되고, 카카오T가 가맹택시인 카카오 블루에 콜을 몰아주는 것도 규제하지 못했다”며 “인공지능 산업은 정보주체와 소비자의 권리와 인권에 관한 논의, 교육, 보건, 노동 등 분야에서 인공지능을 탑재한 각종 공산품의 안전성에 대한 논의와 함께 이뤄져야 한다”고 주장했다.
장여경 정보인권연구소 상임이사는 “해외에서도 인공지능 제품과 서비스의 위험 문제가 크게 불거지고 있다. 쇼핑몰 무인로봇은 유아를 공격했고 자율주행차는 작동 오류로 사망사고를 여러 건 일으켰다. 인공지능 스피커는 음성을 잘못 인식해 엉뚱한 주문을 하기도 했다. 이런 상황에서 해외 여러 규범은 인공지능 위험으로부터 안전과 인권을 법적으로 보장하기 위한 제도 마련에 분주하다”고 설명했다. 이어 “특히 인공지능 위험성을 인지한 해외에서 가장 빠르게 입법이 된 분야는 공공부문”이라고 덧붙였다.
전진한 건강권 실현을 위한 보건의료단체연합 정책국장도 “IBM이 부정확한 치료로 논란을 빚은 인공지능 ‘왓슨’을 연구단계인데도 판매했을 때 한국을 비롯해 많은 병원이 이를 도입했었다”며 “규제되지 않은 인공지능은 환자의 건강과 생명을 위협할 수 있고 국민이 불필요한 비용을 지출하게 만든다는 것을 보여준다”고 경고했다.