伊, 서방 최초 챗GPT 금지
EU도 법안 만들고 규제 논의
핵심은 ‘개인정보 수집·유출’
“잠깐 멈춰야” vs “과한 대응”
[천지일보=이솜 기자] 최근 이탈리아가 서방 국가 중 최초로 오픈AI의 인공지능(AI) 챗봇 ‘챗GPT’ 사용을 금지하는 국가가 됐다. AI의 빠른 발전 속도와 사회에 미치는 영향에 대해 고민하는 국가는 이탈리아뿐만은 아니다.
다른 유럽 국가들도 규제 여부를 놓고 검토에 착수했으며 중국, 홍콩, 이란, 러시아, 아프리카 일부 지역에서는 챗GPT를 사용할 수 없다. AI 규제에 대한 요구가 점점 더 커지면서 개인정보보호 당국과 기술 기업이 대립하는 국가들도 늘고 있다.
이제는 신드롬이 된 챗GPT. 세계 각국은 어떻게 대처하고 있을까.
◆이탈리아 금지에 EU 당국도 관심
이탈리아 당국이 지난달 31일(현지시간) 챗GPT 접속을 차단한 핵심 원인은 개인정보 보호에 있다. 이탈리아 데이터 보호청은 챗GPT가 의존하는 알고리즘을 훈련하기 위해 개인 데이터를 대량으로 수집하고 처리하는 행위를 정당화할 법적 근거는 없다고 지적했다. 또 챗GPT에 연령 제한이 없다는 점과 사실과 다른 정보를 응답으로 제공할 수 있다는 우려도 차단 원인 중 하나다.
유럽연합(EU)도 AI 서비스에 향후 제한을 둘 가능성이 있다.
EU의 ‘인공지능법안(AI Act)’에는 주요 인프라, 교육, 법 집행, 사법 시스템에서 AI 사용을 엄격하게 제한한다. 또한 이 법은 기업이 개인 데이터를 처리하고 저장하는 방법을 규제하는 일반개인정보보호법(GDPR)과도 함께 적용된다.
로이터통신에 따르면 이 법안의 초안에서는 챗GPT를 고위험 애플리케이션에 사용되는 일종의 AI의 한 형태로 간주한다. 앞서 유럽연합 집행위원회는 고위험 AI에 대해 사람들의 기본권이나 안전에 영향을 미칠 수 있는 시스템으로 정의했다.
EU가 AI에 대한 법률을 제정하는 동안 일부 EU 국가 데이터 기구들은 이미 이탈리아의 조치를 살펴보고 이를 따를지 여부를 논의 중이다.
독일의 개인정보 감독기구(BfDl)의 한 관계자는 이탈리아의 규제와 관련해 “원칙적으로 독일에서도 비슷한 절차가 가능하다”고 밝혔다. 프랑스와 아일랜드의 개인정보 보호 규제 당국도 이탈리아 규제 당국에 연락해 조사 결과에 대해 자세히 알아보고 있는 것으로 알려졌다. 다만 스웨덴의 데이터 보호 당국은 이탈리아와 같은 차단 조치는 배제했다.
◆韓·美·英 AI 지침 있으나 덜 제한적
영국도 최근 AI 규제 계획을 발표했다.
영국 정부는 새로운 규제를 제정하는 대신 각 분야 당국에 기존 규제를 AI에 적용하도록 했다. 이 제안은 챗GPT나 특정 종류의 AI를 구체적으로 언급하지는 않았으나 안전, 투명성, 공정성, 책임성, 경쟁성 등 기업이 제품에 AI를 사용할 때 따라야 할 몇 가지 주요 원칙이 요약돼 있다. 규제보다는 추상적인 백서를 제시하면서 사실상 기업의 자유와 책임을 강조하는 것으로 읽힌다. 영국은 EU 탈퇴 후 EU의 디지털 법규에서 점점 멀어지는 추세다.
미국은 아직 AI를 감독하는 규칙을 공식적으로 내놓지 않았다.
미국표준기술연구소는 AI 시스템을 사용, 설계 또는 배포하는 기업에 위험 및 잠재적 피해 관리에 대한 지침을 발표했으나 이는 사실상 권고에 그치며 기업이 규칙을 지키지 않아도 불이익은 없다.
인도 역시 책임 당국이 AI에 관한 몇 가지 지침 문서를 발표했지만 법적 구속력은 없다.
우리나라도 영국이나 미국과 비슷하다. AI 윤리 기준 등에 대한 백서와 가이드라인을 제작해 배포하고 있으나 법안 검토에 대해서는 신중한 입장으로, 기업의 자체 AI 준칙에 의존하는 상황이다.
◆자국 내 모든 기술 관리하는 중국
중국이나 북한, 이란, 러시아 등 인터넷 검열이 심한 여러 국가 및 지역에서는 챗GPT 사용 자체가 불가능하다.
공식적으로 차단되지는 않았으나 오픈AI는 해당 국가의 사용자의 가입을 허용하지 않았다.
중국의 여러 대형 기술 회사들은 대안을 개발하고 있다. 최근 중국 최대 기술 기업 중 하나인 바이두, 알리바바, 징둥닷컴은 챗GPT를 대항할 기술을 발표했다.
중국은 자국의 거대 기술 기업들을 엄격한 규제 속에 둬 왔으며 AI도 예외는 아니다. 지난달 중국은 AI를 사용해 합성으로 생성되거나 변조된 이미지, 동영상 또는 텍스트인 이른바 ‘딥페이크’에 대한 규제를 최초로 도입했다.
앞서 중국 규제 당국은 기업이 추천 알고리즘을 운영하는 방식에 관한 규정을 도입한 바 있다. 그 요건 중 하나는 기업이 사이버 공간 규제기관에 알고리즘에 대한 세부 정보를 제출해야 한다는 것이다. 현재 오픈AI는 챗GPT를 어떻게 학습시켰는지에 대한 세부 정보를 제공하지 않고 있지만 이는 이론적으로 모든 종류의 챗GPT 스타일 기술에 적용될 수 있다.
◆규제에 찬반… “기술 개발 중지하자” 주장도
AI 및 개인정보보호 전문가들 사이에서는 이탈리아의 챗GPT 차단 결정이 현 상황에서 합리적인 조치인지, 아니면 개인의 자유에 대한 과한 대응인지에 대한 의견이 분분하다.
지난 5일 컴퓨터위클리에 따르면 미국 소프트웨어 업체 잼프의 전략 담당 부사장인 마이클 코빙턴은 이탈리아 상황과 관련 “규제 당국이 나서서 개인정보를 보호하기 위해 고안된 서면 정책을 시행하는 것이 고무적이었다”며 “챗GPT는 엄청난 성장을 거듭해 왔으며 이런 성장은 거의 어떤 제약도 없이 이뤄졌다. 이 혁신적인 기술이 보다 통제된 방식으로 발전할 수 있도록 강제로 리셋하는 게 가치있다고 생각한다”고 말했다.
반면 이탈리아 당국의 결정에 반대하는 전문가들은 “이미 나온 치약을 다시 튜브에 넣을 수 있겠느냐”는 입장이다.
래피드7의 수석 AI 연구원 에릭 갈린킨은 “이런 모델을 금지하는 것은 AI 회사들에게 완벽주의를 부추기고 그런 모델을 훈련하는 데 돈을 쏟아부을 수 있는 거대 기술 기업에 더 많은 권한을 집중시키는 것”이라며 “오히려 어떤 정보를 수집하고, 어떻게 수집하며 모델을 어떻게 학습시키는지에 대한 더 큰 개방성을 모색해야 한다”고 했다.
이탈리아의 금지 조치가 현재 진행 중인 AI 시스템 개발에 거의 영향을 미치지 않으며 오히려 향후 모델이 이탈리아어 사용자에게 훨씬 더 위험해질 수 있다는 주장도 나온다.
챗GPT의 기반이 되는 거대언어모델(LLM) 연구를 수행한 위드시큐어의 앤드류 파텔은 “이런 모델(LLM)을 학습하는 데 사용되는 정보 세트에는 이미 많은 이탈리아어 예시가 포함돼 있다”며 “오히려 향후 모델에서 이탈리아어 입력을 차단하면 다른 언어에 비해 이탈리아어 수준이 떨어질 것이다. 이는 좋은 상황이 아니다”라고 지적했다.
한편 AI 업계 내에서는 현재 경쟁이 너무 과열됐으니 기술 개발을 잠시 멈추자는 목소리도 나왔다.
미국 비영리단체 ‘삶의 미래 연구소(FLI)’는 지난달 말 유명 인사 1천여명의 서명을 받아 작성한 공개서한을 통해 오픈AI의 최신 LLM인 GPT-4를 능가하는 AI 시스템의 개발을 6개월간 중단할 것을 촉구했다.
서한에 서명한 일론 머스크 테슬라 최고경영자(CEO)와 애플 공동창업자 스티브 워즈니악 등은 “AI 개발 경쟁이 통제 불능 상태에 이르렀으며 이러한 시스템이 진정으로 유익한 효과를 가져올지, 그리고 관리 가능한 위험이 있는지 판단할 수 있도록 잠시 멈춰야 한다”고 주장했다. 또 업계가 자발적으로 멈추지 않는다면 정부가 개입해야 한다고 촉구했다.
그러나 오픈AI에 약 13조원 이상을 투자한 마이크로소프트(MS)의 공동창업자 빌 게이츠는 이를 반대했다.
게이츠는 지난 3일 로이터통신에 “특정 단체가 개발을 일시 중단하자고 요청한다고 해서 문제가 해결된다고 생각하지 않는다. 개발 중단을 구체적으로 시행하는 것도 쉽지 않다”라며 “우리가 해야 할 일은 문제가 있는 부분을 파악하는 것”이라고 강조했다.