“혁신만큼 부작용도 크다”… 각국, AI 규제 ‘잰걸음’

[천지일보=김누리 기자] 각국 정부가 인공지능(AI) 관련 규제 마련에 속도를 내고 있다. 잠재력에 대한 관심 못지않게 부작용에 대한 우려도 커진 데 따른 것이다. 특히 챗GPT와 미드저니(Midjourney) 등 생성형 AI가 상용화될 경우 기업과 사회에 미칠 부작용이 무엇인지 짚어보고, 선제적으로 통제할 방침이다.

8일(현지시간) EU 뉴스 전문 유로엑티브에 따르면 EU 의원들은 생성 AI에 대한 세부 조항 수정에 합의하는 등 초안 마무리 단계에 들어갔다. EU 의원들은 지난달 말 ‘챗GPT’와 같은 생성 AI를 만드는 회사는 모델 학습에 사용한 데이터의 저작권을 공개해야 한다는 데 합의했다.

지난 5일에는 저작권법이 적용되는 훈련 데이터의 요약이 ‘충분히 상세해야 한다’고 구체화했다. 그러나 그 범위가 어디까지인지는 발표하지 않았다. 또 생성 AI가 만든 콘텐츠는 인간이 생성한 것이 아니라고 투명하게 공개해야 한다는 조항을 추가했다.

이를 위반할 경우 1천만 유로 또는 연간 매출액의 2% 중 더 높은 금액을 벌금으로 부과할 방침이다.

EU의 AI 규제는 사실상 AI 규제에 대한 글로벌 표준이 될 수 있다. 디지털 권리단체 EDRi의 사라 챈더 수석 정책고문은 “AI가 다룰 수 있는 광범위한 시스템을 고려할 때 큰 도전”이라고 말했다.

EU는 새 AI 규제안을 오는 11일 유럽의회 위원회에서 승인한 뒤 27개 회원국 의회 및 EU 집행위원회 간 협상을 진행할 예정이다.

유로액티브는 “파운데이션 모델은 다른 AI 애플리케이션을 강화할 수 있는 강력한 시스템으로, 이번 합의는 이를 더 엄격하게 규제하는 방법을 추가한 것”이라고 전했다.

영국 규제당국도 AI가 소비자와 기업과 경제에 미칠 영향과 함께 오픈AI의 챗GPT 같은 기술에 새로운 통제가 필요한지 검토에 착수하기로 했다.

로이터 등 외신 보도에 따르면 영국 규제당국인 경쟁시장청(CMA)은 4일 “대규모 언어모델(LLM)과 생성형 AI 등을 포함한 ‘기초 모델들(foundation models)’의 개발 방법에 대한 이해를 도모하는 작업부터 조사를 시작하겠다”고 밝혔다.

사라 카델 CMA 청장은 “AI가 대중의 관심 속으로 갑자기 들어와서 빠른 속도로 발전하고 있다”면서 “이러한 혁신적 기술의 잠재적 혜택과 동시에 잘못된 정보 등의 부작용도 예상되는만큼 영국 기업과 소비자를 보호하는 게 중요하다”고 설명했다.

미국, 중국 등도 유사한 조사에 착수한 상태다.

미국은 AI 기술을 규제할 수 있는 규정 도입을 검토 중이다. 선진 7개국(G7) 디지털 장관들도 지난달 AI 기술 혁신에 필요한 창의적이고 자유로운 환경을 유지하면서도 관련 위험을 막기 위한 AI 규제를 도입하기로 합의했다.

미국은 AI 개발 기업들에 AI의 안전성에 대한 주의 조치도 요구했다. 조 바이든 미국 대통령은 지난 4일 마이크로소프트 등 주요 AI 기업 최고경영자들을 백악관으로 초대해 “AI 상품 출시 전에 안전성 여부를 확인해달라”고 당부했다.

각국의 규제 노력에 대해 혁신을 저해한다는 비판 대신 실질적 피해를 막을 수 있는 예방적 조치로 보는 시선이 많을 것으로 보인다.

일론 머스크와 애플 공동 창업자 스티브 워즈니악을 포함한 기술 리더들은 위험을 고려하기 위해 6개월간 AI 사용 일시 정지를 요구하기도 했다. ‘AI의 대부’로 알려진 컴퓨터 과학자 제프리 힌튼과 동료 AI 개척자 요슈아 벤지오도 지난주 확인되지 않은 AI 개발에 대해 우려를 표명했다.