‘AI 이루다 사태 예방’에 총력 기울이는 정부, 650억 이상 투입(종합)

[천지일보=손지아 기자] 과학기술정보통신부(과기정통부)가 내년부터 오는 2026년까지 650억원 이상을 투입해 스타트업이 인공지능(AI) 신뢰성을 확보할 수 있도록 원천기술과 표준 플랫폼 개발을 지원한다. 아울러 AI 적용 서비스가 ‘신뢰성’을 확보했는지를 민간이 자율 인증하는 제도를 내년부터 시범 시행한다.

13일 과기정통부는 대통령 직속 4차산업혁명위원회 제22차 전체회의에서 ‘사람이 중심이 되는 인공지능 실현전략’을 발표했다. 개인정보를 무단 수집한 AI 챗봇 이루다 사건과 같은 사회적 논란을 방지하기 위함이다. 나아가 AI를 사회와 산업 전반에서 안정적으로 활용하도록 하는 진흥·지원 체계를 확립하는 게 목표다.

이날 발표된 전략은 지난해 발표한 ‘인공지능 윤리기준’의 실천방안을 구체화하고 민간 자율적으로 신뢰성을 확보할 수 있도록 지원체계를 구축하며 재정·기술력이 부족한 스타트업 등에 대한 지원책을 담은 것이 특징이다.

이번 전략은 기술·제도·윤리 측면의 3대 전략과 10대 실행과제를 통해 오는 2025년까지 단계적으로 추진된다. 민간의 인공지능 서비스 구현을 체계적으로 지원하고 이용자가 믿고 안전하게 사용할 수 있도록 제도를 보완하며 사회 전반에 건전한 인공지능 윤리를 확산하는 것이 중점 방향이다.

3대 전략은 ▲신뢰 가능한 AI 구현 환경 ▲안전한 AI 활용 기반 마련 ▲사회 전반의 건전한 AI 의식 확산 등이다. 신뢰 가능한 AI 환경 조성 전략과 관련해 과기정통부는 기업이 AI 서비스 ‘개발-검증-인증’ 전 단계에서 적용 가능한 신뢰성 지원 체계를 마련할 계획이다.

AI 서비스 ‘개발’ 단계에서는 글로벌 시장에서 확립된 AI 윤리·기술 요구사항을 반영한 ‘개발 가이드북’을 올해 안에 제작해 보급한다. 이어 신뢰성 확보 여부와 수준을 평가하기 위한 ‘민간자율 검증체계’를 마련해 연내 시범 실시할 계획이다. ‘인증’ 단계에서는 기술·윤리적 요구사항을 충족했는지를 이용자가 판단하도록 민간 자율 인증과 공시를 추진한다.

스타트업이 체계적으로 AI 신뢰성을 확보해 나갈 수 있도록 데이터 확보와 알고리즘 학습, 검증을 통합 지원하는 플랫폼도 운영해서 신뢰도를 분석·검증하도록 지원한다. 2026년까지 총 650억원 이상을 투입해 AI의 ▲설명가능성 ▲공정성 ▲견고성 제고를 위한 원천기술 개발을 추진한다.

‘안전한 AI 활용 기반 마련’ 전략으로 과기정통부는 민관이 AI 학습용 데이터 제작 공정에서 공통적으로 검증지표 등 표준 기준을 확립한다. AI가 국민생활 전반에 미치는 영향을 체계적으로 분석하기 위한 ‘AI 사회적 영향평가’도 도입할 계획이다.

사회 전반의 건전한 AI 의식 확산을 위해 과기정통부는 AI 윤리교육 등을 강화하고 일상업무 활용에서 AI가 윤리기준을 충족하는지를 알 수 있는 체크리스트를 개발한다. 학계와 기업, 시민단체 등이 AI 윤리에 대해 토론하는 ‘윤리 정책 플랫폼’도 운영할 계획이다.

이번 전략 수립과 관련해 최기영 과기정통부 장관은 “최근 발생했던 챗봇 사건은 우리 사회가 인공지능의 신뢰성에 대해 어떻게 대처해야 하는지 많은 숙제를 안기는 계기가 됐다”며 “과기정통부는 인공지능 신뢰 확보 기준을 명확화하고 기술적·재정적으로 부족한 중소기업 등이 신뢰성 기준을 준수하는 데 어려움이 없도록 지원 방안을 마련하는 등 차질 없이 전략을 추진해나갈 계획”이라고 밝혔다.

한편 개인정보보호위원회(개인정보위)는 AI 서비스 개발자·운영자가 반드시 알아야 할 개인정보보호 법령상 의무사항과 참고사항 등을 안내하고 스스로 점검·활용할 수 있는 ‘AI 관련 개인정보보호 자율점검표’를 5월 말에 발표할 계획이다.

이를 위해 지난 12일 열린 제8회 전체회의에서 개인정보위는 AI 자율점검표(안)의 주요 내용과 향후 계획에 대한 논의를 이어갔고 이 자리에서 제시된 수정의견을 반영해 공개할 예정이다.

자율점검표는 AI 개발·운영 과정에서 개인정보를 적법하고 안전하게 처리할 수 있도록 ‘개인정보 보호법’상 지켜야 할 준수사항과 참고사항을 수록한 안내서다. 주요 내용은 AI 관련 개인정보보호 6대 원칙과 함께 자율점검 총괄흐름도, 개인정보 처리 단계별 핵심 점검 분야 16개에 대한 세부 체크 항목(54개), 참고사항 등으로 구성돼 있다. AI 개발자·운영자는 단계별 체크 항목에 따라 자율적으로 점검할 수 있으며 교육 등에도 활용할 수 있다.

특히 AI 스타트업 등 중소기업은 ‘개인정보 보호법’상 주요 내용에 대한 이해와 법률 해석 등에 어려움을 겪고 있어 자율점검표가 업무처리 흐름에 따른 개인정보보호 주요 점검 사항을 체크하는 데 도움이 될 것으로 기대된다.

윤종인 개인정보위 위원장은 “최근 AI로 인한 사생활 침해 등 다양한 윤리적 이슈가 발생하고 있는데 AI 서비스 개발·운영과정에서 방대한 개인정보가 활용될 수 있어 그 어느 때보다 개인정보보호가 중요하다고 생각한다”며 “이번 자율점검표 활용을 통해 개인정보를 적법하고 안전하게 처리해 사생활을 보호하고 신뢰할 수 있는 AI 이용환경 조성의 시작점이 되기를 기대한다”고 말했다.