[천지일보=이우혁 기자] 네이버가 다음달 11일과 12일 양일간 개최되는 ‘생성형 AI 레드팀 챌린지’에 대표 파트너사로 참여한다고 21일 밝혔다. 공동 대표 파트너사인 AI 학습 데이터 플랫폼 스타트업 셀렉트스타와 행사를 진행하며 AI 안전성 기술 교류 및 논의의 장을 만드는 데 적극적으로 기여할 계획이다.
생성형 AI 레드팀 챌린지는 최근 급격하게 성장하고 있는 기술인 초거대 언어모델(LLM)의 안전성, 신뢰성, 보안을 강화하기 위한 방법을 모색하고자 진행되는 행사다. 11일에는 실제 서비스되고 있는 LLM에 참가자들이 모의로 프롬프트 공격을 해 모델의 안전성을 검증하는 생성형 AI 레드팀 챌린지 대회가 개최된다. 2일 차인 12일에는 안전한 AI 개발을 주제로 국내외 AI 기술 리더들의 발표와 의견 교류가 이뤄지는 콘퍼런스가 진행된다.
네이버는 대표 파트너사로서 행사를 운영하며 LLM 안전성 검증 및 강화, 안전한 AI 개발을 위한 전문가 논의에 적극 참여한다. 생성형 AI 레드팀 챌린지 참가자들이 국내 최고 수준 LLM의 안전성을 직접 검증하고 실험할 수 있도록 자체 개발한 초대규모 AI ‘하이퍼클로바X’를 제공한다. 네이버는 이번 대회를 통해 축적된 검증 데이터를 기반으로 하이퍼클로바X의 안전성을 한층 강화할 계획이다.
또한 네이버의 AI 안전 연구와 정책 수립을 총괄하고 있는 하정우 네이버 퓨처 AI 센터장이 콘퍼런스 연사로 참여해 안전한 AI 개발을 위한 네이버의 노력을 소개할 예정이다.
김유원 네이버클라우드 대표도 행사 주관 기관인 초거대AI추진협의회 회장사 대표로서 축사를 진행하며 국내 AI 안전성 논의에 힘을 보탤 예정이다.
하정우 센터장은 “하이퍼클로바X의 안전성을 검증·강화하는 것은 물론 여러 선행 연구와 서비스 운영 경험을 통해 쌓아 온 네이버의 AI 안전성 기술 역량과 노하우를 공유할 것”이라고 말했다.