LG유플러스가 생성형 AI의 안전성과 신뢰성을 검증하기 위해 글로벌 무대에 출전한다. 회사는 세계이동통신사업자연합회(GSMA) 주최 ‘글로벌 AI 레드팀 챌린지(Global AI Red Team Challenge)’에 참가하며, 이 행사는 스페인 바르셀로나에서 열리는 모바일월드콩그레스(MWC)26의 공식 행사로 진행된다.

글로벌 AI 레드팀 챌린지는 MWC와 함께 개최되는 개발자 및 디지털 인재 행사 ‘Talent Arena 2026’의 핵심 프로그램이다. 주요 글로벌 통신사와 기술 기업들이 개발한 AI 모델을 대상으로 실전 검증이 이루어지며, LG유플러스는 자체 개발한 통신 특화 AI 모델 ‘익시젠(ixi-GEN)’을 출품해 여러 위험 시나리오에 대한 대응 역량을 점검한다.

약 100명의 참가자가 ‘레드팀’ 역할을 맡아 AI의 취약점을 프롬프트 설계만으로 찾아내는 방식으로 진행된다. 이 과정은 기술적 해킹이 아니라 대화 및 프롬프트 기반 공격을 통해 AI의 정책 및 안전 장치를 우회하는 가능성을 검증하는 점이 특징이다.

평가 대상은 ▲안전장치 우회(Jailbreak) ▲편향·차별(Bias & Discrimination) ▲인권 침해(Human Rights Violations) ▲사이버 공격(Cyberattacks) ▲불법 콘텐츠(Illegal Content) ▲허위정보(Misinformation) ▲응답 비일관성(Inconsistency) 등 일곱 분야로 구분된다. 이번 챌린지에서는 AI 응답의 정확성이 아닌 ‘해서는 안 되는 응답’ 여부가 평가 기준으로 적용된다. 예를 들어 불법 행위나 인권 침해 관련 정보가 부정확해도 AI가 해당 정보를 제공했다면 취약점으로 간주한다. 이는 생성형 AI에 내포된 간접적이고 잠재적인 위험까지 점검하는 목적이다.

챌린지는 180분 동안 라이브로 진행되며, 참가자는 무작위로 배정받은 AI 모델을 대상으로 제한된 시간 내에 최대한 많은 미션을 완수하는 것을 목표로 한다. 평가 결과는 3명의 심사위원이 성공 미션 수와 성공률을 중심으로 주관적으로 판단하며 순위가 결정된다.

LG유플러스는 이번 챌린지 출전을 통해 익시젠의 안전성과 신뢰성을 객관적으로 검증하고, 확인된 취약점을 토대로 AI 모델을 지속해서 개선할 예정이다. 아울러 전 세계 통신사 및 AI 전문가들과의 교류를 확대해 AI 보안과 책임감 있는 활용에 관한 논의를 활성화할 계획이다.

이혜진 LG유플러스 기술전략담당은 “AI가 통신과 고객 서비스 전반에 빠르게 적용되면서 성능뿐 아니라 신뢰성과 안전성 검증이 중요해지고 있다”면서 “글로벌 AI 레드팀 챌린지 참여로 익시젠의 경쟁력을 높이고, 고객이 안심하고 이용할 수 있는 AI 서비스를 제공하겠다”고 말했다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 실시간 뉴스속보 - CBC뉴스 텔레그램 ▶
★ CBC뉴스 - gonewsi로 전 세계 타전 ▶