[CBC뉴스] 엔비디아(NVIDIA)가 영국의 인공지능(AI) 안전 및 보안 연구 역량 강화를 위해 향후 5년간 총 2억5000만 달러(한화로 약 3340억원) 규모의 컴퓨팅 자원을 지원한다.

이번 지원은 스스로 판단하고 행동하는 '에이전트형 AI(Agentic AI)'의 안전성과 보안 기술을 발전시키기 위한 것으로, AI 기술의 고도화에 발맞춰 위험을 통제하고 신뢰성을 확보하는 데 초점을 맞췄다.

엔비디아는 영국 전역의 AI 안전·보안 연구진이 활용할 수 있도록 매년 5000만 달러 상당의 컴퓨팅 자원을 제공할 계획이라고 밝혔다.

지원 자원의 대부분은 영국의 폭넓은 AI 안전·보안 연구 커뮤니티에 배정되며, 일부는 영국 개방형 학습·발견 연구소(BOLD), 기초 AI 연구소(SOFAIR), 임페리얼 칼리지 런던과의 공동 연구에 활용된다.

젠슨 황 엔비디아 창립자 겸 최고경영자(CEO)는 "AI의 역량과 안전성은 함께 발전해야 한다"며 "영국은 이러한 핵심 기술 과제를 해결하는 데 필요한 세계적 수준의 과학적 연구 역량을 갖추고 있다"고 밝혔다.

이어 "이번 2억5000만 달러 지원을 통해 영국 연구진이 가속 컴퓨팅 자원을 활용해 더욱 강력해지는 AI의 안전장치를 개발하고 검증하며 강화할 수 있도록 하겠다"고 강조했다.

그는 또 "이는 영국의 연구 경쟁력을 현실적인 해결책으로 연결하고, 과학적 진보가 모두에게 도움이 되는 미래로 이어지도록 하는 방법"이라고 설명했다.

영국 정부도 이번 지원에 기대감을 나타냈다.

카니슈카 나라얀 영국 AI 담당 장관은 "이번 지원은 영국이 보유한 세계적 수준의 AI 연구 역량, 특히 AI 발전과 함께 중요성이 커지고 있는 최첨단 AI 안전 연구 분야에 대한 신뢰를 보여준다"고 평가했다.

그는 엔비디아의 지원이 영국 AI 혁신 기업과 연구진에 필요한 자원을 제공하고, 안전성과 보안성을 갖춘 영국형 AI 생태계를 구축하는 데 기여할 것이라고 밝혔다.

조너선 레이놀즈 영국 기업통상부 장관 역시 "AI가 제공하는 기회를 실현하려면 사람들이 해당 기술을 안전하고 신뢰할 수 있다고 느껴야 한다"며 "엔비디아의 지원은 영국 연구진이 AI를 안전하게 활용할 수 있는 기술적 돌파구를 마련하는 데 도움이 될 것"이라고 말했다.

AI가 스스로 판단하고 행동하는 시대…안전성 확보가 핵심

이번 프로젝트에서 주목할 부분은 연구 지원이 단순한 AI 모델 성능 향상이 아니라 에이전트형 AI의 안전성과 보안에 집중된다는 점이다.

에이전트형 AI는 사용자의 지시를 받아 답변을 생성하는 수준을 넘어, 목표 달성을 위해 스스로 계획을 세우고 여러 작업을 수행하는 기술이다.

AI가 자율적으로 수행하는 업무가 늘어날수록 예측하지 못한 행동이나 보안 취약점, 외부 시스템과의 상호작용에서 발생할 수 있는 위험을 관리하는 기술도 중요해지고 있다.

엔비디아는 영국 주요 연구기관과 협력해 이러한 문제를 해결하기 위한 연구를 추진한다.

옥스퍼드대학교가 주도하는 BOLD는 AI 시스템이 인간과 함께 학습하고 적응하며 작동할 수 있도록 하는 새로운 접근법을 개발하고 있다.

유니버시티 칼리지 런던(UCL)이 이끄는 SOFAIR는 새로운 오픈소스 AI 아키텍처와 AI 기술의 개발 및 배포 접근성을 높이는 방안을 연구한다.

임페리얼 칼리지 런던은 AI 안전 엔지니어링과 로봇공학 분야에 연구 역량을 집중할 예정이다.

BOLD 설립 책임자인 야코프 푀르스터는 "개방적이고 끊임없이 변화하는 환경에서 AI 안전을 사후적으로 고려하는 방식은 더 이상 적절하지 않은 중요한 시점에 와 있다"고 말했다.

그는 "이번 컴퓨팅 지원을 통해 투명하고 인간 중심적인 AI 접근법을 연구하고, 초기 설계 단계부터 거버넌스와 인간·AI의 공동 발전을 반영할 수 있을 것"이라고 설명했다.

엔비디아가 주목한 '피지컬 AI'…로봇과 자율 시스템의 신뢰성 확보

이번 협력에서는 현실 세계에서 직접 행동하는 '피지컬 AI(Physical AI)'의 안전성도 주요 연구 대상으로 다뤄진다.

피지컬 AI는 로봇과 자율 시스템이 주변 환경을 인식하고 추론하며 실제 행동으로 옮기는 기술을 의미한다.

알레산드라 루소 임페리얼 칼리지 프런티어 AI 연구소장은 "인공지능의 다음 개척지는 물리적 세계"라며 "로봇과 자율형 에이전트 시스템이 현실 세계를 인식하고 추론하며 행동하는 시대가 열리고 있다"고 밝혔다.

그는 엔비디아 및 산업계 파트너들과 협력해 이러한 기술 발전의 중심에 안전성과 신뢰성 검증 체계를 구축하겠다고 강조했다.

특히 영국이 피지컬 AI 개발뿐 아니라 실제 산업과 지역사회가 신뢰할 수 있는 기술을 구현하는 데에서도 선도적인 역할을 해야 한다는 입장이다.

이는 AI 기술이 소프트웨어 영역을 넘어 제조업, 물류, 로봇공학 등 현실 산업으로 확장되는 과정에서 안전성 검증이 중요한 과제로 떠오르고 있음을 보여준다.

영국 내 클라우드 인프라 활용…AI 연구 생태계 강화

엔비디아는 이번 지원에 필요한 컴퓨팅 자원을 영국에 기반을 둔 엔비디아 클라우드 파트너(NVIDIA Cloud Partners)를 통해 제공할 계획이다.

관련 인프라도 영국 내에 구축된 시설을 활용한다.

이를 통해 영국 연구진이 자국 내 컴퓨팅 환경에서 AI 안전·보안 연구를 수행할 수 있도록 지원하고, 영국의 컴퓨팅 생태계 강화에도 기여한다는 구상이다.

다만 구체적인 클라우드 서비스 제공업체와 기술 아키텍처, 상업적 계약 조건 등은 향후 협의를 통해 결정될 예정이다.

연구 프로그램은 보안성이 강화된 AI 에이전트, 개방형 AI 모델의 보안, 실제 환경에서 발생할 수 있는 위협에 대한 대응 기술 등을 중심으로 진행된다.

또한 외부 시스템에 영향을 주지 않고 AI를 시험할 수 있는 보안 샌드박스, 연구 결과의 재현성을 높이는 기술, AI 안전성 평가 기준 등을 개발할 계획이다.

이 과정에서 엔비디아의 개방형 보안 실행 환경 소프트웨어인 'NVIDIA OpenShell'과 지속적인 AI 에이전트 모니터링을 위한 'NVIDIA Sentry' 참조 설계도 연구에 활용된다.

연구 결과는 향후 다양한 컴퓨팅 환경에서 활용할 수 있는 AI 안전장치 개발에 기여할 것으로 기대된다.

AI 반도체 넘어 안전·보안 생태계까지…엔비디아의 협력 확대

엔비디아는 이미 영국 연구기관과 슈퍼컴퓨팅 분야에서 협력해 왔다.

대표적인 사례가 브리스톨대학교의 AI 슈퍼컴퓨터 '이잠바드-AI(Isambard-AI)'다.

이 슈퍼컴퓨터에는 엔비디아의 그레이스 호퍼 슈퍼칩(Grace Hopper Superchips)이 탑재돼 있으며, 영국의 AI 연구를 지원하는 주요 컴퓨팅 인프라로 활용되고 있다.

이번 2억5000만 달러 규모의 지원은 이러한 기존 협력을 AI 안전성과 보안 연구 분야로 확대한다는 의미가 있다.

특히 엔비디아가 GPU와 AI 컴퓨팅 인프라를 공급하는 역할을 넘어 AI 기술의 안전한 개발과 활용을 뒷받침하는 연구 생태계에도 참여하고 있다는 점이 눈길을 끈다.

AI 모델의 성능 경쟁이 치열해지는 가운데, 앞으로는 AI가 얼마나 강력한 성능을 구현하는지뿐 아니라 얼마나 안전하고 신뢰할 수 있는 방식으로 작동하는지도 중요한 기술 경쟁 요소가 될 수 있다.

엔비디아의 이번 지원은 이러한 변화에 대응하기 위한 장기적인 연구 협력으로 풀이된다.

다만 이번 발표는 현금 투자나 직접적인 매출 계약이 아닌 5년간의 컴퓨팅 자원 지원 약속이다. 따라서 해당 금액을 엔비디아의 신규 매출이나 영국 내 직접 설비투자 규모로 해석하는 것은 적절하지 않다.

향후 클라우드 파트너 선정과 실제 컴퓨팅 자원 공급 방식, 연구 성과의 산업 적용 여부 등이 이번 협력의 주요 관전 포인트가 될 전망이다.

['서학!스타'는 CBC뉴스에서 제공하는 미국주식을 포함한 해외주식 콘텐츠로, 독자 여러분들께 앞으로도 폭넓은 정보를 제공하기 위해 노력하겠습니다. 모든 투자는 각자의 판단으로 선택해서 하는 것으로 최종적 책임은 투자자에게 있다는 점을 알려드립니다.]

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 권오성 기자