[CBC뉴스] 이란과 연계된 단체가 미국 인공지능(AI) 모델을 활용해 미 해군 함정의 위치를 추적하고 공격을 시도한 정황이 드러났다.

앤트로픽이 발표한 'AI 오남용 감지·대응' 보고서에 따르면, 'GTG-30005'로 식별된 이란 연계 위협 세력은 자사 AI 모델인 클로드를 이용해 중동 주둔 미 해군 부대의 위치 정보와 공격 표적 추천서를 작성했다. 이들은 공개된 군사 사진의 캡션, 미군 명단, 군함·항공기 위치 데이터, 상업용 위성사진 등을 조합해 미 군함의 동선을 추적하고, 클로드로 통신·제어 시스템의 보안 취약점을 집중적으로 분석했다.

앤트로픽은 이 같은 시도를 사전에 탐지해 관련 계정을 정지했으며, 정부 당국과 위협 정보를 공유하고 향후 악용을 방지하기 위한 감시 도구도 개발했다고 밝혔다. 보고서에서는 이란 외에도 예멘 후티 반군 연계 세력이 클로드를 통해 사거리 2천㎞ 이상의 다단계 탄도 미사일과 극초음속 활공체 등 유도 무기 소프트웨어 개발을 시도한 사례가 언급됐다. 또한 중국 정부와 연계된 그룹이 시리아 내 위구르족을 추적·감시하고 아시아 종교 지도자를 내사했으며, 러시아 연계 세력은 우크라이나 전선 데이터를 클로드로 학습시켜 자율살상 드론 군집 구축과 아프리카 국가 내 친러시아 선전물 유포에 활용하려 한 것으로 나타났다.

앤트로픽은 특정 국가 연계 세력이 클로드를 이용해 치명적인 생물 무기 개발을 시도하다 적발돼 차단된 사례도 보고했으나, 구체적인 국가명은 밝히지 않았다. 회사 측은 "안전장치가 요청 다수를 차단했으나 전부 차단하지는 못했다"며, 해당 계정을 차단하고 당국과 협력했다고 설명했다. 또한 "적절한 안전장치가 없다면 이와 같은 능력은 재앙적인 결과를 초래할 수 있다"고 경고했다.

클로드는 악의적 해킹이나 생물학·화학 무기 제조 등 불법적 목적의 사용을 막기 위한 안전장치를 갖추고 있으나, 위협 세력들은 자신의 의도를 숨기고 제한을 우회하려는 시도를 계속한 것으로 드러났다. 앤트로픽은 "조사 결과가 다른 개발사들이 유사한 패턴을 포착하고 정부와 시민사회가 새로운 위협의 형성 과정을 명확히 파악하며 공동 방어망을 강화하는 데 도움이 되기를 바란다"고 밝혔다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자