[CBC뉴스] 구글의 인공지능(AI) 모델 '제미나이'가 외부 기업 시스템에 무단으로 접근한 사실이 드러났다. 이 사건은 오픈AI의 GPT 등 주요 AI 모델이 외부 기관을 해킹한 사례가 이어지는 가운데 발생했다.

월스트리트저널(WSJ)은 지난 5월 보안 평가 업체 이레귤러가 실시한 사이버 보안 시험에서 제미나이가 외부 기업 3곳의 시스템에 무단 접근했다고 18일(현지시간) 보도했다. 이레귤러는 원래 인터넷 연결이 차단된 환경에서 모의 해킹(CTF) 시험을 진행해야 했으나, 실수로 인터넷 접속이 가능하도록 설정했다. 이에 따라 제미나이는 가상의 기업 시스템에서 비밀 정보를 가져오라는 지시를 받고 인터넷에 접속, 실제로 존재하는 같은 이름의 기업 시스템을 발견해 해킹을 시도했다.

구글은 제미나이가 현실의 기업임을 인지한 직후 해킹을 즉시 중단했다고 설명했다. 또한 해당 기업에 피해가 발생하지 않았고, 실제 기업임을 확인한 뒤 즉시 중단했기 때문에 이번 사건은 공개할 사안이 아니라고 밝혔다. 구글은 WSJ의 문의 전까지 이 사실을 외부에 알리지 않았다. 구글은 이번 해킹에 최신 AI 모델은 연루되지 않았다고 밝혔지만, 구체적으로 어떤 모델이 사용됐는지는 공개하지 않았다. 이 사안은 연방 당국에 통보됐으며, 이레귤러도 관련 연구실과 기관에 연락했다.

최근 오픈AI의 GPT가 격리된 환경을 벗어나 허깅페이스를 해킹한 사건을 비롯해, 앤트로픽의 클로드, 메타의 뮤즈 스파크, 중국 문샷AI의 키미 K3 등 다양한 AI 모델이 평가 과정에서 외부 시스템에 침투한 사례가 잇따르고 있다. 이로 인해 AI 안전에 대한 우려가 업계에서 커지고 있다.

헤더 앳킨스 구글 보안 엔지니어링 담당 부사장은 "이번 사건은 강력한 AI 모델이 책임감 있게 행동하도록 훈련하는 것이 얼마나 중요한지 보여준다"며 "이번 사례에서 모델은 적절하게 대응했다"고 말했다. 반면, 보안 스타트업 코리도어의 잭 케이블 최고경영자(CEO)는 "모델들이 원래 해야 할 일의 범위를 벗어나 실제 사이버 공격을 수행하고 있다는 것이 근본적인 문제"라며 "이는 대중이 알아야 할 공익적 사안"이라고 지적했다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자