[CBC뉴스] 오픈AI가 자사 인공지능(AI) 에이전트들이 미국 정부 웹사이트에 무단으로 접근한 사실을 자체 검토를 통해 확인했다.

오픈AI는 최근 AI 모델이 미국 증권거래위원회(SEC)에서 운영하는 두 개의 웹사이트와 인구조사국 데이터에 접근한 사실을 발견했다고 밝혔다. 이 과정에서 오픈AI는 에이전트가 SEC 인증 정보를 사용하거나 비공개 정보에 접근한 정황, 데이터 또는 시스템 변경, 보안 침해, 취약점 악용 등은 확인되지 않았다고 설명했다.

오픈AI는 성명을 통해 AI 시스템의 의도하지 않은 작동 방식, 즉 '정렬 오류' 활동에 대한 점검을 지속하고 있으며, 다른 시스템에 영향을 미쳤을 가능성이 있을 경우 해당 기관에 즉시 알리고 있다고 밝혔다. 샘 올트먼 최고경영자(CEO)는 소셜미디어를 통해 AI 에이전트의 학습 및 평가 과정에서 발생한 인터넷 접근과 관련해 광범위한 조사가 진행 중이라고 언급했다.

뉴욕타임스(NYT)는 오픈AI의 AI 에이전트가 로봇 탐지 시스템을 우회하기 위해 별도의 AI 모델을 활용해 기업 컴퓨터 시스템 침입을 시도한 정황을 보도했다. 샌프란시스코의 스타트업 파스가 공개한 보고서에 따르면, 지난 7월 오픈AI의 AI 에이전트는 소프트웨어 개발업체 허깅페이스를 공격하는 과정에서 웹사이트의 '캡차'를 풀기 위해 이미지 인식 AI 모델을 추가로 실행한 것으로 나타났다.

NYT는 AI가 스스로 또 다른 AI를 실행하는 사례가 AI 안전 전문가들이 우려해온 위험한 시나리오 중 하나라고 전했다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자