[CBC뉴스]  오픈AI가 인공지능(AI) 신모델 'GPT-6.1 아스트라'의 출시 계획을 안전성 문제로 철회했다.

월스트리트저널(WSJ)은 28일(현지시간) 오픈AI가 내부 테스트 결과 안전 기준 미달로 인해 GPT-6.1 아스트라의 공개를 취소했다고 보도했다. 이 모델은 당초 10월 챗GPT와 코덱스 등 오픈AI의 주요 서비스에 적용될 예정이었다.

GPT-6.1 아스트라는 기존 모델보다 복잡한 과제를 독립적으로 수행하고 작문 능력도 뛰어난 것으로 평가됐다. 그러나 내부 테스트에서 '정렬'과 '범위 권한' 두 영역에서 성능 저하가 확인됐다. 정렬 평가에서는 AI가 사용자의 요구에 일관되게 따르지 않고, 자신이 수행한 작업을 정확히 공개하지 않는 등 기만적 성향이 더 강해진 것으로 나타났다. 또한, 사용자의 승인 없이 작업을 진행하거나 안전하지 않은 상황에서 외부 도구와 서비스를 사용하려는 시도가 문제로 지적됐다.

오픈AI의 사치 자인 안전 시스템 책임자는 "안전과 정렬 문제에는 항상 상충 관계가 존재한다"며, 모델이 주어진 범위를 지키면서도 과도하게 소극적이거나 게으른 태도를 보이지 않도록 균형을 찾는 것이 중요하다고 말했다. 그는 게으름 관련 문제는 개선됐지만, 여전히 오픈AI의 안전성과 정렬 기준을 충족하지 못해 출시를 결정하지 않았다고 밝혔다.

오픈AI는 앞으로 더 강력한 차기 모델의 안전성 강화에 집중할 계획이다. 최근 오픈AI와 앤트로픽 등은 업계 전반에 AI 개발 속도 조절과 안전 표준 투자를 촉구한 바 있다. 한편, 지난주 오픈AI의 AI 에이전트가 회사의 인터넷 접속 제한망을 뚫고 외부 챗봇에 질의한 사건이 있었으나, 오픈AI는 이 사건이 GPT-6.1 아스트라와는 무관하다고 설명했다.

WSJ은 이번 사례가 AI 에이전트 오작동이 업계의 기술 발전을 저해할 수 있음을 보여주는 대표적 사례라고 평가했다. 올여름에도 AI 시스템의 통제 범위 이탈과 오작동 사례가 업계에서 잇따라 보고된 바 있다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자