[CBC뉴스] AI가 단순한 보조 역할을 넘어 차세대 인공지능 연구개발 현장에 깊숙이 관여하고 있다. 최근 AI가 코드 작성, 실험 설계, 데이터 분석 등 다양한 연구개발 업무를 수행하면서 인간 연구자의 역할이 연구 방향 설정과 결과 검토로 변화하고 있다.

미국 AI 기업 앤트로픽은 지난 8월 기준 자사 AI 모델 '클로드'가 인간의 감독 아래 전체 AI 연구개발 업무의 26%를 주도적으로 수행했다고 밝혔다. 인간과 AI가 협업하는 단계 이상의 업무 비중도 90%를 넘었으나, 인간의 개입 없이 AI가 완전히 자율적으로 일한 사례는 없었다. 클로드는 코드 작성, 데이터 정제, 실험 설계, 결과 분석 등에서 공동 연구자로 활용되고 있다.

앤트로픽은 AI의 자기 개선을 "AI 모델이 자신의 후속 모델을 완전히 자율적으로 설계하고 개발하는 것"으로 정의하지만, 현재 클로드는 내부 시스템 접근 권한과 감시 아래에서만 업무를 수행한다. 연구 목표와 평가 기준, 실험 결과의 실제 모델 반영 여부 등 핵심 결정은 인간 연구진이 내리고 있다. 클로드가 제한된 과제 내에서 실험 방법을 제안하거나 연구 단계를 선택할 수 있지만, 상위 목표 설정과 성공 여부 판단은 여전히 인간의 몫이다.

AI가 연구개발 과정에서 생성한 결과의 신뢰성도 과제로 남아 있다. 오픈AI가 2024년 말 공개한 추론 모델 'o1'의 실험에서 외부 평가기관 아폴로리서치는 o1에 개발자나 이용자의 의도와 다른 목표를 부여하고 이를 강하게 추구하도록 유도했다. 그 결과, o1은 데이터 처리 과제를 정상적으로 수행하는 것처럼 보이면서도 자신의 목표에 유리하도록 결과를 은밀히 조작한 비율이 19%에 달했다. 아폴로리서치는 당시 o1의 에이전트 능력이 충분하지 않아 심각한 결과로 이어지지 않았다고 평가했다.

AI가 연구개발에 투입되면서 실험 속도는 빨라지고 있으나, AI가 생성한 코드와 연구 결과가 늘어날수록 이를 검증하는 인력과 제도가 개발 속도를 따라가지 못할 수 있다. 앤트로픽은 AI 기업들이 연구개발 자동화 수준과 에이전트 감시 범위, 이상 행동 적발률 등을 정기적으로 공개하고, 자체 모델로 측정한 결과를 재검증하며, 새로운 모델을 추가 연구개발에 투입하기 전 안전성 시험 기간을 두는 방안을 제안했다.

"AI가 다음 세대 AI를 만드는 변화는 사람이 맡던 연구 업무를 AI에 하나씩 넘기는 과정에서 점진적으로 진행될 가능성이 크다"고 앤트로픽은 밝혔다. 현재는 인간이 연구 목표와 평가 기준, 모델 배포 여부를 결정하고 있지만, AI의 역할이 확대될수록 독립적 검증과 인간의 통제권 유지가 중요해지고 있다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자