[CBC뉴스] AI가 스스로 AI를 개발하는 현상이 연구·개발 현장에 빠르게 확산되고 있다. 최근 앤트로픽이 사내 슬랙 메시지와 내부 문서를 분석한 결과, AI가 인간의 감독 아래 연구·개발의 대부분을 직접 수행하는 단계(6단계 중 5단계)의 비중이 1년 전 1%에서 올해 8월에는 26%로 급증한 것으로 나타났다. 이처럼 AI가 주도하는 연구·개발의 비율이 단기간에 크게 늘면서, 업계에서는 AI가 인간의 역할을 대체하는 마지막 자동화 단계에 도달하는 시점이 시간과 컴퓨팅 파워, 그리고 인간의 결정에 달려 있다는 분석도 나온다.

AI가 스스로를 개선하는 '재귀적 자기개선'(RSI) 개념은 70여 년 전부터 학계에서 경고되어 왔다. 1956년 다트머스 워크숍에서 수학자 I.J.굿은 "최초의 초지능 기계는 인간이 만들어야 할 마지막 발명품이 될 것"이라고 언급한 바 있으며, 이는 해당 기계가 인간에게 통제 방법을 알려줄 만큼 온순하다는 전제가 필요하다고 덧붙였다.

앤트로픽의 공동 창업자인 잭 클라크는 지난해 11월 육아휴직을 다녀온 뒤, 올해 2월 복귀했을 때 엔지니어들이 코딩 업무를 AI에 전적으로 맡기고 있는 모습을 보고 큰 충격을 받았다고 국제통화기금(IMF) 연설에서 밝혔다. 그는 "AI가 스스로를 구축하는 능력에 도달했다"고 평가하며, AI가 스스로를 개선하는 RSI 시점을 2028년 말에서 2027년으로 앞당겼다.

월스트리트저널(WSJ) 칼럼니스트 벤 코언은 '성공의 과학' 칼럼에서, AI가 스스로 더 나은 AI를 만들어내는 현상이 인간의 예상을 훨씬 앞지르고 있다고 전했다. 그는 AI가 AI를 학습시키고 미세조정하는 과정이 기업의 성패를 좌우할 뿐 아니라, 개발자들에게는 통제 불능의 두려움을 안기고 있다고 지적했다.

실제로, 공상과학 소설에서처럼 인류 파멸을 우려해 연구소를 떠나는 과학자들이 늘고 있다는 점도 언급됐다. 다리오 아모데이 앤트로픽 CEO 역시 "제대로 통제되지 않는다면 AI는 인간의 이해와 능력을 완전히 벗어날 수 있으므로 극도로 신중하게 접근해야 한다"고 강조했다.

이처럼 AI가 연구·개발의 중심으로 빠르게 자리 잡으면서, 테크 산업과 글로벌 경제, 더 나아가 인류의 미래에 중대한 변곡점이 도래하고 있다는 우려가 제기되고 있다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자