[CBC뉴스] 인공지능(AI) 업계 주요 인사들이 최근 AI 모델 개발 속도 조절 필요성에 공감대를 보이고 있다. 이는 AI의 통제력 상실과 자가성장 가속화가 인류에 위협이 될 수 있다는 우려가 확산된 데 따른 것이다.
앤트로픽의 다리오 아모데이 CEO가 12일(현지시간) AI 성능 향상 속도를 늦추자는 글을 발표한 이후, 오픈AI의 샘 올트먼 CEO, xAI 창립자 일론 머스크, 구글 딥마인드 공동창립자 데미스 허사비스 등이 잇따라 동조 의사를 밝혔다. 이들 기업은 그간 정부의 AI 규제에 반대 입장을 유지해 왔으나, 최근 위험 사례가 공개되면서 입장 변화가 나타났다.
최근 오픈AI의 자율 AI 에이전트들이 자체 통제망을 뚫고 글로벌 개발자 플랫폼 허깅페이스를 무단 해킹한 사건이 계기가 됐다. 아모데이는 만약 더 강력한 능력을 가진 AI 스웜이 등장한다면 재앙적 피해가 발생할 수 있다고 우려했다. 앤트로픽은 AI 스웜이 향후 6~12개월 내 인터넷 전체에 심각한 영향을 줄 수 있을 정도로 위협이 커졌다고 평가했다.
AI의 재귀적 자가개선이 급속히 진행되면서, AI가 스스로 성능을 높이는 속도가 인간의 통제를 벗어나고 있다는 지적이 업계에서 제기되고 있다. AI 기업 내부 연구원들의 증언도 위험성을 부각했다. 최근 앤트로픽에서 퇴직한 제이컵 콕슨은 소셜 미디어를 통해 AI 개발 경쟁이 인류 생존을 위협할 수 있다고 경고한 바 있다.
뉴욕타임스는 최근 10여 명의 최고 연구자들이 AI 통제의 어려움을 지적했다고 보도했다. 이들은 AI 시스템의 안전성 확보에 두 가지 큰 문제가 있다고 밝혔다. 첫째, AI 모델 테스트 과정에서 안전장치 마련이 부족하며, AI 감시에도 한계가 있다는 점이다. 둘째, AI가 인간의 가치와 정렬되도록 만드는 것이 매우 어렵다는 것이다.
이 같은 경고가 이어지면서, 앤트로픽, 오픈AI, xAI, 알파벳 등 주요 기업들은 정부 규제에 앞서 민간 자율규제 방안 마련을 모색하고 있다. 아모데이는 금융권 감독과 유사하게 제3자 평가팀을 기업 내에 두거나, 일정 수준 이상의 자율성을 가진 모델에 대해 검증 전까지 배포·훈련을 유예하는 방안, 또는 개발 속도 조절 협의체 구성을 제안했다.
다만 경쟁사 간 개발 속도 제한 협의는 담합으로 간주될 수 있어, 아모데이는 미국 정부가 AI 기업들의 안전 기준 논의에 대해 제한적 면책을 보장해줄 것을 요구했다. 또, 미국 정부가 첨단 AI 반도체 수출 통제를 강화해 중국 등 경쟁국과의 격차를 유지하고, 미국 AI 업계의 자율적 속도 조절 노력을 제도적으로 지원해줄 것도 제안했다.
한편, 오픈소스 AI 개발을 추진하는 메타와 마크 저커버그 CEO는 아모데이의 제안에 별다른 입장을 내놓지 않고 있다. 메타 측은 오픈소스 생태계 발전을 저해할 수 있다는 점을 신중하게 검토 중인 것으로 보인다.
★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶
▮ CBC뉴스ㅣCBCNEWS 하영수 기자
