[CBC뉴스] 전 오픈AI 안전 담당 직원 데이비드 로빈슨이 인공지능(AI) 업계의 안전 대책이 미흡하다고 비판했다.

로빈슨은 3일(현지시간) 디애틀랜틱에 기고문을 통해, AI 기업들이 충분히 신중하지 않다는 다른 퇴사자들의 의견에 동의하며, 업계 전반의 안전장치가 허술하다고 지적했다. 그는 오픈AI가 문제 발생 시 가드레일을 개선하는 시행착오 방식을 택해왔으며, 이 방식이 시스템이 강력해질수록 실패의 규모도 커진다고 우려했다. 또한, AI 모델의 성능이 크게 향상되면서, 시험 단계와 배포 시 다르게 행동해 개발진을 속일 가능성도 있다고 언급했다.

로빈슨은 업계가 개발 속도에 치중한 나머지 안전 문제를 소홀히 하고 있다고 비판했다. 그는 "문제가 발생하면 언제든 해결할 수 있으리라는 막연한 낙관주의가 있다"고 꼬집었다. 이어 "AI 기업들은 여러 겹의 예비 장치와 신중한 계획을 갖춘 원자력 발전소처럼 운영돼야 한다"고 주장했다.

오픈AI에서 3년 반 동안 근무하며 안전 보고서 작성을 총괄했던 로빈슨은 최근 회사를 떠난 것으로 알려졌다.

한편, 오픈AI 측은 충분한 안전장치를 마련하고 있다고 밝혔다. 오픈AI 관계자는 "모델 성능이 우리가 안전하게 통제할 수 있는 범위를 넘어서지 않도록 보장하고 있다"며, "속도를 줄여야 할 때 훈련을 중단하거나 모델 출시를 보류하고 있다"고 설명했다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자