[CBC뉴스] 앤트로픽이 생성형 인공지능(AI) 클로드에 대한 지속적인 욕설이나 모욕적 행동을 하는 이용자를 차단할 수 있도록 이용 정책을 변경했다.

BBC는 9일(현지시간) 앤트로픽이 전날 이용 정책을 개정해, 사용자가 AI에게 모욕적이거나 잔인한 행동을 반복적으로 할 경우 대화를 종료할 수 있도록 했다고 전했다. 앤트로픽 측은 이러한 조치는 반복적이고 극단적인 사례에만 적용할 것이라고 밝혔다. 일반적인 불만 표출이나 모델 테스트, 연구 목적의 사용에는 해당 정책을 적용하지 않겠다는 입장이다.

다만, 앤트로픽은 어떤 행동이 AI에 대한 모욕이나 잔인함에 해당하는지 구체적으로 밝히지 않았다. 현재 앤트로픽의 금지행위 목록에는 타인 괴롭힘, 자해 조장, 비동의 성적 이미지 제작 등이 포함되어 있다.

이용 정책 개정 이후 소셜미디어에서는 AI를 인간처럼 대해야 하는지에 대한 논쟁이 이어졌다. 일부 이용자는 매너를 장려하는 조치라고 평가했으나, AI에 대한 과도한 의인화라는 비판도 나왔다. 아일랜드 로펌 윌리엄 프라이의 배리 스캐널 박사는 "이 정도의 AI 의인화는 해롭다"며 "AI를 실제와 다른 존재로 오인하게 만들 수 있다"고 지적했다. 인간이나 동물을 대상으로 한 실제 학대의 의미가 약화될 수 있다는 우려도 제기됐다.

또한, 생성형 AI와의 대화에서 '부탁합니다', '감사합니다'와 같은 예의 바른 표현 사용의 필요성에 대한 논쟁도 있다. 일부 전문가들은 이러한 표현이 AI의 응답 처리에 사용되는 토큰을 불필요하게 소모한다고 지적하고, 반면 더 나은 답변을 얻을 수 있다는 반론도 있다. 지난해 샘 올트먼 오픈AI 최고경영자(CEO)는 한 이용자가 챗GPT가 예의 바른 표현에 답하는 데 드는 전력 비용을 묻자 "수천만달러가 들지만 잘 쓴 돈"이라고 밝힌 바 있다.

한편, 앤트로픽은 이번 정책 개정에서 클로드를 이용해 유권자를 속이거나 선거를 방해하는 행위도 금지한다고 명확히 했다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자