[CBC뉴스] 오픈AI(OpenAI)가 챗GPT를 활용해 국제 여론에 영향을 미치려 한 러시아와 이란발 조직적 활동을 적발하고 관련 계정들을 차단했다. 가상의 기자를 만들어 실제 언론에 기사를 게재하거나 연구기관을 내세워 정치적 메시지를 유포하는 등 인공지능(AI)이 기존의 정보공작 수단과 결합한 사례가 확인됐다.

오픈AI가 공개한 'AI를 활용한 위장 조직 작전 차단' 보고서에 따르면 러시아와 이란에서 운영된 계정들은 챗GPT를 이용해 콘텐츠를 작성·수정하고 내부 활동 보고서를 정리했다. 특히 실제 배후를 숨긴 상태에서 언론사와 연구기관의 신뢰도를 활용하려 했다는 점이 두 작전의 공통적인 특징으로 나타났다.

이란발 작전에서는 존재하지 않는 기자 7명의 이름을 이용한 기사 게재 활동이 확인됐다. 운영자들은 미국과 이란의 분쟁, 중동 정세, 국제정치 등을 주제로 영문 기사를 작성하고 챗GPT를 통해 문장을 다듬거나 매체별 투고 기준에 맞춰 수정했다.

이후 해당 기사들을 온라인 매체에 제안하는 이메일까지 작성한 것으로 조사됐다. 오픈AI는 공개 자료를 분석한 결과 전 세계 12곳 안팎의 온라인 매체에서 이들 가상 필자 명의로 게재되거나 전재된 기사 약 100편을 확인했다고 밝혔다.

기사들은 주로 국제정세와 지정학적 문제를 다루는 중소 규모 매체에 실렸다. 확인된 기사 가운데 가장 이른 것은 2025년 7월에 등장했으며, 미국과 이란의 분쟁이 시작된 이후 관련 기사 게재가 크게 늘어난 것으로 파악됐다.

가짜 기자들에게는 실제 언론인처럼 보이도록 경력과 전문 분야도 부여됐다. 일부는 미국 출신 프리랜서 기자를 자처했고, 소셜미디어 계정까지 운영하며 신뢰도를 높이려 했다. 그러나 계정의 위치 정보에서는 이란과의 연관성이 드러났다.

이란발 작전은 기사 게재에 그치지 않았다. 운영자들은 미국과 이란의 충돌을 둘러싼 게시물에 사용할 댓글을 영어와 페르시아어로 대량 생성했다. 특정 국가에 유리한 주장을 반복하거나 자신들이 게재한 기사를 지지하는 댓글을 작성해 여론의 반응이 큰 것처럼 보이게 하려는 시도도 확인됐다.

다만 이러한 댓글 활동이 실제 온라인 여론을 광범위하게 움직였다는 증거는 제한적이었다. 오픈AI는 확인된 댓글의 반응이 대체로 한 자릿수 또는 두 자릿수에 머물렀다고 설명했다.

러시아발 작전은 더욱 복잡한 형태를 보였다.

오픈AI가 '다크 클라크(Dark Clark)'로 명명한 이 작전은 라틴아메리카 국가들을 대상으로 우크라이나의 평판을 훼손하거나 일부 국가의 국내 정치에 영향을 미치려 한 활동으로 분석됐다.

운영자들은 '미아 클라크'라는 가상 인물을 앞세워 사회연구센터(SRC)라는 연구 플랫폼을 통제한 것으로 파악됐다. 이 과정에서 현지 주민들이 자신들의 실제 고용주와 조직의 목적을 알지 못한 채 연구와 콘텐츠 제작에 참여한 정황도 드러났다.

오픈AI는 해당 조직의 내부 보고서에 직원 채용과 해고, 급여 체계, 연구 프로젝트 관리 등이 포함돼 있었다고 밝혔다. 단순한 가짜 계정 운영을 넘어 실제 인력과 조직을 활용하는 방식으로 정보공작의 외형을 갖춘 셈이다.

러시아발 작전에서는 학교와 정부기관을 사칭한 이메일, 조작된 음성, 허위 계약서 등을 이용한 사례도 확인됐다. 일부 허위 정보는 현지 언론 보도와 정부기관의 공식 반박으로 이어질 만큼 확산된 것으로 조사됐다.

특히 오픈AI는 자체 확산 평가 기준인 6단계 척도에서 러시아발 작전을 5단계로 평가했다. 오픈AI가 관련 보고서를 발행하기 시작한 이후 차단한 작전 가운데 처음으로 5단계에 해당하는 사례다. 이란발 작전의 기사 게재 활동은 4단계로 분류됐다.

이번 보고서에서 주목할 부분은 AI가 모든 허위 정보를 처음부터 만들어냈다는 것이 아니라는 점이다. 실제로 러시아발 작전에서는 챗GPT가 외부에 유포할 콘텐츠보다 내부 성과 보고서를 작성하는 데 더 많이 사용된 것으로 나타났다.

이란발 작전 역시 기존에 작성한 원고를 언론사의 요구에 맞게 수정하고 투고 이메일을 만드는 등 콘텐츠 유통 과정에서 AI를 적극 활용했다.

이는 AI가 정보공작의 생산 속도와 언어적 완성도를 높이는 동시에 기존 언론과 연구기관의 검증 절차를 우회하는 데 악용될 수 있음을 보여준다.

특히 가상의 필자 이름으로 작성된 기사가 실제 언론사에 게재될 경우 독자는 해당 콘텐츠의 제작 배경이나 작성자의 신원을 확인하기 어려울 수 있다. 단순한 소셜미디어 허위 게시물보다 언론 매체를 통한 유통이 더 넓은 독자층에 접근할 가능성이 있다는 점도 이번 사례에서 드러났다.

다만 오픈AI는 작전 운영자들이 자신들의 성과를 과장한 사례가 있었으며, 일부 활동의 실제 확산 여부는 확인되지 않았다고 설명했다. 따라서 관련 조직의 주장과 검증된 결과를 구분할 필요가 있다.

이번 사례는 생성형 AI 시대에 언론 콘텐츠의 신뢰성을 판단하는 기준이 문장의 자연스러움이나 기사 형식의 완성도만으로는 충분하지 않다는 문제를 제기한다. 기사를 작성한 인물의 실재 여부와 원고의 출처, 배후 조직의 이해관계까지 확인해야 할 필요성이 커지고 있다.

오픈AI는 이러한 작전의 실체를 공개하는 것이 후속 연구와 차단 활동을 돕고 유사한 정보공작의 지속을 어렵게 만드는 데 목적이 있다고 밝혔다.

[이 기사는 오픈AI가 공개한 'AI를 활용한 위장 조직 작전 차단' 보고서를 바탕으로 작성했다.]

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 심우일 기자