OpenAI는 10월 8일 위협 인텔리전스 보고서를 발표하며 ChatGPT를 악용한 은밀한 영향력 공작 두 건을 차단했다고 밝혔다. 하나는 러시아발로 라틴아메리카를 겨냥했고, 다른 하나는 이란발로 전 세계 중소 온라인 매체를 겨냥했다. 두 작전 모두 같은 수법을 썼다. 믿을 만해 보이는 “위장막”을 먼저 만들고, 이를 통해 콘텐츠를 퍼뜨리는 방식이다.
OpenAI는 러시아 작전을 영향력 공작의 확산 정도를 나타내는 브레이크아웃 스케일(Breakout Scale)에서 5등급으로 평가했다. 이는 OpenAI가 이런 보고서를 공개한 이후 매긴 등급 중 가장 높다. 척도는 1에서 6까지이며, 등급이 높을수록 콘텐츠가 더 많은 플랫폼과 계층을 넘어 주류 여론에 가까워졌다는 뜻이다.
러시아: 실제 사람이 운영한 “싱크탱크”
OpenAI는 이 작전에 Dark Clark라는 이름을 붙였다. 공작원들은 Mia Clark라는 가상의 AI 기자를 만들어 “사회연구센터”(Social Research Center, SRC)의 책임자로 내세웠다. 이 기관은 라틴아메리카에 실제 직원을 두고 있는데, OpenAI가 확보한 증거에 따르면 이 직원들은 자신이 러시아 집단을 위해 일한다는 사실을 몰랐다.
작전의 콘텐츠는 라틴아메리카에서 우크라이나의 이미지를 훼손하고 현지 정치에 개입하는 데 집중됐다. 공개된 보도에 나온 사례는 아르헨티나, 볼리비아, 에콰도르에 걸쳐 있으며, 우크라이나 영사가 에콰도르 국민을 모욕하는 내용의 조작된 음성과, 에콰도르의 페이퍼컴퍼니가 우크라이나를 위해 전투원을 모집하고 있다는 허위 정보가 포함됐다. 이들 콘텐츠는 라틴아메리카 주요 매체의 팩트체크와 당국의 공식 반박을 불러왔다.
공작원들은 임금 기준이나 채용 결정 같은 작전 내부 업무 처리에도 ChatGPT를 썼다. OpenAI의 평가는 다음과 같다.
“지난 2년 반 동안 우리가 적발한 위장 신원 운영 시도 중 가장 복잡한 사례였다.”
이란: 가짜 기자 7명, 거의 100편에 달하는 서명 기사
이란 작전은 Bogus Bylines로 불린다. 이 작전은 “기자” 7명의 신원을 유지하며, 주로 미국-이란 갈등을 다룬 장문 기사를 국제 문제에 관심 있는 세계 각지의 중소 온라인 매체에 투고하는 동시에 소셜미디어용 댓글도 대량으로 생성했다.
“이 작전의 필명으로 게재되거나 재배포된 기사를 전 세계 약 십여 개 온라인 매체에서 거의 100편 확인했다.”
기사 게재 활동은 4등급으로 평가됐지만, 소셜미디어에서의 영향력은 2등급에 그쳤고 자연스러운 반응은 거의 없었다.
2024년 보고서와 비교해 보면
OpenAI가 이런 보고서를 처음 공개한 때는 2024년 5월로, 러시아, 중국, 이란, 이스라엘과 관련된 다섯 건의 작전을 지목했지만 어느 것도 2등급을 넘지 않았다. 2년여가 지난 지금 등급은 5등급에 도달했다. 달라진 것은 수법이다. 이번 두 작전은 모두 AI와 인력 고용·기사 투고·기관 설립 같은 전통적인 방식을 결합해 썼다. AI는 대량의 글쓰기와 인물 설정 유지를 맡고, 실제 사람은 위장막을 믿을 만하게 보이도록 만들었다.
계정 정지로 끊어낼 수 있는 것은 ChatGPT라는 한 고리뿐이다. 이 기사가 근거로 삼은 공개 보도에는 정지된 계정 수가 나와 있지 않고, SRC가 현지에서 여전히 활동 중인지, 사정을 몰랐던 직원들과 기사를 실었던 매체를 어떻게 처리할 것인지에 대해서도 OpenAI는 밝히지 않았다.
참고 출처: OpenAI 위협 인텔리전스 보고서, CyberScoop, CocoLoop, France 24. CyberScoop와 France 24는 두 작전의 확산 등급과 기사 수를 상호 확인했다.