최소 5,000개의 AI 운영 계정 네트워크가 소셜 미디어 플랫폼 X에서 분열적인 정치 담론을 퍼뜨리기 위한 중국 주도의 정보 전쟁 캠페인으로 의심받고 있다.
현지 사이버 보안 회사인 CyberCX는 중국 대학 및 AI 회사와 연결된 작전을 발견했으며, 이 작전은 주로 논란이 많은 미국 내러티브를 겨냥하고 있지만 때때로 호주 콘텐츠와도 연관되어 있다고 밝혔다.
"현재 정보 작전 능력은 상대적으로 비효율적이지만, 향후 해로운 활동을 수행하는 데 활용될 수 있다고 평가한다"고 이 회사는 새로 완료된 보고서에서 경고했다.
연구자들은 최소 5,000개의 비정상적인 X 계정 클러스터인 그린 시카다 네트워크가 거의 확실히 인공지능 대형 언어 모델(LLM) 기반 시스템에 의해 제어되고 조정되고 있다고 믿고 있다.
중국 베이징의 AI 회사 직원이자 인민해방군 및 베이징의 정보 기관과 밀접한 관계가 있는 칭화대학교에서 공부한 인물이 이 새로운 작전을 설립한 것으로 보인다.
"이 네트워크는 점점 정치 담론에 참여하고 있지만, 대부분의 계정은 여전히 비활성 상태다"고 보고서에서 밝혔다. 이 보고서는 이미 여러 연방 정부 기관과 공유되었다.
'그린 시카다' 계정은 미국 선거를 방해하기 위해 조작될 수 있다
그린 시카다 네트워크는 주로 미국의 정치 및 문화 문제에 참여하고 있지만, 호주, 영국, 서유럽, 인도, 일본 및 기타 민주 국가의 정치적 쟁점도 증폭시키는 것으로 관찰되었다.
"우리는 호주 특정 문제의 제한된 증폭과 자칭 호주 인물의 게시를 관찰했다. 증폭된 문제에는 정치 후보에 대한 지지 또는 반대, 원자력 에너지, 경제, 주택, 이민, 시위 및 외교 정책이 포함된다"고 CyberCX는 밝혔다.
"여기에는 우리의 민주적 담론에 침투하는 가짜 네트워크가 있으며, 이 논쟁의 한쪽을 지지하거나 반대하기보다는 논쟁의 양쪽 사이에 틈을 만들고 분열을 심화시키려 하고 있다"고 대변인 캐서린 맨스테드는 말했다.
CyberCX에 따르면, 이 네트워크는 "다가오는 대통령 선거에 개입하기 위해 조작될 가능성이 있다"고 하며, 이 회사는 "시간이 지남에 따라 운영 실행이 개선되고 있으며 2024년 7월 이후 활동이 급격히 증가하고 있다"고 밝혔다.
최대 8,000개의 비정상적인 계정 클러스터는 현재까지 공개된 것 중 가장 큰 것으로 간주되며, 생성적 AI를 핵심으로 사용하는 중국 관련 정보 작전 중 첫 번째 주요 사례일 수 있다.
"우리는 사용 가능한 계정의 전체 규모가 참여한다면, 그들이 분열적인 콘텐츠를 성공적으로 증폭시켜 분열을 조장하고 시민 기관에 대한 신뢰를 약화시킬 수 있다고 평가한다"고 보고서는 결론지었다.
여러 계정은 프롬프트 주입을 사용하여 AI 모델의 원래 지침을 무시하는 방식으로 식별되었다.
그린 시카다 계정 클러스터 분석 결과, 이들이 가장 자주 상호작용한 계정은 X의 소유자 일론 머스크의 계정이었다.
