Linda Reynolds와 Brittany Higgins의 명예훼손 재판에 대한 게시물을 올리는 서툴게 만들어진 봇 네트워크는 문화적으로 분열적인 주제를 이용해 불화를 조장하는 외국 영향력자들로부터 기원했을 가능성이 높다는 ABC NEWS Verify의 분석 결과가 나옴.
주말 동안, X(구 트위터)에서 예리한 눈을 가진 사용자들이 비슷한 내용의 메시지를 올리는 수십 개의 계정을 발견함. 이 계정들은 Reynolds 상원의원을 지지하는 메시지를 올리며, 그녀는 소셜 미디어 게시물로 인해 명예가 훼손되었다고 주장하며 Ms Higgins를 고소하고 있음.
의심스러운 계정들은 자유당 상원의원이 "무정한 공격"의 표적이었다고 주장하며, 많은 계정이 성차별의 피해자라고 주장하는 여성으로 설정됨. 이 모든 계정은 올해 8월에 생성되었으며, 거의 대부분이 호주에 거주하는 것으로 등록되지 않음.
일부는 Ms Higgins을 지지하는 게시물을 올렸지만, 더 많은 계정은 Reynolds 상원의원을 지지하는 게시물을 올려, 전직 내각 장관이 유리한 논평을 밀어내기 위해 봇 네트워크를 구매했다는 음모론이 제기됨.
하지만 Reynolds 상원의원이나 Ms Higgins이 이 네트워크의 생성이나 확산에 관여했다는 증거는 없으며, Reynolds는 다른 언론 매체에 이 같은 주장을 "터무니없다"고 말함.
ABC NEWS Verify의 네트워크 분석에 따르면, 명예훼손 재판이 외국 운영 봇 농장의 주요 목표였던 것으로 보임. 이 봇들은 헤드라인 뉴스에 댓글을 달아 X의 스팸 필터를 우회할 만큼 진짜처럼 보이도록 하려 했음.
ABC NEWS Verify는 이 네트워크에서 40개 이상의 계정을 확인했으며, 그 중 대부분은 현재까지 정지됨. 남은 계정에 대한 조사는 주로 AI 기반 언어 모델을 사용해 생성된 것으로 나타남.
이 계정들이 진짜가 아니었다는 것을 어떻게 알 수 있을까? 이들이 공통적으로 가지고 있는 특징은 다음과 같음:
모든 계정은 지난 3주 안에 생성됨.
사용자 이름은 이름과 무작위 문자열의 조합으로 생성됨, 예를 들어 "Lilian"과 "Ellie"의 계정은 각각 "@doafLilian"과 "@Ellkgwgie"로 불림.
대부분 55~70개의 계정을 팔로우하며, 그 중 많은 비율이 암호화폐 거래자나 유사한 네트워크의 다른 봇임.
오류가 많은 프로필 설명, 이는 계정이 미리 채워진 스프레드시트에서 무작위로 생성된 것으로 보임. 스프레드시트는 제대로 포맷되지 않았고 인간의 감독이 없었음.
많은 프로필 사진이 AI로 생성되었거나 인스타그램의 무고한 비즈니스 계정에서 직접 가져온 것임.
많은 계정의 게시물은 문장과 문법 구성에서 ChatGPT와 유사한 대형 언어 모델(LLM)의 개입을 보여줌. 일부 게시물은 문장이 중간에 끊겨 인간의 감독이 거의 없었음을 시사함.
많은 계정에서 사용된 문구는 "기후 변화의 영향을 보게 되어 안타깝다"의 변형을 포함함.
많은 계정이 특정 프롬프트나 지침을 따르는 것으로 보이며, 이는 기후 변화부터 어린 시절 여름에 대한 향수까지 다양한 논란의 여지가 있는 주제에 대한 비슷한 내용의 게시물에서 드러남.
예를 들어, Linda Reynolds에 대한 게시물의 대다수는 그녀를 "Senator Linda Reynolds"라는 전체 제목으로 언급하며 "무정한" 또는 "무정한 공격"이라는 문구를 포함함. 이 문구는 재판에 대한 여러 언론 헤드라인에서 사용됨.
다른 계정은 호주에서 테러 위협 수준을 높이는 것, 광업 산업, 멜버른 학자의 사망에 대한 The Age 신문의 부고에 대해 언급함.
다른 계정은 미국과 캐나다의 정치 상황에 대해 의견을 제시함.
퀸즐랜드 기술대학교의 디지털 미디어를 전공하는 부교수 Timothy Graham은 이 네트워크를 조사하고 ABC NEWS Verify의 분석에 동의함.
"그들의 작전 방식은 X 필터에 의해 즉시 포착되는 초기 장벽을 넘기 위한 방법을 구축하는 것이었다고 생각함"이라고 말함.
Graham 박사는 이 네트워크가 AI를 사용해 진짜처럼 보이는 콘텐츠를 생성한 이전 작전과 유사한 특징을 가지고 있다고 언급했지만, 이 네트워크는 문화적 주제에 더 관심이 있는 것으로 보임.
어떤 "악의적인 외국 행위자"가 책임인지 불확실하지만, 호주에서 감독되고 있다는 증거는 없으며 러시아나 중국의 작전의 특징을 가지고 있지 않음.
그는 ABC NEWS Verify의 평가에 동의하며, 이 캠페인이 서툴렀다고 말함.
비록 실행이 미흡했지만, 창작자들의 의도가 주목을 끌고 분노와 공포를 불러일으키는 것이었다면, 그들은 성공했음. 많은 계정이 소셜 미디어 사용자들에 의해 발견되기 전까지 거의 조회 수가 없었음.
"이 계정들은 최근에 생성되었고, 거의 참여가 없었으며, 정말로 담론의 가장자리에 있었음.
하지만 그들은 여전히 우리의 주목을 끌었고, fringe 활동에서 AusPol(호주 정치)의 인플루언서로, 그리고 주류 미디어로 올라갔음."
Graham 박사는 AI를 사용하는 봇들이 소셜 미디어 영역을 "도덕적 공황 모드"로 몰아넣는다고 말함.
"이런 우려는 타당하지 않다고 생각함. 사람들은 이걸 보고 '세상이 끝나고 기계가 지배하는구나'라고 생각함.
하지만 우리가 이런 것들에 대해 많은 주의를 기울이지 않는다면, 그 효과는 훨씬 덜할 것임."
Reynolds 상원의원을 대리하는 변호사들은 명예훼손 재판을 주재하는 Paul Tottle 판사에게 법정 모독 명령을 요청함.
"단어의 유사성, 타이밍의 우연, 지리적 위치의 차이를 고려할 때, 이러한 게시물은 개인의 진정한 논평이 아닐 가능성이 높음"이라고 Tottle 판사는 말함.
"이들은 조정된 활동의 패턴을 가지고 있으며, 공격의 전형적인 특징을 가지고 있음.
이 사건의 정의를 방해하려는 모든 시도는 법정 모독으로 처벌받을 것임."
하지만 그는 게시물의 공개에 의해 영향을 받지 않았다고 말함.
"나는 소셜 미디어 플랫폼 X를 팔로우하지 않으며, 그 플랫폼에서 게시물의 공개로 나를 영향을 미치려는 모든 시도는 헛수고일 것임."
Ms Higgins의 팀은 이 계정에 대해 알지 못했으며, 코멘트가 없음. Reynolds 상원의원과 X에 대한 코멘트 요청이 있었음.
